ITBear旗下自媒体矩阵:

Anthropic万亿上市坦言:AI风险不在实验室,白鸽在线(02672.HK)80类场景攒出真实风险清单

   时间:2026-11-20 12:29:06 来源:互联网编辑:茹茹 IP:北京 发表评论无障碍通道

11月19日,Anthropic 在纳斯达克挂牌,收盘97.17美元,较83美元的发行价上涨约17%,收盘完全稀释估值1.77万亿美元。上市当天,Anthropic 两位创始人接受CNBC专访。总裁达妮埃拉·阿莫代讲了一句话:“我们比任何脱离业务的象牙塔实验室都更清楚,真实商业世界里调用Claude会触发哪些现实风险。”

随着AI模型普及,相关的风险越来越需要被重视。风险触发之后,第一件事不是回头改模型,而是算清风险大小。白鸽在线(02672.HK)做的正是这件事。它把判断拆成80类场景,小到一笔小额信贷该不该放,大到一台机器人该不该进产线。能力封装成 MaaS,按调用量输出。2026年前三季度,这块收入同比增长730.4%,第三季度环比再增29.33%。

为什么这份清单只能在一线攒出来,拆开看就清楚。实验室能测的东西有限:模型会不会答错、会不会被绕过、输出合不合规。这些都是模型侧的问题,关起门来能测。

测不了的是另一类。一套判断放进一条具体的业务流之后,三个月、半年后出了什么事,代价多大,算在谁头上。

这类样本不在模型厂商手里。一次被误拒的申请、一条停了两个小时的生产线、一笔多算了的损失,记录都留在客户自己的系统里,不会上传给模型公司。

所以两家最有钱的 AI 公司都在往业务里钻。纳德拉最近也承认,光靠堆算力并不必然带来安全对齐,甚至需要专门的机制去反向规训 AI。算力买得到能力上限,买不到现实清单。

谁离业务近,谁手里有样本。Anthropic 的一线在客户的流程里。招股书给了个旁证:过去一年付费超过10万美元的企业客户有1.19万家,这批人贡献了公司前三季度74%的收入。

白鸽的一线在判断点上。它的80类场景不按行业分,按“这一次该不该放行”分。每一类下面记三件事:这类活以前出过多少次错、错到什么程度、再出一次算谁的。底座是青鸾垂直大模型,智瞳管损失怎么算,飞秒管定价,鉴信管算在谁头上。这些记录攒不出捷径,只能一笔一笔过。

Anthropic这类AI模型每往业务里深一层,产生风险的场景就多一批。风控这门生意不会因为模型变强而消失,只会因为模型变强涉及更多场景而变多。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version