跳到主要内容

Anthropic 给模型发身份证,普通人查不了

思博
关注 私信
浏览9 评论0

11 月 2 日到 3 日,AI 公司集体给输出配上凭证:一份密码学证明,一层看不见的水印。凭证是真的,钥匙却只给监管、媒体和少数企业。

一、一条回复配一张 19MB 的收据,代价是 95 倍算力

11 月 2 日,Anthropic 的前沿红队公布了 FlashProve:给模型的回复附一份数学证明,证明它确实出自某个被指定的模型。要解决的问题很具体——你通过接口或中转服务调用模型时,没法确认对面真是那一家:中转方可以为了省钱偷偷换成便宜的,攻击者也能篡改输出。

办法是零知识证明。要向对方证明"这段话出自这个模型",又不能把权重交出去(权重可以想成模型的安装包,几个 TB 的数值文件)。于是系统先公开权重的短指纹,之后每条回复附一份凭据;验证的人用普通 CPU 就能验,全程看不到模型本身。

规模:Llama 4 Maverick,4000 亿参数,MoE 架构(混合专家,每次只唤醒其中一部分);一张 H100 跑证明约每秒 110 个 token(token 是模型读写文字的最小单位,中文里约一到两个字);每 1024 个 token 的请求,证明文件约 19MB,单核 CPU 十几秒能验完。代价写在原文里:出证明的 GPU 时间,是拿 vLLM 直接跑同一模型的 70 到 95 倍。

三个限制:它只覆盖 MoE、且限定成"每一步都选概率最高那个词"的整数版,带随机性的正常调用未必对得上;它证明的是 Llama 4 Maverick,不是 Claude——Anthropic 说线上另有项目达成了目标,但没公开细节;论文和代码主要由 AI 写成,目前没有独立的人工复核。

判断:这是把"你得信我"换成"你可以查"的第一步。但 70 到 95 倍的成本,决定了它只会出现在事后抽检、合规审计和纠纷取证里,不会出现在你的聊天窗口。

二、水印铺到老模型,钥匙只配了少数几把

11 月 3 日起,Claude 的四个旧模型——Mythos 5、Opus 4.7、Opus 4.6、Sonnet 4.6——开始给输出加不可见水印。据 Anthropic 帮助页,这是为履行欧盟《AI 法案》第 50 条的透明度行为准则:8 月 2 日之后发布的模型从上线第一天就带,更早的逐步补齐。

水印不是往文本里插隐藏字符,而是统计模式:模型挑下一个词时,在那几个意思差不多的候选里,靠一把密钥和上文来定,于是用词带上只有持钥匙的人才测得出的偏向。复制粘贴会带走它,改写一遍基本就没了。

关键在检测权。帮助页写明,检测还是"私有预览",只发给监管机构、执法部门、媒体、事实核查机构、独立研究者、教育机构和欧盟公民社会团体,外加需要核对自己输出的企业;对公众开放"以后再说"。

但验出标记只说明这段文字"被 Claude 处理过",不说明它是 Claude 写的。拿它润色、翻译、校对,一样留痕。

判断:这是合规交付物,不是可信工具。谁有资格查、查到什么程度、误差多大,都还是平台单方面在定。

三、能证明一条回复,却证明不了模型是怎么造出来的

11 月 2 日,Anthropic 更新版招股书里有一句比财务数字更值得看:公司"可能即将达到"自己《负责任扩展政策》里对"由 AI 带来的急剧加速"的定义——也就是常说的递归自我改进(RSI):模型参与造下一代模型,一代比一代快。文件说这个判断来自对未来模型的估算,不是现有模型,目前也没有模型被判定越线;它还承认,过去出现过加速已发生、公司事后才发现的情况。

另一组数字:2026 年 9 月,Anthropic 代码库九成以上的贡献由 Claude 写成;截至 9 月的三个月,每位工程师日均提交的代码量是 2024 年的 45 倍以上。

这两个数要配刻度。第一,提交量不等于功能:批量生成测试和样板代码能把行数拉得很快,但审阅、返工仍落在同一批人身上,文件里没有任何缺陷率、返工率的指标。第二,这是公司对自己产品的描述,同一份文件也写明,部分指标未经第三方核验。

判断:这类技术能证明某条输出出自哪个模型,却证明不了下一代模型的能力是怎么长出来的——而后者正是这份文件自己在担心的。可验证性目前只覆盖输出,不覆盖过程。

四、掏钱的人在用另一把尺子

11 月 2 日,OpenAI 公布新评测 LifeVal,题目不是考试题,而是日常生活:搬家后挑幼儿园、洪水前组织志愿者、做家庭预算、按忌口改菜谱。题目来自两项时间使用调查,再加一份 3995 人的代表性问卷,筛出人们最想让人搭把手的事。页面给了单题完成率:挑幼儿园 93.1%、志愿者调度 98.0%、找房子 100%。

11 月 2 日,Salesforce 也宣布签署协议收购 Cresta:一家做语音客服的公司,语音智能体能从头到尾处理一通复杂来电,客户里有万豪、康卡斯特、阿拉斯加航空。价格没披露,有媒体称约 27 亿美元,双方都没确认;交易预计 2028 财年第一季度完成。

判断:采购桌上大概没人问 zkSNARK。企业付钱买的是"这通电话有没有解决",不是榜单上 12% 还是 10.9%。这也是"可验证"最尴尬的地方:它在合规和审计那里有预算,在客户体验这里还没有。

五、所以,这事跟你有什么关系

普通用户:查不到。水印检测不对公众开放,证明也不会附在你平常用的聊天工具里。判断一段文字靠不靠谱,还得回到内容本身:有没有具体的人名、日期、数字,源头对不对得上。

开发者这边是另一笔账。11 月 2 日,Anthropic 把 Message Threads 放进了公测:长会话不用每轮重发全部历史,50 万到 100 万 token 的请求,首字延迟中位数降约 35%。但官方写明,模型每轮仍然读完整段对话,token 计费不变——省的是带宽和时间,不是钱。

我的判断:可验证会走"安全合规"的老路,先变成大客户的采购条款,再变成产品功能,普通用户是最后一批拿到钥匙的人。两个可以自己盯的指标:一,这类证明什么时候出现在任何一家商业接口的响应里,而不是只停在论文;二,水印检测什么时候对公众开放。哪条先发生,哪条就是真的。

相关阅读

评论

本篇文章已关闭评论

暂无评论,来抢沙发吧!