Feature Reading

Anthropic微微发力,AI中转站的天就要塌了?

将文章核心主题、阅读路径与关联内容进行更清晰的组织,帮助用户以更流畅的节奏进入正文。

Anthropic微微发力,AI中转站的天就要塌了?
Sports Insight

当前位置

当前正在查看文章详情,可沿路径返回栏目页或继续切换其他内容。

Anthropic微微发力,AI中转站的天就要塌了?

以下内容由亚星娱乐整理:

你付钱调用的那个 AI,真的是商家承诺的那个模型吗?

比如,一个第三方平台声称接入了旗舰模型,后台却换成便宜的小模型、旧模型,光看回答的语气和质量,我们很难判断;

又或者是同一道题目,官网能做出来,用中转站却卡住了。

图|GitHub 上部分 AI API 中转站推荐与评测项目 不少通过第三方 API、聚合平台或中转服务调用模型的国内用户来说,这大概是经常需要面对的问题。

一个看起来简单的模型请求,背后需要经过「用户—中转站—上游服务商—模型」多个环节,只要其中一环缺少透明度,我们就很难确认自己买到的,是不是标价对应的模型。

图|研究链接:https://www.

anthropic.

com/research/provable-inference Anthropic 近日发布的一项研究,试图把这个只能靠口碑、截图和体感争论的问题,变成一个可以数学验证的问题。

这套名为 FlashProve 的开源研究原型,可以为模型推理生成密码学证明。

about image

它尝试让服务商为模型的计算结果提供密码学证明,用户不用拿到模型权重,也不用自己再跑一遍大模型,就能核验。

不公开模型,也能证明「你就是你」 除了使用模型厂商官方的应用,和从官网调用 API 进行对话,我们能确认使用模型的情况。

在大多数的 API 调用里,我们提交问题,服务器返回回答,模型世界上是跑在了远程的机器上,我们无法得知后台究竟进行了那些计算。

斯坦福大学的研究项目《Model Equality Testing》曾经就测试过 2024 年四款 Llama 模型的 31 个商业 API 端点,发现其中 11 个端点的输出分布,与 Meta 发布权重的参考分布存在统计差异。

同一个模型名字,有时候并不能对应同一种表现。

即便在服务页面挂着的都是 Opus 5.

5,但根本无法保证用户获得完全相同的模型。

有时候我们想着可以靠几个问题来鉴别模型,就像最近内测 Opus 5.

5 一样,有网友说问他 2026 年 5 月,Karpathy 去了哪里,如果模型答不出他去了 Anthropic,那就是没有被测试到。

但靠这些问题来鉴别模型,还会遇到模型厂商自己路由的问题,往往很难直接定位原因。

像是碰巧答错、参数不同、上下文没传完整,和后台换了模型,最后都可能表现成一句「怎么变笨了」、「这不是我想要的模型吧」。

FlashProve 的核心,是一种名为 zkSNARK 的零知识简洁证明技术。

首先,模型服务商为权重生成一个「承诺」,它类似一组密码学指纹,能够唯一锁定特定权重,却不会公开权重本身。

随后,服务商针对给定的输入与待检查输出,生成一份证明,核验这些输出是否符合事先约定的模型计算。

用户拿到模型承诺、提示词、回答和证明文件,就可以在自己的电脑上检查: 这套被锁定的权重处理这段输入时,是否确实会产生这些输出。

如果中转站偷偷换了一套模型,或者有人修改了输出,证明便无法与原来的模型承诺对应。

这里用到的零知识证明也很重要,目的是为了让验证者在确认计算结果时,却不会因此获得模型权重、中间计算值,以及 MoE 模型在各层调用了哪些专家。

这也解释了它为什么比「让 AI 自报家门」可靠,回答里写了什么模型名字,不再充当身份证明,检查的是输出与指定权重之间的计算关系。

一台笔记本就能核验 过去,为大模型生成零知识证明的最大障碍是成本,证明过程可能比普通推理慢上几个数量级,证明文件也可能非常大。

Anthropic 使用公开 4-bit 权重的 Llama 4 Maverick 进行实验。

这是一个拥有 4000 亿参数的混合专家模型,每个 token 实际激活约 170 亿参数。

根据 Anthropic 公布的数据: 单张 H100 生成证明的吞吐量约为 110 tokens/秒 每个 1,024-token 请求的证明约为 19 MB 验证不需要 GPU,在 24 线程 CPU 上约需 17 秒 ,单线程约需 21 秒 模型权重的初始承诺只需生成一次,耗时约 39 分钟 不过这里的 110 tokens/秒是 证明生成速度 ,不是用户聊天时的模型输出速度。

证明依然昂贵,在 Anthropic 的对比条件下,其 GPU 时间约为普通 vLLM 推理的 70~95 倍 。

即便不是免费,但这套方案,以及把一种过去近乎难以承受的验证方式,推进到了开始具有实际想象空间的阶段。

但解释不了「降智」 对于中转站用户,这项技术最直接的吸引力,当然是识别模型替换。

但这里有一个关键前提,是我们必须提前知道 正品模型的承诺 是什么。

如果中转站拿出一份有效证明,却只能证明回答来自它自己选择的模型 B,而用户无法确认模型 B 与自己购买的模型 A 是否相同,那么这份证明仍然解决不了身份问题。

真正有效的使用方式,应当是由模型厂商、可信机构或

亚星娱乐将持续关注后续动态。

觉得有用?分享给朋友

让更多人看到这篇内容

推荐阅读

Search
热点新闻
前瞻 | 明日19:35再战江宁 南京同曦宙光vs广州智都集团
前瞻 | 明日19:35再战江宁 南京同曦宙光vs广州智都集团

10月20日,南京同曦宙光队将继续坐镇乐动力江宁国际电竞中心,迎来常规赛第二轮,对阵广州智都集团队。首轮战罢,两队均取得开门红,但过程截然不同。对球队而言,这是一场需要迅速调整的比赛。首轮与广东男篮战至最后一刻才分出胜负,而广州队首战面对浙江稠州金租则赢得相对轻松,体能储备上可能略占优势。明日19:35,江宁主场。 首战告捷的同曦宙光,能否一鼓作气拿下连胜?来现场,为球队继续呐喊! 点击图片即可购

讴歌新款越野SUV渲染图曝光,2028年亮相
讴歌新款越野SUV渲染图曝光,2028年亮相

本周有消息称,讴歌计划在未来几年推出多款新车,其中包含一台主打越野属性的跨界 SUV。在官方仅有少量预告信息的情况下,外媒发布了新款讴歌SUV渲染图,看看它大概会是什么样子。 讴歌当前在售产品线一共四款车型,轿车仅有基于本田思域打造的 Integra 掀背车,剩下全部为 SUV:紧凑型 ADX、中型 RDX 以及旗舰 MDX。按照规划,品牌后续将换代 RDX、推出尺寸大于 MDX 的全新三排旗舰

维密大秀,一款经济适用型性感
维密大秀,一款经济适用型性感

现在的维密很清楚,她们就是快消品,贩卖的是“实用的性感”。 全文共 3808 字,阅读大约需要 10 分钟 作者 | 罗立璇 张娅 王晓玲 在洛杉矶刚刚落幕的维密大秀,又再次分裂了互联网。 最核心的冲突,就是卡戴珊家的“金小妹”Kylie Jenner穿上了每年被视为大秀荣耀象征的、由昂贵宝石制作而成的Fantasy Bra,造价五千万美元。以往,这只有像吉赛尔·邦辰这样的顶级超模才能穿上。而且,

申花改善进攻端 斯帅做加法 新助教曾是俄超传奇射手
申花改善进攻端 斯帅做加法 新助教曾是俄超传奇射手

特约记者甘慧报道 1月6日,上海申花结束为期约一个月的冬歇期,在久事康桥体育基地集结,备战全新的2025赛季。 新助教曾是俄超传奇射手 2024赛季,申花以一分之差屈居中超联赛亚军。新赛季,球队的目标明确,要更上一层楼,力争中超联赛冠军。 从人员变化看,主教练斯卢茨基把新赛季组队的侧重点放在进攻端做加法。一年前来到申花的时候,斯卢茨基带来了两位助理教练,其中瓦西里·别列祖茨基是专门负责球队的防守训

功败垂成!国乒黑马止步亚锦赛男单亚军,削球打法恐后继乏力
功败垂成!国乒黑马止步亚锦赛男单亚军,削球打法恐后继乏力

在不久前结束的乒乓球亚锦赛中,国乒削球手李天阳成为大黑马,一路过关斩将晋级男单决赛,然而在最后一战中2-0领先后2-3被逆转不敌日本名将张本智和,最终屈居亚军之位。 首次参加亚洲大赛就获得单打银牌,这个成绩无疑是非常显眼的,但对于特殊打法运动员来说,最容易出成绩的就是刚出道、不被大家了解的时候,一旦被适应就会很难打,对此前国手侯英超(同为削球打法)以及许多球迷也为李天阳的未来感到担忧。 熟悉历史的