AREX Feed Article
The Information:因数据留存顾虑,Palantir、Nvidia 与 Booz Allen 在敏感工作中限制使用 Anthropic 的 Fable 模型
图:REUTERS/Dado Ruvic/Illustration(该插图摄于 2024 年 1 月 8 日)。
据 The Information ,Palantir、Nvidia 与 Booz Allen Hamilton 正在敏感工作中限制使用 Anthropic 的 Fable 模型,起因是对这款模型数据留存政策的担忧。该媒体的称,部分客户要求,在把专有信息输入模型之前先拿到「不可撤销的零数据留存」(irrevocable zero data retention)保证。
路透社此事,该稿经 。路透社的报道给出了三家公司的具体做法,并把动因概括为知识产权问题:包括这三家在内的多家大型科技公司,可能限制甚至停用 Anthropic 与 OpenAI 的先进模型,除非两家实验室保证不滥用这些公司的知识产权。
Palantir 的前置条件:不可撤销的零数据留存
路透社称,据一名熟悉讨论情况的人士,Palantir 已向 Anthropic 施压:除非对方提供不可撤销的零数据留存保证,否则它不会在自己的软件中提供 Anthropic 的模型。
「不可撤销的零数据留存」包含两层限定:零留存,指服务方不留存客户数据;不可撤销,意味着这项承诺不能被撤回。
Nvidia 依靠自家 Nemotron,Booz Allen 禁止将 Anthropic 模型用于专有网络安全工作
路透社称,Nvidia 把 Anthropic 模型的使用限定在较不敏感的任务上,内部工作依靠自家的 Nemotron 模型;Booz Allen 则禁止员工把 Anthropic 的商用模型用于专有网络安全工作。
两家的划线方式不同:一个按任务的敏感度限定范围,一个按工作的类别实施禁用。
6 月的日志留存调整与随后的反弹
据路透社转述,Anthropic 在 6 月调整了 Fable 的数据留存政策,公司由此获得保留使用日志 30 天的权利,目的是防范「复杂而新颖的攻击」;这次调整在客户中引发了反弹。
图:The Information 报道配图。
路透社的转述还包含两家 AI 实验室的说法:它们默认不用客户数据训练模型,除非企业主动选择加入;同时会收集匿名化的元数据来改进产品。报道还说,OpenAI 因一项指称面临类似审视:它可能用用户数据训练模型,以帮助解决一道数学题。
微软的推销:隔离云环境与自家 AI 产品
据路透社转述,微软正在利用这些担忧争取客户,向它们推销隔离的云环境和自家的 AI 产品。
五家公司均未回应置评请求
报道中的具体细节都出自 The Information 引述的知情人士。两家媒体的表述有一处差别:The Information 说的是正在发生的限制,路透社说的是可能进一步收紧的情形。
截至路透社发稿,Palantir、Nvidia、Booz Allen、Anthropic 与 OpenAI 均未回应其置评请求。