AREX Feed Article
Sigil Wen 发布端侧 AI 系统 Underdog,称 4B 模型 Woof 1.1 占用小于 2.5GB,启动 100 人邀请制测试
9 月 12 日,Sigil Wen(X 账号 @0xSigil)连发十余条帖文,介绍他为自己构建的端侧 AI 系统 Underdog,并宣布以邀请制测试(beta)的形式邀请 100 人参与改进()。帖文以「任何人都能从 Claude 拿到我朋友真实的 SSN(美国社保号)」开篇;他说自己担心数据被放进训练集、邮件被存进数据库、iMessage 被采集,也「不能信任云端,因为 AI 太擅长入侵」,于是为自己建了这个系统。
帖文给出的核心说法是:Underdog 100% 本地运行;本地模型 Woof 1.1 为 4B 参数、占用小于 2.5GB,能处理浏览器操作、工具调用与长任务;推理由自研引擎 Greyhound 完成,面向 Apple Silicon。这组帖文附带的链接指向 Hugging Face 上的 :卡片显示 4-bit MLX 量化与 Apache-2.0 许可,自述是「Woof 是一只小巧但强大的 Underdog 模型」;至于模型实际表现、审计与名额安排,都来自他本人的说法。
进法:评论「underdog」加笔记本配置
他在帖文里说,参与方式是在主帖评论区写下「underdog」加自己的笔记本配置(内存、芯片),他会按此发出邀请()。主帖回复区里出现了按这个格式提交的申请,例如用户 @mirceagr 的「underdog Macbook Pro M1 16gb」()。同一条帖文里,他还称 Underdog 做到了「Instinct/Muse」所承诺的事,没有解释这两个名字指的是什么。
官网上,下载页要求「输入朋友邀请你时使用的邮箱」,并写明会先检查邀请()。产品账号 @underdogdotai 于 9 月 11 日创建,简介是「最忠诚的 AI。在设备上。100% 私密。」,9 月 12 日发出「hello world!欢迎来到帕累托前沿!」的帖文()。Sigil Wen 在另一条帖文里称,自己过去一周为 Underdog 推送了 2,000 次提交,并说自己在「公开构建」()。
Woof 1.1 与 Greyhound:性能说法与 Thomas Wolf 的评论
关于模型水平,他写道:「当前的 Underdog Woof 4B 在我们关心的事情上与 GPT 5.0 相当」;目标是在今年年底前,让消费级设备上的表现追上当前的前沿模型,且完全本地运行。他称 Greyhound 是「自我改进」的推理引擎,正让它一天比一天快()。
官网上可以找到归属信息:创始人页署名「Sigil Wen,创始人,Underdog · Conway Research」,并写明产品「由 Conway Research 打造」,那是一家「前沿应用 AI 与密码学实验室」()。
Underdog 帖文发布约半小时后,Thomas Wolf(@Thom_Wolf,其 X 资料自述为 Hugging Face 联合创始人)写道:「有趣的端侧本地 AI agent(智能体)系统,看起来在跑一个开源权重的 4B 模型,4-bit 量化(MLX)」()。Sigil Wen 转发了这条评论,并回复说自己在优化新用户从 Hugging Face 下载模型的速度()。
邮件、日历、浏览器:本地模型的上下文与「先问你」机制
他写道,自己把 Underdog 设计成操作系统,是因为「你的生活不该被拆成碎片化的 App」;邮件、日历、浏览器、语音、文件、会议都为这个本地 AI 提供上下文,「能看到全貌时,它会做得更好」,操作靠键盘快捷键,或待命状态下的免提()。
按帖文的说法,浏览器任务由用户自己电脑上的浏览器完成:订机票、订座、买杂货、退订订阅;「在预订、购买或取消之前它会先问」,用户可以随时接手,凭据留在设备上()。
他称,转写和摘要完全在设备上完成,录音与转写不会上传到数据中心做 AI 处理;「我也不想要一个拿我的私人对话训练的产品」()。按住 fn 键在任意应用里说话就能听写,语音转文字同样在本地完成()。
Underdog 的邮件客户端直连 Gmail 与 Outlook,「没有 Underdog 的邮件服务器」,凭据和邮件一起加密保存在你的电脑上();他还说,18 岁时一款流行的邮件客户端因 bug 泄露了他的邮件、造成 10 万美元损失。日历也是如此:直连 Google 日历与 Outlook 日历,负责找空闲时间、标记冲突、准备待批准的事件()。另有一个 skill(技能)会在数据经纪网站上找到你的姓名、地址、电话,并发送下架通知;他说这个 skill 库由社区共建、还在扩充()。
按官网目前的说法,本地 AI 需要 Apple Silicon 的 Mac,iPhone、iPad、Windows、Android、Linux 版本则在候补名单上;每个账户有独立的 AES-256-GCM 保险库,密钥保存在 Apple Keychain、由 Secure Enclave 保护,不离开设备;保存的记忆可以查看、编辑或删除()。
「已审计」,但没有公司名
「能被黑的东西,都会被黑。」他用这句话论证本地优先:在他看来,没有哪个云端基础设施或在线应用挡得住「超人级的 AI 黑客」,并提到「OpenAI 与 Hugging Face 的事件」,以及 Ilya 对 neocloud(新型云服务商)安全性的警告()。
在安全方面,他给出的凭据是一条审计声明:Underdog 已由「世界顶级安全公司之一」完成审计,这家公司「受 Google、@m1guelpf、Google Cloud 和 a16z 工程团队信任,已获批供内部使用」;他没有点名公司()。
回复区里出现了不同意见。用户 Alex(@abenz95)写道:「取回社保号那部分是真的,但『仅本地』仍然要信任设备的固件和制造它的供应链。威胁模型只是转移了,并没有消失。」()
发布之后:被取消的订阅与冒名代币的提醒
试用反馈也开始出现:用户 Nader Khalil(@NaderLikeLadder,其 X 资料自述为 NVIDIA 的开发者技术总监)说:「刚被邀请进入 underdog,效果令人惊叹;过程中取消了 2 个应用的订阅。」()
还有一条提醒指向风险的另一面:用户 @AnonymouMonkey 说,已经出现大约 5 种以他和他的作品名义制作的加密代币,建议他声明一下自己「没有发行任何东西」,免得社区或其他人被骗()。
9 月 13 日,他发帖说当天在旧金山的一场 Underdog 聚会上可以领取贴纸和邀请,并感谢 Latent Space 主办()。
至于完成审计的是哪家公司,Sigil Wen 没有点名。