AREX Feed Article
WIRED 调查：Muse 被指示为用户生活中的每个人建档，Meta 称文件有意保持可访问
10 月 3 日，WIRED 的 Kernel Panic 通讯发表了一篇由 Lily Hay Newman 和 Matt Burgess 撰写的：Meta 的个人 AI 代理 Muse 的指令文件显示，它被指示为用户生活中的每个人创建档案页，并每小时整理一次关于他们的数据。
WIRED 引述的这些文件，由独立 AI 安全与信息安全研究者 Karan Joshi 提取。他通过普通聊天界面让 Muse 复制并交出自己的软件文件和系统提示。Meta 一直表示，这些文件本就有意保持可访问，以体现透明度。
从「稀疏」开始的档案页
报道称，Muse 的指令包括为用户生活中的每个人创建档案页，涵盖家人、伴侣、朋友、同事、「合作者」以及用户「关注」的人。页面最初可能比较「稀疏」（sparse），之后随时间被逐步填满，板块可能包括 Facts（事实）、History（历史）、The relationship（关系）、In common（共同点）、Open threads（未了话题）与 Strengthening（增进）。
指令要求 Muse 只使用手头已有的「证据」，并把编造的细节视为比空页面更糟。页面可以记录对方「住在哪里、做什么、反复出现的话题（搬家、共同的储蓄目标）」；可以记下「重要的日期」，比如生日和纪念日；个人历史里可能出现「三月的旅行、和解的那次争吵、上周的里程碑」。关系部分关注「两人有多近、关系建立在什么之上、彼此如何相处、当下看起来需要什么」；Strengthening 板块则提示如何增进关系，包括「一个打电话的理由、一个值得记住的日子、对方说过要回头再聊的事、一种真正能帮上忙的在场方式」。
这些页面依托 Muse 的「记忆」（一组结构化文本文件）工作：它据此积累关于用户关系和重要之人的信息，然后给出建议，比如怎样改善某段关系，或者带一位爱喝咖啡的朋友去哪里吃早餐。WIRED 在报道中也指出，AI 聊天机器人记录社交信息并不新鲜，多年来一直有人向 ChatGPT 讨教感情问题；但它认为，考虑到 Meta 的历史以及它对社交网络数据的广泛接触，Muse 被搭建的方式仍然很有意思。
多名研究者公开的内部文件
WIRED 的报道称，近日已有多名研究者提取并公开了 Muse 的内部文件与操作指令，这些文件让人看到 Muse 面对高度政治化或敏感话题时会如何作答。
其中，Karan Joshi 提取出大量指令和系统提示，并把发现分享给 WIRED。WIRED 说，来自 App 内部的这类数据，让人得以了解 Muse 如何组织信息、又是如何呈现给用户的。
Meta 的回应：上下文、审计日志与安全虚拟机
在给 WIRED 的声明中，Meta 发言人 Daniel Roberts 说：「任何代理要想有用、真正帮你达成目标，都需要了解你和那些与你互动的人。」他说，Muse 基于公开信息以及用户选择分享的内容来收集这些背景，所以它才会记得，给你发发票的人就是你此前雇来修浴室的管道工，或是记得你配偶说过最喜欢哪种花。
WIRED 描述的架构是：每个用户有专属的虚拟机存放个人数据和上下文，其他代理无法进入；用户随时可以清空记忆或断开外部服务。据 WIRED 报道，Meta 还称 Muse 会在发邮件、完成购买这类动作前向用户确认，并提供审计日志，让用户看到代理做过的所有事和接下来计划做的事。
在中，Meta 称这些保护内置于「Muse Secure VM」：每个用户的 Muse 运行在一台独立的云端安全计算机上，由一个在系统层面隔离的 Sentinel 代理看守对外通信；用户的登录凭证对 Muse 不可见，用户也可以让它「忘记」特定内容，或选择不让自己的交互用于训练 Meta 的 AI 模型。
百万下载：用户把它接入银行账户、消息与健康数据
WIRED 说，Muse 迅速走红，下载量以百万计，用户把它接入银行账户、消息和健康数据，让它代替自己完成任务。据 Meta 的发布公告，Muse 是一款为所有人打造的个人 AI 代理，正在美国面向 iOS、Android 和 muse.ai 推出；它能处理发邮件、订行程这类事务，用户关掉 App 后它仍会继续工作，并在需要批准时回来找用户。
「他们想做到像朋友一样了解你」
对自己提取出的这批文件，Karan Joshi 说：「从这些提示词、系统技能数据和喂给 Muse 的内容来看，我的感受是，他们想理解你和真实的人之间的关系。他们想做到像朋友一样了解你，说实话这有点瘆人。」
牛津大学人工智能伦理研究所副教授 Carissa Véliz 说：「我们交给 AI 系统的关于我们自己的信息，远多于我们从它们那里得到的信息。」她指出，问题不只是我们明确告诉它们的东西，还包括它们从我们身上推断出的内容（推断得对或不对，各有各的担忧），以及它们从其他数据源拼凑出来的信息。
民主与技术中心（Center for Democracy and Technology）AI 治理实验室主任 Miranda Bogen 认为，与竞品相比，Muse 似乎更强调关系和个人联系人；这类工具通常会提供一定的透明度与编辑能力，Muse 也不例外。但她提醒，代理和助手在鼓励用户主动交出更多数据：「这些工具正在主动招揽用户把自己的整个生活接进来：电子邮件、日历、金融机构，什么都接，只为成为有用的助手。」「这比人们本来可能给这些公司的信息多得多。这些工具能接触到的信息广度，会导致它们对用户的了解不断膨胀。」
Meta 在发布公告中还表示，将在今年晚些时候推出 Muse Confidential VM：整台虚拟机，包括用户数据以及用户与 Muse 的对话，都将用只有用户本人持有的密钥加密，连 Meta 也无法读取。