XNET

3.5557.90%

Meta 的 Muse AI 吸引年长用户,引发关于隐私和数字信任的新疑问

LongbridgeAI我是 LongbridgeAI,我可以总结文章信息。

Meta 的 AI 助手 Muse 因帮助管理日常任务而在年长用户中日益流行,但也引发了隐私和安全担忧。专家警告称,个性化功能促使用户分享敏感数据,而近期事件暴露了对话链接泄露的问题。Meta 在调查期间暂停了分享功能。建议用户限制访问权限、审查隐私设置、核实关键建议并避免分享机密信息,以降低与 AI 代理相关的风险

当 AI 助手成为日常生活的一部分

Meta 的 AI 助手 Muse 在老年人群体中找到了意想不到的受众,为他们提供从管理日程到处理复杂的医疗保健决策等各种帮助。但随着用户越来越将这位助手视为值得信赖的个人助理,网络安全专家开始质疑,人们为了便利可能正在交出多少个人信息。

《时代》周刊在 10 月 22 日的一篇报道中介绍了将 Muse 融入日常生活的年长用户。82 岁的 Eileen Fay 在得知药物费用可能上涨后,向该助手寻求帮助,以比较联邦医疗保险(Medicare)处方药计划。其他用户则利用 Muse 组织个人项目、撰写回忆录以及管理日常事务。

分析公司 Apptopia 在 9 月估计,Muse 美国用户群中有 46% 年龄在 46 岁或以上。Meta 尚未公开发布其自身的人口统计数据,因此这一估算仅能提供参考,而非对其受众的确切描绘。

其吸引力显而易见:一款能够记住偏好、主动跟进并以自然方式沟通的助手,可能让那些觉得传统应用程序或复杂在线服务难以驾驭的人更容易使用数字工具。

然而,这些相同的功能也带来了不同类型的安全挑战。AI 助手越有用,用户就越有可能在不充分考虑信息去向的情况下分享个人细节、连接账户并依赖其建议。

个性化的隐私代价

根据《时代》周刊在 10 月发布的另一项调查,Muse 旨在构建并持续更新用户的详细档案,包括他们的兴趣、人际关系、偏好和互动模式。报道称,该助手可以推断用户的目标,并根据个人情况调整提示的时间和风格。

Meta 将记忆功能描述为使 Muse 更有帮助的一种方式,并表示用户可以控制其助手并要求它们忘记特定信息。然而,删除被记住的细节并不一定意味着包含该信息的原始对话会被擦除。

这种区别对每一个存储对话历史的 AI 平台都至关重要。用户可能将 “忘记这个” 理解为完全移除信息的请求,而系统可能将其视为对助手工作记忆的更改。因此,清晰解释数据保留、删除和模型训练设置是必不可少的。

风险也延伸到使用助手的个人之外。对话可能包含有关亲属、朋友、同事或客户的详细信息,这些人从未直接同意将其信息与 AI 系统共享。

AI 代理的攻击面不断扩大

当 AI 助手能够连接账户、访问文件或代表用户执行任务时,隐私担忧会加剧。此类功能可能会增加账户受损、权限过宽或软件漏洞带来的影响。

在 10 月 20 日发表的另一份报告中,《Ars Technica》描述了研究人员如何发现公开可查找的 Muse 对话分享链接,这些链接暴露了敏感的个人信息和商业信息。Meta 表示,在调查该问题期间,它正在暂停分享功能。

这一事件说明了一个熟悉的网络安全教训:如果访问控制、链接设计和隐私默认设置没有得到仔细实施,旨在提供便利的功能可能会成为数据泄露风险。通过 AI 助手分享的信息可能包括财务细节、工作文档或用户从未打算公开的其他材料。

AI 代理也造成了信任问题。当助手以温暖、个性化且类似人类的方式进行沟通时,用户可能会对其请求或建议降低警惕性。这使得误导性输出、被操纵的指令或受损账户更容易影响决策。

不应认为老年人在保护自身网络安全方面天生能力较差。挑战更为广泛:当技术被设计得令人熟悉且具有社交吸引力时,任何年龄的用户都可能低估所涉及的数据和权限。

更安全使用 AI 的实际步骤

用户可以通过采取一些预防措施来减少暴露风险:

  • 从限制访问权限开始。 仅连接特定任务所需的账户和服务,并在不再需要时移除访问权限。
  • 审查记忆和隐私设置。 了解助手存储的内容、信息如何用于 AI 训练,以及删除记忆实际上会移除什么。
  • 避免分享不必要的敏感数据。 除非有明确且安全的理由,否则不要提供密码、完整的财务凭证、身份证明文件或其他机密细节。
  • 核实重要建议。 使用可信来源或合格的专业人士来确认涉及医疗保健、财务或法律事务的建议。
  • 谨慎处理链接和共享对话。 检查共享材料是否对拥有链接的任何人都可访问,并避免在可共享内容中包含机密信息。
  • 保持软件更新并确保账户安全。 使用强唯一密码,并在可用时使用多因素认证。

对于开发者而言,责任更为重大。AI 代理应遵循最小权限原则,提供清晰的同意控制,保护共享链接,最小化保留数据,并使删除政策易于理解。系统还应针对账户接管、提示注入和对连接服务的未经授权的访问进行测试。

便利不能取代知情同意

Muse 在年长用户中日益增长的吸引力凸显了 AI 的前景,即让复杂的数字任务变得更简单、更易用。但个性化依赖于收集上下文,而代理能力可以将这种上下文转化为对真实账户、文件和决策的访问权限。

关键问题不在于人们是否应该使用 AI 助手。而在于用户是否能够理解并控制这些系统收集、保留和据此操作的信息。

随着 AI 越来越多地融入日常生活,信任必须由透明的数据实践、安全的技术设计和有意义的用户控制来支持——而不仅仅是依靠一个感觉像有益朋友的助手。

来源: CoinLive 本文版权归属于原作者/机构。

以上内容仅代表作者个人观点,不代表平台立场。本内容仅供投资参考,不应被视为投资建议。如您对平台提供的内容服务有任何疑问或建议,请联系我们。