ZDNET 的关键要点 一种实验工具恢复了聊天中的已删除信息。它对网络安全调查有帮助。它还展示了对本地 AI 安全性认知的局限性。许多注重隐私的 AI 用户更喜欢在其设备上本地运行助手，因为他们的数据不会发送到云端，那里可能面临窥探或数据泄露的风险。相反，聊天会话使用您的设备内存。但是，事实证明，即使您已删除聊天记录，这些会话中的一些信息仍可能留在您手机的工作内存中。乔治亚理工大学的研究人员创建了 ORISA，一种搜索内存中已删除对话线索的工具。他们为实验设计了一个伪造的记录 AI 助手，使用 ChatterUI 安卓应用程序，给它提供了一组关于项目的 100 条虚构信息，然后删除这些信息。来自 ZDNET 还提到：您可以在 Android 或 iOS 设备上运行本地 AI 使用 ORISA，研究人员随后在设备内存中搜索可以用作重启会话上下文的剩余信息。ORISA 找到了足够可用的信息，以便用原始的 100 条信息中 26 条虚构事实创建一个新的工作会话。这比原始助手会话能够访问的 14 条要更多，研究人员解释道，“因为其余的信息已经超出了其活动内存。” 该实验的首席作者、博士生 Ken Xu 说：“它可以帮助建立某人向 AI 助手分享了什么信息，以及他们收到了什么帮助。” 这对您意味着什么 ORISA 是为了填补网络安全的空白而开发的。研究人员指出，本地 AI 的一个缺点是缺乏“集中日志记录和执法”。这意味着不法分子可以微调模型进行犯罪，例如，并在使用后删除它们，使证据无法追踪。到目前为止，这种现实使得使用取证内存技术的调查人员很难恢复到此活动的有用证据。还提到：联想的 RTX Spark 笔记本电脑通过了我完全疯狂的 AI 编码测试 “ORISA 利用在进程内存中保留的批处理令牌和键值 (KV) 缓存重构令牌序列并恢复会话级注意状态，”研究人员写道。这意味着像这样的工具对试图打击网络犯罪的人最为相关，而不是挖掘您个人数据的人。话虽如此，如果黑客重建这样的技术或获得像 ORISA 本身这样的工具，他们可以理论上利用它从您的聊天中收集已删除的信息，并利用这些信息作为上下文重建您的查询。但是，ORISA 的有效性还取决于时间——研究人员指出，随着时间的推移，恢复已删除信息变得更加困难，因为您的手机内存被更新活动覆盖。无论如何，我们长期以来的建议仍然是：不要与聊天机器人分享敏感信息，即使是在本地会话中。