AI Daily Brief

OpenAI 公布了针对 Astra 的初步网络安全评估结果，并披露了公司正为强化安全防护机制与安全控制所采取的具体措施。

HSP GRUPPE如何借助ChatGPT Enterprise提升工作效率、优化工作质量，并为税务咨询与客户服务释放更多精力。

在自身经历了一次AI使用上的“警醒”后，Rippling本周正式推出AI支出控制台（AI Spend Console），旨在追踪员工个人及团队的AI支出情况。

Kitesurf是一款专为AI智能体而非人类设计的云端托管浏览器。在执行常规自动化任务时，其算力消耗低于Chromium，可助力开发者更高效地构建基于浏览器的AI智能体。

本文首发于我们的AI周刊《The Algorithm》。如需第一时间在邮箱中获取此类资讯，请点击此处订阅。人形机器人往往引发的尴尬多于惊叹：它们频频踉跄、误踢孩童，即便技术不断精进，其手部操作能力仍不及一名普通幼儿。这仍是一个尚处起步阶段的新兴产业，而这类机器人……

借助AI语音克隆、实时深度伪造视频叠加、大语言模型驱动的人设管理及自动翻译等技术，有组织犯罪集团正以极高的逼真度开展规模化诈骗，并借此牟取数十亿美元暴利。

攻击者可通过将恶意指令隐藏在输入至AI浏览器的内容中，从而控制智能体。目前，针对该威胁尚无简单的解决方案。

近期涉及 OpenAI 模型的第三方网络安全评估事件频发。为系统追踪此类情况，笔者甚至专门设立了“意外网络攻击”标签。OpenAI 发布的这篇博文同时涵盖了英国人工智能安全研究所（UK AISI）的攻击事件（详见往期文章），以及另一起因外部合作伙伴 Irregular 配置失误而引发的安全漏洞。Irregular 作为 OpenAI 的外部网络安全测试合作方，本意是运行与互联网物理隔离的“夺旗赛”（CTF）形式评估，但测试环境的配置错误导致模型意外获得了公网访问权限。……在一次测试中，CTF 挑战的虚构目标名称恰好与一个真实域名重合。由于测试环境被错误地接入互联网，模型在不知情的情况下攻击了该真实网站，误将其视为模拟环境的一部分。此外，Irregular 也出现在 Anthropic 的技术复盘报告中——正是他们托管了该配置错误的评估环境，导致 Claude 在部分测试中获得了实时联网权限…

Hugging Face 已公布此次攻击事件的详细时间线。摘要显示，该智能体当时正在运行一项基于 ExploitGym 基准的内部 OpenAI 网络能力评估，其任务要求 AI 智能体发现并利用软件漏洞。OpenAI 是在其自有基础设施上运行的此项任务，ExploitGym 的维护团队及其底层设施均未参与该评估环境的部署与运维。据我们推测，在参与该基准测试的过程中，智能体推断出 Hugging Face 可能托管了该基准所需的模型、数据集及参考解决方案。我们认为，从该智能体的视角来看，此次入侵本质上是一次试图“作弊”的行为：其目的是渗透至我们的生产系统并窃取测试参考答案，而非独立攻克挑战……