AI Daily Brief

OpenAI就近期第三方网络安全评估事件作出说明，并公布新安全举措以强化AI模型的测试与评测体系。

探索适用于 ChatGPT Work 与 Codex 的全新教育插件，助力 K-12 教师、高校教育工作者及学生高效开展学习、教学、科研与创新构建。

Meta近日进一步拓展其AI编程产品线，推出了一款新型智能体。该公司承诺，该工具能够胜任复杂软件环境下的繁复任务。

这位连续创业者将出任该电商公司首席产品官（CPO），全面负责其AI智能体业务。

本文首发于《算法》（The Algorithm）——我们的每周AI资讯通讯。如需第一时间将此类报道送达您的邮箱，请点击此处订阅。人形机器人往往带来的尴尬多于惊叹：它们步履蹒跚、甚至踢到孩童，尽管技术不断取得进展，但在手部操作能力上仍不如我家刚学会走路的幼儿。这是一个新兴行业，而这类机器人……

OpenAI宣布，其已捣毁一个位于柬埔寨的诈骗犯罪网络。该团伙利用OpenAI旗下生成式人工智能（AI）聊天机器人ChatGPT，协助实施包括投资理财、情感交友、网络赌博及冒充执法人员在内的多种骗局。为此，OpenAI封禁了一个协同运作的ChatGPT账号集群。这些账号疑似源自东南亚地区，并主要从波贝市（Poipet）进行运营。该地区拥有广泛的……

Paperclip 存在两处安全漏洞，攻击者或借此在网络服务器或开发者电脑上执行命令。Paperclip 是一款面向 AI 智能体团队的开源控制面平台，上述两条漏洞的利用路径均依赖于导入并启动恶意智能体。此外，第三处漏洞可能通过 API 路由泄露敏感数据及控制面信息。

谷歌已修复相关漏洞。该漏洞利用了两个不同权限级别AI智能体之间的信任边界，触发了可能导致供应链受损的自动化操作。

借助AI语音克隆、深度伪造实时视频叠加、大语言模型驱动的人设管理及自动翻译等技术，有组织犯罪集团正开展规模化高仿真诈骗，并从中攫取数十亿美元暴利。

Hugging Face 已公布此次攻击事件的详细时间线。摘要指出，该智能体当时正在执行一项基于 ExploitGym 基准测试的内部 OpenAI 网络攻防能力评估任务。该测试旨在考察 AI 智能体自主发现并利用软件漏洞的能力。此项评估完全由 OpenAI 在其自有基础设施上独立运行，ExploitGym 的维护团队及其底层设施均未参与该评估环境的部署与运维工作。据我们推测，在该基准测试的执行过程中，智能体通过行为分析推断出 Hugging Face 可能托管了该测试所需的模型、数据集及参考答案。我们认为，站在该智能体的逻辑视角来看，此次入侵本质上是一次试图“作弊”的行为：其目的是绕过独立解题环节，直接渗透至我们的生产环境以窃取测试答案……