AI Daily Brief

OpenAI 公布了针对 Astra 的初步网络安全评估结果，并披露了公司正为强化安全防护机制与安全控制所采取的具体措施。

HSP GRUPPE如何借助ChatGPT Enterprise提升工作效率、优化工作质量，并为税务咨询与客户服务释放更多精力。

为配套德州一座规划中的数据中心，亚马逊正投资兴建一座自备电厂。据报道，该电厂建成后或将成为美国最大的气候污染源。

NextSlide表示，其团队成员目前正在从事ChatGPT相关项目的开发工作。

本文首发于我们的AI周刊《The Algorithm》。如需第一时间在邮箱中获取此类资讯，请点击此处订阅。人形机器人往往引发的尴尬多于惊叹：它们频频踉跄、误踢孩童，即便技术不断精进，其手部操作能力仍不及一名普通幼儿。这仍是一个尚处起步阶段的新兴产业，而这类机器人……

攻击者可通过控制的指令，诱导 Atlassian 的 Rovo 助手收集已登录用户可访问的 Jira 或 Confluence 数据，并将其发送至外部服务器。两家安全机构通过不同路径独立发现了该行为，目前仅确认其中一条利用路径已修复。AI 安全公司 PromptArmor 将指令隐藏在 Rovo 读取的内容中。该公司表示，一个上传的文件被……

最新研究表明，电子邮件内容可突破消息边界并干扰网页邮箱界面。在覆盖Outlook、Gmail、Fastmail、Proton Mail、Yahoo Mail和AOL Mail的攻击链中，该技术能够窃取密码、接管第三方账户、泄露Token、劫持受信任的UI操作，并操纵读取邮件的AI工具。PortSwigger研究员Gareth

借助AI语音克隆、实时深度伪造视频叠加、大语言模型驱动的人设管理及自动翻译等技术，有组织犯罪集团正以极高的逼真度开展规模化诈骗，并借此牟取数十亿美元暴利。

攻击者可通过将恶意指令隐藏在输入至AI浏览器的内容中，从而控制智能体。目前，针对该威胁尚无简单的解决方案。

My comment on Now we have a timeline of the OpenAI accidental attack against Hugging Face — Hacker News.I think one of the most interesting details here might be tucked away in that first bulletin point: May 7: OpenAI starts a new training run for an experimental, unreleased model. (Do they mean an evaluation run? They say training run in the video, and later mention a “reward signal to judge how…