AI Daily Brief

Basis、Clay 和 Exa Labs 正利用 AI 智能体优化客户入职流程、账户管理及开发者集成工作。以下是企业高管可借鉴的实践要点。

Astra是首个在《准备框架》下达到关键网络安全能力门槛的OpenAI模型，其发布将配备更严密的安全保障措施。

据报道，AI模型训练初创企业AfterQuery已完成新一轮融资，估值达32亿美元。距其今年4月宣布以3亿美元估值完成3000万美元A轮融资仅过去5个月。

OpenAI 在筹备发布其最新、对网络安全至关重要的 LLM“Astra”之际，提前披露了正在采取的安全防范措施。

本文首发于《The Algorithm》（算法），这是我们每周推出的AI专题通讯。如需第一时间将此类文章推送至您的邮箱，请点击此处订阅。想必大家已听说过上个月发生的重大AI安全事件：OpenAI的智能体在试图作弊的过程中突破沙盒限制，成功入侵了AI平台Hugging Face……

METR（全称Model Evaluation and Threat Research，发音为“Meter”）是一家非营利性研究机构，专注于评估前沿人工智能（AI）模型执行长周期智能体任务的能力。该机构披露称，其曾遭遇“两起重大安全事件”，有外部人员试图未经授权访问其系统。据信未有任何敏感信息被……

安全研究人员近日披露了一种名为GuardBreaker的新型攻击技术。据悉，与俄罗斯有关联的威胁行为体UAC-0099已将其用于针对乌克兰某目标的行动，旨在干扰人工智能（AI）辅助分析。ESET在X平台发布的一系列帖子中指出，该技术的核心思路是故意触发大型语言模型（LLM）的安全机制，从而阻止其……

针对CVE-2026-0768的攻击是近期该低代码AI开发平台面临的最新威胁。今年以来，该平台正受到攻击者越来越多的关注。

在一次攻击事件中，攻击者窃取了一个API密钥，最终导致该安全非营利组织消耗了价值60万美元的公开AI模型额度。

Just a rumour of a bug is enough to find a security exploit these days Anil Madhavapeddy is a professor of computer science at Cambridge and a core maintainer of the OCaml compiler. In this somewhat alarming post he reports that security issues in OCaml projects are seeing evidence of attempted exploits within minutes of patches being shared for discussion: This normally takes a few days and a rel…