← 返回 2026-09-24 简报

Antigravity SDK 新增对本地 AI 模型的支持

Introducing Support for Local AI Models in the Antigravity SDK

语音播报
摘要
事件:Google 宣布 Antigravity SDK 新增对本地 AI 模型的支持,初始适配 Gemma 4 26B A4B 及 LiteRT。 要点:支持离线运行以兼顾隐私与成本;推荐 >24GB VRAM;演示中 97.2% 的 token 在本地处理。 影响:开发者可在无网环境下构建智能体,大幅降低 API 费用并保障代码隐私,推动端侧 AI 应用落地。

今天,我们宣布 Antigravity SDK 支持跨多种本地模型和执行选项的本地工作流,并率先支持使用 Google AI Edge 的 LiteRT 运行 Gemma 4 26B A4B。

Antigravity SDK 使开发者能够构建与驱动 Google Antigravity 相同的智能体能力。借助这一新支持,您可以通过本地模型完全离线地启用智能体辅助功能。我们针对 LiteRT 和 Gemma 4 26B 优化了此工作流,高效利用本地 GPU 和内存,从而进一步放大您的本地机器所能提供的性能!

为什么要在本地运行智能体?

在智能体体验方面,本地模型执行具有以下几项优势:

成本效益:无需支付 API 费用或受速率限制即可执行本地智能体工作流。

隐私保护:将您的代码和请求完全保留在本地计算机上,非常适合需要应对严格数据隐私要求或合规受限企业环境的开发者。

离线韧性:即使在无法提供稳定或可靠互联网连接的环境中,也能无缝执行智能体工作流。

混合工作流:将节省令牌的本地流程与基于云的流程相结合,以最大化效率,同时在需要时保留对更大、更强大模型的访问权限。

以下是入门指南:(我们建议配备 >24GB VRAM 或统一内存的机器)。

创建虚拟环境:

python3 -m venv .venv
source .venv/bin/activate

Python

安装 Antigravity SDK 和 LiteRT-LM,并下载 Gemma 4 26B A4B:

pip install google-antigravity litert-lm

litert-lm import \
--from-huggingface-repo=litert-community/gemma-4-26B-A4B-it-litert-lm \
gemma-4-26B-A4B-it-gpu.litertlm \
gemma4-26b

Python

在您的目录中,创建一个名为 agy_sample.py 的文件。将以下内容粘贴到其中。

import asyncio
import os
from google.antigravity import Agent, LiteRTAgentConfig
from google.antigravity.hooks import policy

UPDATE: Point to the locally downloaded model from the previous step (litert-lm import ...)

MODEL_PATH = os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm")

async def main():
print(f"Using local LiteRT model: {MODEL_PATH}. Please wait for local inference to complete. This could take several minutes.")

config = LiteRTAgentConfig(model_path=MODEL_PATH).lightweight()
async with Agent(config) as agent:
response = await agent.chat("What files are in the current directory?")
async for token in response:
print(token, end="", flush=True)

if name == "main":
asyncio.run(main())

Python

混合编排:云架构师与设备端工作力量的结合

在许多情况下,我们看到“架构师-构建者”模式是结合云端模型规模优势与本地模型优势的绝佳方式。在下方使用更新后的 Antigravity SDK 构建的混合演示视频中,云架构师(Gemini 3.8 Flash)充当规划者和指挥者,而由 Gemma 4 26B 实例组成的本地集群则在设备端完全承担繁重任务。

在处理审计和修补三个漏洞模块(auth.py、billing.py 和 database.py)的任务时,该工作流保持了严格的数据隐私,并让我们能够充分利用令牌利用率:

无代码上传:Gemini 3.8 Flash 仅基于文件名和任务描述规划策略并分解工作——仅消耗 95 个云端令牌,且源代码从未离开过机器。

自主本地考验:本地 Gemma 4 26B 模型接管本地 GPU,执行对抗性审计循环:复现安全漏洞、编写候选修复方案、审查补丁以及针对回归测试套件进行验证。

巨大的成本与隐私收益:在此次录制的运行中,97.2% 的令牌(共 3,322 个令牌)在本地和离线状态下运行,无需调用云端 API,从而交付完全验证通过的绿色补丁,同时确保专有代码在设备端完全安全。

在此查看示例项目,以运行内置的三文件测试流程,或将其指向您自己的 Python 模块和测试套件。

抱歉,您的浏览器不支持播放此视频

免费 Token 的本地实用工具:CLI 资源监控器

Antigravity SDK 配合 Gemma 4 26B A4B 在构建实用的系统工具方面表现出色。在本例中,智能体构建了一个在终端中运行的实时更新的资源监控器。只需一个提示词,智能体便自主编写了一个使用 psutil 和 rich 库来追踪 CPU 和内存用量的 Python 脚本,生成了必要的 requirements.txt 文件,甚至测试了生成的代码以确保其正常运行——这一切都在您的本地机器上运行,并使用 Gemma 4 26B。

抱歉,您的浏览器不支持播放此视频

使用 Gemma 4 26B 在设备上生成的基于 Python 的 CLI 资源监控工具

cli_resource_monitor.py

import asyncio
import os
from google.antigravity import Agent, LiteRTAgentConfig
from google.antigravity.hooks import policy

UPDATE: 您的提示词

PROMPT = "Build a command-line interface tool using the psutil and rich libraries that displays a live-updating terminal dashboard. It should show CPU usage, memory consumption, and a sorted table of the top 5 most memory-intensive processes. Save the script as 'monitor.py' and create a 'requirements.txt' file. Test that it works."

UPDATE: 指向本地导入的 LiteRT-LM 模型路径

MODEL_PATH = os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm")

UPDATE: 为 AGY-SDK 提供一个用于写入文件的工作区

WORKING_DIR = os.path.expanduser("~/agy-test")

os.makedirs(WORKING_DIR, exist_ok=True)
os.chdir(WORKING_DIR)

async def main():
print(f"Using local LiteRT model: {MODEL_PATH}. Please wait for local inference to complete. This could take several minutes.")

config = LiteRTAgentConfig(
model_path=MODEL_PATH,
workspaces=[WORKING_DIR],
policies=[policy.allow_all()],
).lightweight()

async with Agent(config) as agent:
response = await agent.chat(PROMPT)
async for token in response:
print(token, end="", flush=True)

if name == "main":
asyncio.run(main())

Python

Antigravity SDK 还通过 LocalOpenAIAgentConfig 为任何兼容 OpenAI 的服务器(如 Ollama、LM Studio 或 vLLM)提供无缝的即插即用支持。这使您能够灵活地尝试不同的本地推理后端,同时保持智能体编排、工具和工作流程完全不变。

请查看 Antigravity Python SDK README 中的说明以开始使用本地 AI,并了解有关如何使用 LiteRT 在边缘高效运行模型的更多信息。请在 Antigravity Python SDK GitHub Issue Tracker 上分享您的反馈和功能请求。我们期待看到您构建的项目!

致谢:Abhi Patel, Ander Dobo, Ben Miles, Cormac Brick, Ian Ballantyne, Jingxiao Zheng, Jonathan Reay, Kimish Patel, Lu Wang, Marissa Ikonomidis, Matthias Grundmann, Olivier Lacombe, Omar Sanseviero, Rishika Sinha, Rody Davis, Taylor Mullen, Tyler Mullen, Wai Hon Law, Xiaoming Hu, Xu Chen, Yu-hui Chen

本条评分 8.4 score-v1
  • 来源权威 8
    注册表 priority=8(Google Developers Blog)
  • 时效 0.4
    没有发布日期(nodate 源),给地板分 0.4(证明不了它新,不按新的加分)
  • 多源印证 0
    只有 1 家在报(无旁证)
  • 社区信号 0
    无社区数据(本管线走 RSS,HN 的 hn_fetcher 未接入)
历史
刊期得分排名结果
2026-10-02 8.4 46 入选
2026-09-24 8.4 59 入选
原文链接:https://developers.googleblog.com/introducing-support-for-local-ai-models-in-the-antigravity-sdk/
来源:Google Developers Blog
以上内容由 AI 自动翻译,仅供参考。
← 返回简报