派早报:Acrab 发布边缘 AI 芯片 GELIX 1 和个人 AI 系统 Agent Box 等

发布于 17 天前


Acrab 于 7 月 22 日发布首款边缘 AI 系统级芯片(SoC)GELIX 1,并推出搭载该芯片的个人边缘 AI 系统 Agent Box。

据悉,GELIX 1 基于 5 纳米工艺打造,采用 CPU、GPU 与 NPU 融合架构,配备 20 核 Arm CPU、多核 NPU 以及 273 GB/s 统一内存带宽。官方称,该芯片支持在本地运行最高约千亿参数级开源 AI 模型。

在性能测试中,Acrab 使用 Gemma 26B A4B 模型进行测试,GELIX 1 的预填充速度达到每秒 1416.8 Token。相比之下,Mac mini M4 Pro 在相同测试中的速度为每秒 188.9 Token,GELIX 1 的表现约为其 7.5 倍。Acrab 表示,这一能力可以减少大型模型处理长文本和复杂任务时的等待时间。

基于 GELIX 1,Acrab 同时推出 Agent Box。这款设备定位为个人 AI 中心,支持本地大模型推理、多模态交互、长期记忆以及 AI Agent 编排功能。与传统依赖云端 API 的 AI 服务不同,Agent Box 将用户数据和 AI 记忆保存在本地,使 AI 助手能够持续积累用户习惯和上下文信息。

Acrab 表示,随着 AI 从「回答问题」逐渐转向「执行任务」,未来 AI Agent 需要具备上下文理解、长期记忆、多模态交互以及设备协同等能力,而本地运行 AI 能够减少云端依赖,提升响应速度,并增强用户数据隐私保护。来源

📎 本文转载自 原文链接