树莓派有限公司近日推出了一款专为树莓派5设计的生成式AI扩展板——Raspberry Pi AI HAT+ 2,定价130美元(约合人民币908.1元)。这款新品旨在填补树莓派硬件生态在生成式AI领域的空白,为用户提供本地化的大语言模型(LLM)和视觉语言模型(VLM)运行能力。
此前发布的初代AI HAT+因硬件架构限制,无法支持日益普及的生成式模型。而新一代产品通过针对性优化,使树莓派5用户无需依赖云端服务,即可在边缘设备上实现高效、私密的AI计算。这一升级显著降低了生成式AI技术的应用门槛,尤其适合对数据隐私要求较高的场景。
硬件配置方面,AI HAT+ 2搭载了Hailo-10H神经网络加速器,可提供最高40 TOPS(INT4精度)的推理性能。其核心升级在于配备了8GB专用板载内存,这一改进使加速器能够高效处理更大规模的模型。官方测试显示,该扩展板在运行LLM时表现流畅,同时处理传统视觉任务(如Yolo系列模型)的性能可与前代26-TOPS版本持平,且完全兼容libcamera等现有摄像头软件生态。
软件支持层面,新品首发即适配多款主流开源模型,包括DeepSeek-R1-Distill(1.5B参数)、Llama 3.2(1B参数)以及Qwen2.5系列(含Coder和Instruct版本)。通过Hailo-ollama后端与Open WebUI前端的组合,用户可直接在浏览器中获得类似ChatGPT的交互体验。官方演示视频展示了设备在完全离线状态下的多项能力:使用Qwen2模型进行问答、通过Qwen2.5-Coder编写代码、实现法语到英语的实时翻译,以及利用视觉语言模型描述摄像头捕捉的画面。
实际测试中,AI HAT+ 2展现了强大的多任务处理能力。在代码编写场景下,设备能根据用户需求生成结构完整的Python脚本;语言翻译任务中,可快速完成法英互译并保持语义准确;视觉描述功能则能实时识别摄像头画面中的物体、场景及人物动作。这些功能均通过本地计算实现,无需上传数据至云端服务器。
该扩展板的推出标志着树莓派生态向生成式AI领域的重要迈进。其硬件设计兼顾性能与成本,软件适配注重开箱即用,特别适合开发者、教育机构及AI爱好者进行本地化AI应用开发。随着开源模型生态的持续完善,此类边缘计算设备有望在智能家居、工业检测、辅助创作等领域发挥更大价值。











