ITBear旗下自媒体矩阵:

谷歌实验让打印机执行AI计算 14MB内存跑2.7亿参数模型

   时间:2026-11-20 15:38:13 来源:ITBEAR编辑:快讯 IP:北京 发表评论无障碍通道
 

11月20日消息,谷歌DeepMind技术团队成员奥马尔·圣塞维耶罗在11月17日于X平台发文,介绍了一项把AI推理搬进办公激光打印机的实验。实验在不改动固件、不增加外部计算板的情况下,让打印设备在约14.1MB内存占用下运行拥有2.7亿参数的Gemma 3 270M模型。

这项尝试借助谷歌Gemini 4 Carbon模型,将小型Transformer推理引擎和量化模型编译成Post打印任务。打印机原有的Post解释器原本用于描述页面内容,这次则被用来执行模型计算。相关计算全部发生在打印机内部,由打印机CPU运行Post程序,完成后再把结果打印出来。模型推理共涉及18个Transformer网络层。

由于打印机内存有限,实验没有一次性载入完整模型,而是采取动态层加载方式,按需将各层调入和移出内存。运行时峰值占用约为14.1MB。输出速度方面,生成一个词元大约需要60秒。在预填充阶段,处理输入提示“Read the fine”耗时约184秒;解码单个生成词元耗时0.1秒,总计约184.1秒。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version