11月20日消息,谷歌DeepMind技术团队成员奥马尔·圣塞维耶罗在11月17日于X平台发文,介绍了一项把AI推理搬进办公激光打印机的实验。实验在不改动固件、不增加外部计算板的情况下,让打印设备在约14.1MB内存占用下运行拥有2.7亿参数的Gemma 3 270M模型。
这项尝试借助谷歌Gemini 4 Carbon模型,将小型Transformer推理引擎和量化模型编译成Post打印任务。打印机原有的Post解释器原本用于描述页面内容,这次则被用来执行模型计算。相关计算全部发生在打印机内部,由打印机CPU运行Post程序,完成后再把结果打印出来。模型推理共涉及18个Transformer网络层。
由于打印机内存有限,实验没有一次性载入完整模型,而是采取动态层加载方式,按需将各层调入和移出内存。运行时峰值占用约为14.1MB。输出速度方面,生成一个词元大约需要60秒。在预填充阶段,处理输入提示“Read the fine”耗时约184秒;解码单个生成词元耗时0.1秒,总计约184.1秒。







