11月17日,谷歌DeepMind工程师奥马尔·圣塞维耶罗进行了一项边缘计算实验:在没有改装过的理光办公激光打印机上,成功运行2.7亿参数的Gemma 3模型。
据描述,整个推理过程没有使用外部计算设备,也没有改动打印机固件。模型经过量化后,由打印机内置的Postscript解释器执行Transformer推理,峰值内存占用仅为14.1MB。
为了适应打印机有限资源,实验采用动态层加载策略。推理全部在打印机CPU上完成。预填充阶段处理提示“Read the fine”耗时184秒,单词元解码耗时0.1秒,整体输出速度约每词元60秒。










