近期,谷歌对外公布了一项关于其Gemini大模型能源消耗的技术细节,这一举动在人工智能领域引起了广泛关注。该报告不仅详细披露了每次查询所消耗的能源量,还被视为大型AI公司中最具透明度的一次估算。
谷歌在报告中指出,Gemini模型在提供文字回答时,平均每次消耗的能量为0.24瓦特小时,这一数值与微波炉运行一秒钟所需的能量相当。同时,这次查询还伴随着0.03克二氧化碳当量的排放。这一数据公开后,不少研究人员对此表示期待已久。
除此之外,谷歌还发布了Gemini系列中的一个轻量级版本——Gemma 3 270M。这款模型拥有2.7亿参数,专为端侧部署设计,并具备指令遵循和文本结构化的能力。Gemma 3系列涵盖了从270M到27B五种不同规模的模型,满足了多样化的应用需求。
在内存需求方面,Gemma 3系列在Q4_0量化格式下表现出色。具体而言,270M、1B、4B、12B和27B五种规模的模型所需的RAM内存分别为240MB、892MB、3.4GB、8.7GB和21GB。Gemma 3 270M在Pixel 9 Pro手机上运行25轮对话时,仅消耗了0.75%的电量,展现了其高效节能的特点。
Gemma 3 270M模型的应用场景广泛,尤其适用于高频率、任务明确的场景。它能够处理个人隐私信息,如情感分析、实体识别和人生规划等任务。该模型还为开发专用小型模型提供了有力支持。为了帮助开发者更好地利用这款模型,谷歌还同步提供了微调教学资源,包括基于Hugging Face Transformers的全模型训练流程,支持分类、信息抽取、情感分析等多种任务的定制。