近日，科技领域传来一项突破性进展：开发者丹·伍兹在一台配备M3 Max芯片和48GB统一内存的MacBook Pro上，成功运行了规模达209GB的Qwen3.5-397B人工智能模型。这一模型通常仅能在数据中心部署，而此次在消费级设备上的运行速度超过每秒5.5个Token，标志着移动端AI计算能力的新里程碑。
该模型原始文件占用磁盘空间约209GB，经压缩后仍需120GB存储空间。传统方案需将数百亿参数完全加载至高速内存，这对普通笔记本电脑而言几乎不可能实现。伍兹通过创新技术突破了这一物理限制，其核心思路源于苹果2023年发表的《闪存中的大语言模型》研究论文。该方案创造性地将模型参数存储在NVMe固态硬盘中，通过推理成本模型动态调度数据，以更高效的数据块形式按需传输至内存。
苹果芯片的统一内存架构在此过程中发挥关键作用。这种设计消除了CPU、GPU与内存之间的传统壁垒，使三者能够深度协同工作。伍兹特别指出，M3 Max芯片的硬件特性为数据传输和计算任务分配提供了理想基础，这是方案得以落地的技术前提。
模型架构优化同样功不可没。Qwen3.5-397B采用的混合专家（MoE）机制，在生成每个Token时仅激活部分参数。伍兹将每次激活的"专家"数量从10个减少至4个，这一调整显著降低了内存需求。开发者西蒙·威利森分析认为，这种取舍策略在保持模型核心性能的同时，使活跃权重可直接从闪存读取，实现了计算效率与资源占用的平衡。
在代码实现环节，伍兹采用自动化研究模式，将苹果论文输入AI编程助手Claude Code，经过90次实验迭代，最终生成针对苹果芯片优化的MLX Objective-C和metal代码。这些底层计算语言直接运行在硬件层面，充分释放了设备潜能。目前，该项目的技术细节与测试数据已在开源平台GitHub完整公开，供全球开发者参考研究。
