ITBear旗下自媒体矩阵:

Tiny Corp开源驱动突破:英伟达RTX 5090显卡首搭苹果Mac mini运行大模型

   时间:2026-04-15 04:06:31 来源:快讯编辑:快讯 IP:北京 发表评论无障碍通道
 

苹果Mac设备与英伟达显卡的兼容问题长期困扰开发者。由于苹果与英伟达多年前的合作中断,macOS系统失去了对英伟达GPU的官方驱动支持,导致CUDA生态在该平台上几乎停滞,开发者不得不转向苹果自研的metal架构。然而,这一局面近期出现突破性进展。

开源社区传来新消息:Tiny Corp发布的定制驱动通过雷雳5/USB4接口实现了外置显卡与苹果芯片Mac的直接通信。YouTube博主Alex Ziskind通过实测验证,将英伟达RTX 5090显卡成功连接至Mac mini M4 Pro,并在macOS系统上运行了Llama 3.1 8B大模型,实测性能达到7.48 Token/s。

这项技术突破的关键在于驱动架构的创新。当前版本依赖Tiny Grad编译器进行任务调度,虽未采用metal或CUDA的原生优化,但仍展现出Blackwell架构的独特优势。测试数据显示,RTX 5090的首Token响应速度比metal原生方案快3-4倍,不过整体运算效率因编译器限制仍落后10倍左右。Alex Ziskind在演示视频中特别指出,现有驱动尚未完全释放显卡性能潜力。

尽管当前方案存在性能损耗,但这仍是苹果生态中首个可直接运行大模型的外接显卡解决方案。相比传统虚拟机方案,该技术通过硬件直连避免了性能折损,为Mac开发者提供了新的硬件加速途径。业内人士分析,随着驱动持续优化,未来可能缩小与metal原生方案的性能差距,但短期内仍难以完全替代成熟的metal开发环境。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version