ITBear旗下自媒体矩阵:

大模型浪潮下的新机遇:AI Infra创业如何寻觅商机?

   时间:2024-11-09 23:04:45 来源:ITBEAR编辑:瑞雪 发表评论无障碍通道

【ITBEAR】在清华系创业的浪潮中,AI Infra领域正成为新的热点。多家源自清华实验室的创企,如清昂智能、清程极智等,正致力于将模型与芯片深度适配,以提升算力资源的利用效率,并推动模型应用的快速发展。

当前,这些清华系创企面临的核心问题之一,是如何在瞬息万变的模型、应用和硬件层之间找到突破口。MaaS平台、训推一体机、异构混训等方向,都成为了他们探索的焦点。然而,这些方向也引发了业内的诸多质疑和讨论。

关于MaaS平台,有观点认为,这将与通用大模型公司产生直接竞争,创业公司的生存空间可能受到挤压。然而,也有创业者坚持认为,通过提供可靠的弹性服务和优化算力成本,MaaS平台能够为大模型应用落地提供关键支持。

在训推一体机方面,创企们看到了后训练市场的巨大潜力。然而,也有意见认为,训推一体机可能难以兼顾训练和推理的需求,其长期发展前景尚不明朗。

与此同时,异构混训作为另一种解决方案,也在引发业内的关注。无问芯穹等创企通过异构多种GPU卡来同时混训一个大模型,以满足不同客户的需求。然而,这一方向也面临着性能损耗、效率不佳等挑战。

在AI Infra的创业浪潮中,创企们还需要面对国内外市场的差异。海外市场由于芯片供应相对集中,软件生态较为成熟,为创业公司提供了更多的机会。然而,国内市场则因为芯片供应分散、软件生态薄弱等问题,给创企们带来了更大的挑战。

尽管如此,这些清华系创企仍然坚信,在AI Infra领域存在着巨大的商机。他们通过不断探索和创新,试图找到能够解决国产算力问题的最佳路径。无论是从哪个方向切入,他们的努力都将为AI产业的发展注入新的活力。

值得注意的是,这些创企在发展过程中也需要与云厂商等巨头进行竞合。尽管双方在某些方面存在竞争关系,但通过友好协作和差异化发展,他们有望共同推动AI Infra领域的繁荣与进步。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version