张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题(张鹏张鹏)

AIGC动态欢迎阅读

原标题:张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型

落地难题

关键字:模型,解读,场景,硬件,核心

文章来源:Founder Park

内容字数:22340字

内容摘要:

Scaling Law 已成为大模型进化的「不二法门」。

参数量越大、数据集规模越大、算力消耗越大,大模型性能就越好。相比较海外的大模型公司,国内的大模型公司会面临更严峻的算力问题,资金、显卡限购等,以至于有不少人质疑,中国大模型到底有没有 Scaling Law?

无问芯穹联合创始人 & CEO 夏立雪认为,「我认为 Scaling Law 在中国可以有另外一个解读,也就是应用场景的 Scaling Law。」

而他们推出的「MxN」架构,「解决的是一堆相似的大模型,怎么能够在不同的卡上跑起来,最后以一种类似于水、电、煤气这样的资源的形式给到开发者使用。」

在他看来,「大模型今年最核心的任务就是落地,而落地的卡点就是性价比」。

4 月 10 日,在极客公园创始人&总裁张鹏和夏立雪的对话直播里,关于大模型 Scaling Law、国内的算力难题,以及大模型的落地难题,进行了探讨,并尝试提出了一些非共识的观点。

本文基于直播整理,略有删减。01

CUDA 是英伟达的壁垒,推理场景是算力未来的重点张鹏:从你的角度来看,上个月的 GTC 有什么值得大家注意的东西?

夏立雪:大概从 2018

原文链接:张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题

联系作者

文章来源:Founder Park

作者微信:Founder-Park

作者简介:来自极客公园,专注与科技创业者聊「真问题」。

0
分享到:
没有账号? 忘记密码?