IEEE:GPU很好,但不是唯一(ieee tap lepub)

AIGC动态欢迎阅读

原标题:IEEE:GPU很好,但不是唯一

关键字:英特尔,解读,模型,性能,新一代

文章来源:量子位

内容字数:5621字

内容摘要:

金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI是时候让CPU在AI应用上 “支棱”起来了。

这是去年大语言模型大火之时,权威期刊IEEE Spectrum在一篇文章中,开门见山给出的一个观点;并且是由一群AI研究人员得出、声量越来越大的那种。

文章还坦言道:

诚然GPU可能占据了主导地位,但在AI领域中的很多情况下,CPU却是更合适的那一个。

例如文章引援了Hugging Face首席布道官Julien Simon体验的真实案例——

拿一个英特尔®至强®系列CPU,就能轻松驾驭Q8-Chat这个大语言模型,而且响应速度很快。

Simon对此开诚布公地表示:

GPU虽然很好,但垄断从来不是一件好事,可能会加剧供应链问题并导致成本上升。

英特尔CPU在许多推理场景中都能很好地运行。

而这也正与当下大模型的发展趋势变化相契合,即逐渐从训练向推理倾斜,大模型不再仅仅较真于参数规模、跑分和测评,更注重在应用侧发力。

一言蔽之,比的就是看谁能“快好省”地用起来。

不过话虽如此,但在真实的AI场景中,CPU真的已经“支棱”起来了吗?

京东云,选择CPU如果说当时在这个话题上,IEEE扮演了

原文链接:IEEE:GPU很好,但不是唯一

联系作者

文章来源:量子位

作者微信:QbitAI

作者简介:追踪人工智能新趋势,关注科技行业新突破

0
分享到:
没有账号? 忘记密码?