Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文(macbook模型)

AIGC动态欢迎阅读

原标题:Mac专属大模型框架来了!两行代码部署,能聊本地数据

,还支持中文

关键字:腾讯,模型,数据,框架,峰会

文章来源:量子位

内容字数:3422字

内容摘要:

克雷西 发自 凹非寺量子位 | 公众号 QbitAIMac用户,终于不用羡慕N卡玩家有专属大模型Chat with RTX了!

大神推出的新框架,让苹果电脑也跑起了本地大模型,而且只要两行代码就能完成部署。

仿照Chat with RTX,框架的名字就叫Chat with MLX(MLX是苹果机器学习框架),由一名OpenAI

前员工打造。

黄院士的框架里有的功能,例如本地文档总结、YouTube视频分析,Chat with MLX里也都有。

而且包括中文在内共有11种可用语言,自带支持的开源大模型多达七种。

体验过的用户表示,虽然计算量负担对苹果设备可能大了点,但是新手也很容易上手,Chat with MLX真的是个好东西。

那么,Chat with MLX的实际效果究竟怎么样呢?

用MacBook部署本地大模型Chat with MLX已经集成到了pip命令中,所以在有pip的条件下,只需要一行代码就能完成安装:

pip install chat-with-mlx

安装完成后,在终端中输入chat-with-mlx并按回车,就会自动完成初始化并弹出网页(第一次启动及下载模型时需要连接

原文链接:Mac专属大模型框架来了!两行代码部署,能聊本地数据,还支持中文

联系作者

文章来源:量子位

作者微信:QbitAI

作者简介:追踪人工智能新趋势,关注科技行业新突破

0
分享到:
没有账号? 忘记密码?