超越GPT-4，斯坦福团队手机可跑的大模型火了，一夜下载量超2k（斯坦福moss）

AIGC动态欢迎阅读

原标题：超越GPT-4，斯坦福团队手机可跑的大模型

火了，一夜下载量超2k

关键字：模型,函数,参数,准确率,技术

文章来源：机器之心

内容字数：5995字

内容摘要：

机器之心报道

机器之心编辑部在大模型落地应用的过程中，端侧 AI 是非常重要的一个方向。

近日，斯坦福大学研究人员推出的 Octopus v2 火了，受到了开发者社区的极大关注，模型一夜下载量超 2k。

20 亿参数的 Octopus v2 可以在智能手机、汽车、个人电脑等端侧运行，在准确性和延迟方面超越了 GPT-4，并将上下文长度减少了 95%。此外，Octopus v2 比 Llama7B + RAG 方案快 36 倍。不少网友感叹：设备端 AI 智能体的时代到来了！论文：Octopus v2: On-device language model for super agent

论文地址：https://arxiv.org/abs/2404.01744

模型主页：https://huggingface.co/NexaAIDev/Octopus-v2

模型概述

Octopus-V2-2B 是一个拥有 20 亿参数的开源语言模型，专为 Android API 量身定制，旨在在 Android 设备上无缝运行，并将实用性扩展到从 Android 系统管理到多个设备的编排等各种应用程序。通

原文链接：超越GPT-4，斯坦福团队手机可跑的大模型火了，一夜下载量超2k