感谢IT之家网友 雨雪载途 的线索投递!

安第斯大模型将分成 1800 亿参数、700 亿参数、70 亿参数三种体量,支持端云协同部署,根据不同场景的用户需求实现智能调度。


OPPO 表示,AndesGPT 大模型通过强大的知识、记忆和工具能力,为小布助手带来广阔的知识面,以及个性专属的智慧服务能力。通过独创的 SwappedAttention 技术,AndesGPT 还解决了长期记忆带来首字推理延迟的问题。





IT之家从技术沟通会获悉,通过 4bit 量化的模型压缩,OPPO 的 Al Boost 推理引擎优化,以及与芯片厂家联合深度优化等多项举措,OPPO 在 Find X7 系列上首次实际端侧应用 70 亿参数的大模型。


据介绍,在 AndesGPT 大模型 70 亿参数大语言支持下,OPPO 端侧具备超快的首字响应速度,在文本内容摘要的场景下,200 字的首字生成仅需 0.2s,领先友商 20 倍;2000 字首字生成仅需 2.9s,领先友商 2.5 倍;摘要字数上限可达 14000 字,可以轻松输入一篇常见期刊论文,领先友商模型能力 3.5 倍。


相比 10 亿参数大模型,AndesGPT 70 亿参数语言模型号称在带来更有“智商”的理解能力。以通话摘要功能举例,AndesGPT 可以帮助用户梳理通话内容的要点,并准确地输出带有主题、要点,以及待办事项的通话内容摘要,精准程度“明显优于 10 亿级别的端侧模型”。


广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
未经允许不得转载:新聚网 » OPPO Find X7 系列手机首搭 70 亿参数 AndesGPT 端侧大模型,小布助手全新升级

新聚网
哈佛大学开源 AI 训练数据集“Institutional Books 1.0”,涵盖馆藏 98.3 万本图书
Android XR 智能眼镜 XREAL Project Aura 重要参数公布:双芯驱动,70+° FoV
全球首个儿科大模型在北京荣华医院落地,诊断准确率优于主治医师平均水平
小米米家前开盖旅行箱 18 英寸开启众筹,369 元
共建韩国最大 AI 数据中心、容纳 6 万个 GPU,亚马逊 AWS 与 SK 集团合作
OpenAI Codex 人工智能编程工具推出新功能:可一次生成多个方案
性能提升 90%,Anthropic 首次公开多智能体系统构建全流程





