
据 MLC LLM 项目介绍称:“MLC LLM 是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上,此外还有一个高效的框架,供每个人进一步优化自己用例的模型性能。一切都在本地运行,无需服务器支持,并通过手机和笔记本电脑上的本地 GPU 加速”。

IT之家查询 GitHub 页面发现,这个项目的开发者来自卡内基梅隆大学的 Catalyst 计划、SAMPL 机器学习研究小组以及华盛顿大学、上海交通大学和 OctoML 等。他们还有一个名为 Web LLM 的相关项目,该项目可以完全在网络浏览器中运行 AI 聊天机器人。

MLC Chat 的 App Store 页面:点此查看
MLC LLM 的 GitHub 页面:点此查看
未经允许不得转载:新聚网 » MLC Chat 上架苹果 App Store,手机就能本地运行 AI 大语言模型

 新聚网
新聚网 哈佛大学开源 AI 训练数据集“Institutional Books 1.0”,涵盖馆藏 98.3 万本图书
哈佛大学开源 AI 训练数据集“Institutional Books 1.0”,涵盖馆藏 98.3 万本图书 Android XR 智能眼镜 XREAL Project Aura 重要参数公布:双芯驱动,70+° FoV
Android XR 智能眼镜 XREAL Project Aura 重要参数公布:双芯驱动,70+° FoV 全球首个儿科大模型在北京荣华医院落地,诊断准确率优于主治医师平均水平
全球首个儿科大模型在北京荣华医院落地,诊断准确率优于主治医师平均水平 小米米家前开盖旅行箱 18 英寸开启众筹,369 元
小米米家前开盖旅行箱 18 英寸开启众筹,369 元 共建韩国最大 AI 数据中心、容纳 6 万个 GPU,亚马逊 AWS 与 SK 集团合作
共建韩国最大 AI 数据中心、容纳 6 万个 GPU,亚马逊 AWS 与 SK 集团合作 OpenAI Codex 人工智能编程工具推出新功能:可一次生成多个方案
OpenAI Codex 人工智能编程工具推出新功能:可一次生成多个方案 性能提升 90%,Anthropic 首次公开多智能体系统构建全流程
性能提升 90%,Anthropic 首次公开多智能体系统构建全流程





