陈天奇官宣新APP,让手机原生跑大模型,

只看白癜风的医生 http://baijiahao.baidu.com/s?id=1684414714911368070&wfr=spider&for=pc

机器之心报道

编辑:张倩

前段时间,TVM、MXNET、XGBoost作者,CMU助理教授,OctoMLCTO陈天奇等多位研究者共同开发的一个项目引爆了AI界。

这个项目名叫MLC-LLM,能让你「在任何设备上编译运行大语言模型」,包括移动端(例如iPhone)、消费级电脑端(例如Mac)和Web浏览器。运行效果如下:

MLC-LLM推出不到两天,GitHub的Star量就接近了一千。在社交网络上,人们纷纷点赞,表示MLC-LLM「让我领教了低精度跑AI的可怕程度。」截至目前,该项目已经在Github上收获了7.5k的star量(具体信息参见:

陈天奇等人新作引爆AI界:手机原生跑大模型,算力不是问题了)。

刚刚,陈天奇又公布了一个好消息:MLCChatapp已经在苹果的AppStore上线了。

MLCChat是一款让你能够在iPad和iPhone上与开放语言模型进行本地聊天的应用,是MLCLLM项目的一部分。

MLCChat在将模型下载到应用程序后,一切都在本地运行,无需服务器支持,并且不需要互联网连接,不会记录任何信息。

在得知这一消息后,机器之心下载了该应用进行体验。

打开APP,可以看到,该应用已经预装了一个模型——RedPajama。

打开这个模型,我们就直接进入了聊天窗口,可以和RedPajama直接对话。

如果你对这个模型不满意,可以在首页通过输入URL添加新的模型。不过,这个下载新模型的过程可能会有点慢。

由于该应用刚刚上架,目前我们还没有看到来自其他用户的反馈。

不过,可以肯定的是,随着这类应用的出现和普及,大型语言模型的使用门槛将不断降低。过去,只有专业领域的研究人员和技术专家才能够有效地利用这些模型进行各种任务。然而,现在随着开放源代码项目和开发工具的发展,越来越多的人可以轻松地使用这些模型。

如果你也对MLCChat感兴趣,可以前往苹果的APPStore下载体验。



转载请注明地址:http://www.hongyigroup.net/fxyy/10030.html
  • 上一篇文章:
  • 下一篇文章: 没有了