高通(人品贷QCOM.US)和Meta(META.US)计划在手机上运行大型AI模型

财经APP得悉,高通(QCOM.US)和Meta Platforms(META.US)宣告,从2024年开端,Meta的新大型言语模型Llama 2将在选用高通芯片的手机和个人电脑上运转。

到目前为止,大型言语模型主要在选用英伟达(NVDA.US)图形处理器(GPU)的大型服务器群中运转,由于该技能对核算才能和数据的需求巨大,这提振了英伟达的股价,该股今年以来上涨了逾220%。

但高通等为手机和个人电脑制作顶级处理器的公司在很大程度上错过了人工智能的昌盛。到目前为止,高通股价在2023年上涨了约10%,落后于纳斯达克指数36%的涨幅。

周二的声明标明,高通期望将其处理器定位为十分合适人工智能,但要“在边际”或设备上运转,而不是“在云端”。假如大型言语模型能够在手机上运转,而不是在大型数据中心运转,这可能会下降运转人工智能模型的巨大本钱,并可能带来更好、更快的语音帮手和其他运用程序。

高通以为,在高通设备上供给Meta的开源Llama 2模型将使智能虚拟帮手等运用成为可能。Meta的Llama 2能够做许多与ChatGPT相同的作业,但它能够被打包成一个更小的程序,这使得它能够在手机上运转。

高通的芯片包含一个张量处理单元(TPU),十分合适人工智能模型所需的各种核算。但是,与装备顶级GPU的数据中心比较,移动设备上可用的处理才能相形见绌。

Meta的Llama之所以有目共睹,是由于Meta发布了它的“权重”,这是一组有助于办理特定人工智能模型怎么作业的数字。这样做将答应研究人员以及企业在自己的核算机上运用人工智能模型,而无需征得答应或付费。其他闻名的人工智能模型,如OpenAI的GPT-4或谷歌的Bard,都是闭源的,它们的权重也是严厉保密的。

高通过去曾与Meta密切合作,特别是在Quest虚拟现实设备的芯片方面。高通还展现了一些在其芯片上缓慢运转的人工智能模型,比方开源图画生成器Stable Diffusion。

发布于 2023-12-22 02:12:06
收藏
分享
海报
97
目录

    推荐阅读