高通(QCOM.US)和Meta(META.US)计划在手机上运行大型AI模型

高通(QCOM.US)和Meta Platforms(META.US)宣布，从2024年开始，Meta的新大型语言模型Llama

2将在采用高通芯片的手机和个人电脑上运行。

到目前为止，大型语言模型主要在采用英伟达(NVDA.US)图形处理器(GPU)的大型服务器群中运行，因为该技术对计算能力和数据的需求巨大，这提振了英伟达的股价，该股今年以来上涨了逾220%。

但高通等为手机和个人电脑制造尖端处理器的公司在很大程度上错过了人工智能的繁荣。到目前为止，高通股价在2023年上涨了约10%，落后于纳斯达克指数36%的涨幅。

周二的声明表明，高通希望将其处理器定位为非常适合人工智能，但要“在边缘”或设备上运行，而不是“在云端”。如果大型语言模型可以在手机上运行，而不是在大型数据中心运行，这可能会降低运行人工智能模型的巨大成本，并可能带来更好、更快的语音助手和其他应用程序。

高通认为，在高通设备上提供Meta的开源Llama 2模型将使智能虚拟助手等应用成为可能。Meta的Llama

2可以做许多与ChatGPT相同的事情，但它可以被打包成一个更小的程序，这使得它可以在手机上运行。

高通的芯片包括一个张量处理单元(TPU)，非常适合人工智能模型所需的各种计算。然而，与配备尖端GPU的数据中心相比，移动设备上可用的处理能力相形见绌。

Meta的Llama之所以引人注目，是因为Meta公布了它的“权重”，这是一组有助于管理特定人工智能模型如何工作的数字。这样做将允许研究人员以及企业在自己的计算机上使用人工智能模型，而无需征得许可或付费。其他著名的人工智能模型，如OpenAI的GPT-4或谷歌的Bard，都是闭源的，它们的权重也是严格保密的。

高通过去曾与Meta密切合作，特别是在Quest虚拟现实设备的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型，比如开源图像生成器Stable

Diffusion。