苹果(Apple)对在智能手机上运行大型语言模型(LLM)的最新研究提供了迄今最明确的信号,表明苹果计划在生成式人工智能(generative AI)领域赶上硅谷竞争对手。
苹果研究人员称,其发表的题为“LLM in a Flash”的论文“为当前的计算瓶颈提供了解决方案”。
他们表示,其方法“为LLM在内存有限的设备上有效推理铺平了道路”。推理是指大型语言模型(驱动ChatGPT等app的大型数据存储库)如何响应用户的查询。聊天机器人和LLM通常在庞大的数据中心中运行,其算力比iPhone大得多。
这篇论文发表于12月12日,但在人工智能(AI)研究人员展示其研究成果的流行网站Hugging Face周三晚重点介绍它后,该论文引起了更广泛的关注。这是苹果研究人员本月发表的第二篇关于生成式AI的论文,此前该公司还研究了如何让Stable Diffusion等图像生成模型能够在其定制芯片上运行。
您已阅读24%(399字),剩余76%(1258字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。