苹果取得技术突破:有望在, 苹果人工智能研究部门宣布了一项重要突破,在内存有限的苹果设备上成功实现了大型语言模型(LLM)。这是通过创新的闪存利用技术实现的。

这项技术还为更强大的Siri、实时语言翻译以及与摄影和增强现实集成的尖端人工智能功能铺平了道路。

苹果取得了技术突破。

苹果技术是什么意思

苹果人工智能研究部门宣布了一项重要突破,在内存有限的苹果设备上成功实现了大型语言模型(LLM)。这是通过创新的闪存利用技术实现的。

这项技术还为更强大的Siri、实时语言翻译以及与摄影和增强现实集成的尖端人工智能功能铺平了道路。

以ChatGPT和Claude等LLM聊天机器人为代表的大规模语言模型在全球范围内非常流行。他们可以进行流畅的对话,编写不同风格的文本,甚至生成代码。然而,这些模型的缺点是它们占用太多内存。

这使得普通手机很难应对其操作需求。

为了解决这个问题,苹果研究人员将注意力转向了手机中无处不在的闪存,这是存储应用程序和照片的地方。他们通过一种巧妙的闪存利用技术将LLM模型的数据存储在闪存中。研究人员指出,

与用于运行LLM的传统RAM相比,移动设备中闪存的容量要大得多。

论文指出,该技术可以使AI模型的运行规模达到iPhone可用内存的两倍。在该技术的支持下,LLM的推理速度在苹果M1 Max CPU上提高了4-5倍,在GPU上提高了20-25倍。

研究人员认为,这一突破对于在资源有限的环境中部署先进的LLM非常重要,这大大扩展了它们的适用性和可访问性。

苹果取得技术突破:有望在,以上就是本文为您收集整理的苹果取得技术突破:有望在最新内容,希望能帮到您!更多相关内容欢迎关注。