苹果取得技术突破:有望在,Apple 的人工智能研究部门宣布取得重大突破,成功在内存有限的Apple 设备上实现大型语言模型(LLM)。这是通过创新的闪存利用技术实现的,该技术也为更强大的Siri、实时语言翻译以及与摄影和增强现实集成的尖端人工智能功能铺平了道路。
苹果取得技术突破
Apple 的人工智能研究部门宣布取得重大突破,成功在内存有限的Apple 设备上实现大型语言模型(LLM)。这是通过创新的闪存利用技术实现的,该技术也为更强大的Siri、实时语言翻译以及与摄影和增强现实集成的尖端人工智能功能铺平了道路。
以ChatGPT、Claude等LLM聊天机器人为代表的大规模语言模型在全球范围内流行。他们可以进行流畅的对话,以不同的风格编写文本,甚至生成代码。但这些机型的缺点是消耗大量内存,导致普通手机难以应对其运行需求。
为了解决这个问题,苹果研究人员将注意力转向了闪存,它在手机中无处不在,用于存储应用程序和照片。他们通过巧妙的闪存利用技术将LLM模型数据存储在闪存中。研究人员指出,与运行LLM的传统RAM相比,移动设备中的闪存容量要大得多。
论文指出,这项技术可以让AI 模型以iPhone 可用内存大小的两倍运行。在该技术的支持下,LLM的推理速度在Apple M1 Max CPU上提高了4-5倍,在GPU上提高了20-25倍。研究人员认为,这一突破对于在资源有限的环境中部署高级法学硕士非常重要,大大扩展了其适用性和可访问性。
苹果取得技术突破:有望在,以上就是本文为您收集整理的苹果取得技术突破:有望在最新内容,希望能帮到您!更多相关内容欢迎关注。