苹果洽谈AI初创公司,拟让大模型直接运行于iPhone。

苹果正与AI初创公司PrismML展开初步接触,并评估其AI模型压缩技术,希望让大型AI模型直接运行于iPhone,而无需依赖云端计算。PrismML称,其可将模型内存占用降低10至15倍,使拥有270亿参数的模型能够在iPhone 15及以上设备运行,同时响应速度提升6至8倍、能耗降低3至6倍。若技术成熟,苹果有望将更多Siri及生成式AI功能转移至本地运行,进一步提升响应速度、隐私保护能力及离线使用体验,并降低云计算成本。

圈主 管理员

热门评论
:
该帖子评论已关闭
图片审查中...
编辑答案: 我的回答: 最多上传一张图片和一个附件
x
x