据报道,苹果正在与硅谷的初创公司 PrismML 进行洽谈,致力于研发一项革命性的 AI 模型压缩技术。这项技术的目标是将原本庞大的 AI 模型压缩到能够在 iPhone 上本地运行的程度。如果这项技术得以成功验证,将有望提升苹果在隐私保护方面的优势,并为目前进展缓慢的 Siri 升级提供有力支持。
PrismML 的首席执行官透露,苹果已经开始评估其技术的可行性,尽管目前洽谈仍处于早期阶段,但进展看起来相当顺利。值得注意的是,这一消息恰逢苹果推出 iOS27公测版的次日,这一版本标志着 Siri 经过大幅改版后首次向公众开放测试,目的是与 OpenAI 和 Anthropic 等 AI 助手展开竞争。
通过将更多的 AI 计算任务留在设备本地,苹果可以降低响应延迟、减少云计算成本,并在没有网络连接的情况下使用部分功能。这与苹果长期以来强调的隐私保护理念高度契合。Counterpoint 分析师 Pathak 指出,云端与设备端 AI 的结合将为用户提供更全面、更高效且更注重隐私的 AI 体验:复杂任务交由云端处理,而敏感信息则在设备端完成。
PrismML 最初孵化于加州理工学院,并获得了 Khosla Ventures 的支持。该公司已经公开发布了阿里巴巴开源模型 Qwen 的压缩版本,将原始模型的大小从约54GB 压缩至不足4GB,使得该模型的270亿个参数能够在 iPhone15及更新型号上运行。未来,PrismML 还计划处理其他大型开源模型,以进一步推动这一技术的发展。
在技术层面上,PrismML 的压缩方案能将原本需要8块 GPU 的云端模型缩减至仅需1块,并允许那些依赖于数据中心的模型迁移至手机和笔记本电脑。虽然这种方法能有效降低单一 AI 任务所需的内存和计算能力,但并不意味着整体芯片需求会随之下降。
划重点:
🔍 苹果与 PrismML 洽谈,力图将大型 AI 模型压缩至可在 iPhone 上运行。
📱 该技术有望提升隐私保护,并助力 Siri 的升级进程。
💡 PrismML 已成功将大型模型压缩至不足4GB,兼容 iPhone15及更新型号。
PrismML 的 AI 模型压缩技术是什么?
这是一种把大型 AI 模型大幅压缩、降低内存和算力需求的方案,目标是让原本依赖数据中心的模型也能在手机或笔记本上本地运行。
苹果为什么要和 PrismML 合作?
苹果希望借助这项技术把更多 AI 计算留在设备端,从而提升隐私保护、降低响应延迟和云计算成本,并为 Siri 升级提供技术支撑。
PrismML 压缩后的模型能在哪些 iPhone 上运行?
文中提到,PrismML 已将阿里巴巴开源模型 Qwen 压缩到不足4GB,且可在 iPhone 15 及更新型号上运行。
本地运行 AI 模型就不需要云端了吗?
不是。文章指出更合理的方式是云端与设备端结合:复杂任务交给云端,敏感信息和部分轻量任务留在本地,以兼顾能力、效率和隐私。
模型压缩后最先牺牲的是什么?
通常先牺牲精度边际、长尾能力和部分推理稳定性。落地时要按任务分层:高频轻任务走本地,复杂任务走云端或混合推理,才能兼顾体验和成本。
iPhone 本地跑大模型该怎么做架构?
建议采用“端侧小模型+云端兜底+缓存记忆”的混合架构。把隐私敏感、低延迟任务放本地,重推理任务转云端,并通过量化、蒸馏和分块加载控制内存峰值。
