手机端侧全面整合所有应用数据,并将 AI 能力深入赋能到各种应用操作中。
然而,随着 AI 技术在自动回复邮件、短信和自动总结电话录音等方面的应用,也导致了发布会期间,观看直播的用户不断通过弹幕提出 我的隐私呢? 等对个人信息保护的担忧。之后马斯克也发出推文挑战苹果和 OpenAI,质疑他们的用户隐私可能受到侵犯。
苹果对此似乎早有预料,在发布会上特别强调了端侧大模型计算和个人云的概念。相比之下,Google 一年前发布的 Pixel 8 Pro 虽然采用了类似的技术架构实现相同功能,但并未引起类似的隐私担忧。这可能一方面是因为苹果用户对隐私的要求更高,另一方面也反映了在经历了多年大数据时代的浸染后,进入人工智能时代,人们对个人隐私的关注日益增加。
实际上,早从四年前开始,苹果就逐渐注重起隐私保护,出台了禁止 App 采集用户个人数据等措施,公司还制作了一系列有趣的广告来推广其隐私保护理念。包括此次发布会,苹果同步推出了一个新概念——个人云计算(Private Cloud Comput,PCC),并在博客文章《私人云计算:AI 在云端的新前沿》中对这个新概念进行了详细解释。
与 OpenAI 最近强调对大模型的 GPU 和算法参数加密的博客文章不同,显然苹果更侧重于用户数据的加密,展现了其始终遵循用户体验至上的理念。正如 20 年前苹果在电子商务浪潮中独树一帜建立线下店一样,这次苹果在云计算大潮中提出了回归个人云的概念。
由于 AI 需要处理用户数据,苹果强调了传统端到端加密设计在人工智能时代不再适用,需要将苹果设备的隐私保护理念延伸到云端。苹果承认了终端设备的资源有限性,并相信 PCC 是目前最可行的个人智能云计算安全设计。苹果的 PCC 开发设计部门涵盖了安全工程师、隐私保护部门、操作系统部门、负责运维的服务部门和机器学习部门。
此前苹果一直认为,端侧存储数据和 AI 计算是个人隐私保护和安全的基石,分散在端侧的数据天然抵抗了单点攻击。当需要 iCloud 存储数据时,端到端的安全设计,又保护了云端的安全。然而,当进入人工智能时代,端侧设备的有限计算资源无法满足大模型的需求,因此需要在云端处理用户数据,传统的端到端加密不再适用。这为个人隐私保护带来了挑战,特别是在采用传统云计算架构的 AI 云计算中:
为了实现这些设计原则,苹果开发了定制服务器、定制操作系统、定制的运维软件,还使用定制的服务器开发语言 Swift on Server,开发了全新机器学习技术框架,用以运行苹果的云端大模型。并通过类 Intel SGX 和 AWS Nitro 一样的技术,来保证使用的技术堆栈软件供应链透明可审计。
其中定制服务器采用了和苹果设备一样的 Secure Enclave 和 Secure Boot 安全技术;定制操作系统则继承了苹果享有盛誉,身经百战的安全技术包括 Code Signing 和 Sandboxing。可以说,苹果也借此含蓄地进入了服务器计算市场。
苹果为此实施了严格的安全保证流程控制,甚至涵盖了服务器硬件生产制造环节:当服务硬件完成生产进入仓库后,每个服务器的组件都会被高分辨率摄像,然后进行密封,防物理破坏开关被打开;到达数据中心后,经过单独团队的多次独立交叉安全流程检查后才能被部署上线。而且整个流程都有独立第三方审计。最后,一个数字证书被安装到每个 PCC 节点的 Secure Enclave(生成自己的 UID)。
通过以上这些技术,苹果实现了用户安全的个人 AI 云计算,严苛的安全设计,也为未来第三方应用开发者进入苹果个人云 APP 领域打开了可能性,具体流程细节为:
当用户需要调用云端 AI 计算的时候,用户的提示语将通过个人云计算服务器的公钥加密,来免于被路由器等通讯链路监听,同时只和认证过的服务器通讯。
当认证过的服务接受到用户请求提示语之后,PCC 将通过 Code Signing 和 Secure Boot 安全技术来保护安全的运行环境。其中,只有通过苹果认证的代码才能够运行,而且这种认证可以针对特定的 PCC 节点,通过 Secure Enclave 来调用保护了运行过程中的安全。由于 PCC 节点的公钥保存在 Enclave 里面,因此无法被更改和复制。
用户的单次请求数据仅仅被用于这次请求,请求结果返回后用户的请求就被删除。用户数据需要被临时存储的时候,Secure Enclave 会利用每次 reboot 随机生成的单次使用密钥来加密用户数据,并且保证用户数据在请求完成后被安全删除;而且对于临时保存用户数据的内存空间进行回收处理。
为了防止水平攻击,采用了 Pointer Authentication Codes 和 SandBoxing 来分割运行环境;云端代码采用 Swift 语言编写来保证内存安全,并且隔离的内存地址空间会隔离不同用户的请求。
从以上设计来看,苹果动用了所有的工程部门,使用了多年积累的安全和隐私保护技术,全力开发了 PCC。
PCC 显然体现了苹果的典型风格——封闭、自成一体的高度定制化。就像天平的两端,有封闭就会有开放。与苹果理念相对应的设计思路是透明开源—— Terminus,这是一个开源的、用户自主控制的个人云平台。Terminus 的技术堆栈完全基于开源的、云原生的 Kubernetes 技术,允许每个用户拥有并完全控制自己的节点服务器。我们来具体看下与苹果的 PCC 有哪些不同。
Terminus 的主要组件和功能包括 Snowinning Protocol(雪片身份协议),这是一种根据 W3C 互联网规范委员会 DID 规范开发的、集成了信誉管理的用户身份协议。
如果说比特币赋予了财产自主权,那么 DID 则赋予了用户身份自主权。很多人了解比特币的意义,但是极少数人了解身份的意义。很简单的一个道理,没有了数字身份,个人数字财产权归属于谁呢?实际上,数字货币的公私钥就是一种账户体系。就像数字货币钱包就是管理数字货币账户的软件,DID 规范指导了用户数字身份体系。Terminus 的 DID 代表了用户在数字世界的身份证。
雪片协议的组成部分包括部署于 OP 的用户(含个人用户和组织)注册智能合约(TerminusDID ),用户名(Terminus Name)和可验证身份(VC)。
举例来看,当一名叫 Alice 的用户想联系一名叫 Bob 的用户时,其工作流程图如下:
此外,Terminus 还包括 TermiPass 客户端软件、Terminus OS 等组件。其中 Terminus OS 是 Terminus 的核心,管理用户的数字存在,包括用户数据和隐私计算平台,支持用户数据管理、应用商店、大模型管理、Agent 管理等功能。通过这些设计,Terminus 提供了一个用户完全自主控制的数字孪生体操作系统。
具体来看,在 Terminus OS 的应用商店中,支持第三方软件的开发部署。根据安全管理级别和使用范围,分为系统软件、用户软件、社群软件和集群软件。所有的软件都可以无许可的上架到应用商店,供用户下载使用。
在大模型管理中,用户可以选择任何在应用商店上架的开源大模型,就像安装手机 app 一样的一键安装大模型,然后使用本地的用户数据作为 RAG 来微调自己的大模型。
安装后的大模型,进一步可以通过内置的 dify.ai 用户界面来使用和管理。dify 支持链接远程大模型(比如 OpenAI 的 GPT 模型)或者本地部署的大模型,并且支持基于本地数据微调的大模型训练产生的 Agent。
Terminus 分为个人云和个人硬件服务器两个版本。这里以个人云版本的管理员角色为例介绍一下用户使用流程:
打开 Terminus 后,会进入 Terminus 桌面。内置的应用包括用来管理密钥的 Vault、文件浏览器、应用商店(Market)、个人阅读推荐(Wise)。
这里介绍一下使用 Terminus 部署并且根据本地数据微调产生的一个 Agent 案例。
然后在应用商店的左下角点击 My Terminus,然后 load 大模型(Terminus 同一时间只运行一个大模型,当 load 一个新的大模型的时候就会自动卸载正在运行的大模型)。
到 Terminus 的应用驾驶舱,打开 Dify,就可以参考 Dify 使用手册使用了。如果选择发布自己生成的 Agent,就可以对外提供服务。
随着 AI 能力的增强和数字生产边际成本的降低,机器人将在许多领域取代人类,人类将成为稀有而宝贵的资源。在数字世界中证明自己的身份将变得越来越具有挑战性。用户自我控制需要承担相应的责任,这可能会对用户体验造成挑战,而大公司在透明度方面的记录一直不佳。如何平衡用户隐私需求和用户体验将是未来产品设计的挑战。
苹果的 PCC 和 Terminus 展示了两种不同的个人云计算解决方案,一种是封闭且高度定制化的,另一种则是开源且用户自主控制的。随着用户在线时间的增加和数据量的积累,个人云计算平台将成为保护用户隐私和数据主权的关键工具。同时,开源的大模型和个人数据训练将使得每个用户都能够生成自己的数字孪生体,这将是未来产品设计和用户体验的重要方向。
从法律角度来看,本土没有互联网寡头负担的欧盟,已率先推出了 GDPR 法规,明确了客户数据所有权归属于用户,互联网公司必须提供用户删除数据的权利和用户数据迁移权(The right to data portability)。因此不管从技术角度还是法律角度,个人自主云的时机已经成熟。因为没有任何一个人愿意,第三方可以时时刻刻偷窥自己的大脑。目前通过苹果 PCC 和 Terminus,已能够有效地提供了一个用户完全自主控制的用户数字孪生体的操作系统。相对于苹果提供的武装到极致的共享个人云安全体系,Terminus 已从物理设备上实现个人云。
从未来发展的角度,数字孪生体的应用趋势也不可阻挡。现代人类的每天在线 个小时,随着像 Meta Glass 这样的智能设备普及,我们未来将会 24 小时在线。个人云作为存储用户数据并且运行个人大模型的节点,就像是我们个人大脑在云端的延伸。随着 AI 功能的越来越强大,智能助手的功能也将越来越强大,可以想象智能助手会逐渐替代我们。
*请认真填写需求信息,我们会在24小时内与您取得联系。