2025年，AI手機(jī)消息頻頻。

近日，蘋果被證實(shí)與多家中國廠商洽談，推動蘋果在中國手機(jī)中落地AI功能。

許多人可能對去年一場手機(jī)發(fā)布會上用AI一鍵下單2000杯咖啡的事記憶猶新。

當(dāng)時在場所有人發(fā)出歡呼，卻很少有人想到一個問題：手機(jī)內(nèi)置的AI助手是如何一鍵喚醒瑞幸小程序或者APP，并且實(shí)現(xiàn)支付的？

隨著人工智能浪潮席卷，硬件創(chuàng)新已走到摩爾定律極限，AI手機(jī)也正在成為兵家必爭的賽道。

2025年，AI一定會帶來變化，這種在行業(yè)內(nèi)幾乎已經(jīng)形成共識的判斷，也讓手機(jī)廠商把部署端側(cè)AI作為重要的硬件實(shí)踐場景，并冀望借此帶來手機(jī)消費(fèi)市場的新機(jī)會。

陸續(xù)有不少手機(jī)廠商推出AI手機(jī)：最早是三星，隨后蘋果也開始加入，2023年9月，蘋果推出了搭載了蘋果人工智能的手機(jī)iPhone16；國內(nèi)市場的競速者們也快速入局：OPPO在其海外手機(jī)上結(jié)合谷歌的大模型——Gemini，實(shí)現(xiàn)了AI功能；2024年10月，榮耀推出了AI手機(jī)……

根據(jù)第三方研究機(jī)構(gòu)Canalys的數(shù)據(jù)，2024年，全球有16%的AI智能手機(jī)出貨，到2028年，這一比例將上升至54%。

當(dāng)AI手機(jī)越來越智能，你的手機(jī)可能比你自己更懂你。它獲知你所思所想，并幫助你完成所有事務(wù)；它儲存了你所有的生物數(shù)據(jù)，會根據(jù)你的健康狀況提出規(guī)劃；它掌握你所有的生活習(xí)慣、口味偏好，能夠給你點(diǎn)一份你最喜歡的外賣……

一切都那么美好、便利，但在我們不易察覺的另一面，這可能意味著，在你的身邊，將存在一個數(shù)據(jù)的“黑洞”， 在不知情的情況下不斷吸食你的個人信息進(jìn)入黑洞中，在未被解釋的情況下，生成新的數(shù)據(jù)，左右你的生活與選擇。

智能體新命題

新技術(shù)奇點(diǎn)時刻，往往帶來革命性的產(chǎn)品，背后蘊(yùn)含著商業(yè)邏輯的顛覆，也帶來了新的行業(yè)挑戰(zhàn)。

在移動互聯(lián)網(wǎng)時代，APP掌握了用戶的流量入口，在AI Agent時代，流量入口成為了智能體，例如手機(jī)，更尖銳的問題是，與移動互聯(lián)網(wǎng)時期單個APP不同，AI手機(jī)要提供服務(wù)，需要掌握個人數(shù)據(jù)的全集——例如位置信息、通訊記錄、瀏覽習(xí)慣、生物特征等數(shù)據(jù)，這讓數(shù)據(jù)隱私保護(hù)的范圍和鏈條更為復(fù)雜。

“手機(jī)，是一場數(shù)據(jù)革命。”尚隱科技有限公司CEO張仁卓如是說。

在這場數(shù)據(jù)革命之下，對于隱私數(shù)據(jù)的使用更加隱蔽、復(fù)雜、難以界定；原有的法律法規(guī)難以適應(yīng)AI智能體時代的隱私保護(hù)規(guī)則；云廠商、大模型廠商、APP廠商以及手機(jī)廠商在數(shù)據(jù)使用上的責(zé)任究竟如何厘清邊界，確保在危險或惡性事件發(fā)生時，有人為此負(fù)責(zé)？

我們與多位業(yè)內(nèi)人士交流，試圖理清，智能體時代下的數(shù)據(jù)泄漏風(fēng)險何在？在當(dāng)下又該如何預(yù)防？

“這是一個新命題。”一位從事數(shù)據(jù)隱私保護(hù)多年的專家表示，“但提出問題本身，就是意義。”

爭奪流量入口，是一切與數(shù)據(jù)有關(guān)的商業(yè)底層邏輯。另一個邏輯則是，在生成式AI時代，需要借助個人數(shù)據(jù)提供服務(wù)的相關(guān)方變多，其中不可避免進(jìn)入了如今隱私保護(hù)法規(guī)的“盲點(diǎn)”。

移動互聯(lián)網(wǎng)時代，APP是流量入口，APP廠商通過獲得用戶允許的個人數(shù)據(jù)，進(jìn)行脫敏處理之后，為其所用。

在AI Agent時代，大模型降低了人機(jī)交互的門檻，人們通過自然語言即可與機(jī)器進(jìn)行溝通，此時，AI Agent取代APP，成為了與用戶交流溝通的方式，也成為了流量入口，這意味著數(shù)據(jù)的控制權(quán)，手機(jī)也希望為用戶直接提供服務(wù)。

但與移動互聯(lián)網(wǎng)時代不同的是，相比于APP對個人信息獲取的范圍，手機(jī)所需要的個人信息更多，是所有個人數(shù)據(jù)的全集，其接觸的數(shù)據(jù)更深、更為底層。從生態(tài)來看，這將會造成新的“贏家通吃”，也使消費(fèi)者的面臨更復(fù)雜的信息迷宮，泄漏的風(fēng)險大，甚至陷阱重重，難以預(yù)料。換句話說，AI手機(jī)成為了數(shù)據(jù)泄露的高風(fēng)險點(diǎn)，并且這種泄漏造成的后果，更甚于移動互聯(lián)網(wǎng)時代的APP。

首先，手機(jī)擁有對數(shù)據(jù)的更高權(quán)限。過去，APP是個人信息的主要收集者，但這并不意味著手機(jī)就無法接觸到個人數(shù)據(jù)，只是彼時手機(jī)廠商如果需要獲取數(shù)據(jù)，恐怕需要跟眾多APP廠商進(jìn)行繁瑣的拉扯與博弈，在用戶同意授權(quán)的前提下。這種高權(quán)限的體現(xiàn)在于，第一，用戶無法刪除手機(jī)出廠自帶的應(yīng)用；另外，手機(jī)的一些應(yīng)用是可以在后臺無感知運(yùn)行，例如我們?nèi)缃耠S叫隨到的“Siri”、“小愛同學(xué)”等，用戶很難察覺哪些應(yīng)用還在運(yùn)行中，數(shù)據(jù)可能就在這個過程中不知不覺中被讀取；一旦AI手機(jī)助手能夠幫你操作手機(jī)，如果讓手機(jī)幫忙點(diǎn)一杯咖啡，最后會跳轉(zhuǎn)至支付界面，需要用戶手動輸入，但業(yè)內(nèi)人士表示，從技術(shù)上并不需要手動輸入密碼，手機(jī)完全有能力獲知密碼信息。

其次，手機(jī)所接觸的數(shù)據(jù)更多、更敏感也更為深入。“手機(jī)最牛的在于它的屏幕。”一位數(shù)據(jù)隱私保護(hù)專家表示，他通過屏幕與人發(fā)生交流，而用戶通過手機(jī)屏幕了解一切信息，屏幕的控制權(quán)在手機(jī)廠商手中，這就意味著，當(dāng)用戶在屏幕上展示信息的那一刻，就相當(dāng)于向手機(jī)廠商公開了全部數(shù)據(jù)——它可以通過屏幕窺探到你的所有隱私。曾經(jīng)，屏幕可能只是展示信息的功能，未來“屏幕可能就是一個流量入口”。

技術(shù)與監(jiān)管的博弈

面對這種高權(quán)限以及全方位獲取個人數(shù)據(jù)的角色，如今并沒有明確的約束其獲取數(shù)據(jù)能力的法律或規(guī)定。

數(shù)據(jù)鏈條中，涉及手機(jī)廠商、云廠商、APP廠商，或許還包括第三方模型廠商。而數(shù)據(jù)獲取途徑也增多，“你無法每一項(xiàng)都詢問一次同意。”前述專家表示。這并不僅是復(fù)雜度的問題，而是難以界定的處理方式。

在新技術(shù)快速發(fā)展之際，技術(shù)總是先于法律法規(guī)先行。

目前手機(jī)廠商獲得推進(jìn)端側(cè)大模型分為意圖框架、識屏+模擬點(diǎn)擊兩大路線，意圖框架需要獲得app廠商支持和加入，雙方共建生態(tài)。而識屏+模擬點(diǎn)擊的路線，指的是通過對手機(jī)屏幕截屏、理解和分析屏幕內(nèi)容，通過模擬點(diǎn)擊腳本，實(shí)現(xiàn)繞過第三方app授權(quán)，即可操作手機(jī)內(nèi)部功能，這種方式顯然更加快捷。

目前，通過一句指令，讓手機(jī)點(diǎn)開外賣APP幫用戶點(diǎn)一杯外賣的方式，其更多采用的是“識屏+模擬點(diǎn)擊”的技術(shù)路線，并開啟了“無障礙權(quán)限”功能。“這種方式一定會導(dǎo)致嚴(yán)重的安全隱患，以及‘踢皮球’的問題。”前述數(shù)據(jù)安全專家表示。其中的關(guān)鍵，就是“無障礙權(quán)限”功能。這一功能，也被視為是最高風(fēng)險等級的功能，該功能一開，相當(dāng)于一扇被去掉了鎖的超市大門。

最初，“無障礙權(quán)限”原本是為了方便殘障人士使用手機(jī)而設(shè)置的特殊功能，另一個使用無障礙權(quán)限的合法場景是自動化測試，可以打破各個APP之間的沙箱隔離機(jī)制。

漢華信安總經(jīng)理彭根長期從事手機(jī)端側(cè)安全研究，其在一次研討會中指出，無障礙權(quán)限能做四件事——監(jiān)控屏幕，即對所有的內(nèi)容，都在監(jiān)控范圍內(nèi)，并且監(jiān)控速度很快，在零點(diǎn)幾秒的時間，屏幕的所有文字都會被讀走；另外，代替用戶進(jìn)行點(diǎn)擊、滑動、輸入；第三，打破沙箱隔離機(jī)制。

所謂的“沙箱隔離機(jī)制”，是一種安全技術(shù)，用于限制APP的訪問權(quán)限和操作范圍，確保每個應(yīng)用程序是在獨(dú)立、封閉的環(huán)境中運(yùn)行，防止其對系統(tǒng)和其他應(yīng)用程序造成干擾和破壞。但無障礙權(quán)限則可以打破這種安全機(jī)制，甚至優(yōu)先于用戶自身，讀取全部手機(jī)的信息。無障礙權(quán)限，被定為“高危權(quán)限”，在點(diǎn)擊一次“同意”之后，手機(jī)很可能不會再做出提醒，因此用戶極容易在不知情的情況下開啟了無障礙權(quán)限，也就相當(dāng)于將自己的隱私暴露給了手機(jī)。

用戶是否可以感知到手機(jī)正在后臺獲取數(shù)據(jù)？識屏功能能否被識別？筆者嘗試詢問了多位技術(shù)專家，均表示目前尚且無法從技術(shù)上解決這個問題。

另一方面來自手機(jī)AI的技術(shù)帶來的隱患，來自端云的結(jié)合。

當(dāng)數(shù)據(jù)存儲在本地時，用戶自己就是終極個人信息處理者，但在大模型時代，本地部署很多時候無法滿足其對數(shù)據(jù)量以及功能的需求，端云結(jié)合的方式不可避免。

在端云協(xié)同中，數(shù)據(jù)流通的鏈路逐漸增多，涉及到的相關(guān)方也增多，不光是手機(jī)廠商，還有云廠商、APP廠商，甚至可能涉及到第三方大模型廠商，每個鏈路、每一個環(huán)節(jié)都不同程度參與了數(shù)據(jù)的收集和處理，甚至影響整個服務(wù)的提供，數(shù)據(jù)的交互流通也變得更加復(fù)雜。如何分配以及明確每個環(huán)節(jié)的責(zé)任，這給了數(shù)據(jù)隱私保護(hù)政策的制定，帶來了困難。

“下游產(chǎn)品對人工智能的使用可能遠(yuǎn)超于人工智能系統(tǒng)開發(fā)人員最初的設(shè)想，此時應(yīng)如何平衡與區(qū)分各方主體的責(zé)任？再者，就具體的責(zé)任承擔(dān)而言，應(yīng)當(dāng)要求人工智能系統(tǒng)的開發(fā)人員和部署人員在多大程度上、多長時間內(nèi)保留何種類型的系統(tǒng)文檔材料，以實(shí)現(xiàn)問責(zé)判斷。”金杜研究院合伙人寧宣鳳、吳涵等人在一篇文章中提及。

除了風(fēng)險，也涉及到利益分配。一位長期從事數(shù)據(jù)隱私政策研究的專家表示，如果手機(jī)可以讀取所有的數(shù)據(jù)，同時也包括APP通過收集個人信息，并進(jìn)行加工處理后的數(shù)據(jù)，這當(dāng)然需要APP廠商付出成本，如果手機(jī)廠商零成本獲取這些數(shù)據(jù)，對APP廠商而言并不公平。“從這個角度來說，單純從個人信息的角度來分析，是不夠的。”前述專家表示。

“這并不是一個單純的一事一議的這樣一種治理的回應(yīng)，不是一個權(quán)限的管理，它是原權(quán)限、原治理的問題。”北京大學(xué)政府管理學(xué)院教授馬亮表示。

此外，在流通過程中，大模型至今無法解決的“數(shù)據(jù)黑箱”，同樣使用戶并不知道數(shù)據(jù)最后如何被流通，又是如何被處理。

手機(jī)廠商的嘗試

一些手機(jī)廠商在信息保護(hù)方面做了嘗試。

一些手機(jī)廠商在宣傳中，提出關(guān)注端側(cè)AI的能力，但如今的現(xiàn)實(shí)是端側(cè)很難實(shí)現(xiàn)一些復(fù)雜的AI功能，端云結(jié)合依然是手機(jī)廠商難以繞過的坎兒，一個堅(jiān)不可摧的云服務(wù)城墻至關(guān)重要。

當(dāng)端側(cè)AI在如今大模型的今天很難實(shí)現(xiàn)的情況下，私有云，對于手機(jī)廠商來說或許是一個更好的選擇。

尚隱科技有限公司CEO張仁卓在一次論壇中，描述了蘋果和谷歌在數(shù)據(jù)安全上的做法。

以蘋果公司為例，在蘋果的生態(tài)中，不光集合了蘋果自身的AI，還接入了其他大模型公司，還有一些小模型公司，蘋果AI努力采用本地AI代理的模式，另一方面，蘋果在私有云上拓展了一塊安全性很高的空間，這個安全性很高的空間體現(xiàn)在，第一是無狀態(tài)的計算，數(shù)據(jù)上下游之間沒有關(guān)系。

舉一個簡單的例子，當(dāng)用戶隨機(jī)進(jìn)了一個餐館，這個餐館不會知道用戶以前進(jìn)了哪些餐館。另一點(diǎn)則是沒有特權(quán)訪問，包括蘋果自身，也不能在未經(jīng)用戶同意的情況下訪問用戶數(shù)據(jù)，同時蘋果將用戶特征的信息隱藏，并提供了可驗(yàn)證的透明度。如果需要使用第三方AI時，蘋果的做法是，不提供IP，第三方AI不存儲數(shù)據(jù)。

谷歌的做法邏輯與蘋果類似，其采用的密封計算技術(shù)，便可理解為，在云上開辟一塊空間，供AI使用。數(shù)據(jù)在傳輸、存儲和處理時均保持加密狀態(tài)，即使在內(nèi)存中處理，數(shù)據(jù)也保持加密狀態(tài)，防止未經(jīng)授權(quán)的訪問。在這樣的狀態(tài)下，多個參與方在不暴露各自數(shù)據(jù)的情況下進(jìn)行聯(lián)合計算，同時，會在數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等場景中保護(hù)用戶隱私。

AI風(fēng)險，敏捷治理

目前業(yè)內(nèi)共識，更多還是基于原有的法律，更準(zhǔn)確地說，是基于舊有法規(guī)的新組合方式。

“現(xiàn)有的法律和法規(guī)對于目前的AI助手，仍然適用”。多位從業(yè)者表示。對于AI手機(jī)，目前最重要的就是對收集的信息的處理和使用的問題，而無論是網(wǎng)絡(luò)安全法、個人信息安全保護(hù)法等，都對信息使用和處理作了相關(guān)規(guī)定。另外，中國在信息領(lǐng)域的監(jiān)管還在及時適時而變，增加新的內(nèi)容。“目前監(jiān)管已經(jīng)在關(guān)注，或者說已經(jīng)在介入監(jiān)管了。”專家表示。

美國的做法或許是一個參考，美國NIST在今年1月26日發(fā)布的《AI風(fēng)險管理框架1.0》是一個很好的參考。

美國在數(shù)據(jù)安全上，依靠各州法律以及行業(yè)自律。在這份AI風(fēng)險管理框架中，包括治理、映射、測量和管理的四個板塊。

治理模塊包括了法律法規(guī)、風(fēng)險活動級別確定、責(zé)任劃分與認(rèn)定、勞動力的多樣性和公平性以及文化宣傳、反饋機(jī)制、第三方風(fēng)險管理；映射主要用于確定特定場景與其對應(yīng)的AI風(fēng)險解決方案，例如會對AI系統(tǒng)的預(yù)期用途以及風(fēng)險作出背景評估、考慮參與者的多樣性、理解AI技術(shù)的目標(biāo)、商業(yè)價值以及監(jiān)督機(jī)制的評估等；測量主要采用定量和/或定性的工具、技術(shù)和方法來分析、評估、測試和監(jiān)控AI風(fēng)險及其相關(guān)影響，例如一些可信度評估、涉及的自然人評估等；管理主要是將相關(guān)資源分配給相應(yīng)的AI風(fēng)險，進(jìn)行風(fēng)險處置。

這樣的方式，既對AI風(fēng)險進(jìn)行框定，確保這些行為在框架內(nèi)的運(yùn)行，又給了一定的自由空間。既有事前的預(yù)防，也有事后風(fēng)險的跟蹤。

“有關(guān)您個人信息權(quán)益的條款重要內(nèi)容，我們已用加粗形式提示，請?zhí)貏e關(guān)注。”這是在下載DeepSeek時，點(diǎn)擊《隱私政策》，上面詳細(xì)披露了九點(diǎn)隱私政策相關(guān)的內(nèi)容，包括如何收集和使用個人信息；如何保護(hù)個人信息；如何實(shí)現(xiàn)管理個人信息的權(quán)利；如何保護(hù)未成年人的個人信息；如何更新版本政策以及聯(lián)系方式。

在DeepSeek的隱私政策中，提及了APP如何委托處理、共享、轉(zhuǎn)讓、公開披露個人信息的細(xì)節(jié)。例如合法原則、正當(dāng)與最小必要原則、安全審慎原則等，甚至在條款中，披露了第三方共享的清單，提出若具體功能和場景中涉及關(guān)聯(lián)方和第三方、第三方提供服務(wù)，則合作方范圍包括關(guān)聯(lián)方和第三方。

一些新的條款也在及時調(diào)整與增加，并根據(jù)已有的法律法規(guī)，針對具體問題做出新的調(diào)整和組合。

2025年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》，對于進(jìn)一步的自動化處理，甚至是人工智能一些新技術(shù)做了特殊的規(guī)定，要求網(wǎng)絡(luò)數(shù)據(jù)處理者如何使用自動化工具訪問數(shù)據(jù)的，需要對它帶來的服務(wù)進(jìn)行影響評估。還有就是不得干擾服務(wù)的網(wǎng)絡(luò)質(zhì)量的正常運(yùn)行，這是很針對AI手機(jī)數(shù)據(jù)收集問題。還要求提供生成式服務(wù)的數(shù)據(jù)處理者應(yīng)該加強(qiáng)對數(shù)據(jù)的安全管理，采取措施防止數(shù)據(jù)泄露，我們可以看到這些問題都是密切相關(guān)的。

個人信息保護(hù)影響評估，也是目前針對AI手機(jī)隱私保護(hù)的可行方式。前述專家表示，他如今的主要工作就是針對這些AI助手，進(jìn)行個人信息保護(hù)影響的評估。

中國《個人信息保護(hù)法》要求，在某些情況下進(jìn)行個人信息保護(hù)影響評估（PIA），以確保個人信息處理活動的合法性和安全性，一共有五種場景：

• 處理敏感個人信息：敏感個人信息包括生物識別、宗教信仰、醫(yī)療健康、金融賬戶、行蹤軌跡等；

• 利用個人信息進(jìn)行自動化決策：如通過算法進(jìn)行用戶畫像、自動化推薦等；

• 委托處理個人信息、向第三方提供個人信息或公開個人信息；

• 向境外提供個人信息；

• 其他對個人權(quán)益有重大影響的個人信息處理活動。

其中評估的內(nèi)容包括，個人信息處理的目的、方式等是否合法、正當(dāng)和必要；評估數(shù)據(jù)處理活動可能對個人權(quán)益（如隱私、財產(chǎn)、名譽(yù)等）產(chǎn)生的影響以及所采取的保護(hù)措施是否合法、有效并與風(fēng)險程度相適應(yīng)。

現(xiàn)在針對AI手機(jī)所出現(xiàn)的新的場景就屬于第五點(diǎn)的內(nèi)容，“如果我們可以用評估的視角提前介入，就能夠把風(fēng)險降低到可控范圍，讓應(yīng)用先落地做起來。”前述專家表示。

“讓子彈飛一飛。”是目前業(yè)界更為贊同的做法，盡可能不傷害行業(yè)的發(fā)展，進(jìn)行敏捷治理。“敏捷治理”或許是一種思路，觀韜中茂律師事務(wù)所合伙人王渝偉曾在采訪中提出了這個觀點(diǎn)，在一開始先制定頂層框架，在過程中不斷調(diào)整監(jiān)管治理和風(fēng)險控制的措施，在一些案例中不斷表明監(jiān)管的態(tài)度，并不斷調(diào)整監(jiān)管思路并釋放這種信號。

注：本文首發(fā)于虎嗅網(wǎng)，經(jīng)作者同意后進(jìn)行轉(zhuǎn)載