智東西（公眾號：zhidxcom）
編譯 | 陳駿達(dá)
編輯 | Panken
這兩款“AI女友”應(yīng)用，正讓數(shù)十萬用戶的私密對話“裸奔”！
智東西10月11日消息，近日，網(wǎng)絡(luò)安全媒體Cybernews在互聯(lián)網(wǎng)上發(fā)現(xiàn)了一個用于AI陪伴應(yīng)用的流媒體與內(nèi)容傳輸系統(tǒng)，該系統(tǒng)未受保護(hù)，完全暴露。這一漏洞直接導(dǎo)致40萬名用戶的數(shù)據(jù)、4300多萬條私密消息以及超過60萬張圖片與視頻（包含用戶上傳及AI生成內(nèi)容）被泄露。
出現(xiàn)安全漏洞的這兩款A(yù)I陪伴應(yīng)用在安卓與iOS平臺上均可使用，名為“Chattee Chat – AI Companion”與“GiMe Chat – AI Companion”，均提供應(yīng)用內(nèi)購買服務(wù)，有用戶甚至在其中充值了1.8萬美元（約合人民幣12.8萬元）。
截至事件曝光時，其中一款應(yīng)用Chattee仍在蘋果App Store的“娛樂”分類中排名第121位，第三方估計其在平臺上的下載量已超過30萬次，并獲得數(shù)百條正面評價，用戶主要來自美國。另一款應(yīng)用GiMe Chat的知名度相對較低。
▲Chattee的App Store頁面（圖源：Cybernews）
Cybernews研究團(tuán)隊(duì)稱：“其中幾乎沒有任何內(nèi)容可被視為‘適合在工作場合瀏覽’，這次令人擔(dān)憂的泄露事件凸顯出一個巨大的鴻溝——用戶在這些AI陪伴應(yīng)用中傾訴最隱私的情感與欲望，卻因開發(fā)者的安全疏忽而暴露無遺。”
一、40萬用戶數(shù)據(jù)外泄，私密內(nèi)容被公開訪問
公開暴露的流媒體與內(nèi)容傳輸系統(tǒng)實(shí)際上是一個Kafka Broker實(shí)例。該實(shí)例負(fù)責(zé)接收來自生產(chǎn)者的消息、存儲這些消息，并將其提供給消費(fèi)者。
使用這一未受保護(hù)的Kafka Broker實(shí)例的兩款應(yīng)用，由總部位于香港的Imagime Interactive Limited開發(fā)。該公司在其隱私政策中表示：“我們深知個人信息對您的重要性，因此高度重視個人隱私保護(hù)?！?/p>
然而，Cybernews研究人員發(fā)現(xiàn)，該泄露的實(shí)例未設(shè)置任何訪問控制或身份驗(yàn)證機(jī)制——任何持有鏈接的人都能直接訪問系統(tǒng)內(nèi)容，包括用戶發(fā)送和接收的全部數(shù)據(jù)。
泄露的超40萬用戶注冊數(shù)據(jù)表明，66.3%的受影響用戶為iOS用戶，其余約1/3來自安卓平臺。在調(diào)查期間，Chattee應(yīng)用已從Google Play商店下架，開發(fā)者隨后引導(dǎo)用戶通過APK文件自行安裝。
盡管泄露信息中未包含用戶姓名或郵箱等直接身份信息，但IP地址與設(shè)備唯一識別碼（UUID）均被公開，攻擊者可借助以往數(shù)據(jù)泄露記錄將其與具體個人匹配。
▲泄露的部分信息，敏感信息已被隱去（圖源：Cypernews）
研究顯示，用戶在應(yīng)用中頻繁互動，平均每位用戶向AI伴侶發(fā)送107條消息，并上傳多張圖像與視頻。這些資料可能被惡意人士用于識別、勒索或騷擾用戶。
此外，媒體文件同樣未設(shè)訪問權(quán)限，外部任何人都能瀏覽或下載用戶上傳、購買或AI生成的內(nèi)容。
二、百萬美元收入背后，AI陪伴經(jīng)濟(jì)的安全隱憂
泄露的應(yīng)用內(nèi)購買記錄顯示，部分用戶在虛擬貨幣充值上的花費(fèi)高達(dá)18000美元。盡管此類極端案例較少，但交易記錄顯示，開發(fā)商的總體收入可能已超過100萬美元。
更令人擔(dān)憂的是，研究人員發(fā)現(xiàn)認(rèn)證令牌（authentication tokens）同樣被泄露，這意味著黑客可借此劫持賬戶并盜取虛擬貨幣。盡管此類貨幣的實(shí)際價值有限，但其潛在濫用風(fēng)險依然存在。
Cybernews在發(fā)現(xiàn)問題后已負(fù)責(zé)任地通知開發(fā)商，目前該Kafka Broker實(shí)例已被關(guān)閉。
然而，研究團(tuán)隊(duì)警告稱，不確定是否有黑客已獲取相關(guān)數(shù)據(jù)。該服務(wù)器早已被多個物聯(lián)網(wǎng)搜索引擎索引，而黑客通常會主動掃描常用端口尋找可入侵的服務(wù)。
研究人員強(qiáng)調(diào)，將“AI女友”應(yīng)用的數(shù)據(jù)與真實(shí)身份相連，可能導(dǎo)致嚴(yán)重的聲譽(yù)損害，并對用戶的心理健康、生活及人身安全造成長期影響。泄露的數(shù)據(jù)極有可能被用于性勒索（sextortion）、定向網(wǎng)絡(luò)釣魚（spearphishing）等攻擊。
這類Kafka實(shí)例暴露事件并非個例。Cybernews研究人員此前也發(fā)現(xiàn)過多個未受保護(hù)的實(shí)例，涉及巴西醫(yī)療巨頭Unimed、土耳其某外賣平臺、家長監(jiān)控應(yīng)用KidSecurity以及Shopify插件開發(fā)商等。
Cybernews的研究者認(rèn)為，Kafka Broker系統(tǒng)應(yīng)啟用身份驗(yàn)證、限制訪問IP，并配置嚴(yán)格的訪問控制，這是防止類似隱私災(zāi)難的基本安全措施。
同時，用戶也需意識到，與AI陪伴對象的對話并非完全私密。這類應(yīng)用的公司往往未妥善保護(hù)其系統(tǒng)，使用戶的私密聊天和共享內(nèi)容隨時可能被惡意者利用牟利。
結(jié)語：安全問題已成AI陪伴應(yīng)用關(guān)鍵挑戰(zhàn)
AI陪伴應(yīng)用正成為不少人情感表達(dá)和傾訴的出口。但正如Cybernews近日曝光的數(shù)據(jù)泄露事件所顯示的那樣，這類應(yīng)用也可能讓用戶的私密對話、影像甚至身份信息暴露在互聯(lián)網(wǎng)上。
事實(shí)上，這并非AI陪伴應(yīng)用首次引發(fā)爭議。此前，知名AI陪伴應(yīng)用Character.AI就因一起悲劇性事件被訴至法院：一名14歲少年在與平臺聊天機(jī)器人頻繁互動后選擇自殺，其母親隨后起訴Character.AI及其開發(fā)者，指控其存在設(shè)計缺陷、缺乏安全保護(hù)措施，并未對未成年人提供必要防護(hù)。
這些事件也為AI陪伴產(chǎn)業(yè)敲響了警鐘，隨著AI角色越來越“像人”，相關(guān)企業(yè)或許需要在法律、倫理和社會責(zé)任方面劃清界限，主動建立安全、透明的使用規(guī)范。
