小心AI伴侶背后的“溫柔陷阱”

來源標(biāo)題：小心AI伴侶背后的“溫柔陷阱”

隨著大模型技術(shù)快速發(fā)展，新型類人情感聊天機器人——“AI伴侶”日益流行。目前，市面上已有100多款由AI驅(qū)動的應(yīng)用程序，不僅能夠進行全天候情感交流，還可以滿足不同用戶的個性化需求。殊不知，用戶在享受溫柔陪伴的同時，一些法律風(fēng)險也悄然而至。

隱私可能被竊取和濫用

AI伴侶是指由人工智能技術(shù)驅(qū)動的可以通過與人類互動向人類提供情感支持的對話應(yīng)用程序，在智能化程序中可以模擬人類伴侶，滿足人類多元化需求，還可以廣泛應(yīng)用到心理、娛樂等多重領(lǐng)域。

據(jù)報道，一些使用AI伴侶軟件的用戶表示“沒開過定位權(quán)限，但AI伴侶可以精準(zhǔn)說出其所在城市”“未經(jīng)過授權(quán)，軟件就獲取了相機、相冊權(quán)限”“聊天期間切換到另一個軟件看視頻，再次回到此軟件后，AI伴侶能夠準(zhǔn)確說出自己剛才的行為”“AI伴侶能夠知曉用戶在日常生活中和朋友聊天談?wù)摰脑掝}”等，也有用戶反映AI伴侶軟件私自收集、處理個人信息，但事先并未明確向個人告知。

AI伴侶在提供服務(wù)的過程中，為了采集了解用戶的個人喜好，會采用私自讀取其他軟件信息、調(diào)用攝像頭、訪問相冊等方式來收集用戶的個人信息。特別是在未經(jīng)用戶明確同意的情況下，通過收集軟件下載數(shù)量與類型、軟件使用習(xí)慣、家庭關(guān)系、社交好友、通訊錄、地理位置、人臉識別、照片等信息并進行分析，為用戶進行精準(zhǔn)畫像，以便提供更為真實、貼切的陪伴。如果用戶的這些個人信息被收集利用，在存儲、傳輸、使用等環(huán)節(jié)一旦保護不當(dāng)，就面臨著隱私被竊取、泄露、濫用等風(fēng)險，用戶數(shù)據(jù)隱私亟待保護。

此外，一些不法分子或企業(yè)可能會濫用AI伴侶收集的數(shù)據(jù)、信息，進行不正當(dāng)?shù)纳虡I(yè)行為侵犯用戶權(quán)益。例如利用用戶數(shù)據(jù)進行精準(zhǔn)營銷、推送廣告等，或者進行非法活動，如詐騙、身份盜竊等，給用戶帶來財產(chǎn)損失。上述這些情況都可能造成信息泄露，會侵犯用戶的隱私權(quán)，對個人權(quán)益造成損害。

我國個人信息保護法第十七條規(guī)定，個人信息處理者在處理個人信息前，應(yīng)當(dāng)以顯著方式、清晰易懂的語言真實、準(zhǔn)確、完整地向個人告知下列事項：個人信息處理者的名稱或者姓名和聯(lián)系方式;個人信息的處理目的、處理方式，處理的個人信息種類、保存期限;個人行使本法規(guī)定權(quán)利的方式和程序;法律、行政法規(guī)規(guī)定應(yīng)當(dāng)告知的其他事項。《生成式人工智能服務(wù)管理暫行辦法》第十一條規(guī)定，提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補充、刪除其個人信息等的請求。《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》第十一條規(guī)定，網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)建立健全網(wǎng)絡(luò)數(shù)據(jù)安全事件應(yīng)急預(yù)案，發(fā)生網(wǎng)絡(luò)數(shù)據(jù)安全事件時，應(yīng)當(dāng)立即啟動預(yù)案，采取措施防止危害擴大，消除安全隱患，并按照規(guī)定向有關(guān)主管部門報告。個人信息保護法第六十六條規(guī)定，違反本法規(guī)定處理個人信息，或者處理個人信息未履行本法規(guī)定的個人信息保護義務(wù)的，由履行個人信息保護職責(zé)的部門責(zé)令改正，給予警告，沒收違法所得，對違法處理個人信息的應(yīng)用程序，責(zé)令暫停或者終止提供服務(wù);拒不改正的，并處100萬元以下罰款;對直接負責(zé)的主管人員和其他直接責(zé)任人員處1萬元以上10萬元以下罰款。

法官提醒

AI伴侶的開發(fā)平臺和服務(wù)提供者需要盡到提示義務(wù)，在收集信息時做好信息提示，以顯著的方式、清晰易懂的語言真實、準(zhǔn)確、完整、充分地告知用戶。同時，還需要設(shè)置一定的隱私邊界，建立更完善的數(shù)據(jù)保護和隱私管理機制，不得收集非必要個人信息，并儲存好收集到的個人信息，保護用戶個人隱私。違反相關(guān)規(guī)定處理個人信息的，需承擔(dān)相應(yīng)的行政責(zé)任，構(gòu)成犯罪的，將依法追究刑事責(zé)任。

用戶在使用AI伴侶時，應(yīng)謹(jǐn)慎提供個人信息，特別是敏感信息，如身份證號、銀行卡號等;同時也要仔細閱讀相關(guān)服務(wù)協(xié)議、隱私政策，定期查看并管理AI伴侶的獲取權(quán)限設(shè)置，確保不會泄露過多個人信息。

過度依賴影響身心健康

AI伴侶可能在不經(jīng)意間傳播違法和不良信息，如色情、暴力等內(nèi)容，一些不法分子也可能利用AI伴侶傳播違法內(nèi)容，對用戶的身心健康造成負面影響，甚至可能引發(fā)嚴(yán)重的社會問題。

目前全球已發(fā)生多起AI聊天誘發(fā)自我傷害等極端行為的案例，AI過度“擬人化”對心理脆弱者的嚴(yán)重影響不可忽視。國外一名男子在與AI聊天機器人就氣候危機進行了為期六周的對話后，AI聊天機器人在他提出“犧牲自己來拯救地球”后，鼓勵他結(jié)束自己的生命。

我國數(shù)據(jù)安全法第八條規(guī)定，開展數(shù)據(jù)處理活動，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠實守信，履行數(shù)據(jù)安全保護義務(wù)，承擔(dān)社會責(zé)任，不得危害國家安全、公共利益，不得損害個人、組織的合法權(quán)益。《新一代人工智能倫理規(guī)范》第十條提出強化自律意識，加強人工智能研發(fā)相關(guān)活動的自我約束，主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)，自覺開展自我審查，加強自我管理，不從事違背倫理道德的人工智能研發(fā)。《生成式人工智能服務(wù)管理暫行辦法》第十條規(guī)定，提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

法官提醒

作為AI伴侶的創(chuàng)造者和運營者，開發(fā)平臺和服務(wù)提供者需要積極履行社會責(zé)任，加強內(nèi)容監(jiān)管，并建立嚴(yán)格的內(nèi)容審核機制，通過內(nèi)容審核機制規(guī)范AI輸出所提供的內(nèi)容，避免出現(xiàn)含有敏感、違法和不良的信息。特別要注意對于用戶的心理疏導(dǎo)，通過大數(shù)據(jù)、算法分析，對于有自我傷害趨向的聊天要及時進行提醒、疏導(dǎo)、勸阻。同時也要嚴(yán)格定期向用戶發(fā)送使用提醒，避免用戶過度依賴AI伴侶，影響現(xiàn)實人際關(guān)系和身心健康。

用戶也應(yīng)增強自我保護意識，準(zhǔn)確把握使用尺度，避免因為沉浸于AI伴侶提供的情緒價值而遠離現(xiàn)實世界，影響身心健康。如果發(fā)現(xiàn)AI伴侶存在違法或不良行為，用戶應(yīng)及時向相關(guān)部門舉報，以維護自己的合法權(quán)益和社會公共利益。(作者：高珊)

標(biāo)簽：