國(guó)家網(wǎng)信辦《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見(jiàn)稿）》出臺(tái)，標(biāo)志我國(guó)AI情感服務(wù)監(jiān)管邁入精細(xì)化階段。當(dāng)前，從“賽博戀人”到適老陪伴，擬人化AI已深度滲透生活場(chǎng)景，但市場(chǎng)擴(kuò)張背后的風(fēng)險(xiǎn)亟待規(guī)制，這份意見(jiàn)稿的及時(shí)推出成為破局關(guān)鍵。

隨著數(shù)字化進(jìn)程加速與社會(huì)結(jié)構(gòu)變遷，公眾的情感陪伴、心理慰藉需求日益凸顯且呈現(xiàn)多元化、個(gè)性化特征。擬人化AI憑借情感代入優(yōu)勢(shì)，快速落地于文化傳播、養(yǎng)老陪伴等領(lǐng)域，“虛擬男友”“AI聊愈師”等服務(wù)層出不窮，甚至成為部分群體的情感寄托。數(shù)據(jù)顯示，從2024年開(kāi)始，中國(guó)AI伴侶類應(yīng)用月活用戶突破千萬(wàn)，頭部產(chǎn)品付費(fèi)轉(zhuǎn)化率超15%，用戶日均使用時(shí)長(zhǎng)普遍超3小時(shí)，未成年人與老年人占比持續(xù)攀升。AI情感服務(wù)需求爆發(fā)的同時(shí)，行業(yè)亂象同步滋生，行業(yè)標(biāo)準(zhǔn)缺失導(dǎo)致服務(wù)質(zhì)量良莠不齊，既有合規(guī)的智能陪伴產(chǎn)品，也不乏打擦邊球的低俗服務(wù)，行業(yè)整頓迫在眉睫。

本次出臺(tái)的意見(jiàn)稿精準(zhǔn)瞄準(zhǔn)行業(yè)痛點(diǎn)，明確三大核心規(guī)范方向。在主體責(zé)任層面，要求企業(yè)建立全生命周期安全管理體系，配備專業(yè)內(nèi)容審核與心理干預(yù)團(tuán)隊(duì)；用戶規(guī)模達(dá)100萬(wàn)或月活10萬(wàn)以上的平臺(tái)，必須開(kāi)展安全評(píng)估并提交報(bào)告。在風(fēng)險(xiǎn)防控層面，設(shè)置2小時(shí)使用彈窗提醒、極端情緒人工接管等硬性措施，一旦發(fā)現(xiàn)用戶有自殺、自殘傾向，需立即由人工接管對(duì)話并聯(lián)絡(luò)監(jiān)護(hù)人，斬?cái)喑撩耘c危機(jī)鏈條。在特殊保護(hù)層面，未成年人需經(jīng)監(jiān)護(hù)人同意方可使用，家長(zhǎng)可查閱使用記錄、設(shè)置屏蔽內(nèi)容；同時(shí)嚴(yán)禁AI模擬老年人親屬，從源頭防范養(yǎng)老詐騙。

新規(guī)落地將推動(dòng)行業(yè)生態(tài)向規(guī)范化方向升級(jí)。對(duì)企業(yè)而言，中小機(jī)構(gòu)需淘汰“情感操控變現(xiàn)”的灰色模式，頭部企業(yè)可依托合規(guī)優(yōu)勢(shì)搶占市場(chǎng)，逐步形成“安全優(yōu)先”的競(jìng)爭(zhēng)格局。對(duì)用戶而言，未成年人與老年人將獲得專屬保護(hù)網(wǎng)，普通用戶的隱私安全更有保障：新規(guī)明確用戶可隨時(shí)刪除交互數(shù)據(jù)，且未經(jīng)單獨(dú)同意不得將數(shù)據(jù)用于模型訓(xùn)練。從長(zhǎng)遠(yuǎn)來(lái)看，規(guī)范并非限制創(chuàng)新，意見(jiàn)稿鼓勵(lì)企業(yè)在文化傳播、適老服務(wù)等領(lǐng)域拓展合法應(yīng)用，推動(dòng)AI從“情感玩具”升級(jí)為“民生助手”。技術(shù)向善離不開(kāi)制度護(hù)航，擬人化AI的核心價(jià)值在于彌補(bǔ)情感需求缺口，而非制造新的社會(huì)風(fēng)險(xiǎn)。

給AI情感服務(wù)套上“緊箍咒”，本質(zhì)上是為其安裝“導(dǎo)航儀”和“安全閥”。作為全球首個(gè)AI擬人化服務(wù)專項(xiàng)監(jiān)管辦法，其出臺(tái)旨在劃定技術(shù)倫理邊界，讓AI的“溫柔”不越紅線。唯有在規(guī)范的框架下，創(chuàng)新才不會(huì)迷失方向，技術(shù)才能真正釋放其溫暖而強(qiáng)大的正向力量，成為構(gòu)建更加包容、和諧、健康的數(shù)字社會(huì)的有益助力。期待《暫行辦法》在吸納各方智慧完善后，能有效落地實(shí)施，引領(lǐng)中國(guó)AI情感服務(wù)行業(yè)穿越成長(zhǎng)的迷霧，駛向廣闊而光明的未來(lái)。