算法可以計算流量，但不能算計人心；技術(shù)可以模擬情感，但無法替代真實的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條，守護好每個人的數(shù)字安全與情感尊嚴(yán)，這是應(yīng)對“數(shù)字情感收割”的基本原則，也是技術(shù)向善的題中應(yīng)有之義。

短視頻平臺上，身著正裝、開著豪車、戴著金表的“儒雅霸總”，張口“姐姐”、閉口“想你”，噓寒問暖甚至下跪求婚……據(jù)4月13日新華社報道，這些“AI霸總”或是AI數(shù)字人，或是經(jīng)AI換臉、擬聲偽造的形象，話術(shù)直白，戳中不少老年粉絲的心意。即便視頻下方標(biāo)注著“內(nèi)容由AI生成”，一些老年粉絲依舊深信不疑。記者搜索關(guān)鍵詞發(fā)現(xiàn)，僅平臺推送來的“AI霸總”賬號就達上百個，數(shù)個賬號粉絲達到十幾萬。

嘴上都是“情意”，心里全是生意——“AI霸總”類賬號打著“高端人設(shè)”的幌子與老年人進行情感交流，為的是最大限度積累流量，后續(xù)通過多種方式變現(xiàn)，包括賺取平臺流量收益，開展帶貨、打賞或私域營銷活動，為婚戀、醫(yī)療、養(yǎng)老等其他商業(yè)機構(gòu)引流賺取傭金等。從AI數(shù)字人制作、文案批量生成，到引流、互動、轉(zhuǎn)化，每一環(huán)都在算計如何從老人的情感需求中榨取價值。

“AI霸總”圍獵老年人，本質(zhì)上是對人性弱點的精準(zhǔn)攻擊。一方面，時下，獨居、空巢是不少銀發(fā)群體的常態(tài)，“霸總”人設(shè)中的“霸道寵溺”“專一深情”，填補了一些老年人的情感空白。另一方面，銀發(fā)群體中的不少人對AI技術(shù)的認(rèn)知有限，難以理解“眼見未必為實”的道理。此外，技術(shù)手段大幅降低了“AI換臉”“擬聲合成”的成本，加之平臺算法持續(xù)為老年用戶推送同類高濃度內(nèi)容，從而令一些銀發(fā)族陷入“情感空虛—邂逅霸總—尋求互動—被精準(zhǔn)收割”的窘境。

“AI霸總”讓一些老年人“上頭”的同時，也為其帶來多重風(fēng)險。在財產(chǎn)安全層面，從直播間帶貨、付費解鎖“專屬陪伴”，到誘導(dǎo)轉(zhuǎn)賬、投資“高回報項目”，老年人的養(yǎng)老錢可能被一步步掏空。在身心健康層面，過度沉迷虛擬互動，會加劇老年人現(xiàn)實中的孤獨感。在個人信息安全方面，老年人個人隱私信息可能被獲取，成為進一步精準(zhǔn)收割的“原料”。

曾經(jīng)，我們擔(dān)心老年人被“干兒子、干女兒”們誘騙買保健品；后來，一些老年人落入了短視頻平臺上的假明星騙局；再后來，“AI+”對銀發(fā)群體的誘騙成為了一套可批量復(fù)制的收割模型。這一過程中，圍獵手段從“人工話術(shù)”升級到“AI量產(chǎn)”，從“一對一突破”進化到“即使千人千面也能精準(zhǔn)營銷”……AI技術(shù)的迭代速度超過了治理的反應(yīng)速度。對此，相關(guān)部門已經(jīng)出臺規(guī)定對AI生成內(nèi)容進行強制標(biāo)注，但這顯然遠遠不夠。在AI技術(shù)快速發(fā)展的時代，相關(guān)治理需要多些未雨綢繆。

一方面，平臺方不能只為技術(shù)做“嫁衣”，還應(yīng)承擔(dān)起內(nèi)容審核的倫理責(zé)任；技術(shù)開發(fā)者在追求模型迭代的同時，也應(yīng)主動嵌入倫理設(shè)計；監(jiān)管部門則需依法嚴(yán)厲打擊利用AI實施的情感詐騙、虛假宣傳等行為，落實“誰使用、誰負(fù)責(zé)”的主體責(zé)任，讓“AI不是免責(zé)金牌”成為共識和鐵律。

另一方面，無論是家庭還是社會，需要進一步看見那些被忽視的情感需求與渴望?！癆I霸總”視頻的評論區(qū)里，有粉絲說“就算你是假的，我也愿意信一回?！笨梢姡瑵矞缫幌盗蠥I幻象與相關(guān)人群之間的“火花”，有必要以更可行、更智慧的方式滿足相關(guān)群體的情感需求，這需要各方伸出溫暖的手，拉相關(guān)群體走出“情感孤島”。

算法可以計算流量，但不能算計人心；技術(shù)可以模擬情感，但無法替代真實的關(guān)愛。阻斷AI幻象滲透和蔓延的鏈條，守護好每個人的數(shù)字安全與情感尊嚴(yán)，這是應(yīng)對“數(shù)字情感收割”的基本原則，也是技術(shù)向善的題中應(yīng)有之義。