央視揭露了一起利用AI技術冒充親屬欺騙老年人的事件。今年5月,在一列從烏魯木齊開往山西運城的列車上,乘警發現了一位79歲的老人。她不識字,只是一心想要去運城探望一個自稱是她在手機里認識的孩子“小海”。這位老人被屏幕中的“小海”所打動,視頻中“小海”稱自己沒錢吃飯,只能躲在教室吃饅頭,還說給老人留了肉包。直到乘警解釋這是AI生成的內容后,老人才意識到被騙。

實際上,這種現象并不罕見。在短視頻平臺上搜索“小海”,會發現多個類似的賬號,他們使用統一的人設和話術,通過賣慘吸引中老年女性的關注,最終目的是推銷高價商品。這些賬號背后的運營者通過簡單的AI技術和腳本就能快速生成內容,并且能迅速獲得大量粉絲和訂單。

這些賬號通常以單親、貧窮、孝順的形象出現,頻繁稱呼觀眾為“姨姨媽媽”,并通過掛購物車的方式進行變現。一些品牌的返傭比例高達50%以上,使得運營者能夠從中獲取高額利潤。老年人因為情感上的空虛,很容易被這種虛假的情感紐帶所蒙蔽,從而購買不必要的高價商品。

專家指出,這種行為不僅涉及民事欺詐,還可能構成刑事犯罪。雖然平臺已經要求對AI生成的內容進行標識,但實際效果并不理想。很多老年人并不理解這些標識的含義,反而認為這是孩子條件有限的表現。




