12月18日,抖音發布公告稱,平臺持續深化涉未成年人治理舉措,嚴禁用戶通過任何渠道、以任何形式發布涉未成年人不良內容。近一個月,針對涉未成年人的違規場景,平臺共清理相關違規內容超20萬條,對超8000個賬號處以清理違規增長粉絲、限制商業變現功能、禁言、封禁等不同梯度的處罰。
抖音表示,近期平臺發現部分用戶利用AI技術升級違規手段,侵害未成年人合法權益,具體表現為:AI生成未成年人低俗擦邊形象“養號漲粉”;AI生成虛假的未成年人“賣慘”內容,博取同情不當牟利;AI惡意魔改經典動畫、動漫和文學形象,炮制含有血腥、暴力、低俗等不良元素的“兒童邪典”內容,危害未成年人身心健康。平臺已下架相關違規內容,近一個月,對610個相關違規賬號全面禁言。
典型案例:
1、AI生成未成年人低俗擦邊內容,39個賬號被全面禁言
“雪*象”“群**”等賬號多次發布由AI生成的、穿著暴露且刻意突出敏感部位的幼態化形象,營造低俗擦邊觀感,借此“養號漲粉”。平臺立即下架相關違規內容,賬號因惡意違規已被無限期禁言。
2、AI生成未成年人賣慘內容,180個賬號被全面禁言
“1*2”“7*9”等賬號批量發布利用AI生成的“早產嬰兒住院”“寒冬中未成年背負柴火哭泣”等內容,刻意營造未成年人悲慘處境,并通過文案、話題標簽等誘導用戶評論區互動,以此吸粉引流。平臺已下架相關內容,并對賬號處以清理違規粉絲、限制商業變現、禁言處罰。
3、AI炮制暴力“邪典動畫”,391個賬號被全面禁言
“2*8”“1*g”等賬號打著“兒童動畫”標簽,用動畫人物形象制作AI視頻,演繹殘害肢體等血腥暴力、低俗恐怖畫面,危害未成年人身心健康。平臺已下架相關違規內容,并對賬號處以禁言處罰。
抖音表示,保護未成年人健康成長任重而道遠,需要家庭、學校、行業等社會各界廣泛參與、協同努力。平臺將持續強化技術手段,提升審核能力,加強對涉未成年人不良內容的全方位治理,與社會各界一道,共同筑牢未成年人網絡安全防線。
