12月18日,抖音發(fā)布公告稱,平臺持續(xù)深化涉未成年人治理舉措,嚴(yán)禁用戶通過任何渠道、以任何形式發(fā)布涉未成年人不良內(nèi)容。近一個月,針對涉未成年人的違規(guī)場景,平臺共清理相關(guān)違規(guī)內(nèi)容超20萬條,對超8000個賬號處以清理違規(guī)增長粉絲、限制商業(yè)變現(xiàn)功能、禁言、封禁等不同梯度的處罰。
抖音表示,近期平臺發(fā)現(xiàn)部分用戶利用AI技術(shù)升級違規(guī)手段,侵害未成年人合法權(quán)益,具體表現(xiàn)為:AI生成未成年人低俗擦邊形象“養(yǎng)號漲粉”;AI生成虛假的未成年人“賣慘”內(nèi)容,博取同情不當(dāng)牟利;AI惡意魔改經(jīng)典動畫、動漫和文學(xué)形象,炮制含有血腥、暴力、低俗等不良元素的“兒童邪典”內(nèi)容,危害未成年人身心健康。平臺已下架相關(guān)違規(guī)內(nèi)容,近一個月,對610個相關(guān)違規(guī)賬號全面禁言。
典型案例:
1、AI生成未成年人低俗擦邊內(nèi)容,39個賬號被全面禁言
“雪*象”“群**”等賬號多次發(fā)布由AI生成的、穿著暴露且刻意突出敏感部位的幼態(tài)化形象,營造低俗擦邊觀感,借此“養(yǎng)號漲粉”。平臺立即下架相關(guān)違規(guī)內(nèi)容,賬號因惡意違規(guī)已被無限期禁言。
2、AI生成未成年人賣慘內(nèi)容,180個賬號被全面禁言
“1*2”“7*9”等賬號批量發(fā)布利用AI生成的“早產(chǎn)嬰兒住院”“寒冬中未成年背負(fù)柴火哭泣”等內(nèi)容,刻意營造未成年人悲慘處境,并通過文案、話題標(biāo)簽等誘導(dǎo)用戶評論區(qū)互動,以此吸粉引流。平臺已下架相關(guān)內(nèi)容,并對賬號處以清理違規(guī)粉絲、限制商業(yè)變現(xiàn)、禁言處罰。
3、AI炮制暴力“邪典動畫”,391個賬號被全面禁言
“2*8”“1*g”等賬號打著“兒童動畫”標(biāo)簽,用動畫人物形象制作AI視頻,演繹殘害肢體等血腥暴力、低俗恐怖畫面,危害未成年人身心健康。平臺已下架相關(guān)違規(guī)內(nèi)容,并對賬號處以禁言處罰。
抖音表示,保護(hù)未成年人健康成長任重而道遠(yuǎn),需要家庭、學(xué)校、行業(yè)等社會各界廣泛參與、協(xié)同努力。平臺將持續(xù)強(qiáng)化技術(shù)手段,提升審核能力,加強(qiáng)對涉未成年人不良內(nèi)容的全方位治理,與社會各界一道,共同筑牢未成年人網(wǎng)絡(luò)安全防線。
