近日，非營利監(jiān)督機構(gòu)Media Matters發(fā)現(xiàn)，利用谷歌AI視頻工具Veo 3制作的短片段在TikTok上大量傳播，盡管明顯違反平臺規(guī)則，仍累積數(shù)百萬瀏覽量。這些時長8秒或更短的視頻包含種族主義和反猶太主義圖像，大多聚焦于對黑人、移民及猶太和亞裔群體的非人化刻畫，許多視頻帶有“Veo”水印，相關(guān)標簽和用戶名直接提及AI或Veo。谷歌5月推出的Veo 3本應(yīng)阻止宣揚暴力、虐待或歧視的內(nèi)容，但其安全過濾機制未能有效攔截惡意內(nèi)容。此類有害內(nèi)容還出現(xiàn)在YouTube、Instagram和X等平臺。谷歌計劃將Veo 3集成到Y(jié)ouTube Shorts，可能加劇風(fēng)險。盡管谷歌和TikTok均有禁止仇恨內(nèi)容的政策，但AI工具難辨種族意象背后的細微差別。