新的AI视频工具助长TikTok上的暴力种族主义

TikTok上AI生成种族主义的令人不安的兴起

一个令人震惊的趋势是，社交媒体平台，特别是TikTok，正被大量AI生成的视频所淹没，这些视频充斥着暴力种族主义和仇恨刻板印象。这些复杂的创作，通常使用易于获得的文本到视频AI工具生成，吸引了数百万次观看，引发了对偏见传播以及数字时代内容审核挑战的严重担忧。这些视频的制作和传播的便捷性意味着有害叙事可以迅速获得关注，触及包括易受影响的年轻用户在内的广大受众。

这些AI工具，如谷歌的Veo 3和其他类似平台，允许用户通过简单的文本提示创建逼真的图像和视频。虽然这项技术为创造力和创新提供了巨大的潜力，但它也被武器化，用于制作明确的种族主义、反犹太主义和仇外心理的内容。这些视频经常采用种族主义的陈词滥调，以非人化的方式描绘边缘化群体，例如将黑人描绘成猴子或罪犯，并使用与食物或犯罪相关的有害刻板印象。这种可及性意味着创造此类内容的唯一限制是用户的种族主义想象力。

利用AI传播仇恨叙事

这些视频的泛滥凸显了先进AI能力与恶意意图之间令人担忧的交叉点。创作者正在利用这些工具来生成强化现有偏见和传播新型仇恨的内容。例如，一些视频利用AI以一种怪诞和剥削的方式描绘历史创伤，如集中营和对黑人的袭击。其他片段则通过使用冒犯性的语言和图像来嘲笑和非人化特定的族裔群体。这些视频在TikTok等平台上制作和共享的速度之快，意味着仇恨意识形态可以像野火一样传播，常常绕过旨在保护这些平台安全的审核系统。

网红和病毒式趋势的作用

这一现象也让一些知名人士，如法国YouTuber Tibo InShape，陷入了争议。AI生成的视频描绘他发表种族主义诽谤言论，这一趋势，虽然有时被一些用户视为“黑色幽默”，但引起了极大的担忧。尽管Tibo InShape等网红公开谴责滥用其形象和种族主义内容的行为，但这些视频的数量之多和传播之快，凸显了平台在打击AI生成的仇恨言论方面面临的困难。即使是使用特定网红形象的视频也能获得数百万次观看，这表明存在相当大的受众群体对这类内容持接受态度，这进一步加剧了审核的复杂性。

平台审核饱受批评

TikTok等平台因其内容审核政策而面临严格审查。尽管有禁止仇恨言论和非人化内容的社区准则，但这些视频仍在继续泛滥。批评者认为，审核往往不足、不一致且疏忽，尤其是在处理AI生成内容的细微差别时。用户通过使用稍作修改的提示轻松绕过AI内容过滤器的能力，进一步加剧了执法的复杂性。每天上传的内容量巨大，这意味着即使有先进的AI检测，人工审核员也难以跟上有害信息的洪流。

对用户，特别是未成年人的影响

这些视频在TikTok等平台上广泛传播，考虑到其用户群体中有很大一部分是未成年人，这尤其令人担忧。接触种族主义和暴力内容可能产生深远的心理影响，使偏见正常化，并可能用仇恨意识形态塑造年轻人的思想。频繁接触非人化的图像和叙事会对年轻用户的身心发展产生负面影响。这些视频通过算法推荐轻易被发现，意味着有害内容可以轻易触及未经意向的受众，使其成为一个重要的公共健康问题。

超越种族主义：更广泛的AI滥用担忧

虽然种族主义内容是一个突出的问题，但底层技术及其带来的挑战已扩展到其他形式的虚假信息和有害的AI生成内容。描绘移民为罪犯的视频，或重现历史创伤的视频，都由AI创作，共同构成了一个更广泛的数字操纵局面。这些工具的可及性意味着恶意行为者可以轻松创建令人信服的虚假内容来制造分裂、传播宣传或仅仅是煽动仇恨。这种快速发展要求平台和政策制定者采取积极和适应性的方法，以确保AI的变革潜力得到善用，而不是用来加剧分裂和敌意。

驾驭AI和内容的未来

当前TikTok上种族主义AI生成视频的浪潮，是对强大技术的双重用途性质的严峻提醒。随着AI视频生成变得越来越复杂和易于获取，现实与虚构之间的界限变得模糊，为仇恨的传播创造了温床。应对这一挑战需要采取多方面的方法。平台必须大力投资于更强大、更具适应性的审核系统，可能与AI开发人员合作创建更好的检测工具。此外，更加重视媒体素养教育至关重要，以使包括年轻人（尤其是年轻人）在内的用户掌握辨别和拒绝有害AI生成内容所需的批判性思维技能。目标必须是建立一个创新能够负责任地蓬勃发展的在线环境，摆脱人为仇恨的腐蚀性影响。