أدوات الفيديو الجديدة بالذكاء الاصطناعي تغذي العنصرية العنيفة على تيك توك
الارتفاع المقلق للعنصرية المولدة بالذكاء الاصطناعي على تيك توك
في اتجاه مقلق، تعج منصات التواصل الاجتماعي، وخاصة تيك توك، بفيض من مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تروج للعنصرية العنيفة والقوالب النمطية المروعة. هذه الإبداعات المتطورة، التي غالبًا ما يتم إنشاؤها باستخدام أدوات الذكاء الاصطناعي المتاحة بسهولة لتحويل النص إلى فيديو، تحقق ملايين المشاهدات، مما يثير مخاوف جدية بشأن انتشار التعصب والتحديات التي تواجه الإشراف على المحتوى في العصر الرقمي. إن سهولة إنتاج هذه المقاطع ونشرها تعني أن الروايات المؤذية يمكن أن تكتسب زخمًا بسرعة، وتصل إلى جماهير واسعة، بما في ذلك المستخدمون الشباب الذين يتأثرون بسهولة.
تسمح أدوات الذكاء الاصطناعي هذه، مثل Veo 3 من جوجل والمنصات المماثلة الأخرى، للمستخدمين بإنشاء صور ومقاطع فيديو واقعية من مطالبات نصية بسيطة. وبينما تحمل هذه التكنولوجيا إمكانات هائلة للإبداع والابتكار، فقد تم أيضًا استخدامها كسلاح لإنتاج محتوى عنصري ومعاد للسامية وكاره للأجانب بشكل صريح. غالبًا ما تستخدم مقاطع الفيديو هذه صورًا نمطية عنصرية، وتصور مجموعات مهمشة بطرق لا إنسانية، مثل تصوير السود على أنهم قردة أو مجرمون، واستخدام صور نمطية ضارة تتعلق بالطعام أو الجريمة. هذا الوصول يعني أن الحد الوحيد أمام إنشاء مثل هذا المحتوى هو خيال المستخدم العنصري.
استغلال الذكاء الاصطناعي للروايات المروعة
يبرز انتشار هذه المقاطع تقاطعًا مقلقًا بين قدرات الذكاء الاصطناعي المتقدمة والنية الخبيثة. يستغل المبدعون هذه الأدوات لإنشاء محتوى يعزز التحيزات القائمة وينشر أشكالًا جديدة من الكراهية. على سبيل المثال، استخدمت بعض مقاطع الفيديو الذكاء الاصطناعي لتصوير صدمات تاريخية، مثل معسكرات الاعتقال والهجمات على الأمريكيين السود، بطريقة بشعة واستغلالية. تسخر مقاطع أخرى وتجرد مجموعات عرقية معينة من إنسانيتها، وتستخدم لغة وصورًا مسيئة. إن السرعة التي يمكن بها إنشاء هذه المقاطع ومشاركتها على منصات مثل تيك توك تعني أن الأيديولوجيات المروعة يمكن أن تنتشر كالنار في الهشيم، وغالبًا ما تتجاوز أنظمة الإشراف المصممة للحفاظ على سلامة هذه المنصات.
دور المؤثرين والاتجاهات الفيروسية
شهدت الظاهرة أيضًا شخصيات بارزة، مثل اليوتيوبر الفرنسي Tibo InShape، عالقة في مرمى النيران. صورت مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي وهو ينطق بتصريحات عنصرية، وهو اتجاه، حتى لو تم تأطيره أحيانًا على أنه "فكاهة سوداء" من قبل بعض المستخدمين، فقد أثار قلقًا كبيرًا. بينما أدانت شخصيات مؤثرة مثل Tibo InShape علنًا إساءة استخدام صورته والمحتوى العنصري، فإن الحجم الهائل وفيروسية هذه المقاطع تؤكد صعوبة التي تواجهها المنصات في مراقبة خطاب الكراهية الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. حقيقة أن هذه المقاطع، حتى تلك التي تستخدم صورة مؤثر معين، يمكن أن تحقق ملايين المشاهدات تشير إلى جمهور كبير متقبل لمثل هذا المحتوى، مما يزيد من تعقيد جهود الإشراف.
إشراف المنصة تحت المجهر
تواجه منصات مثل تيك توك تدقيقًا شديدًا بسبب سياسات الإشراف على المحتوى الخاصة بها. على الرغم من وجود إرشادات مجتمعية تحظر خطاب الكراهية والمحتوى اللاإنساني، فإن هذه المقاطع تستمر في الانتشار. يجادل النقاد بأن الإشراف غالبًا ما يكون غير كافٍ، وغير متسق، وإهمال، خاصة عند التعامل مع الفروق الدقيقة للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. إن قدرة المستخدمين على تجاوز مرشحات محتوى الذكاء الاصطناعي بسهولة باستخدام مطالبات معدلة قليلاً تزيد من تعقيد التنفيذ. الحجم الهائل للمحتوى الذي يتم تحميله يوميًا يعني أنه حتى مع اكتشاف الذكاء الاصطناعي المتطور، يكافح المشرفون البشريون لمواكبة سيل المواد الضارة.
التأثير على المستخدمين، وخاصة القصر
إن التوفر الواسع لهذه المقاطع على منصات مثل تيك توك يثير القلق بشكل خاص نظرًا لنسبة كبيرة من قاعدة المستخدمين التي تتكون من قصر. يمكن أن يكون للتعرض للمحتوى العنصري والعنيف تأثير نفسي عميق، مما يطبع التحيز ويحتمل أن يشكل عقول الشباب بأيديولوجيات مروعة. يمكن أن يتأثر النمو العاطفي والاجتماعي للمستخدمين الأصغر سنًا سلبًا بالتعرض المستمر للصور والروايات اللاإنسانية. إن سهولة اكتشاف هذه المقاطع من خلال التوصيات الخوارزمية تعني أن المحتوى الضار يمكن أن يصل بسهولة إلى جماهير غير مقصودة، مما يجعله مصدر قلق كبير للصحة العامة.
ما وراء العنصرية: قلق أوسع بشأن إساءة استخدام الذكاء الاصطناعي
بينما يعد المحتوى العنصري قضية بارزة، فإن التكنولوجيا الأساسية والتحديات التي تطرحها تمتد إلى أشكال أخرى من المعلومات المضللة والمحتوى الضار الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. تساهم مقاطع الفيديو التي تصور المهاجرين كمجرمين، أو إعادة تمثيل الصدمات التاريخية، وكلها تم إنشاؤها بواسطة الذكاء الاصطناعي، في مشهد أوسع من التلاعب الرقمي. إن إتاحة هذه الأدوات تعني أن الجهات الفاعلة الخبيثة يمكنها بسهولة إنشاء محتوى مزيف مقنع لبث الفتنة، أو نشر الدعاية، أو ببساطة التحريض على الكراهية. يتطلب هذا التقدم السريع نهجًا استباقيًا ومتكيفًا من كل من المنصات وصناع السياسات لضمان تسخير الإمكانات التحويلية للذكاء الاصطناعي لتحقيق الصالح العام، وليس لتغذية الانقسام والعداء.
التنقل في مستقبل الذكاء الاصطناعي والمحتوى
إن الموجة الحالية من مقاطع الفيديو العنصرية التي تم إنشاؤها بواسطة الذكاء الاصطناعي على تيك توك هي تذكير صارخ بالطبيعة المزدوجة الاستخدام للتقنيات القوية. مع تزايد تعقيد وتوفر أدوات إنشاء الفيديو بالذكاء الاصطناعي، تتلاشى الخطوط الفاصلة بين الواقع والخيال، مما يخلق أرضًا خصبة لانتشار الكراهية. تتطلب معالجة هذا التحدي نهجًا متعدد الأوجه. يجب على المنصات الاستثمار بكثافة في أنظمة إشراف أكثر قوة وتكيفًا، ربما بالتعاون مع مطوري الذكاء الاصطناعي لإنشاء أدوات اكتشاف أفضل. علاوة على ذلك، يعد التركيز الأكبر على تعليم محو الأمية الإعلامية أمرًا بالغ الأهمية لتزويد المستخدمين، وخاصة الشباب، بالمهارات النقدية اللازمة لتمييز المحتوى الضار الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ورفضه. يجب أن يكون الهدف هو تعزيز بيئة عبر الإنترنت تزدهر فيها الابتكارات بمسؤولية، خالية من التأثير المفسد للكراهية المصطنعة.