Нові інструменти ШІ для відео посилюють жорстокий расизм у TikTok
Тривожне зростання расистського контенту, згенерованого ШІ, на TikTok
На тривожній хвилі соціальні платформи, особливо TikTok, переповнюються сплеском відео, згенерованих штучним інтелектом, які містять жорстокий расизм та ненависницькі стереотипи. Ці складні творіння, часто створені за допомогою доступних інструментів ШІ для перетворення тексту на відео, набирають мільйони переглядів, викликаючи серйозне занепокоєння щодо поширення упереджень та викликів модерації контенту в цифрову епоху. Легкість, з якою ці відео можуть бути створені та розповсюджені, означає, що шкідливі наративи можуть швидко набирати обертів, досягаючи величезної аудиторії, включаючи вразливих молодих користувачів.
Ці інструменти ШІ, такі як Veo 3 від Google та інші подібні платформи, дозволяють користувачам створювати реалістичні зображення та відео за простими текстовими запитами. Хоча ця технологія має величезний потенціал для творчості та інновацій, вона також була використана для створення відверто расистського, антисемітського та ксенофобського контенту. Відео часто використовують расистські тропи, зображуючи маргіналізовані групи в дегуманізуючій манері, наприклад, зображуючи чорношкірих як мавп або злочинців, та використовуючи шкідливі стереотипи, пов'язані з їжею чи злочинністю. Така доступність означає, що єдиним обмеженням для створення такого контенту є расистська уява користувача.
Використання ШІ для поширення ненависницьких наративів
Поширення цих відео висвітлює тривожний перетин передових можливостей ШІ та зловмисних намірів. Творці використовують ці інструменти для створення контенту, який зміцнює існуючі упередження та поширює нові форми ненависті. Наприклад, деякі відео використовували ШІ для зображення історичних травм, таких як концтабори та напади на афроамериканців, у гротескній та експлуатаційній манері. Інші кліпи висміюють та дегуманізують певні етнічні групи, використовуючи образливу мову та зображення. Швидкість, з якою ці відео можуть бути створені та розповсюджені на таких платформах, як TikTok, означає, що ідеології ненависті можуть поширюватися як лісова пожежа, часто оминаючи системи модерації, призначені для забезпечення безпеки цих платформ.
Роль інфлюенсерів та вірусних трендів
У цьому феномені опинилися й відомі діячі, як-от французький ютубер Тібо ІнШейп, у перехресті вогню. Відео, згенеровані ШІ, зображували його, як він вигукує расистські образи, що є трендом, який, хоча іноді деякі користувачі класифікують його як «чорний гумор», викликав значне занепокоєння. Хоча інфлюенсери, як-от Тібо ІнШейп, публічно засудили зловживання їхнім образом та расистський контент, величезний обсяг та вірусність цих відео підкреслюють складність, з якою стикаються платформи, контролюючи мову ворожнечі, згенеровану ШІ. Той факт, що ці відео, навіть ті, що використовують зображення конкретного інфлюенсера, можуть зібрати мільйони переглядів, свідчить про значну аудиторію, яка сприйнятлива до такого контенту, що ще більше ускладнює зусилля з модерації.
Модерація платформ під вогнем критики
Такі платформи, як TikTok, стикаються з ретельною перевіркою своїх політик модерації контенту. Незважаючи на наявність правил спільноти, які забороняють мову ворожнечі та дегуманізуючий контент, ці відео продовжують поширюватися. Критики стверджують, що модерація часто є недостатньою, непослідовною та недбалою, особливо коли йдеться про нюанси контенту, згенерованого ШІ. Здатність користувачів легко обходити фільтри контенту ШІ, використовуючи дещо змінені запити, ще більше ускладнює правозастосування. Величезний обсяг контенту, який завантажується щодня, означає, що навіть при наявності складного виявлення ШІ, модератори-люди не встигають за потоком шкідливого матеріалу.
Вплив на користувачів, особливо на неповнолітніх
Широке розповсюдження цих відео на таких платформах, як TikTok, викликає особливе занепокоєння, враховуючи значну частку користувачів, серед яких є неповнолітні. Вплив расистського та жорстокого контенту може мати глибокий психологічний вплив, нормалізуючи упередження та потенційно формуючи молоді уми ненависницькими ідеологіями. Емоційний та соціальний розвиток молодших користувачів може негативно позначитися на постійному впливі дегуманізуючих зображень та наративів. Легкість, з якою ці відео можуть бути виявлені через алгоритмічні рекомендації, означає, що шкідливий контент може легко досягти небажаної аудиторії, роблячи його серйозною проблемою громадського здоров'я.
Поза расизмом: ширша проблема зловживання ШІ
Хоча расистський контент є значною проблемою, базова технологія та виклики, які вона створює, поширюються на інші форми дезінформації та шкідливого контенту, згенерованого ШІ. Відео, що зображують іммігрантів як злочинців, або реконструкції історичних травм, створені за допомогою ШІ, сприяють ширшому ландшафту цифрових маніпуляцій. Доступність цих інструментів означає, що зловмисники можуть легко створювати переконливий фейковий контент для сіяння розбрату, поширення пропаганди або просто для розпалювання ненависті. Це швидке вдосконалення вимагає проактивного та адаптивного підходу як з боку платформ, так і з боку політиків, щоб гарантувати, що трансформаційний потенціал ШІ буде використаний на благо, а не для розпалювання розбрату та ворожості.
Навігація в майбутньому ШІ та контенту
Нинішня хвиля расистських відео, згенерованих ШІ, на TikTok є суворим нагадуванням про подвійну природу потужних технологій. Оскільки генерація відео за допомогою ШІ стає все більш складною та доступною, межі між реальністю та вигадкою розмиваються, створюючи благодатний ґрунт для поширення ненависті. Вирішення цієї проблеми вимагає багатогранного підходу. Платформи повинні інвестувати значні кошти в більш надійні та адаптивні системи модерації, потенційно співпрацюючи з розробниками ШІ для створення кращих інструментів виявлення. Крім того, більший акцент на медіаграмотності є надзвичайно важливим для оснащення користувачів, особливо молоді, критичним мисленням, необхідним для розрізнення та відхилення шкідливого контенту, згенерованого ШІ. Мета повинна полягати в тому, щоб сприяти онлайн-середовищу, де інновації процвітають відповідально, вільно від руйнівного впливу нав'язаної ненависті.