Nowe narzędzia wideo AI podsycają rasizm na TikToku

Niepokojący wzrost rasistowskich treści generowanych przez AI na TikToku

W alarmującym trendzie platformy mediów społecznościowych, szczególnie TikTok, są zalewane przez ogromne ilości filmów generowanych przez AI, które promują brutalny rasizm i nienawistne stereotypy. Te wyrafinowane kreacje, często tworzone za pomocą łatwo dostępnych narzędzi AI zamieniających tekst na wideo, zdobywają miliony wyświetleń, budząc poważne obawy dotyczące rozprzestrzeniania się bigoterii i wyzwań związanych z moderacją treści w erze cyfrowej. Łatwość, z jaką te filmy mogą być produkowane i rozpowszechniane, oznacza, że szkodliwe narracje mogą szybko zyskać na popularności, docierając do ogromnej publiczności, w tym do łatwo ulegających wpływom młodych użytkowników.

Narzędzia AI, takie jak Veo 3 firmy Google i inne podobne platformy, pozwalają użytkownikom tworzyć realistyczne obrazy i filmy na podstawie prostych podpowiedzi tekstowych. Chociaż technologia ta ma ogromny potencjał w zakresie kreatywności i innowacji, została również wykorzystana do produkcji treści jawnie rasistowskich, antysemickich i ksenofobicznych. Filmy często wykorzystują rasistowskie tropy, przedstawiając marginalizowane grupy w odhumanizowujący sposób, na przykład pokazując czarnoskórych jako małpy lub przestępców, i używając szkodliwych stereotypów związanych z jedzeniem lub przestępczością. Dostępność tych narzędzi oznacza, że jedynym ograniczeniem w tworzeniu takich treści jest rasistowska wyobraźnia użytkownika.

Wykorzystanie AI do tworzenia nienawistnych narracji

Rozpowszechnienie tych filmów podkreśla niepokojące skrzyżowanie zaawansowanych możliwości AI i złych intencji. Twórcy wykorzystują te narzędzia do generowania treści, które wzmacniają istniejące uprzedzenia i szerzą nowe formy nienawiści. Na przykład, niektóre filmy wykorzystały AI do przedstawienia historycznych traum, takich jak obozy koncentracyjne i ataki na Afroamerykanów, w groteskowy i wykorzystujący sposób. Inne klipy wyśmiewają i dehumanizują określone grupy etniczne, używając obraźliwego języka i obrazów. Szybkość, z jaką te filmy mogą być tworzone i udostępniane na platformach takich jak TikTok, oznacza, że nienawistne ideologie mogą rozprzestrzeniać się błyskawicznie, często omijając systemy moderacji mające na celu zapewnienie bezpieczeństwa tych platform.

Rola influencerów i wirusowych trendów

Zjawisko to dotknęło również znane postacie, takie jak francuski YouTuber Tibo InShape, który znalazł się w ogniu krytyki. Filmy generowane przez AI przedstawiały go wykrzykującego rasistowskie obelgi, co jest trendem, który, choć przez niektórych użytkowników jest czasem określany jako "czarny humor", budzi poważne zaniepokojenie. Chociaż influencerzy tacy jak Tibo InShape publicznie potępili niewłaściwe wykorzystanie ich wizerunku i rasistowskie treści, ogromna objętość i wiralowość tych filmów podkreśla trudności, z jakimi borykają się platformy w zakresie egzekwowania przepisów dotyczących mowy nienawiści generowanej przez AI. Fakt, że te filmy, nawet te wykorzystujące wizerunek konkretnego influencera, mogą zdobyć miliony wyświetleń, sugeruje znaczącą publiczność, która jest otwarta na takie treści, co dodatkowo komplikuje wysiłki moderacyjne.

Moderacja platform pod ostrzałem

Platformy takie jak TikTok są poddawane intensywnej kontroli w związku z ich polityką moderacji treści. Pomimo posiadania wytycznych społecznościowych zakazujących mowy nienawiści i treści odhumanizowujących, te filmy nadal się mnożą. Krytycy twierdzą, że moderacja jest często niewystarczająca, niespójna i zaniedbująca, zwłaszcza w przypadku niuansów treści generowanych przez AI. Możliwość łatwego omijania przez użytkowników filtrów treści AI poprzez używanie nieco zmienionych podpowiedzi dodatkowo komplikuje egzekwowanie przepisów. Ogromna ilość treści przesyłanych codziennie oznacza, że nawet przy zaawansowanym wykrywaniu AI, moderatorzy ludzcy mają trudności z nadążeniem za potokiem szkodliwych materiałów.

Wpływ na użytkowników, zwłaszcza nieletnich

Powszechna dostępność tych filmów na platformach takich jak TikTok jest szczególnie niepokojąca, biorąc pod uwagę znaczną część bazy użytkowników, która składa się z nieletnich. Narażenie na treści rasistowskie i brutalne może mieć głęboki wpływ psychologiczny, normalizując uprzedzenia i potencjalnie kształtując młode umysły nienawistnymi ideologiami. Rozwój emocjonalny i społeczny młodszych użytkowników może być negatywnie dotknięty przez ciągłe narażenie na odhumanizowujące obrazy i narracje. Łatwość, z jaką te filmy mogą być odkrywane poprzez rekomendacje algorytmiczne, oznacza, że szkodliwe treści mogą łatwo dotrzeć do niezamierzonych odbiorców, czyniąc to znaczącym problemem zdrowia publicznego.

Poza rasizmem: szerszy problem niewłaściwego wykorzystania AI

Chociaż rasistowskie treści są znaczącym problemem, leżąca u podstaw technologia i wyzwania, jakie stawia, wykraczają poza inne formy dezinformacji i szkodliwych treści generowanych przez AI. Filmy przedstawiające imigrantów jako przestępców, lub odtwarzające historyczne traumy, wszystkie stworzone za pomocą AI, przyczyniają się do szerszego krajobrazu manipulacji cyfrowej. Dostępność tych narzędzi oznacza, że złośliwi aktorzy mogą łatwo tworzyć przekonujące fałszywe treści, aby siać niezgodę, szerzyć propagandę lub po prostu podżegać do nienawiści. Ten szybki rozwój wymaga proaktywnego i adaptacyjnego podejścia zarówno ze strony platform, jak i decydentów, aby zapewnić, że transformacyjny potencjał AI zostanie wykorzystany dla dobra, a nie do podsycania podziałów i animozji.

Nawigacja w przyszłości AI i treści

Obecna fala rasistowskich filmów generowanych przez AI na TikToku jest surowym przypomnieniem o dwojakiej naturze potężnych technologii. W miarę jak generowanie wideo za pomocą AI staje się coraz bardziej wyrafinowane i dostępne, granice między rzeczywistością a fikcją zacierają się, tworząc żyzny grunt dla szerzenia nienawiści. Rozwiązanie tego problemu wymaga wieloaspektowego podejścia. Platformy muszą mocno inwestować w bardziej solidne i adaptacyjne systemy moderacji, potencjalnie współpracując z twórcami AI w celu stworzenia lepszych narzędzi wykrywających. Ponadto, większy nacisk na edukację w zakresie umiejętności medialnych jest kluczowy, aby wyposażyć użytkowników, zwłaszcza młodych ludzi, w umiejętności krytycznego myślenia potrzebne do rozpoznawania i odrzucania szkodliwych treści generowanych przez AI. Celem musi być stworzenie środowiska online, w którym innowacje rozwijają się w sposób odpowiedzialny, wolne od destrukcyjnego wpływu sztucznej nienawiści.