Công cụ video AI mới đang thúc đẩy phân biệt chủng tộc bạo lực trên TikTok

Sự gia tăng đáng báo động của phân biệt chủng tộc do AI tạo ra trên TikTok

Trong một xu hướng đáng báo động, các nền tảng mạng xã hội, đặc biệt là TikTok, đang bị tràn ngập bởi một làn sóng video do AI tạo ra, khai thác vấn nạn phân biệt chủng tộc bạo lực và những định kiến ​​đáng ghét. Những sáng tạo tinh vi này, thường được tạo ra bằng các công cụ AI chuyển văn bản thành video dễ tiếp cận, đang đạt hàng triệu lượt xem, làm dấy lên những lo ngại nghiêm trọng về sự lan truyền của tư tưởng cố chấp và những thách thức trong kiểm duyệt nội dung trong thời đại kỹ thuật số. Sự dễ dàng sản xuất và phổ biến các video này có nghĩa là các thông điệp có hại có thể nhanh chóng thu hút sự chú ý, tiếp cận lượng lớn khán giả, bao gồm cả những người dùng trẻ tuổi dễ bị ảnh hưởng.

Các công cụ AI này, chẳng hạn như Veo 3 của Google và các nền tảng tương tự khác, cho phép người dùng tạo hình ảnh và video chân thực từ các lời nhắc văn bản đơn giản. Mặc dù công nghệ này có tiềm năng sáng tạo và đổi mới to lớn, nó cũng đã bị vũ khí hóa để tạo ra nội dung mang tính phân biệt chủng tộc, bài Do Thái và bài ngoại một cách rõ ràng. Các video thường sử dụng những khuôn mẫu phân biệt chủng tộc, miêu tả các nhóm thiểu số theo những cách vô nhân đạo, chẳng hạn như miêu tả người da đen như những con khỉ hoặc tội phạm, và sử dụng những định kiến ​​có hại liên quan đến thực phẩm hoặc tội phạm. Khả năng tiếp cận này có nghĩa là giới hạn duy nhất đối với việc tạo ra nội dung như vậy là trí tưởng tượng phân biệt chủng tộc của người dùng.

Khai thác AI cho các thông điệp thù địch

Sự lan tràn của các video này nêu bật sự giao thoa đáng lo ngại giữa khả năng AI tiên tiến và ý đồ độc hại. Những người sáng tạo đang tận dụng các công cụ này để tạo ra nội dung củng cố những thành kiến ​​hiện có và lan truyền các hình thức thù hận mới. Ví dụ, một số video đã sử dụng AI để miêu tả những chấn thương lịch sử, chẳng hạn như các trại tập trung và các cuộc tấn công vào người Mỹ gốc Phi, theo một cách thức ghê tởm và bóc lột. Các clip khác chế giễu và vô nhân đạo hóa các nhóm dân tộc cụ thể, sử dụng ngôn ngữ và hình ảnh xúc phạm. Tốc độ mà các video này có thể được tạo và chia sẻ trên các nền tảng như TikTok có nghĩa là các hệ tư tưởng thù địch có thể lan truyền nhanh chóng, thường bỏ qua các hệ thống kiểm duyệt được thiết kế để giữ an toàn cho các nền tảng này.

Vai trò của những người có ảnh hưởng và các xu hướng lan truyền

Hiện tượng này cũng chứng kiến ​​những nhân vật nổi tiếng, như YouTuber người Pháp Tibo InShape, bị cuốn vào tâm điểm. Các video do AI tạo ra đã miêu tả anh ta nói những lời lẽ phân biệt chủng tộc, một xu hướng mà, mặc dù đôi khi được một số người dùng coi là 'hài đen tối', đã gây ra mối lo ngại đáng kể. Mặc dù những người có ảnh hưởng như Tibo InShape đã công khai lên án việc lạm dụng hình ảnh của họ và nội dung phân biệt chủng tộc, khối lượng và tính lan truyền lớn của những video này nhấn mạnh khó khăn mà các nền tảng phải đối mặt trong việc kiểm duyệt ngôn luận thù địch do AI tạo ra. Việc các video này, ngay cả những video sử dụng hình ảnh của một người có ảnh hưởng cụ thể, có thể thu hút hàng triệu lượt xem cho thấy một lượng khán giả đáng kể có khả năng tiếp nhận nội dung như vậy, làm phức tạp thêm các nỗ lực kiểm duyệt.

Kiểm duyệt nền tảng bị chỉ trích

Các nền tảng như TikTok đang đối mặt với sự giám sát gay gắt về các chính sách kiểm duyệt nội dung của họ. Mặc dù có các nguyên tắc cộng đồng cấm ngôn luận thù địch và nội dung vô nhân đạo, những video này vẫn tiếp tục lan tràn. Các nhà phê bình cho rằng việc kiểm duyệt thường không đầy đủ, không nhất quán và sơ suất, đặc biệt là khi đối phó với sự phức tạp của nội dung do AI tạo ra. Khả năng người dùng dễ dàng bỏ qua các bộ lọc nội dung AI bằng cách sử dụng các lời nhắc được thay đổi một chút càng làm phức tạp thêm việc thực thi. Khối lượng nội dung khổng lồ được tải lên hàng ngày có nghĩa là ngay cả với việc phát hiện AI tinh vi, những người kiểm duyệt cũng gặp khó khăn trong việc theo kịp dòng chảy của tài liệu có hại.

Tác động đến người dùng, đặc biệt là trẻ vị thành niên

Sự phổ biến rộng rãi của các video này trên các nền tảng như TikTok đặc biệt đáng lo ngại khi xem xét tỷ lệ đáng kể người dùng là trẻ vị thành niên. Tiếp xúc với nội dung phân biệt chủng tộc và bạo lực có thể có tác động tâm lý sâu sắc, bình thường hóa sự định kiến ​​và có khả năng định hình tâm trí trẻ bằng các hệ tư tưởng thù địch. Sự phát triển tình cảm và xã hội của người dùng trẻ có thể bị ảnh hưởng tiêu cực bởi việc tiếp xúc liên tục với hình ảnh và thông điệp vô nhân đạo. Khả năng dễ dàng phát hiện các video này thông qua các đề xuất thuật toán có nghĩa là nội dung có hại có thể dễ dàng tiếp cận đối tượng không mong muốn, biến nó thành một mối quan tâm sức khỏe cộng đồng đáng kể.

Vượt ra ngoài phân biệt chủng tộc: Mối quan ngại rộng hơn về việc sử dụng sai mục đích AI

Mặc dù nội dung phân biệt chủng tộc là một vấn đề nổi bật, công nghệ nền tảng và những thách thức mà nó đặt ra còn mở rộng ra các hình thức thông tin sai lệch và nội dung có hại do AI tạo ra khác. Các video miêu tả người nhập cư như tội phạm, hoặc tái hiện các chấn thương lịch sử, tất cả đều được tạo ra bằng AI, góp phần tạo ra một bức tranh rộng lớn hơn về sự thao túng kỹ thuật số. Khả năng tiếp cận của các công cụ này có nghĩa là những kẻ có ác ý có thể dễ dàng tạo ra nội dung giả mạo thuyết phục để gieo rắc sự bất hòa, lan truyền tuyên truyền hoặc đơn giản là kích động thù hận. Sự phát triển nhanh chóng này đòi hỏi một cách tiếp cận chủ động và thích ứng từ cả các nền tảng và các nhà hoạch định chính sách để đảm bảo rằng tiềm năng biến đổi của AI được khai thác cho những điều tốt đẹp, chứ không phải để thúc đẩy sự chia rẽ và thù địch.

Điều hướng tương lai của AI và nội dung

Làn sóng hiện tại của các video phân biệt chủng tộc do AI tạo ra trên TikTok là một lời nhắc nhở rõ ràng về bản chất sử dụng kép của các công nghệ mạnh mẽ. Khi khả năng tạo video bằng AI trở nên tinh vi và dễ tiếp cận hơn, ranh giới giữa thực tế và sự giả tạo sẽ mờ đi, tạo ra mảnh đất màu mỡ cho sự lan truyền của lòng căm thù. Giải quyết thách thức này đòi hỏi một cách tiếp cận đa diện. Các nền tảng phải đầu tư mạnh vào các hệ thống kiểm duyệt mạnh mẽ và thích ứng hơn, có thể hợp tác với các nhà phát triển AI để tạo ra các công cụ phát hiện tốt hơn. Hơn nữa, việc nhấn mạnh hơn vào giáo dục về khả năng đọc hiểu truyền thông là rất quan trọng để trang bị cho người dùng, đặc biệt là giới trẻ, các kỹ năng tư duy phản biện cần thiết để phân biệt và từ chối nội dung do AI tạo ra có hại. Mục tiêu phải là thúc đẩy một môi trường trực tuyến nơi sự đổi mới phát triển một cách có trách nhiệm, không bị ảnh hưởng ăn mòn bởi sự thù hận được tạo ra.