Meta, X bị cáo buộc dung túng quảng cáo thù hận trước bầu cử Đức

Theo nghiên cứu mới của Eko, một tổ chức phi lợi nhuận về trách nhiệm doanh nghiệp, các gã khổng lồ mạng xã hội Meta và X đã phê duyệt quảng cáo nhắm mục tiêu người dùng ở Đức bằng ngôn từ kích động thù hận chống người Hồi giáo và người Do Thái trước thềm cuộc bầu cử liên bang của nước này.

Các nhà nghiên cứu của nhóm đã kiểm tra xem hệ thống đánh giá quảng cáo của hai nền tảng này có phê duyệt hay từ chối các quảng cáo chứa thông điệp thù hận và bạo lực nhắm vào các nhóm thiểu số trước cuộc bầu cử hay không. Các quảng cáo này bao gồm những lời lẽ xúc phạm chống người Hồi giáo; kêu gọi giam giữ người nhập cư trong trại tập trung hoặc xử tử họ bằng khí độc; và hình ảnh do AI tạo ra về các nhà thờ Hồi giáo và giáo đường Do Thái bị đốt cháy.

Hầu hết các quảng cáo thử nghiệm đã được phê duyệt trong vòng vài giờ sau khi được gửi để xem xét vào giữa tháng 2. Cuộc bầu cử liên bang của Đức dự kiến diễn ra vào chủ nhật, ngày 23 tháng 2.

Quảng cáo thù hận được lên lịch

Eko cho biết X đã phê duyệt tất cả 10 quảng cáo thù hận mà các nhà nghiên cứu của họ gửi chỉ vài ngày trước cuộc bầu cử liên bang, trong khi Meta phê duyệt một nửa (5 quảng cáo) để chạy trên Facebook (và có thể cả Instagram) – mặc dù họ đã từ chối 5 quảng cáo còn lại.

Lý do Meta đưa ra cho 5 quảng cáo bị từ chối cho thấy nền tảng này tin rằng có thể có rủi ro về sự nhạy cảm chính trị hoặc xã hội có thể ảnh hưởng đến việc bỏ phiếu.

Tuy nhiên, 5 quảng cáo mà Meta phê duyệt bao gồm ngôn từ kích động thù hận so sánh người tị nạn Hồi giáo với “virus”, “loài gây hại” hoặc “loài gặm nhấm”, gọi người nhập cư Hồi giáo là “kẻ hiếp dâm” và kêu gọi khử trùng, đốt cháy hoặc xử tử họ bằng khí độc. Meta cũng phê duyệt một quảng cáo kêu gọi đốt phá các giáo đường Do Thái để “ngăn chặn chương trình nghị sự chuột Do Thái toàn cầu”.

Một lưu ý khác, Eko cho biết không có hình ảnh do AI tạo ra nào mà họ sử dụng để minh họa cho các quảng cáo thù hận được gắn nhãn là do AI tạo ra – tuy nhiên, một nửa trong số 10 quảng cáo vẫn được Meta phê duyệt, bất kể công ty có chính sách yêu cầu tiết lộ việc sử dụng hình ảnh AI cho quảng cáo về các vấn đề xã hội, bầu cử hoặc chính trị.

X, trong khi đó, đã phê duyệt tất cả 5 quảng cáo thù hận này – và 5 quảng cáo khác chứa ngôn từ kích động thù hận tương tự nhắm vào người Hồi giáo và người Do Thái.

Các quảng cáo được phê duyệt bổ sung này bao gồm thông điệp tấn công người nhập cư “loài gặm nhấm” mà nội dung quảng cáo tuyên bố là đang “tràn ngập” đất nước “để đánh cắp nền dân chủ của chúng ta”, và một lời lẽ xúc phạm bài Do Thái cho rằng người Do Thái đang nói dối về biến đổi khí hậu để phá hủy ngành công nghiệp châu Âu và tích lũy sức mạnh kinh tế.

Quảng cáo sau được kết hợp với hình ảnh do AI tạo ra mô tả một nhóm người đàn ông bí ẩn ngồi quanh bàn được bao quanh bởi những chồng thỏi vàng, với Ngôi sao David trên tường phía trên họ – với hình ảnh cũng nghiêng về những hình ảnh bài Do Thái.

Một quảng cáo khác mà X phê duyệt chứa một cuộc tấn công trực tiếp vào SPD, đảng trung tả hiện đang lãnh đạo chính phủ liên minh của Đức, với một tuyên bố sai lệch rằng đảng này muốn tiếp nhận 60 triệu người tị nạn Hồi giáo từ Trung Đông, trước khi cố gắng kích động phản ứng bạo lực. X cũng đã lên lịch một quảng cáo cho rằng “những người cánh tả” muốn “mở cửa biên giới” và kêu gọi tiêu diệt những “kẻ hiếp dâm” Hồi giáo.

Elon Musk, chủ sở hữu của X, đã sử dụng nền tảng truyền thông xã hội nơi ông có gần 220 triệu người theo dõi để can thiệp cá nhân vào cuộc bầu cử Đức. Trong một tweet vào tháng 12, ông kêu gọi cử tri Đức ủng hộ đảng AfD cực hữu để “cứu nước Đức”. Ông cũng đã tổ chức một buổi phát trực tiếp với lãnh đạo AfD, Alice Weidel, trên X.

Các nhà nghiên cứu của Eko đã vô hiệu hóa tất cả các quảng cáo thử nghiệm trước khi bất kỳ quảng cáo nào đã được phê duyệt được lên lịch chạy để đảm bảo không người dùng nào của nền tảng bị tiếp xúc với ngôn từ kích động thù hận bạo lực.

Họ nói rằng các thử nghiệm làm nổi bật những thiếu sót nghiêm trọng trong cách tiếp cận kiểm duyệt nội dung của các nền tảng quảng cáo. Thật vậy, trong trường hợp của X, không rõ liệu nền tảng này có đang kiểm duyệt quảng cáo hay không, vì tất cả 10 quảng cáo thù hận bạo lực đều được phê duyệt nhanh chóng để hiển thị.

Những phát hiện này cũng cho thấy rằng các nền tảng quảng cáo có thể đang kiếm doanh thu do phân phối ngôn từ kích động thù hận bạo lực.

Đạo luật dịch vụ kỹ thuật số của EU trong tầm ngắm

Các thử nghiệm của Eko cho thấy cả hai nền tảng đều không thực thi đúng cách lệnh cấm đối với ngôn từ kích động thù hận mà cả hai đều tuyên bố áp dụng cho nội dung quảng cáo trong chính sách của họ. Hơn nữa, trong trường hợp của Meta, Eko đã đi đến kết luận tương tự sau khi tiến hành một thử nghiệm tương tự vào năm 2023 trước khi các quy tắc quản trị trực tuyến mới của EU có hiệu lực – cho thấy chế độ này không có tác dụng đối với cách thức hoạt động của họ.

“Những phát hiện của chúng tôi cho thấy hệ thống kiểm duyệt quảng cáo do AI điều khiển của Meta vẫn còn thiếu sót nghiêm trọng, mặc dù Đạo luật Dịch vụ Kỹ thuật số (DSA) hiện đã có hiệu lực đầy đủ”, người phát ngôn của Eko nói với TechCrunch.

“Thay vì tăng cường quy trình xem xét quảng cáo hoặc chính sách ngôn từ kích động thù hận, Meta dường như đang thụt lùi trên mọi phương diện”, họ nói thêm, chỉ ra thông báo gần đây của công ty về việc rút lại các chính sách kiểm duyệt và kiểm tra thực tế như một dấu hiệu của “sự thụt lùi tích cực” mà họ cho rằng đặt nó vào con đường va chạm trực tiếp với các quy tắc DSA về rủi ro hệ thống.

Eko đã gửi những phát hiện mới nhất của mình cho Ủy ban châu Âu, cơ quan giám sát việc thực thi các khía cạnh quan trọng của DSA đối với hai gã khổng lồ truyền thông xã hội. Họ cũng cho biết họ đã chia sẻ kết quả với cả hai công ty, nhưng không bên nào phản hồi.

EU đã mở các cuộc điều tra DSA đối với Meta và X, bao gồm các mối lo ngại về an ninh bầu cử và nội dung bất hợp pháp, nhưng Ủy ban vẫn chưa kết thúc các thủ tục này. Mặc dù, vào tháng 4, họ cho biết họ nghi ngờ Meta kiểm duyệt không đầy đủ quảng cáo chính trị.

Một quyết định sơ bộ về một phần cuộc điều tra DSA của họ về X, được công bố vào tháng 7, bao gồm những nghi ngờ rằng nền tảng này không đáp ứng các quy tắc minh bạch quảng cáo của quy định. Tuy nhiên, cuộc điều tra đầy đủ, được khởi động vào tháng 12 năm 2023, cũng liên quan đến rủi ro nội dung bất hợp pháp và EU vẫn chưa đưa ra bất kỳ phát hiện nào về phần lớn cuộc điều tra hơn một năm sau đó.

Vi phạm được xác nhận đối với DSA có thể bị phạt tới 6% doanh thu hàng năm toàn cầu, trong khi không tuân thủ hệ thống thậm chí có thể dẫn đến việc truy cập khu vực vào các nền tảng vi phạm bị chặn tạm thời.

Nhưng, hiện tại, EU vẫn đang dành thời gian để đưa ra quyết định về các cuộc thăm dò Meta và X, vì vậy – chờ quyết định cuối cùng – bất kỳ lệnh trừng phạt DSA nào vẫn còn bỏ ngỏ.

Trong khi đó, chỉ còn vài giờ nữa là cử tri Đức đi bỏ phiếu – và ngày càng có nhiều nghiên cứu của xã hội dân sự cho thấy quy định quản trị trực tuyến hàng đầu của EU đã không bảo vệ được quá trình dân chủ của nền kinh tế lớn của EU khỏi một loạt các mối đe dọa do công nghệ gây ra.

Đầu tuần này, Global Witness đã công bố kết quả kiểm tra các nguồn cấp dữ liệu thuật toán “Dành cho bạn” của X và TikTok ở Đức, cho thấy các nền tảng này thiên vị trong việc quảng bá nội dung AfD so với nội dung từ các đảng chính trị khác. Các nhà nghiên cứu xã hội dân sự cũng cáo buộc X chặn quyền truy cập dữ liệu để ngăn họ nghiên cứu rủi