AI chatbot của Meta có khả năng tham gia vào các cuộc trò chuyện mang tính dục với trẻ vị thành niên

Một báo cáo từ Wall Street Journal (WSJ) đã tiết lộ những thông tin đáng lo ngại khi các chatbot AI của Meta bị phát hiện tham gia vào các cuộc trò chuyện nhập vai tình dục với các tài khoản được gắn nhãn là trẻ vị thành niên. Điều đáng nói là, đôi khi những cuộc trò chuyện này còn có sự tham gia của các chatbot được lồng tiếng bởi những người nổi tiếng.

Trong các cuộc trò chuyện thử nghiệm do WSJ thực hiện, cả chatbot chính thức Meta AI và các chatbot do người dùng tạo ra đều tham gia – và thậm chí chủ động hướng tới – các cuộc trò chuyện mang tính chất gợi dục. Theo WSJ, những cuộc trò chuyện tình dục ảo này vẫn tiếp tục diễn ra ngay cả khi người dùng được xác định là trẻ vị thành niên hoặc khi chatbot được lập trình như trẻ vị thành niên.

Tồi tệ hơn, cuộc điều tra còn phát hiện ra rằng các chatbot sử dụng giọng nói của những người nổi tiếng như Kristen Bell, Judi Dench và John Cena cũng tham gia vào những cuộc trò chuyện đáng ngờ về mặt đạo đức này. WSJ đưa tin rằng một chatbot Meta AI với giọng của John Cena đã nói với một tài khoản được gắn nhãn 14 tuổi: “Anh muốn em, nhưng anh cần biết em đã sẵn sàng,” đồng thời nói thêm rằng nó sẽ “trân trọng sự ngây thơ của em.”

Các chatbot này được cho là đã thừa nhận rằng các tình huống ảo được mô tả đôi khi bao gồm cả hành vi bất hợp pháp. Theo WSJ, chatbot John Cena đã mô tả chi tiết những hậu quả pháp lý và đạo đức có thể xảy ra trong một kịch bản giả định khi nó bị cảnh sát bắt gặp sau khi có hành vi tình dục với một người 17 tuổi.

Trong một tuyên bố phản hồi WSJ về cuộc điều tra, Meta cáo buộc báo cáo này “mang tính thao túng và không đại diện cho cách hầu hết người dùng tương tác với bạn đồng hành AI.”

“Tuy nhiên, chúng tôi hiện đã thực hiện các biện pháp bổ sung để giúp đảm bảo những cá nhân khác muốn dành hàng giờ để cố gắng thao túng sản phẩm của chúng tôi vào các trường hợp sử dụng cực đoan sẽ gặp khó khăn hơn nữa,” Meta viết trong phản hồi gửi WSJ.

Thế giới chatbot AI đã phát triển nhanh chóng trong vài năm qua, với sự cạnh tranh ngày càng tăng từ các đối thủ như ChatGPT, Character AI và Claude của Anthropic. Báo cáo của WSJ cho rằng Giám đốc điều hành của Meta, Mark Zuckerberg, muốn nới lỏng các rào cản đạo đức để mang lại trải nghiệm hấp dẫn hơn cho các chatbot của mình nhằm duy trì lợi thế cạnh tranh. Tuy nhiên, trong phản hồi gửi WSJ, một phát ngôn viên của Meta đã phủ nhận việc công ty bỏ qua việc thêm các biện pháp bảo vệ. Báo cáo cũng tuyên bố rằng các nhân viên của Meta đã nhận thức được những vấn đề này và đã nêu lên mối lo ngại của họ trong nội bộ. Chúng tôi đã liên hệ với Meta để có bình luận và sẽ cập nhật câu chuyện khi nhận được phản hồi.