Nghiên cứu mới: Chatbot tiêm nhiễm tư tưởng lệch lạc về cơ thể cho giới trẻ

Trong bối cảnh nội dung trực tuyến khuyến khích các hành vi rối loạn ăn uống đang trở lại một cách đáng báo động, trí tuệ nhân tạo (AI) đang vô tình “đổ thêm dầu vào lửa”.

Theo một cuộc điều tra của Futurism, nền tảng AI nổi tiếng Character.AI đang lưu trữ nhiều chatbot ủng hộ chứng biếng ăn, khuyến khích giảm cân và các thói quen ăn uống nguy hiểm. Nhiều chatbot được quảng cáo là “huấn luyện viên giảm cân” hoặc thậm chí là chuyên gia phục hồi rối loạn ăn uống. Một số chatbot chứa các thông điệp ẩn ý về rối loạn ăn uống, trong khi nhiều chatbot khác được thiết kế để lãng mạn hóa các thói quen nguy hiểm và đáng lo ngại, đồng thời bắt chước các nhân vật yêu thích của người dùng. Mặc dù vi phạm điều khoản dịch vụ, trang web phổ biến với người dùng trẻ tuổi này vẫn chưa có động thái xóa bỏ các chatbot thuộc loại này.

Đây không phải là vụ bê bối đầu tiên liên quan đến các chatbot tùy chỉnh, do người dùng tạo trên Character.AI. Vào tháng 10, một cậu bé 14 tuổi đã tự tử sau khi bị cáo buộc hình thành mối quan hệ tình cảm với một chatbot AI bắt chước nhân vật Daenerys Targaryen trong Game of Thrones. Đầu tháng đó, công ty đã bị chỉ trích vì lưu trữ một chatbot bắt chước một cô gái tuổi teen bị sát hại vào năm 2006 – cha của cô gái đã phát hiện ra chatbot này và sau đó nó đã bị gỡ bỏ. Các báo cáo trước đây cho thấy trang web này cũng lưu trữ các chatbot theo chủ đề tự tử, cũng như các chatbot quảng cáo lạm dụng tình dục trẻ em.

Một báo cáo năm 2023 từ Trung tâm Chống lại Sự thù địch Kỹ thuật số (CCDH) cho thấy các chatbot AI phổ biến, bao gồm ChatGPT và MyAI của Snapchat, đã tạo ra những phản hồi nguy hiểm cho các câu hỏi về cân nặng và hình ảnh cơ thể. “Các mô hình AI tạo sinh chưa được kiểm chứng, không an toàn đã được tung ra thế giới với hậu quả không thể tránh khỏi là chúng đang gây hại. Chúng tôi phát hiện ra rằng các trang web AI tạo sinh phổ biến nhất đang khuyến khích và làm trầm trọng thêm chứng rối loạn ăn uống ở những người dùng trẻ tuổi – một số người trong số họ có thể rất dễ bị tổn thương”, Imran Ahmed, Giám đốc điều hành của CCDH, cho biết.

Thanh thiếu niên (và người lớn) đang ngày càng chuyển sang không gian và công nghệ kỹ thuật số, bao gồm cả chatbot AI, để bầu bạn. Và trong khi một số trong số này được tạo ra và giám sát bởi các tổ chức đáng tin cậy, thì ngay cả những tổ chức đó cũng có nguy cơ gặp phải các hành vi không mong muốn. Đối với chatbot và diễn đàn trực tuyến không được các cơ quan giám sát quản lý, rủi ro tăng lên gấp bội, bao gồm cả việc săn mồi và lạm dụng.