OpenAI thắt chặt chính sách, người dùng dưới 18 tuổi sẽ bị hạn chế khi sử dụng ChatGPT

OpenAI vừa công bố một loạt chính sách mới về người dùng, trong đó đáng chú ý nhất là cam kết thay đổi đáng kể cách ChatGPT tương tác với thanh thiếu niên. Động thái này được đưa ra trong bối cảnh các chatbot AI đang đối mặt với làn sóng chỉ trích mạnh mẽ về mức độ an toàn cho người dùng trẻ tuổi.

Nguồn ảnh: Tomohiro Ohsumi/Getty Images

Trong một bài đăng chính thức trên blog của công ty, CEO Sam Altman nhấn mạnh: “Chúng tôi ưu tiên sự an toàn hơn quyền riêng tư và tự do của thanh thiếu niên. Đây là một công nghệ mới và mạnh mẽ, và chúng tôi tin rằng trẻ vị thành niên cần được bảo vệ đáng kể.”

Các thay đổi tập trung vào việc ngăn chặn những rủi ro nghiêm trọng như nội dung tình dục hoặc tự làm hại bản thân. Cụ thể, ChatGPT sẽ được huấn luyện để không tham gia vào các cuộc hội thoại mang tính tán tỉnh với người dùng dưới 18 tuổi. Đồng thời, các rào chắn bổ sung sẽ được thiết lập xung quanh những cuộc thảo luận về chủ đề tự tử. Khi phát hiện người dùng vị thành niên tưởng tượng các kịch bản tự tử, ChatGPT sẽ cố gắng liên hệ với phụ huynh hoặc thông báo cho cảnh sát địa phương trong những trường hợp khẩn cấp.

Những thay đổi này không chỉ là phòng ngừa. Hiện tại, OpenAI đang phải đối mặt với một vụ kiện từ cha mẹ của Adam Raine, một thiếu niên đã qua đời vì tự tử sau nhiều tháng tương tác với ChatGPT. Character.AI, một chatbot khác, cũng đang vướng vào một vụ kiện tương tự. Đây không còn là nỗi lo về ảo giác do AI gây ra mà đã trở thành mối quan ngại trên diện rộng, khi các chatbot ngày càng trở nên tinh vi và có khả năng tương tác sâu hơn.

Bên cạnh các hạn chế về nội dung, OpenAI còn cho phép phụ huynh đăng ký tài khoản cho con cái có thể thiết lập “giờ cấm” để vô hiệu hóa ChatGPT trong một khoảng thời gian nhất định.

Loạt chính sách mới được công bố trong bối cảnh nhạy cảm

Nguồn ảnh: Techlade (Ảnh tạo từ AI)

Việc công bố các chính sách mới của OpenAI diễn ra đúng vào ngày diễn ra phiên điều trần của Ủy ban Tư pháp Thượng viện Mỹ, với chủ đề “Kiểm tra những tổn hại từ chatbot AI”. Phiên điều trần này, do Thượng nghị sĩ Josh Hawley khởi xướng từ tháng 8, đã mời cha của Adam Raine và nhiều chuyên gia khác đến phát biểu.

Phiên điều trần cũng tập trung vào kết quả của một cuộc điều tra từ Reuters, vốn đã phanh phui các tài liệu nội bộ dường như khuyến khích các cuộc trò chuyện tình dục với người dùng vị thành niên ở một số công ty công nghệ. Sau báo cáo này, Meta cũng đã cập nhật chính sách chatbot của mình.

Việc phân biệt người dùng dưới 18 tuổi là một thách thức kỹ thuật lớn. Trong một bài đăng riêng, OpenAI cho biết họ đang “xây dựng một hệ thống lâu dài để xác định liệu ai đó trên hay dưới 18 tuổi.” Tuy nhiên, trong những trường hợp không rõ ràng, hệ thống sẽ ưu tiên áp dụng các quy tắc hạn chế hơn. Cách đáng tin cậy nhất để đảm bảo an toàn cho trẻ vị thành niên là phụ huynh liên kết tài khoản của con cái với tài khoản chính của mình. Điều này cũng cho phép hệ thống trực tiếp cảnh báo cho cha mẹ khi có dấu hiệu cho thấy người dùng trẻ đang gặp vấn đề nghiêm trọng.

Tuy nhiên, trong cùng bài đăng, ông Altman vẫn tái khẳng định cam kết của OpenAI về quyền riêng tư và quyền tự do tương tác cho người dùng trưởng thành. Ông kết luận: “Chúng tôi nhận ra rằng những nguyên tắc này có thể mâu thuẫn, và không phải ai cũng sẽ đồng ý với cách chúng tôi đang giải quyết sự mâu thuẫn đó.”