Anthropic mở cửa cho trẻ em sử dụng công nghệ AI với những hạn chế nhất định

Anthropic, một startup về AI, đang thay đổi chính sách để cho phép trẻ vị thành niên sử dụng các hệ thống AI sinh động của mình trong một số trường hợp nhất định.

Thông báo này được đăng trên blog chính thức của công ty vào thứ Sáu, Anthropic sẽ cho phép các thiếu niên và trẻ em sử dụng các ứng dụng của bên thứ ba (không nhất thiết là ứng dụng của chính họ) được cung cấp bởi các mô hình AI của mình miễn là các nhà phát triển của những ứng dụng này thực hiện các tính năng an toàn cụ thể và thông báo cho người dùng về các công nghệ Anthropic mà họ đang sử dụng.

Trong một bài viết hỗ trợ, Anthropic liệt kê một số biện pháp an toàn mà các nhà phát triển tạo ra các ứng dụng dựa trên AI cho trẻ vị thành niên nên bao gồm, như hệ thống xác minh tuổi, kiểm duyệt và lọc nội dung và tài nguyên giáo dục về việc sử dụng AI “an toàn và có trách nhiệm” cho trẻ vị thành niên. Công ty cũng cho biết có thể cung cấp “các biện pháp kỹ thuật” nhằm điều chỉnh trải nghiệm sản phẩm AI cho trẻ em, như “hệ thống nhắc nhở an toàn cho trẻ em” mà các nhà phát triển nhắm tới trẻ vị thành niên sẽ phải thực hiện.

Các nhà phát triển sử dụng các mô hình AI của Anthropic cũng phải tuân thủ các quy định về an toàn trẻ em và bảo mật dữ liệu “có liên quan” như Đạo luật Bảo vệ Quyền Riêng tư Trực tuyến của Trẻ Em (COPPA), đạo luật liên bang của Hoa Kỳ bảo vệ quyền riêng tư trực tuyến của trẻ em dưới 13 tuổi. Anthropic cho biết họ có kế hoạch “định kỳ” kiểm tra các ứng dụng để đảm bảo tuân thủ, đình chỉ hoặc chấm dứt tài khoản của những người vi phạm yêu cầu tuân thủ nhiều lần và yêu cầu các nhà phát triển “nêu rõ” trên các trang web hoặc tài liệu công khai rằng họ đang tuân thủ.

Anthropic viết trong bài đăng rằng có một số trường hợp sử dụng công cụ AI có thể mang lại lợi ích đáng kể cho người dùng trẻ tuổi, như chuẩn bị bài kiểm tra hoặc hỗ trợ gia sư. Với điều này trong tâm trí, chính sách cập nhật của họ cho phép các tổ chức tích hợp API của họ vào sản phẩm dành cho trẻ vị thành niên.

Thay đổi chính sách của Anthropic đến khi trẻ em và thanh thiếu niên ngày càng tìm đến các công cụ AI sinh động để giúp đỡ không chỉ với bài vở học hành mà còn với các vấn đề cá nhân, và khi các nhà cung cấp AI sinh động đối thủ — bao gồm Google và OpenAI — đang khám phá nhiều trường hợp sử dụng hướng tới trẻ em. Năm nay, OpenAI đã thành lập một đội mới để nghiên cứu về an toàn trẻ em và công bố một quan hệ đối tác với Common Sense Media để cộng tác về các hướng dẫn AI thân thiện với trẻ em. Và Google đã làm cho chatbot của mình, Bard, hiện được đổi tên thành Gemini, có sẵn cho thanh thiếu niên bằng tiếng Anh ở một số khu vực được chọn.

Theo một cuộc thăm dò của Trung tâm Dân chủ và Công nghệ, 29% trẻ em cho biết đã sử dụng AI sinh động như ChatGPT của OpenAI để giải quyết lo lắng hoặc các vấn đề sức khỏe tâm thần, 22% về các vấn đề với bạn bè và 16% về xung đột gia đình.

Tổ chức Giáo dục, Khoa học và Văn hóa Liên Hợp Quốc (UNESCO) vào cuối năm ngoái đã thúc giục các chính phủ quản lý việc sử dụng AI sinh động trong giáo dục, bao gồm thực hiện giới hạn tuổi cho người dùng và các biện pháp bảo vệ dữ liệu và quyền riêng tư của người dùng. “AI sinh động có thể là một cơ hội to lớn cho sự phát triển của con người, nhưng nó cũng có thể gây ra tổn hại và thành kiến,” Audrey Azoulay, tổng giám đốc UNESCO, cho biết trong một thông cáo báo chí. “Nó không thể được tích hợp vào giáo dục mà không có sự tham gia của công chúng và các biện pháp bảo vệ và quy định cần thiết từ các chính phủ.”