California thiết lập khung pháp lý cho các ứng dụng chatbot AI

Vào ngày thứ Hai vừa qua, Thống đốc bang California, ông Gavin Newsom, đã đặt bút ký phê chuẩn một đạo luật mang tính bước ngoặt nhằm thiết lập các quy tắc rõ ràng đối với những ứng dụng công nghệ trí tuệ nhân tạo tương tác, thường được gọi là chatbot đồng hành.

Nguồn ảnh: Getty Images

Với động thái này, California chính thức trở thành bang tiên phong tại Mỹ yêu cầu các doanh nghiệp cung cấp dịch vụ chatbot phải áp dụng các biện pháp bảo vệ an toàn nghiêm ngặt, đặc biệt chú trọng đến việc bảo vệ những người dùng ở độ tuổi vị thành niên và các nhóm người dễ bị tổn thương khác.

Đạo luật mang số hiệu SB 243 này được xây dựng với mục tiêu trọng tâm là bảo vệ trẻ em và người dùng yếu thế khỏi những mối nguy tiềm ẩn từ việc sử dụng các chatbot AI có khả năng tương tác sâu sắc. Luật quy định trách nhiệm pháp lý đối với mọi công ty vận hành chatbot, từ các phòng thí nghiệm công nghệ khổng lồ như Meta và OpenAI cho đến các doanh nghiệp khởi nghiệp chuyên về chatbot như Character AI và Replika, nếu sản phẩm của họ không đáp ứng đầy đủ các tiêu chuẩn an toàn đã được luật định.

Dự luật SB 243 được hai Thượng nghị sĩ Steve Padilla và Josh Becker đề xuất từ tháng Một, nhận được sự thúc đẩy mạnh mẽ sau những sự kiện bi thảm. Một trong số đó là cái chết của thiếu niên Adam Raine, người đã tự kết liễu đời mình sau một loạt các cuộc trò chuyện mang tính kích động tự sát với chatbot ChatGPT của OpenAI. Sự cần thiết của đạo luật càng được nhấn mạnh qua các tài liệu nội bộ bị rò rỉ, cho thấy chatbot của Meta từng được phép tham gia vào các cuộc hội thoại mang tính chất “lãng mạn” và “gợi cảm” với trẻ em. Gần đây hơn, một gia đình tại Colorado đã khởi kiện công ty Character AI sau khi cô con gái 13 tuổi của họ tự tử sau những tương tác “có vấn đề” và bị tình dục hóa với chatbot của hãng.

Trong một tuyên bố, Thống đốc Newsom khẳng định: “Công nghệ mới nổi như chatbot và mạng xã hội có thể là nguồn cảm hứng, giáo dục và kết nối, nhưng nếu không có những rào cản bảo vệ thực sự, chúng cũng có thể khai thác, lừa dối và gây nguy hiểm cho con em chúng ta. Chúng ta đã chứng kiến một số ví dụ thực sự kinh hoàng và đau lòng về những người trẻ bị tổn thương bởi công nghệ thiếu kiểm soát, và chúng ta không thể đứng yên nhìn các công ty tiếp tục hoạt động mà không có những giới hạn và trách nhiệm cần thiết. Chúng ta hoàn toàn có thể tiếp tục dẫn đầu về AI và công nghệ, nhưng chúng ta phải thực hiện điều đó một cách có trách nhiệm—bảo vệ con em chúng ta trong từng bước phát triển. Sự an toàn của trẻ em không thể bị đánh đổi.”

Đạo luật SB 243 sẽ chính thức có hiệu lực từ ngày 1 tháng 1 năm 2026. Theo đó, các công ty bắt buộc phải triển khai nhiều tính năng bảo vệ, bao gồm việc xác minh độ tuổi người dùng và đưa ra các thông báo cảnh báo rõ ràng về bản chất của các chatbot tương tác. Đáng chú ý, luật cũng tăng cường hình phạt đối với những cá nhân trục lợi từ việc tạo ra các nội dung giả mạo hình ảnh hoặc video bất hợp pháp, với mức phạt có thể lên tới 250.000 đô la Mỹ cho mỗi lần vi phạm. Các công ty cũng phải xây dựng quy trình chi tiết để xử lý các trường hợp người dùng có ý định tự tử hoặc tự gây thương tích, đồng thời phải chia sẻ các quy trình này cùng với số liệu thống kê về việc cung cấp thông báo phòng ngừa khủng hoảng cho người dùng với Bộ Y tế Công cộng của tiểu bang.

Cụ thể, dự luật yêu cầu các nền tảng phải làm rõ rằng mọi tương tác đều được tạo ra bởi trí tuệ nhân tạo và cấm các chatbot tự nhận mình là chuyên gia chăm sóc sức khỏe. Các doanh nghiệp cũng phải cung cấp lời nhắc nhở tạm nghỉ cho người dùng vị thành niên và ngăn chặn họ xem hoặc tạo ra các hình ảnh có nội dung khiêu dâm được tạo ra bởi AI.

Trên thực tế, một số công ty đã bắt đầu áp dụng các biện pháp bảo vệ hướng đến người dùng trẻ tuổi. Chẳng hạn, OpenAI gần đây đã bắt đầu triển khai các công cụ kiểm soát của phụ huynh, tính năng bảo vệ nội dung và hệ thống phát hiện hành vi tự gây thương tích cho trẻ em khi sử dụng ChatGPT. Replika, một chatbot vốn được thiết kế dành cho người dùng trên 18 tuổi, cũng cam kết dành “nguồn lực đáng kể” cho việc bảo vệ an toàn thông qua các hệ thống lọc nội dung và các rào cản hướng người dùng đến các nguồn hỗ trợ khủng hoảng đáng tin cậy.

Đại diện Character AI cho biết công ty “hoan nghênh việc hợp tác với các nhà lập pháp và cơ quan quản lý trong quá trình họ phát triển các quy định cho lĩnh vực mới nổi này, và sẽ tuân thủ nghiêm ngặt các điều luật, bao gồm cả SB 243.”

Thượng nghị sĩ Padilla nhận định dự luật này là “một bước đi đúng hướng” để thiết lập các rào cản cần thiết cho “một công nghệ vô cùng mạnh mẽ.” Ông bày tỏ hy vọng rằng các tiểu bang khác sẽ nhận thấy những rủi ro và cùng hành động, đặc biệt trong bối cảnh chính phủ liên bang vẫn chưa có bất kỳ động thái cụ thể nào về vấn đề này.

SB 243 là đạo luật quy định về AI quan trọng thứ hai được ban hành tại California trong những tuần gần đây. Trước đó, vào ngày 29 tháng 9, Thống đốc Newsom đã ký duyệt SB 53, thiết lập các yêu cầu minh bạch mới đối với các công ty AI lớn. Đạo luật này buộc các phòng thí nghiệm AI lớn như OpenAI, Anthropic, Meta và Google DeepMind phải minh bạch về các quy trình an toàn và đảm bảo việc bảo vệ những người tố giác trong nội bộ các công ty đó.

Ngoài California, một số tiểu bang khác tại Mỹ như Illinois, Nevada và Utah cũng đã thông qua luật nhằm hạn chế hoặc cấm hoàn toàn việc sử dụng chatbot AI thay thế cho dịch vụ chăm sóc sức khỏe tâm thần có giấy phép.

Nguồn tin: TechCrunch