Character.ai: Cha mẹ giờ đây có thể biết con cái đang trò chuyện với những bot nào

Dịch vụ chatbot Character.AI vừa ra mắt tính năng mới mang tên “Thông tin dành cho phụ huynh”, cho phép thanh thiếu niên gửi báo cáo hàng tuần về việc sử dụng chatbot của mình đến địa chỉ email của cha mẹ. Theo thông báo từ công ty, báo cáo này bao gồm thời gian trung bình hàng ngày sử dụng trên web và thiết bị di động, các nhân vật mà người dùng tương tác thường xuyên nhất và thời gian họ dành để trò chuyện với từng nhân vật. Tính năng này nằm trong chuỗi cập nhật được thiết kế để giải quyết những lo ngại về việc trẻ vị thành niên dành quá nhiều thời gian với chatbot và gặp phải nội dung không phù hợp trong các cuộc trò chuyện.

Báo cáo, không yêu cầu cha mẹ phải có tài khoản, là tùy chọn và có thể được người dùng vị thành niên thiết lập trong cài đặt của Character.AI. Công ty lưu ý rằng đây chỉ là bản tóm tắt hoạt động của thanh thiếu niên, không phải nhật ký đầy đủ – do đó, nội dung của các cuộc trò chuyện chatbot sẽ không được chia sẻ. Nền tảng này cấm trẻ em dưới 13 tuổi ở hầu hết các khu vực và dưới 16 tuổi ở châu Âu.

Character.AI đã giới thiệu các tính năng mới dành cho người dùng chưa đủ tuổi từ năm ngoái, trùng với những lo ngại – và thậm chí là các khiếu nại pháp lý – về dịch vụ của mình. Nền tảng này, phổ biến với thanh thiếu niên, cho phép người dùng tạo và tùy chỉnh chatbot để tương tác hoặc chia sẻ công khai. Tuy nhiên, nhiều vụ kiện cáo buộc rằng những bot này đã cung cấp nội dung tình dục hóa không phù hợp hoặc tài liệu khuyến khích hành vi tự gây hại. Ngoài ra, nền tảng này cũng được cho là đã nhận được cảnh báo từ Apple và Google (nơi đã thuê những người sáng lập Character.AI vào năm ngoái) về nội dung ứng dụng của mình.

Công ty cho biết hệ thống của họ đã được thiết kế lại; trong số các thay đổi khác, họ đã chuyển người dùng dưới 18 tuổi sang mô hình được đào tạo để tránh đầu ra “nhạy cảm” và thêm các thông báo nổi bật hơn nhắc nhở người dùng rằng bot không phải là người thật. Tuy nhiên, với sự nhiệt tình đối với quy định về AI và luật bảo vệ trẻ em đang gia tăng, đây có thể không phải là bước cuối cùng mà công ty được yêu cầu thực hiện.

Tính năng “Thông tin dành cho phụ huynh” được giới thiệu như một công cụ giúp cha mẹ có cái nhìn tổng quan về hoạt động của con em mình trên nền tảng. Tuy nhiên, điều quan trọng cần lưu ý là đây không phải là một công cụ giám sát toàn diện. Nó chỉ cung cấp thông tin về thời gian sử dụng và các nhân vật tương tác, chứ không tiết lộ nội dung trò chuyện.

Character.AI đang đối mặt với những thách thức lớn trong việc cân bằng giữa việc cung cấp một nền tảng sáng tạo và đảm bảo an toàn cho người dùng, đặc biệt là trẻ vị thành niên. Việc giới thiệu “Thông tin dành cho phụ huynh” là một bước đi đúng hướng, nhưng công ty cần tiếp tục nỗ lực để cải thiện hệ thống và đáp ứng các yêu cầu pháp lý ngày càng khắt khe. Trong bối cảnh quy định về AI ngày càng được thắt chặt, Character.AI có thể sẽ phải thực hiện nhiều thay đổi hơn nữa trong tương lai.