Gỡ rối quyền riêng tư cho chatbot GenAI của Snap, cơ quan giám sát Anh cảnh báo ngành

Cơ quan giám sát bảo vệ dữ liệu của Anh (ICO) vừa kết thúc điều tra kéo dài gần 1 năm về chatbot AI My AI của Snap. ICO cho biết họ hài lòng rằng Snap đã giải quyết các vấn đề liên quan đến rủi ro cho quyền riêng tư của trẻ em. Tuy nhiên, ICO cũng đưa ra cảnh báo chung cho các doanh nghiệp về việc chủ động đánh giá rủi ro cho quyền lợi của người dùng trước khi đưa các công cụ AI thế hệ mới ra thị trường.

AI thế hệ mới (Generative AI) là loại AI thường được dùng để tạo nội dung. Trong trường hợp của Snap, công nghệ này cung cấp năng lượng cho một chatbot có thể trả lời người dùng theo cách giống người, chẳng hạn như nhắn tin và gửi ảnh Snap, cho phép nền tảng này cung cấp tương tác tự động.

Chatbot AI của Snap được hỗ trợ bởi ChatGPT của OpenAI, nhưng Snap cho biết họ áp dụng các biện pháp bảo vệ khác nhau cho ứng dụng, bao gồm lập trình theo nguyên tắc và mặc định tính đến độ tuổi, nhằm ngăn trẻ em xem nội dung không phù hợp. Snap cũng tích hợp thêm tính năng kiểm soát của phụ huynh.

Ông Stephen Almond, giám đốc điều hành rủi ro pháp lý của ICO, cho biết trong một tuyên bố hôm thứ Ba: “Cuộc điều tra của chúng tôi về ‘My AI’ nên được coi như một cảnh báo cho các doanh nghiệp. Các tổ chức phát triển hoặc sử dụng AI thế hệ mới phải cân nhắc đến việc bảo vệ dữ liệu ngay từ đầu, bao gồm việc đánh giá và giảm thiểu rủi ro đối với quyền và tự do của mọi người trước khi đưa sản phẩm ra thị trường.”

Ông nói thêm: “Chúng tôi sẽ tiếp tục theo dõi việc đánh giá rủi ro của các tổ chức và sử dụng toàn bộ quyền hạn thực thi của mình – bao gồm cả tiền phạt – để bảo vệ công chúng khỏi những thiệt hại.”

Tháng 10 năm ngoái, ICO đã gửi cho Snap một thông báo thực thi sơ bộ về những gì họ mô tả là “sự thiếu sót tiềm ẩn trong việc đánh giá đúng rủi ro về quyền riêng tư do chatbot AI thế hệ mới ‘My AI’ gây ra”.

Thông báo sơ bộ đó dường như là hình thức khiển trách công khai duy nhất đối với Snap. Về lý thuyết, chế tài có thể áp dụng khoản tiền phạt lên tới 4% doanh thu hàng năm của công ty trong trường hợp vi phạm dữ liệu được xác nhận.

Tuy nhiên, ICO cho biết Snap đã thực hiện “các bước đáng kể để tiến hành đánh giá kỹ lưỡng hơn về những rủi ro do ‘My AI’ gây ra” sau khi ICO can thiệp. ICO cũng cho biết Snap đã chứng minh được rằng họ đã thực hiện “các biện pháp giảm thiểu phù hợp” để giải quyết các vấn đề được nêu ra – nhưng không nêu chi tiết về các biện pháp bổ sung (nếu có) mà công ty đã thực hiện.

Các chi tiết có thể sẽ được tiết lộ khi quyết định cuối cùng của cơ quan quản lý được công bố trong những tuần tới.

ICO cho biết thêm: “ICO hài lòng rằng Snap hiện đã thực hiện đánh giá rủi ro liên quan đến ‘My AI’ tuân thủ luật bảo vệ dữ liệu. ICO sẽ tiếp tục theo dõi việc triển khai ‘My AI’ và cách giải quyết các rủi ro mới nổi.”

Người phát ngôn của Snap cho biết: “Chúng tôi hài lòng vì ICO đã chấp nhận rằng chúng tôi đã thực hiện các biện pháp thích hợp để bảo vệ cộng đồng của mình khi sử dụng My AI. Mặc dù chúng tôi đã cẩn thận đánh giá các rủi ro do My AI gây ra, chúng tôi chấp nhận rằng việc đánh giá của chúng tôi có thể được ghi chép rõ ràng hơn và đã thay đổi các thủ tục toàn cầu của mình để phản ánh phản hồi mang tính xây dựng của ICO. Chúng tôi hoan nghê迎 (yíng) nhận kết luận của ICO rằng việc đánh giá rủi ro của chúng tôi hoàn toàn tuân thủ luật bảo vệ dữ liệu của Anh và mong muốn tiếp tục mối quan hệ hợp tác xây dựng của chúng tôi.”

Snap từ chối cung cấp chi tiết về bất kỳ biện pháp giảm thiểu nào mà họ đã thực hiện để đáp ứng với sự can thiệp của ICO.

ICO cho biết AI thế hệ mới vẫn là ưu tiên thực thi của họ. ICO cung cấp cho các nhà phát triển hướng dẫn về quy tắc AI và bảo vệ dữ liệu. ICO cũng đang mở một cuộc tham vấn để lấy ý kiến về cách luật về quyền riêng tư nên được áp dụng như thế nào cho việc phát triển và sử dụng các mô hình AI thế hệ mới.