Google Messages bắt đầu cảnh báo nội dung nhạy cảm, hình ảnh khỏa thân

Google Messages đã bắt đầu triển khai tính năng cảnh báo nội dung nhạy cảm đối với ảnh khoả thân, sau khi lần đầu tiên công bố tính năng này vào cuối năm ngoái. Tính năng mới này sẽ thực hiện hai hành động chính nếu hệ thống dựa trên AI phát hiện tin nhắn chứa ảnh khoả thân: làm mờ ảnh đó và hiển thị cảnh báo nếu con bạn cố gắng mở, gửi hoặc chuyển tiếp chúng. Cuối cùng, tính năng này cũng cung cấp các nguồn lực hỗ trợ cho cả bạn và con bạn. Toàn bộ quá trình phát hiện diễn ra trên thiết bị để đảm bảo hình ảnh và dữ liệu luôn được giữ kín.

Công ty lưu ý rằng cảnh báo nội dung nhạy cảm được bật mặc định cho những người dùng được giám sát và thanh thiếu niên chưa được giám sát đã đăng nhập. Cha mẹ có thể kiểm soát tính năng này cho người dùng được giám sát thông qua ứng dụng Family Link, nhưng thanh thiếu niên từ 13 đến 17 tuổi chưa được giám sát có thể tắt nó trong cài đặt Google Messages. Tính năng này tắt theo mặc định cho tất cả những người dùng khác.

Khi cảnh báo nội dung nhạy cảm được bật, hình ảnh sẽ bị làm mờ và một thông báo “chặn tạm thời” sẽ xuất hiện, cho phép người dùng chặn người gửi, đồng thời cung cấp liên kết đến trang tài nguyên giải thích tại sao ảnh khoả thân có thể gây hại. Tiếp theo, hệ thống sẽ hỏi người dùng liệu họ có muốn mở tin nhắn hay không với các tùy chọn “Không, không xem” và “Có, xem”. Nếu có nỗ lực gửi ảnh, các tùy chọn tương tự cũng sẽ được cung cấp. Như vậy, tính năng này không hoàn toàn ngăn chặn trẻ em gửi ảnh khoả thân mà chỉ đưa ra cảnh báo.

Tính năng này được hỗ trợ bởi hệ thống SafetyCore của Google, cho phép phân loại nội dung trên thiết bị bằng AI mà không cần gửi “dữ liệu nhận dạng hoặc bất kỳ nội dung hoặc kết quả phân loại nào đến máy chủ của Google”, theo công ty cho biết. 9to5Google cho biết tính năng này mới chỉ bắt đầu xuất hiện trên các thiết bị Android và chưa được phổ biến rộng rãi.

• Google Messages ra mắt tính năng cảnh báo nội dung nhạy cảm cho ảnh khoả thân.
• Tính năng này tự động làm mờ ảnh khoả thân và cảnh báo người dùng, đặc biệt là trẻ em.
• Các nguồn lực hỗ trợ cũng được cung cấp cho người dùng và trẻ em.
• Quá trình phát hiện diễn ra trên thiết bị, đảm bảo quyền riêng tư.
• Tính năng được bật mặc định cho người dùng được giám sát và thanh thiếu niên chưa được giám sát đã đăng nhập.
• Cha mẹ kiểm soát tính năng cho con cái qua Family Link, thanh thiếu niên có thể tắt trong cài đặt.
• Khi mở hoặc gửi ảnh khoả thân, người dùng sẽ thấy cảnh báo và tùy chọn chặn/xem/gửi.
• Tính năng này không chặn hoàn toàn việc gửi ảnh khoả thân mà tập trung vào cảnh báo.
• Công nghệ SafetyCore của Google đảm bảo dữ liệu không được gửi về máy chủ của Google.
• Tính năng hiện đang được triển khai trên Android và chưa phổ biến.