Google bị cảnh báo về nguy cơ kiểm duyệt khi mặc định quét cuộc gọi bằng AI

Theo tin tức mới nhất, Google vừa giới thiệu một tính năng đột phá ứng dụng trí tuệ nhân tạo (AI) có khả năng phân tích các cuộc gọi thoại trực tiếp để phát hiện ra những dấu hiệu lừa đảo. Nhờ vào công nghệ AI tiên tiến này, người dùng Android trong tương lai sẽ được cảnh báo về các cuộc gọi khả nghi nhằm bảo vệ họ khỏi những kẻ lừa đảo tinh vi.

Nguồn ảnh: Google

Tính năng này hoạt động bằng cách so sánh nội dung cuộc gọi với kho dữ liệu khổng lồ lưu trữ mẫu hội thoại thường gặp trong các vụ lừa đảo tài chính. Nhờ vậy, hệ thống AI có thể xác định những chi tiết bất thường, ví dụ như kẻ lừa đảo sử dụng ngôn ngữ hù dọa, áp đặt hoặc dụ dỗ tiết lộ thông tin cá nhân nhạy cảm. Khi phát hiện ra các dấu hiệu khả nghi, hệ thống sẽ cảnh báo người dùng để họ chủ động đề phòng và tránh mắc bẫy lừa đảo.

Mặc dù Google khẳng định tính năng mới này sẽ mang lại nhiều lợi ích cho người dùng, tuy nhiên các chuyên gia bảo mật và quyền riêng tư lại bày tỏ quan ngại.

Họ lo ngại rằng tính năng này có thể tạo điều kiện cho việc kiểm duyệt nội dung diễn ra ngay trên thiết bị của người dùng. Điều này có thể dẫn đến việc hạn chế quyền truy cập thông tin và bóp nghẹt quyền tự do ngôn luận.

Điểm mấu chốt của vấn đề nằm ở “quét trên thiết bị” – một công nghệ mới đang gây tranh cãi trong những năm gần đây. Apple từng thử nghiệm quét nội dung trên thiết bị để tìm kiếm vật liệu lạm dụng tình dục trẻ em (CSAM) nhưng đã phải từ bỏ do vấp phải phản ứng dữ dội từ phía người dùng.

Theo Giáo sư Matthew Green, chuyên gia mật mã học tại Đại học Johns Hopkins, việc sử dụng các mô hình trí tuệ nhân tạo (AI) để theo dõi tin nhắn và cuộc gọi thoại nhằm phát hiện và báo cáo hành vi bất hợp pháp hoàn toàn có thể xảy ra trong tương lai gần, chỉ vài năm tới.

Cùng chung lo ngại với các chuyên gia tại Hoa Kỳ, nhiều chuyên gia an ninh mạng ở châu Âu cũng bày tỏ quan ngại về tính năng chống lừa đảo mới của Google. Họ lo ngại tính năng này có thể bị lạm dụng cho mục đích giám sát xã hội, vi phạm quyền riêng tư của người dùng.

Lukasz Olejnik, nhà nghiên cứu độc lập về bảo mật và quyền riêng tư tại Ba Lan, cho rằng việc Google thu thập thông tin về các trang web mà người dùng truy cập, thời gian họ ở trên các trang web đó và các hành động họ thực hiện có thể dẫn đến việc tạo ra hồ sơ chi tiết về hành vi trực tuyến của người dùng. Hồ sơ này sau đó có thể được sử dụng cho mục đích giám sát xã hội, theo dõi các hoạt động chính trị hoặc thậm chí bán cho các bên thứ ba.

Google has unveiled an LLM model that, by monitoring phone calls, will be able to warn of suspected fraud. Great!

However, this also means that technical capabilities have already been, or are being developed to monitor calls, creation, writing texts or documents, for example… pic.twitter.com/TD1d3g8P2M

— Lukasz Olejnik (@lukOlejnik) May 15, 2024

Theo cảnh báo của ông, công nghệ theo dõi có thể bị lạm dụng để kiểm soát nội dung bất hợp pháp, gây hại, thù địch hoặc vi phạm tiêu chuẩn đạo đức của một số người. Điều này đặt ra những lo ngại về quyền tự do ngôn luận và quyền riêng tư cá nhân.

Theo Michael Veale, phó giáo sư luật công nghệ tại Đại học College London (UCL), tính năng quét hội thoại bằng AI có thể bị lạm dụng cho nhiều mục đích khác nhau, phục vụ cho mong muốn kiểm soát của các nhà quản lý và nhà lập pháp. Ông lo ngại rằng tính năng này có thể tạo ra cơ sở hạ tầng cho việc quét trên thiết bị, dẫn đến việc theo dõi và kiểm soát quá mức đối với người dùng.

Lo ngại của các chuyên gia tại châu Âu có cơ sở thực tế. Liên minh châu Âu (EU) đang đề xuất luật bắt buộc các nền tảng quét tin nhắn riêng tư, điều mà các nhà phê bình cho là sẽ vi phạm quyền dân chủ trong khu vực.

Theo đề xuất này, các nền tảng mạng xã hội sẽ buộc phải trang bị tính năng quét nội dung ngay trên thiết bị của người dùng để tuân thủ luật. Tuy nhiên, điều này tiềm ẩn nguy cơ dẫn đến tình trạng báo cáo nhầm lẫn hàng loạt, gây ảnh hưởng tiêu cực đến người dùng.

Hiện tại, vẫn chưa rõ Google sẽ xử lý những lo ngại này như thế nào. Một số chuyên gia cho rằng Google cần phải minh bạch hơn về cách thức hoạt động của tính năng quét hội thoại AI và đưa ra các biện pháp bảo vệ quyền riêng tư mạnh mẽ hơn cho người dùng.