Google bị cảnh báo về nguy cơ kiểm duyệt khi mặc định quét cuộc gọi bằng AI
00:50 16/05/2024
4 phút đọc
Theo tin tức mới nhất, Google vừa giới thiệu một tính năng đột phá ứng dụng trí tuệ nhân tạo (AI) có khả năng phân tích các cuộc gọi thoại trực tiếp để phát hiện ra những dấu hiệu lừa đảo. Nhờ vào công nghệ AI tiên tiến này, người dùng Android trong tương lai sẽ được cảnh báo về các cuộc gọi khả nghi nhằm bảo vệ họ khỏi những kẻ lừa đảo tinh vi.
Tính năng này hoạt động bằng cách so sánh nội dung cuộc gọi với kho dữ liệu khổng lồ lưu trữ mẫu hội thoại thường gặp trong các vụ lừa đảo tài chính. Nhờ vậy, hệ thống AI có thể xác định những chi tiết bất thường, ví dụ như kẻ lừa đảo sử dụng ngôn ngữ hù dọa, áp đặt hoặc dụ dỗ tiết lộ thông tin cá nhân nhạy cảm. Khi phát hiện ra các dấu hiệu khả nghi, hệ thống sẽ cảnh báo người dùng để họ chủ động đề phòng và tránh mắc bẫy lừa đảo.
Mặc dù Google khẳng định tính năng mới này sẽ mang lại nhiều lợi ích cho người dùng, tuy nhiên các chuyên gia bảo mật và quyền riêng tư lại bày tỏ quan ngại.
Họ lo ngại rằng tính năng này có thể tạo điều kiện cho việc kiểm duyệt nội dung diễn ra ngay trên thiết bị của người dùng. Điều này có thể dẫn đến việc hạn chế quyền truy cập thông tin và bóp nghẹt quyền tự do ngôn luận.
Điểm mấu chốt của vấn đề nằm ở “quét trên thiết bị” – một công nghệ mới đang gây tranh cãi trong những năm gần đây. Apple từng thử nghiệm quét nội dung trên thiết bị để tìm kiếm vật liệu lạm dụng tình dục trẻ em (CSAM) nhưng đã phải từ bỏ do vấp phải phản ứng dữ dội từ phía người dùng.
Theo Giáo sư Matthew Green, chuyên gia mật mã học tại Đại học Johns Hopkins, việc sử dụng các mô hình trí tuệ nhân tạo (AI) để theo dõi tin nhắn và cuộc gọi thoại nhằm phát hiện và báo cáo hành vi bất hợp pháp hoàn toàn có thể xảy ra trong tương lai gần, chỉ vài năm tới.
Cùng chung lo ngại với các chuyên gia tại Hoa Kỳ, nhiều chuyên gia an ninh mạng ở châu Âu cũng bày tỏ quan ngại về tính năng chống lừa đảo mới của Google. Họ lo ngại tính năng này có thể bị lạm dụng cho mục đích giám sát xã hội, vi phạm quyền riêng tư của người dùng.
Lukasz Olejnik, nhà nghiên cứu độc lập về bảo mật và quyền riêng tư tại Ba Lan, cho rằng việc Google thu thập thông tin về các trang web mà người dùng truy cập, thời gian họ ở trên các trang web đó và các hành động họ thực hiện có thể dẫn đến việc tạo ra hồ sơ chi tiết về hành vi trực tuyến của người dùng. Hồ sơ này sau đó có thể được sử dụng cho mục đích giám sát xã hội, theo dõi các hoạt động chính trị hoặc thậm chí bán cho các bên thứ ba.
Google has unveiled an LLM model that, by monitoring phone calls, will be able to warn of suspected fraud. Great!
However, this also means that technical capabilities have already been, or are being developed to monitor calls, creation, writing texts or documents, for example… pic.twitter.com/TD1d3g8P2M
— Lukasz Olejnik (@lukOlejnik) May 15, 2024
Theo cảnh báo của ông, công nghệ theo dõi có thể bị lạm dụng để kiểm soát nội dung bất hợp pháp, gây hại, thù địch hoặc vi phạm tiêu chuẩn đạo đức của một số người. Điều này đặt ra những lo ngại về quyền tự do ngôn luận và quyền riêng tư cá nhân.
Theo Michael Veale, phó giáo sư luật công nghệ tại Đại học College London (UCL), tính năng quét hội thoại bằng AI có thể bị lạm dụng cho nhiều mục đích khác nhau, phục vụ cho mong muốn kiểm soát của các nhà quản lý và nhà lập pháp. Ông lo ngại rằng tính năng này có thể tạo ra cơ sở hạ tầng cho việc quét trên thiết bị, dẫn đến việc theo dõi và kiểm soát quá mức đối với người dùng.
Lo ngại của các chuyên gia tại châu Âu có cơ sở thực tế. Liên minh châu Âu (EU) đang đề xuất luật bắt buộc các nền tảng quét tin nhắn riêng tư, điều mà các nhà phê bình cho là sẽ vi phạm quyền dân chủ trong khu vực.
Theo đề xuất này, các nền tảng mạng xã hội sẽ buộc phải trang bị tính năng quét nội dung ngay trên thiết bị của người dùng để tuân thủ luật. Tuy nhiên, điều này tiềm ẩn nguy cơ dẫn đến tình trạng báo cáo nhầm lẫn hàng loạt, gây ảnh hưởng tiêu cực đến người dùng.
Hiện tại, vẫn chưa rõ Google sẽ xử lý những lo ngại này như thế nào. Một số chuyên gia cho rằng Google cần phải minh bạch hơn về cách thức hoạt động của tính năng quét hội thoại AI và đưa ra các biện pháp bảo vệ quyền riêng tư mạnh mẽ hơn cho người dùng.
Bài viết liên quan
Thống đốc California ký luật hạn chế sử dụng AI tạo bản sao diễn viên
AI trở thành ‘kẻ phá bĩnh’ trong cuộc đua tìm ra ‘Người nổi tiếng số 6’
Công nghệ AI cảnh báo sớm ung thư da
Pixelbot 3000: Biến ý tưởng AI thành kiệt tác tranh ghép Lego
ChatGPT do người sáng lập da đen phát triển mang đến trải nghiệm cá nhân hóa
Apple tham gia cuộc đua tìm kiếm biểu tượng AI hợp lý
Tạm dừng thử nghiệm AI nhận đơn tại McDonald’s
Acer trình làng màn hình GoogleTV, OLED gaming và laptop AI tại Computex 24
Hugging Face phát hiện truy cập trái phép vào nền tảng lưu trữ mô hình AI
Google thừa nhận AI Overviews còn nhiều hạn chế, người dùng đóng vai trò quan trọng trong việc cải thiện
Đào tạo AI tốn kém: Chỉ “ông lớn” công nghệ mới đủ sức chi trả?
OpenAI giảm giá ChatGPT cho trường học và tổ chức phi lợi nhuận
Google giải thích về kết quả tìm kiếm AI khuyên dùng keo dán trên bánh pizza
Tranh cãi về tính minh bạch của Ủy ban an toàn mới do OpenAI thành lập
Chromebook Plus tích hợp trợ lý thông minh Google Gemini
Google gỡ bỏ thủ công các câu trả lời sai của AI trong Tìm kiếm
Garry Tan, nhà sáng lập Y Combinator: Ủng hộ quản lý AI nhưng phản đối độc quyền
Gaw Capital mở rộng hoạt động kinh doanh trung tâm dữ liệu
Cổ phiếu Nvidia lập đỉnh mới sau khi dự báo cho thấy nhu cầu mạnh mẽ cho chip AI
ĐĂNG KÝ NHẬN TIN
NGAY HÔM NAY
Đăng ký để nhận thông tin sớm nhất về những câu chuyện nóng hổi hiện nay trên thị trường, công nghệ được cung cấp hàng ngày.
Bằng cách nhấp vào “Đăng ký”, bạn chấp nhận Điều khoản dịch vụ và Chính sách quyền riêng tư của chúng tôi. Bạn có thể chọn không tham gia bất cứ lúc nào.
5
s
Nhận xét (0)