Meta được cho là dùng AI thay thế chuyên viên đánh giá rủi ro con người

Theo các tài liệu nội bộ mới được NPR xem xét, Meta được cho là đang ấp ủ kế hoạch thay thế các chuyên gia đánh giá rủi ro con người bằng trí tuệ nhân tạo (AI), một bước đi cho thấy tham vọng tự động hóa hoàn toàn quy trình của công ty.

Từ trước đến nay, Meta vẫn dựa vào đội ngũ chuyên gia phân tích con người để đánh giá những tác hại tiềm ẩn từ các công nghệ mới trên nền tảng của mình. Quá trình này bao gồm việc xem xét các bản cập nhật thuật toán và tính năng an toàn, được biết đến với tên gọi chung là quy trình đánh giá về quyền riêng tư và tính toàn vẹn.

Tuy nhiên, trong tương lai gần, những đánh giá thiết yếu này có thể sẽ được giao phó cho các bot AI. Công ty đặt mục tiêu tự động hóa đến 90% khối lượng công việc này bằng trí tuệ nhân tạo.

Đáng chú ý, NPR cho biết, dù trước đó Meta từng tuyên bố AI sẽ chỉ được sử dụng để đánh giá các bản cập nhật “rủi ro thấp”, hiện tại công ty đang mở rộng việc áp dụng công nghệ này vào các quyết định quan trọng liên quan đến an toàn AI, rủi ro đối với người dùng trẻ tuổi và tính toàn vẹn của nội dung – bao gồm cả việc kiểm duyệt thông tin sai lệch và nội dung bạo lực. Theo hệ thống mới, các đội ngũ phát triển sản phẩm sẽ chỉ cần gửi bảng câu hỏi và nhận được quyết định cùng khuyến nghị về rủi ro ngay lập tức từ AI. Điều này cũng đồng nghĩa với việc các kỹ sư sẽ có quyền ra quyết định lớn hơn.

Mặc dù việc tự động hóa có thể đẩy nhanh quá trình cập nhật ứng dụng và phát hành sản phẩm mới cho các nhà phát triển, phù hợp với mục tiêu nâng cao hiệu quả hoạt động của Meta, nhiều người trong cuộc lại lo ngại rằng điều này có thể gây ra rủi ro lớn hơn cho hàng tỷ người dùng, bao gồm cả những mối đe dọa không cần thiết đối với quyền riêng tư dữ liệu.

Vào tháng 4, Ban Giám sát của Meta đã công bố một loạt quyết định. Một mặt, họ công nhận lập trường của công ty về việc cho phép các phát ngôn “gây tranh cãi”; mặt khác, họ khiển trách “gã khổng lồ công nghệ” này về chính sách kiểm duyệt nội dung.

“Khi những thay đổi này đang được triển khai trên toàn cầu, Ban Giám sát nhấn mạnh rằng điều cần thiết hiện nay là Meta phải xác định và giải quyết các tác động tiêu cực đến quyền con người có thể phát sinh từ chúng,” quyết định nêu rõ. “Điều này nên bao gồm việc đánh giá liệu việc giảm sự phụ thuộc vào các hệ thống phát hiện tự động các hành vi vi phạm chính sách có thể gây ra những hậu quả không đồng đều trên toàn cầu hay không, đặc biệt là ở các quốc gia đang hoặc gần đây trải qua khủng hoảng, chẳng hạn như xung đột vũ trang.”

Cũng trong tháng đó, Meta đã đóng cửa chương trình kiểm chứng thông tin do con người thực hiện. Thay vào đó, công ty chuyển sang sử dụng Ghi chú Cộng đồng (Community Notes) dựa trên nguồn lực đám đông và phụ thuộc nhiều hơn vào thuật toán kiểm duyệt nội dung của mình. Đáng nói, công nghệ nội bộ này vốn được biết là thường xuyên bỏ sót và gắn cờ sai các thông tin sai lệch cũng như những bài đăng khác vi phạm chính sách nội dung vừa được cải tổ của công ty.