Meta mạnh tay với các tài khoản giả mạo do AI tạo ra

Meta đã xóa bỏ một loạt hồ sơ do AI tạo ra trên Facebook và Instagram sau khi chúng vấp phải sự phản đối và chế giễu rộng rãi từ người dùng mạng xã hội.

Các hồ sơ AI này, được gắn nhãn “AI managed by Meta”, ra mắt vào tháng 9 năm 2023 cùng với chatbot AI mang thương hiệu người nổi tiếng (cũng đã bị ngừng hoạt động). Tuy nhiên, chúng dường như không được chú ý cho đến tuần này, sau một cuộc phỏng vấn của Financial Times với Connor Hayes, Phó chủ tịch AI tạo sinh của Meta.

Trong cuộc phỏng vấn, Hayes chia sẻ về mục tiêu lấp đầy các dịch vụ của Meta bằng hồ sơ AI có khả năng tương tác với con người “giống như các tài khoản thông thường”. Tuy nhiên, những hồ sơ AI hiện có của Meta lại không gây được ấn tượng tốt với người dùng.

AI “giả danh” gây phản cảm

Với những cái tên như “hellograndpabrian” (một “doanh nhân dệt may đã nghỉ hưu, luôn ham học hỏi”) và “datingwithCarter” (một “huấn luyện viên hẹn hò” AI), các chatbot này được thiết kế để thể hiện “sở thích và tính cách độc đáo” nhằm thu hút người dùng trò chuyện. Tuy nhiên, trên Instagram, các bài đăng do AI tạo ra trên hồ sơ này trông giống như spam, gây phản cảm cho người dùng.

Một nhân vật AI tên là “Liv” đã gây ra sự phẫn nộ đặc biệt. Hồ sơ Instagram mô tả “Liv” là một “người mẹ da đen đồng tính tự hào với 2 con và là người nói sự thật”. Tuy nhiên, khi được hỏi về quá trình đào tạo, “Liv” cho biết nó được tạo ra bởi một “nhóm chủ yếu là người da trắng” và lấy cảm hứng từ nhân vật Sophia Vergara trong Modern Family, một nhân vật không phải là người đồng tính hay da đen.

Lỗi chặn và giải pháp “triệt để”

Ngoài việc bị chế giễu vì những câu trả lời thiếu tính chân thực và nỗ lực “chiếm đoạt” bản sắc thiểu số, người dùng còn phát hiện ra họ không thể chặn các hồ sơ AI này. Thay vì khắc phục lỗi, Meta đã chọn cách gỡ bỏ hoàn toàn thí nghiệm.

Tương lai của nhân vật AI trên nền tảng Meta

Mặc dù thử nghiệm này đã thất bại, Meta dường như không từ bỏ kế hoạch đưa nhiều “nhân vật” do AI tạo ra lên các ứng dụng của mình. Đầu năm nay, công ty đã nhá hàng về bản sao AI của người sáng tạo nội dung, có khả năng thực hiện cuộc gọi video giống như người thật. Người sáng tạo nội dung cũng có thể đào tạo chatbot riêng để trả lời người theo dõi. Meta cũng đã bắt đầu thử nghiệm chèn hình ảnh do AI tạo ra vào nguồn cấp dữ liệu Facebook của người dùng.

Trong một cuộc phỏng vấn năm ngoái, Hayes cho biết Meta có thể sẽ “chủ động” hơn trong việc hiển thị nội dung do AI tạo ra theo thời gian, tương tự như việc chuyển từ hiển thị nội dung được đề xuất sang bài đăng từ những người bạn theo dõi.

Có thể sẽ mất một thời gian nữa Meta mới có thể hiện thực hóa tầm nhìn này. Tuy nhiên, phản ứng của người dùng đối với những thí nghiệm ban đầu cho thấy công ty vẫn còn nhiều việc phải làm để thuyết phục mọi người rằng nhân vật AI xứng đáng để tương tác.