Tại sao OpenAI hạn chế Sora tạo hình ảnh con người?

OpenAI Sora, công cụ tạo video AI mới được công bố, đang áp dụng các biện pháp an toàn nghiêm ngặt, bao gồm hạn chế mô tả người thật, để ngăn chặn việc lạm dụng.

Hạn chế mô tả người thật

Theo thông tin từ OpenAI, khả năng tải lên hình ảnh của người thật để tạo video sẽ chỉ được cung cấp cho một nhóm nhỏ người dùng tham gia chương trình thử nghiệm “Likeness pilot”. Đại diện OpenAI cho biết việc hạn chế này nhằm “giải quyết các lo ngại về việc sử dụng hình ảnh trái phép và deepfake”. OpenAI sẽ “theo dõi chặt chẽ các hành vi lạm dụng, xóa nội dung vi phạm, xử lý người dùng vi phạm và sử dụng những bài học kinh nghiệm ban đầu để cải thiện cách tiếp cận an toàn”.

Các biện pháp an toàn khác

Ngoài việc hạn chế mô tả người thật, Sora còn được trang bị nhiều biện pháp an toàn khác, bao gồm:

• Từ chối yêu cầu không phù hợp: Sora sẽ từ chối các yêu cầu tạo nội dung NSFW (không an toàn cho công việc), NCII (hình ảnh thân mật không đồng thuận) và hình ảnh trẻ em thực tế (hình ảnh hư cấu được phép).
• Siêu dữ liệu C2PA: Tất cả video Sora đều được nhúng siêu dữ liệu C2PA.
• Watermark: Watermark hiển thị sẽ được bật mặc định, mặc dù người dùng có thể tắt đi.
• Tìm kiếm hình ảnh ngược: OpenAI sử dụng công cụ tìm kiếm hình ảnh ngược nội bộ để đánh giá nguồn gốc video.

Thử thách trong tương lai

Mặc dù đã có nhiều biện pháp bảo vệ, nhưng vẫn còn phải xem Sora sẽ phản ứng như thế nào khi được thử nghiệm với quy mô lớn. Hiện tại, việc truy cập Sora bị hạn chế do nhu cầu quá cao.

Việc OpenAI áp dụng các biện pháp an toàn nghiêm ngặt cho Sora cho thấy công ty nhận thức rõ những rủi ro tiềm ẩn của công nghệ AI và cam kết sử dụng nó một cách có trách nhiệm. Tuy nhiên, việc cân bằng giữa an toàn và tính sáng tạo vẫn là một thách thức lớn đối với OpenAI trong tương lai.