Giáo sư Stanford bị tố dùng AI viết lời khai trong vụ kiện Deepfake

Trong một tình huống có vẻ như là một sự cố đáng xấu hổ và trớ trêu, một giáo sư hàng đầu của Đại học Stanford đã bị cáo buộc lan truyền thông tin sai lệch do AI tạo ra trong khi đóng vai trò là nhân chứng chuyên gia ủng hộ một luật được thiết kế để ngăn chặn thông tin sai lệch do AI tạo ra khỏi các cuộc bầu cử.

Jeff Hancock, giám đốc sáng lập của phòng thí nghiệm truyền thông xã hội Stanford, đã đệ trình ý kiến chuyên gia của mình vào đầu tháng này trong vụ kiện Kohls kiện Ellison, một vụ kiện do một YouTuber và đại diện bang Minnesota đệ trình, những người cho rằng luật mới của bang hình sự hóa việc sử dụng deepfake để gây ảnh hưởng đến các cuộc bầu cử vi phạm quyền tự do ngôn luận theo tu chính án thứ nhất của họ.

Ý kiến của ông bao gồm một tham chiếu đến một nghiên cứu được cho là đã phát hiện ra rằng “ngay cả khi các cá nhân được thông báo về sự tồn tại của deepfake, họ vẫn có thể gặp khó khăn trong việc phân biệt giữa nội dung thật và nội dung bị thao túng”. Nhưng theo các luật sư của nguyên đơn, nghiên cứu mà Hancock trích dẫn có tiêu đề “Ảnh hưởng của video Deepfake đối với thái độ và hành vi chính trị” và được xuất bản trên tạp chí công nghệ & chính trị thông tin thực sự không tồn tại.

“Trích dẫn mang dấu hiệu của việc là ‘ảo giác’ trí tuệ nhân tạo (AI), cho thấy rằng ít nhất trích dẫn đã được tạo ra bởi một mô hình ngôn ngữ lớn như ChatGPT”, nguyên đơn viết trong một kiến nghị tìm cách loại trừ ý kiến chuyên gia của Hancock. “Nguyên đơn không biết ảo giác này đã xuất hiện trong tuyên bố của Hancock như thế nào, nhưng nó đặt ra câu hỏi cho toàn bộ tài liệu, đặc biệt là khi phần lớn bình luận không chứa bất kỳ phương pháp luận hoặc logic phân tích nào.”

Minnesota là một trong 20 tiểu bang đã thông qua luật điều chỉnh việc sử dụng deepfake trong các chiến dịch chính trị. Luật của bang này nghiêm cấm việc cố ý hoặc hành động coi thường việc phổ biến deepfake tối đa 90 ngày trước cuộc bầu cử nếu tài liệu được tạo ra mà không có sự đồng ý của người được miêu tả và nhằm mục đích gây ảnh hưởng đến kết quả của cuộc bầu cử.

Vụ kiện thách thức luật này đã được đệ trình bởi một công ty luật bảo thủ thay mặt cho Đại diện bang Minnesota Mary Franson và Christopher Kohls, một YouTuber sử dụng tên gọi Mr Reagan.

Một vụ kiện do Kohls đệ trình thách thức luật deepfake bầu cử của California đã dẫn đến việc một thẩm phán liên bang ban hành lệnh cấm sơ bộ vào tháng trước ngăn luật đó có hiệu lực.