AI “xâm chiếm” phòng xử án: Từ vụ án “ảo” đến deepfake “hồi sinh” nạn nhân

Trí tuệ nhân tạo (AI) đang dần len lỏi vào các phòng xử án, từ những vụ án “ảo” do AI tạo ra đến những video deepfake tinh vi. Đáng lo ngại hơn, AI thậm chí còn được sử dụng để tạo ra hình ảnh và giọng nói của những nạn nhân đã qua đời.

Deepfake “hồi sinh” người đã khuất

Gia đình một nạn nhân vụ án mạng ở Arizona đã trình chiếu một đoạn video ngắn trong phòng xử án, mô tả một phiên bản AI của Chris Pelkey, 37 tuổi. Pelkey bị bắn chết vào năm 2021 trong một vụ hành hung trên đường. Bốn năm sau, “bản sao” do AI tạo ra đã xuất hiện để “đối diện” với kẻ giết người bị cáo buộc của mình tại tòa. Đoạn video này, được ABC15 đưa tin đầu tiên, dường như là ví dụ đầu tiên được biết đến về deepfake AI tạo sinh được sử dụng trong lời khai tác động của nạn nhân.

“Gửi Gabriel Horcasitas, người đã bắn tôi, thật đáng tiếc khi chúng ta gặp nhau ngày hôm đó trong hoàn cảnh như vậy,” bản sao AI của Pelkey nói trong video. “Ở một cuộc đời khác, có lẽ chúng ta đã có thể là bạn bè.”

Video cho thấy phiên bản AI của Pelkey – một cựu chiến binh quân đội vạm vỡ, có râu – mặc áo hoodie màu xanh lá cây và đội mũ bóng chày màu xám. Gia đình Pelkey được cho là đã tạo ra video bằng cách huấn luyện một mô hình AI trên nhiều đoạn clip về Pelkey. Sau đó, một bộ lọc “lão hóa” đã được áp dụng để mô phỏng diện mạo của Pelkey ngày nay. Cuối cùng, thẩm phán đã kết án Horcasitas 10 năm rưỡi tù giam vì tội ngộ sát, một quyết định mà ông nói rằng ít nhất một phần bị ảnh hưởng bởi lời khai tác động do AI tạo ra.

“Đây là những gì tốt nhất tôi có thể cho bạn thấy về diện mạo của tôi nếu tôi có cơ hội sống đến già,” deepfake Pelkey nói. “Hãy nhớ rằng, già đi là một món quà mà không phải ai cũng có, vì vậy hãy trân trọng nó và ngừng lo lắng về những nếp nhăn.”

Bị cáo dùng deepfake AI để tự bào chữa

Lời khai tác động do AI tạo ra diễn ra chỉ một tháng sau khi một bị cáo tại tòa án bang New York, Jerome Dewald, 74 tuổi, sử dụng một video deepfake AI để hỗ trợ bào chữa cho chính mình. Khi Dewald xuất hiện tại tòa vì tranh chấp hợp đồng với một chủ lao động cũ, ông đã trình chiếu một video cho thấy một người đàn ông mặc áo len và áo sơ mi xanh dương nói trực tiếp vào máy quay. Thẩm phán, bối rối trước video, đã hỏi Dewald liệu người trên màn hình có phải là luật sư của ông hay không. Thực tế, đó là một deepfake do AI tạo ra.

“Tôi đã tạo ra nó,” Dewald nói theo The New York Times. “Đó không phải là một người thật.”

Thẩm phán không hài lòng và đã khiển trách Dewald vì không tiết lộ rằng ông đã sử dụng phần mềm AI để hỗ trợ bào chữa. Trao đổi với NYT sau phiên điều trần, Dewald tuyên bố rằng ông không có ý định đánh lừa tòa án mà sử dụng công cụ AI như một cách để diễn đạt rõ ràng hơn lập luận bào chữa của mình. Ông nói rằng ban đầu ông dự định để deepfake giống mình nhưng đã chuyển sang phiên bản được trình chiếu tại tòa sau khi gặp khó khăn kỹ thuật.

“Ý định của tôi không bao giờ là lừa dối mà là trình bày các lập luận của tôi một cách hiệu quả nhất có thể,” Dewald được cho là đã viết trong một lá thư gửi cho các thẩm phán.

AI tạo ra các vụ án pháp lý giả mạo

Hai vụ việc trên là những ví dụ mới nhất về việc AI tạo sinh đang xâm nhập vào phòng xử án, một xu hướng bắt đầu gia tăng vài năm trước sau sự quan tâm của công chúng đối với các chatbot phổ biến như ChatGPT của OpenAI. Các luật sư trên khắp đất nước được cho là đã sử dụng các mô hình ngôn ngữ lớn này để giúp soạn thảo các hồ sơ pháp lý và thu thập thông tin. Điều đó đã dẫn đến một số trường hợp đáng xấu hổ khi các mô hình “ảo giác” ra các tên vụ án và sự kiện hoàn toàn bịa đặt, cuối cùng được đưa vào các thủ tục pháp lý.

Năm 2023, hai luật sư ở New York đã bị thẩm phán xử phạt sau khi họ nộp một bản tóm tắt chứa sáu trích dẫn vụ án giả mạo do ChatGPT tạo ra. Michael Cohen, luật sư cá nhân cũ của Tổng thống Donald Trump, được cho là đã gửi các vụ án pháp lý giả mạo do AI tạo ra cho luật sư của mình, và chúng đã được đưa vào một kiến nghị nộp cho các thẩm phán liên bang. Một luật sư khác ở Colorado đã bị đình chỉ sau khi bị cáo buộc nộp các vụ án pháp lý do AI tạo ra. OpenAI thậm chí còn bị một người dẫn chương trình radio ở Georgia kiện vì cho rằng phản hồi của ChatGPT đã cáo buộc anh ta liên quan đến một vụ biển thủ tiền thật mà anh ta không hề liên quan.

Chuẩn bị cho nhiều AI hơn trong phòng xử án

Mặc dù tòa án đã trừng phạt các luật sư và bị cáo vì sử dụng AI theo những cách có vẻ lừa dối, nhưng các quy tắc về việc liệu có bao giờ chấp nhận sử dụng các công cụ này hay không vẫn còn mơ hồ. Chỉ tuần trước, một hội đồng tư pháp liên bang đã bỏ phiếu 8-1 để thu thập ý kiến công chúng về dự thảo quy tắc nhằm đảm bảo rằng bằng chứng do AI hỗ trợ đáp ứng các tiêu chuẩn tương tự như bằng chứng do các nhân chứng chuyên môn là con người trình bày. Chánh án Tòa án Tối cao John Roberts cũng đã đề cập đến vấn đề này trong báo cáo thường niên năm 2023 của mình, lưu ý cả những lợi ích và hạn chế tiềm năng của việc cho phép nhiều AI tạo sinh hơn trong phòng xử án. Một mặt, ông quan sát thấy, AI có thể giúp những người có nguồn lực tài chính hạn chế tự bào chữa dễ dàng hơn. Đồng thời, ông cảnh báo rằng công nghệ này có nguy cơ “xâm phạm quyền riêng tư và làm mất đi tính nhân văn của luật pháp.”