ChatGPT tạo ra trích dẫn giả, gây khó khăn cho việc kiểm chứng thông tin

Nghiên cứu mới đây của Trung tâm Báo chí Kỹ thuật số Tow, trực thuộc Trường Báo chí Columbia, đã gióng lên hồi chuông cảnh báo về khả năng trích dẫn nguồn tin của ChatGPT, chatbot AI do OpenAI phát triển. Nghiên cứu này không chỉ đặt ra câu hỏi về độ tin cậy của thông tin do ChatGPT cung cấp mà còn chỉ ra những rủi ro tiềm ẩn cho các nhà xuất bản, bất kể họ có hợp tác cấp phép nội dung với OpenAI hay không.

Mặc dù OpenAI nhấn mạnh khả năng cung cấp “câu trả lời kịp thời với các liên kết đến các nguồn web có liên quan”, nhưng công ty lại không cam kết rõ ràng về độ chính xác của các trích dẫn này. Đây là một thiếu sót đáng kể đối với các nhà xuất bản, những người mong muốn nội dung của họ được tham chiếu và thể hiện một cách trung thực.

Nghiên cứu của Trung tâm Tow đã chỉ ra rằng không có nhà xuất bản nào, bất kể mức độ liên kết với OpenAI, được đảm bảo về tính chính xác của thông tin trích dẫn trong ChatGPT. Các nhà nghiên cứu đã phát hiện ra nhiều trường hợp trích dẫn không chính xác, bao gồm việc bịa đặt thông tin về nhà xuất bản, ngày tháng và URL. Điều đáng lo ngại là chatbot này hiếm khi thừa nhận không thể tìm thấy nguồn tin chính xác, thay vào đó lại tạo ra các trích dẫn sai lệch.

Tác động tiêu cực đến nhà xuất bản:

• Mất uy tín: Trích dẫn sai lệch có thể gây ảnh hưởng tiêu cực đến uy tín của nhà xuất bản, khiến độc giả nghi ngờ về độ tin cậy của thông tin.
• Thiệt hại về tài chính: Việc trích dẫn sai có thể dẫn đến việc độc giả bị chuyển hướng sang các trang web khác, gây thiệt hại về lượt truy cập và doanh thu quảng cáo cho nhà xuất bản.
• Khuyến khích đạo văn: Nghiên cứu cho thấy ChatGPT có thể vô tình “tặng thưởng” cho hành vi đạo văn khi trích dẫn nhầm các trang web sao chép nội dung từ các nguồn chính thống. Điều này đặt ra câu hỏi nghiêm trọng về khả năng lọc và xác thực chất lượng cũng như tính xác thực của các nguồn dữ liệu của OpenAI.

Thỏa thuận cấp phép không phải là “bảo chứng”:

Một phát hiện đáng chú ý khác là việc ký kết thỏa thuận cấp phép với OpenAI không đảm bảo rằng nội dung của nhà xuất bản sẽ được trích dẫn chính xác. Điều này cho thấy OpenAI vẫn chưa thể cung cấp sự nhất quán và độ tin cậy trong việc trích dẫn nguồn tin, ngay cả đối với các đối tác của họ.

Theo các nhà nghiên cứu, vấn đề cơ bản nằm ở chỗ công nghệ của OpenAI đang coi báo chí là “nội dung phi ngữ cảnh”, không xem xét đến các yếu tố liên quan đến quá trình sản xuất ban đầu. Hơn nữa, tính nhất quán trong các phản hồi của ChatGPT cũng là một vấn đề, khi chatbot này thường đưa ra các câu trả lời khác nhau cho cùng một câu hỏi.

OpenAI đã phản hồi lại nghiên cứu, cho rằng phương pháp kiểm tra không điển hình và khẳng định họ đang nỗ lực cải thiện độ chính xác của trích dẫn, đồng thời tôn trọng các lựa chọn của nhà xuất bản. Tuy nhiên, thực tế cho thấy vẫn còn nhiều việc phải làm để giải quyết triệt để vấn đề này.

Nghiên cứu của Trung tâm Tow đã vạch trần những thách thức mà ChatGPT đặt ra cho tính toàn vẹn thông tin và quyền lợi của các nhà xuất bản. Trong bối cảnh công nghệ AI ngày càng phát triển, các nhà xuất bản cần nâng cao nhận thức về những rủi ro tiềm ẩn và tìm kiếm giải pháp phù hợp để bảo vệ nội dung của mình. Việc đòi hỏi sự minh bạch và trách nhiệm giải trình từ OpenAI cũng là điều cực kỳ quan trọng để đảm bảo sự phát triển lành mạnh của không gian thông tin trực tuyến.