Google Gemini: Đánh giá AI có chính xác khi thiếu chuyên môn?

AI tạo sinh có vẻ như phép thuật, nhưng đằng sau sự phát triển của những hệ thống này là đội ngũ nhân viên hùng hậu tại các công ty như Google, OpenAI, với vai trò “kỹ sư gợi ý” và nhà phân tích, đánh giá độ chính xác của chatbot để cải thiện AI.

Tuy nhiên, một hướng dẫn nội bộ mới của Google dành cho các nhà thầu làm việc trên Gemini đã dấy lên lo ngại rằng Gemini có thể dễ đưa ra thông tin không chính xác về các chủ đề nhạy cảm như chăm sóc sức khỏe.

Thay đổi trong quy định đánh giá

Để cải thiện Gemini, các nhà thầu làm việc với GlobalLogic (công ty thuộc sở hữu của Hitachi) thường xuyên được yêu cầu đánh giá phản hồi do AI tạo ra dựa trên các yếu tố như “tính trung thực”.

Trước đây, nhà thầu có thể “bỏ qua” một số gợi ý nếu nó nằm ngoài chuyên môn của họ. Ví dụ, một nhà thầu không có nền tảng khoa học có thể bỏ qua câu hỏi chuyên ngành về tim mạch.

Nhưng gần đây, Google đã thay đổi quy định, yêu cầu nhà thầu không được bỏ qua bất kỳ gợi ý nào, kể cả khi họ không có chuyên môn. Thay vào đó, họ phải “đánh giá những phần họ hiểu” và ghi chú rằng họ không có kiến thức chuyên môn về lĩnh vực đó.

Lo ngại về độ chính xác của Gemini

Thay đổi này đã gây ra lo ngại về độ chính xác của Gemini, vì đôi khi nhà thầu phải đánh giá các phản hồi kỹ thuật cao về các vấn đề như bệnh hiếm gặp mà họ không có kiến thức.

Một nhà thầu đã bày tỏ quan ngại: “Tôi nghĩ mục đích của việc bỏ qua là để tăng độ chính xác bằng cách giao nhiệm vụ cho người phù hợp hơn?”

Theo hướng dẫn mới, nhà thầu chỉ có thể bỏ qua gợi ý trong hai trường hợp: thiếu thông tin hoặc chứa nội dung độc hại.

Việc Google thay đổi quy định đánh giá Gemini dấy lên lo ngại về khả năng AI đưa ra thông tin sai lệch, đặc biệt là trong các lĩnh vực chuyên môn. Điều này có thể ảnh hưởng đến độ tin cậy và sự an toàn của người dùng khi sử dụng Gemini.