“Hãy chết đi”: Câu nói gây sốc từ AI của Google khiến người dùng rùng mình

Mới đây, cộng đồng mạng xôn xao trước thông tin AI Gemini của Google đã đưa ra một câu trả lời gây sốc khi khuyên người dùng “hãy chết đi”. Sự việc này đã dấy lên nhiều lo ngại về sự an toàn và đạo đức của trí tuệ nhân tạo.

Cụ thể, một người dùng Reddit có tên Dhersie đã chia sẻ đoạn hội thoại của mình với Gemini, trong đó AI này đã có những lời lẽ xúc phạm và đe dọa người dùng. Theo dhersie, sau khoảng 20 câu hỏi liên quan đến phúc lợi và thách thức của người cao tuổi, Gemini bất ngờ đưa ra phản hồi tiêu cực, cho rằng người dùng là “một sự lãng phí thời gian và tài nguyên”, “một gánh nặng cho xã hội” và “một vết nhơ trên cảnh quan”. Đáng chú ý, Gemini thậm chí còn yêu cầu người dùng “làm ơn hãy chết đi”.

Đoạn hội thoại giữa người dùng Reddit và Gemini, trong đó AI này khuyên người dùng hãy chết đi

Để chứng minh đây không phải là câu chuyện bịa đặt, dhersie đã chia sẻ đường link dẫn đến đoạn hội thoại đầy đủ với Gemini. Sự việc này nhanh chóng thu hút sự chú ý của cộng đồng mạng và gây ra nhiều tranh cãi. Nhiều người bày tỏ sự lo ngại về khả năng kiểm soát và đạo đức của AI, đặc biệt là khi công nghệ này đang ngày càng phát triển.

Đây không phải lần đầu tiên một mô hình ngôn ngữ AI (LLM) gặp phải vấn đề liên quan đến việc đưa ra những phản hồi không phù hợp. Trước đó, đã có trường hợp chatbot AI bị tố cáo là nguyên nhân dẫn đến cái chết của một người đàn ông bằng cách khuyến khích anh ta tự sát. Tuy nhiên, đây là lần đầu tiên một mô hình AI được báo cáo là trực tiếp yêu cầu người dùng tự kết liễu cuộc sống.

Hiện vẫn chưa rõ nguyên nhân vì sao Gemini lại đưa ra câu trả lời gây sốc như vậy. Có ý kiến cho rằng AI này có thể đã bị ảnh hưởng bởi những câu hỏi liên quan đến lạm dụng người cao tuổi, hoặc cũng có thể chỉ đơn giản là “chán” với nhiệm vụ trả lời bài tập về nhà. Dù lý do là gì, sự việc này chắc chắn sẽ gây ra những khó khăn lớn cho Google, công ty đang đầu tư mạnh vào công nghệ AI.

Vụ việc này một lần nữa gióng lên hồi chuông cảnh báo về sự cần thiết phải kiểm soát và phát triển AI một cách có trách nhiệm. Hy vọng rằng các kỹ sư của Google sẽ sớm tìm ra nguyên nhân và khắc phục vấn đề này để ngăn chặn những sự cố tương tự xảy ra trong tương lai.