OpenAI thành lập nhóm kiểm soát AI siêu thông minh nhưng sau đó bỏ bê

Một nhóm nghiên cứu tại OpenAI, có nhiệm vụ tìm cách kiểm soát các hệ thống AI “siêu thông minh”, đã không nhận được đủ tài nguyên máy tính cần thiết để thực hiện công việc của họ. Điều này, cùng với những bất đồng khác, đã khiến một số thành viên nhóm chủ chốt nghỉ việc, bao gồm cả trưởng nhóm Jan Leike.

Leike cho rằng OpenAI nên tập trung nhiều hơn vào việc đảm bảo an toàn cho các thế hệ AI tiếp theo. Ông lo ngại rằng OpenAI đang ưu tiên ra mắt sản phẩm mới hơn là giải quyết các vấn đề an toàn quan trọng.

OpenAI không phản hồi ngay lập tức về vấn đề tài nguyên được hứa hẹn và phân bổ cho nhóm nghiên cứu này.

Nhóm nghiên cứu được thành lập vào tháng 7 năm ngoái với mục tiêu đầy tham vọng là giải quyết các thách thức kỹ thuật cốt lõi để kiểm soát AI siêu thông minh trong bốn năm tới. Tuy nhiên, khi các hoạt động ra mắt sản phẩm mới chiếm nhiều sự chú ý hơn của lãnh đạo OpenAI, nhóm nghiên cứu phải đấu tranh để có thêm nguồn lực.

Over the past few months my team has been sailing against the wind. Sometimes we were struggling for compute and it was getting harder and harder to get this crucial research done.

— Jan Leike (@janleike) May 17, 2024

Mặc dù nhóm đã xuất bản một số nghiên cứu về an toàn và tài trợ hàng triệu đô la cho các nhà nghiên cứu bên ngoài, nhưng họ cảm thấy bị gạt sang một bên.

Leike cảnh báo rằng xây dựng máy móc thông minh hơn con người là một nỗ lực tiềm ẩn nhiều rủi ro. Ông cho rằng trong những năm qua, văn hóa an toàn đã bị coi nhẹ để ưu tiên các sản phẩm hào nhoáng.

We’re really grateful to Jan for everything he's done for OpenAI, and we know he'll continue to contribute to the mission from outside. In light of the questions his departure has raised, we wanted to explain a bit about how we think about our overall strategy.

First, we have… https://t.co/djlcqEiLLN

— Greg Brockman (@gdb) May 18, 2024

Sự bất đồng giữa đồng sáng lập OpenAI Ilya Sutskever và CEO Sam Altman càng khiến tình hình thêm phức tạp. Sutskever từng yêu cầu sa thải Altman vì lo ngại CEO này đã không trung thực với hội đồng quản trị. Tuy nhiên, dưới áp lực từ các nhà đầu tư và nhân viên, Altman được phục chức, và Sutskever thì không quay lại làm việc.

Sau khi Leike nghỉ việc, Altman thừa nhận còn nhiều việc phải làm và hứa sẽ giải quyết. Tuy nhiên, các cam kết cụ thể vẫn chưa rõ ràng.

OpenAI thay vì duy trì một nhóm riêng biệt thì sẽ phân tán các nhà nghiên cứu an toàn vào các phòng ban khác nhau. Điều này khiến nhiều người lo ngại việc phát triển AI của OpenAI sẽ không an toàn như trước.