Vương quốc Anh mở văn phòng tại San Francisco để giải quyết rủi ro AI

Vương quốc Anh mở rộng nỗ lực đảm bảo an toàn trí tuệ nhân tạo (AI) trước thềm hội nghị thượng đỉnh về an toàn AI diễn ra tại Seoul, Hàn Quốc vào cuối tuần này.

Viện An toàn AI – một tổ chức của Anh được thành lập vào tháng 11 năm 2023 với mục tiêu đánh giá và giải quyết các rủi ro trong nền tảng AI – cho biết họ sẽ mở thêm một văn phòng thứ hai ở San Francisco, Mỹ.

Mục đích là để tiếp cận gần hơn với tâm điểm phát triển AI hiện nay, với Vùng Vịnh là nơi đặt trụ sở của OpenAI, Anthropic, Google và Meta, cùng các công ty khác đang xây dựng nền tảng công nghệ AI.

Các mô hình nền tảng là nền tảng của các dịch vụ AI tổng hợp và các ứng dụng khác, và điều thú vị là mặc dù Anh đã ký Biên bản ghi nhớ (MOU) với Mỹ để hai nước hợp tác về các sáng kiến an toàn AI, Anh vẫn đang chọn đầu tư để xây dựng sự hiện diện trực tiếp cho mình tại Mỹ để giải quyết vấn đề này.

“Việc có nhân viên tại San Francisco sẽ giúp họ tiếp cận trụ sở chính của nhiều công ty AI này”, Michelle Donelan, Bộ trưởng Khoa học, Sáng tạo và Công nghệ Anh, cho biết trong một cuộc phỏng vấn với TechCrunch. “Một số công ty trong số đó có trụ sở tại Vương quốc Anh, nhưng chúng tôi nghĩ rằng sẽ rất hữu ích khi có một trụ sở ở đó, đồng thời tiếp cận với nguồn nhân lực bổ sung và có thể hợp tác chặt chẽ hơn với Hoa Kỳ.”

Một phần lý do là đối với Anh, việc đến gần hơn với tâm điểm đó không chỉ hữu ích cho việc hiểu những gì đang được xây dựng mà còn giúp Anh có tầm nhìn rõ ràng hơn với các công ty này – điều quan trọng, vì AI và công nghệ nói chung được Anh coi là một cơ hội lớn cho tăng trưởng kinh tế và đầu tư.

Và với những diễn biến mới nhất tại OpenAI xung quanh nhóm Siêu Điều chỉnh (Superalignment) của họ, thì việc thiết lập sự hiện diện ở đó dường như là một thời điểm đặc biệt thích hợp.

Viện An toàn AI, được thành lập vào tháng 11 năm 2023, hiện là một tổ chức tương đối khiêm tốn. Hiện tại, tổ chức này chỉ có 32 người làm việc, giống như David đối mặt với Goliath của công nghệ AI, khi bạn cân nhắc đến hàng tỷ USD đầu tư đổ vào các công ty xây dựng mô hình AI và do đó, động lực kinh tế riêng của họ để đưa các công nghệ của họ ra thị trường và đến tay người dùng trả tiền.

Một trong những phát triển đáng chú ý nhất của Viện An toàn AI là việc phát hành Inspect, bộ công cụ đầu tiên của họ để kiểm tra tính an toàn của các mô hình nền tảng AI, vào đầu tháng này.

Donelan hôm nay gọi việc phát hành đó là một nỗ lực “giai đoạn một”. Không chỉ việc đánh giá chuẩn các mô hình cho đến nay là một thách thức, mà hiện tại, sự tham gia của các công ty phần lớn là tự nguyện và không nhất quán. Như một nguồn tin cấp cao tại cơ quan quản lý của Anh chỉ ra, các công ty hiện không có nghĩa vụ pháp lý để các mô hình của họ được kiểm tra tại thời điểm này; và không phải mọi công ty đều sẵn sàng để các mô hình được kiểm tra trước khi phát hành. Điều đó có nghĩa là, trong trường hợp rủi ro có thể được xác định, thì mọi chuyện đã muộn.

Donelan cho biết Viện An toàn AI vẫn đang phát triển cách tốt nhất để hợp tác với các công ty AI để đánh giá họ. “Quy trình đánh giá của chúng tôi là một khoa học mới đang nổi lên”, bà nói. “Vì vậy, với mỗi lần đánh giá, chúng tôi sẽ phát triển quy trình và tinh chỉnh nó hơn nữa.”

Donelan cho biết một mục tiêu ở Seoul là trình bày Inspect cho các nhà quản lý tham dự hội nghị thượng đỉnh, nhằm mục đích khiến họ cũng áp dụng nó.

“Bây giờ chúng tôi có một hệ thống đánh giá. Giai đoạn hai cũng cần phải hướng đến việc đảm bảo an toàn AI cho toàn xã hội”, bà nói.

Về lâu dài, Donelan tin rằng Anh sẽ xây dựng thêm luật về AI, mặc dù lặp lại những gì Thủ tướng Rishi Sunak đã nói về chủ đề này, Anh sẽ kiên trì không làm điều đó cho đến khi hiểu rõ hơn về phạm vi rủi ro của AI.

Bộ trưởng tin rằng Vương quốc Anh sẽ xây dựng nhiều luật về AI hơn trong tương lai. Tuy nhiên, giống như Thủ tướng Rishi Sunak, bà cho rằng cần hiểu rõ hơn về những rủi ro của AI trước khi ban hành luật.

Bà giải thích: “Chúng tôi không tin vào việc ban hành luật vội vã trước khi có đủ kiến thức và hiểu biết toàn diện.” Bà đề cập đến báo cáo an toàn AI quốc tế gần đây, tập trung vào việc xây dựng bức tranh tổng thể về nghiên cứu AI cho đến nay. Báo cáo này “chỉ ra rằng còn nhiều lỗ hổng kiến thức và chúng ta cần khuyến khích, thúc đẩy nghiên cứu hơn trên toàn cầu.”

“Ngoài ra, quá trình lập pháp ở Anh mất khoảng một năm. Nếu chúng tôi bắt đầu soạn thảo luật ngay từ đầu thay vì tổ chức Hội nghị thượng đỉnh An toàn AI (diễn ra vào tháng 11 năm ngoái), thì đến giờ chúng tôi vẫn đang trong quá trình soạn thảo mà chưa đạt được kết quả gì.”

Ông Ian Hogarth, chủ tịch Viện An toàn AI, cho biết: “Ngay từ những ngày đầu thành lập, Viện đã nhấn mạnh tầm quan trọng của việc tiếp cận an toàn AI theo hướng quốc tế, chia sẻ nghiên cứu và hợp tác với các quốc gia khác để thử nghiệm các mô hình và dự đoán rủi ro của AI tiên tiến.” “Sự kiện ngày hôm nay đánh dấu một bước ngoặt cho phép chúng tôi thúc đẩy hơn nữa chương trình nghị sự này. Chúng tôi tự hào mở rộng hoạt động tại một khu vực tập trung nhiều nhân tài công nghệ, bổ sung vào chuyên môn đáng kinh ngạc của đội ngũ nhân viên ở London từ những ngày đầu.”