Hugging Face phát hiện truy cập trái phép vào nền tảng lưu trữ mô hình AI

Cuối ngày thứ Sáu, thời điểm các công ty thường dùng để thông báo những tin không vui, startup về trí tuệ nhân tạo (AI) Hugging Face cho biết nhóm bảo mật của họ đã phát hiện “truy cập trái phép” vào Spaces – nền tảng của Hugging Face dùng để xây dựng, chia sẻ và lưu trữ các mô hình và tài nguyên AI.

Trong một bài đăng trên blog, Hugging Face nói rằng sự xâm nhập liên quan đến “bí mật không gian” – những thông tin riêng tư đóng vai trò như khóa để mở khóa các tài nguyên được bảo vệ như tài khoản, công cụ và môi trường phát triển. Hugging Face “nghi ngờ” một số bí mật có thể đã bị bên thứ ba truy cập trái phép.

Để phòng ngừa, Hugging Face đã hủy một số mã thông báo (dùng để xác minh danh tính) trong các mật khẩu đó. Hugging Face cho biết những người dùng có mã thông báo bị hủy đã nhận được email thông báo và khuyến nghị tất cả người dùng “cập nhật lại bất kỳ khóa hoặc mã thông báo nào” và cân nhắc chuyển sang các mã thông báo truy cập chi tiết – loại mà Hugging Face cho là an toàn hơn.

Hiện chưa rõ có bao nhiêu người dùng hoặc ứng dụng bị ảnh hưởng bởi lỗ hổng bảo mật tiềm ẩn này.

“Chúng tôi đang hợp tác với các chuyên gia pháp y an ninh mạng bên ngoài để điều tra vấn đề cũng như xem xét lại các chính sách và quy trình bảo mật của mình. Chúng tôi cũng đã báo cáo sự cố này cho các cơ quan thực thi pháp luật và các cơ quan bảo vệ dữ liệu”, Hugging Face viết trong bài đăng. “Chúng tôi rất tiếc về sự gián đoạn mà sự cố này có thể gây ra và hiểu sự bất tiện mà nó có thể gây ra cho bạn. Chúng tôi cam kết sử dụng đây như một cơ hội để tăng cường bảo mật cho toàn bộ cơ sở hạ tầng của mình.”

Trong một tuyên bố qua email, người phát ngôn của Hugging Face cho biết: “Số lượng các cuộc tấn công mạng đã tăng đáng kể trong vài tháng qua, có thể là do lượng người dùng của chúng tôi tăng đáng kể và AI đang trở nên phổ biến hơn. Về mặt kỹ thuật, khó có thể biết chính xác có bao nhiêu bí mật không gian đã bị xâm phạm.”

Vụ tấn công có thể xảy ra với Spaces xuất hiện khi Hugging Face – một trong những nền tảng lớn nhất cho các dự án cộng tác về AI và khoa học dữ liệu với hơn một triệu mô hình, bộ dữ liệu và ứng dụng chạy bằng AI – đang phải đối mặt với sự giám sát ngày càng tăng về các hoạt động bảo mật của mình.

Tháng 4 vừa qua, các nhà nghiên cứu tại công ty bảo mật đám mây Wiz đã tìm thấy một lỗ hổng (đã được vá) cho phép kẻ tấn công thực thi mã tùy ý trong thời gian xây dựng ứng dụng được lưu trữ trên Hugging Face, cho phép chúng kiểm tra các kết nối mạng từ máy của chúng. Đầu năm nay, công ty bảo mật JFrog đã phát hiện bằng chứng cho thấy mã được tải lên Hugging Face đã ngấm ngầm cài đặt các cửa hậu và các loại phần mềm độc hại khác trên máy của người dùng cuối. Và công ty khởi nghiệp về bảo mật HiddenLayer đã xác định những cách thức mà định dạng nối tiếp an toàn hơn của Hugging Face, Safetensors, có thể bị lợi dụng để tạo ra các mô hình AI bị phá hoại.

Hugging Face gần đây cho biết họ sẽ hợp tác với Wiz để sử dụng các công cụ quét lỗ hổng và cấu hình môi trường đám mây của công ty “với mục tiêu cải thiện bảo mật trên toàn bộ nền tảng của chúng tôi và hệ sinh thái AI/ML nói chung”.