Đào tạo AI tốn kém: Chỉ “ông lớn” công nghệ mới đủ sức chi trả?

Các nhà nghiên cứu cho rằng dữ liệu là yếu tố then chốt để tạo ra các hệ thống AI thông minh và có khả năng hơn. Bài báo lấy ví dụ về hai mô hình tạo văn bản là Llama 3 của Meta và OLMo của Viện nghiên cứu Trí tuệ nhân tạo Allen (AI2) để minh họa. Mặc dù có cấu trúc gần giống nhau, Llama 3 được huấn luyện trên lượng dữ liệu lớn hơn nên hoạt động tốt hơn.

Nguồn ảnh: GettyImages

Tuy nhiên, chất lượng dữ liệu cũng quan trọng không kém số lượng. Các mô hình AI hoạt động dựa trên nguyên tắc “rác vào, rác ra” (garbage in, garbage out), vì vậy việc lọc và kiểm tra chất lượng dữ liệu là cần thiết.

Chạy đua dữ liệu có thể dẫn đến những vấn đề. Chuyên gia lo ngại việc tập trung vào dữ liệu lớn và chất lượng cao sẽ biến việc phát triển AI trở thành độc quyền của một vài công ty có ngân sách lớn. Họ có thể mua độc quyền các bộ dữ liệu và cản trở sự đổi mới của những bên khác.

Ngoài ra, việc thu thập dữ liệu đôi khi không minh bạch. Một số công ty AI đã lấy dữ liệu từ các nguồn như video YouTube, bài đánh giá trên Google Maps mà không xin phép chủ sở hữu hoặc người tạo nội dung. Thậm chí, có công ty còn cân nhắc sử dụng nội dung được bảo vệ bản quyền để huấn luyện mô hình của mình.

Một vấn đề khác là việc sử dụng lao động giá rẻ ở các nước đang phát triển để gắn nhãn cho dữ liệu huấn luyện. Những người này được trả lương thấp và phải tiếp xúc với nội dung bạo lực trong thời gian dài mà không được hưởng các quyền lợi.

Các giao dịch dữ liệu thương mại cũng không hoàn toàn công bằng. OpenAI đã chi hàng trăm triệu USD để mua bản quyền nội dung, vượt xa ngân sách của hầu hết các nhóm nghiên cứu, tổ chức phi lợi nhuận và startup.

Với việc thị trường dữ liệu huấn luyện AI dự kiến tăng trưởng mạnh, các nền tảng dữ liệu đang thu phí cao hơn. Điều này gây thiệt hại cho cộng đồng nghiên cứu AI nói chung vì các nhóm nhỏ hơn không đủ khả năng chi trả.

Tuy nhiên, vẫn có một số nỗ lực độc lập nhằm tạo ra các bộ dữ liệu mở miễn phí cho tất cả mọi người. EleutherAI, một nhóm nghiên cứu phi lợi nhuận, đang hợp tác với Đại học Toronto và các tổ chức khác để xây dựng The Pile v2, một bộ chứa hàng tỷ đoạn văn bản.

Câu hỏi đặt ra là liệu các nỗ lực này có thể theo kịp các tập đoàn công nghệ lớn hay không. Nếu việc thu thập và kiểm tra dữ liệu vẫn phụ thuộc vào nguồn lực tài chính, thì câu trả lời có thể là không, ít nhất là cho đến khi có đột phá trong nghiên cứu giúp san bằng sân chơi.