Nvidia “thu nhỏ” siêu máy tính AI, đặt vừa trên bàn làm việc

Trong khi mọi sự chú ý đổ dồn vào dòng card đồ họa mới của Nvidia, công ty đã âm thầm giới thiệu một sản phẩm có tiềm năng tạo ra ảnh hưởng lớn hơn: Project Digits, một siêu máy tính AI cá nhân.

Digits – Siêu máy tính AI trong hình hài Mac mini

Digits có thiết kế nhỏ gọn, tương tự Mac mini, phù hợp với mọi không gian làm việc. Chỉ cần kết nối với bàn phím, màn hình và nguồn điện là bạn đã sẵn sàng sử dụng. Sức mạnh của Digits đến từ chip Nvidia GB10 Grace Blackwell Superchip, mang lại hiệu suất AI lên đến 1 petaflop. Nvidia đã hợp tác với MediaTek để tối ưu hóa chip về mặt năng lượng, cho phép nó hoạt động với nguồn điện thông thường.

Bên cạnh đó, Digits còn được trang bị 128GB RAM và bộ nhớ NVMe lên đến 4TB, cho phép các nhà phát triển chạy các mô hình ngôn ngữ lớn (LLM) với 200 tỷ tham số. Sử dụng công nghệ Nvidia ConnectX, người dùng có thể kết nối hai máy tính Digits để chạy các mô hình lên đến 405 tỷ tham số.

Ứng dụng thực tế

Để dễ hình dung, ChatGPT 3.5 có 175 tỷ tham số, trong khi LLM mạnh nhất của Meta, Llama 3, có 405 tỷ tham số. Điều này có nghĩa là bạn có thể chạy một LLM cực kỳ mạnh mẽ ngay tại nhà mà không cần phụ thuộc vào cơ sở hạ tầng đám mây. “Việc đặt một siêu máy tính AI trên bàn làm việc của mỗi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ trao quyền cho họ tham gia và định hình kỷ nguyên AI”, Jensen Huang, người sáng lập và CEO của Nvidia, cho biết.

Hỗ trợ phát triển ứng dụng AI

Các nhà phát triển sử dụng Digits sẽ có quyền truy cập vào thư viện phần mềm AI của Nvidia, bao gồm bộ công cụ phát triển, công cụ điều phối, framework và mô hình có sẵn trong danh mục Nvidia NGC và trên cổng thông tin dành cho nhà phát triển của Nvidia. Họ cũng sẽ có quyền truy cập vào framework Nvidia NeMo và thư viện Nvidia RAPIDS.

Giá bán hấp dẫn

Digits sẽ được bán ra vào tháng 5 với giá khởi điểm chỉ từ 3.000 USD. Mức giá này giúp sản phẩm tiếp cận được với nhiều công ty nhỏ và nhà nghiên cứu, những người sẽ sử dụng nó để tạo và thử nghiệm các ứng dụng AI.

Nếu mức giá này vẫn còn quá cao, bạn có thể thử Nvidia Jetson, một máy tính AI gia đình với giá 249 USD, có thể xử lý các mô hình lên đến 8 tỷ tham số. Với hiệu năng mạnh mẽ, giá cả phải chăng và hỗ trợ phát triển ứng dụng AI toàn diện, Project Digits hứa hẹn sẽ là một bước đột phá, mở ra cơ hội cho nhiều cá nhân và tổ chức tham gia vào cuộc cách mạng AI.