Apple và Nvidia ‘bắt tay’ tạo ra bước đột phá trong AI

Apple vừa bất ngờ công bố hợp tác với Nvidia nhằm cải thiện hiệu suất suy luận Mô hình Ngôn ngữ Lớn (LLM), kết hợp giữa ReDrafter mã nguồn mở của Apple và sức mạnh phần cứng của Nvidia. Kết quả là hiệu suất được cải thiện 2.7 lần so với phương pháp hồi quy tự động (auto regression).

Mối quan hệ căng thẳng giữa Apple và Nvidia

Trong quá khứ, Apple và Nvidia đã từng có mối quan hệ không mấy suôn sẻ. Vào năm 2008, MacBook của Apple gặp phải hàng loạt sự cố với các card đồ họa Nvidia GeForce 8400M và 8600M do lỗi đóng gói, gây ra quá nhiệt, lỗi đồ họa và thậm chí là hỏng GPU. Mối quan hệ này dần xấu đi, và sau đó, Apple đã chuyển sang sử dụng GPU của AMD.

Sự xuất hiện của Apple Silicon và bước tiến mới

Dù vậy, dòng Mac sử dụng vi xử lý Apple Silicon đã giúp cải thiện đáng kể hiệu suất đồ họa của MacBook, đưa Apple trở lại cạnh tranh với các laptop Windows sử dụng GPU mạnh mẽ như GTX và RTX. Mặc dù vậy, mối quan hệ giữa Apple và Nvidia vẫn khá lạnh nhạt cho đến gần đây.

Hợp tác mới: ReDrafter và TensorRT-LLM

Apple và Nvidia vừa công bố hợp tác trong việc tăng tốc quá trình suy luận LLM, đánh dấu một bước tiến quan trọng trong mối quan hệ giữa hai công ty. Apple đã giới thiệu ReDrafter, một phương pháp giải mã suy đoán (speculative decoding) nhằm cải thiện tốc độ sinh token cho LLM. Nvidia đã tích hợp ReDrafter vào framework TensorRT-LLM của mình và cập nhật các toán tử tối ưu hóa mới, giúp việc áp dụng trở nên dễ dàng hơn.

Cải thiện hiệu suất và giảm độ trễ

Kết quả của sự hợp tác này là một cải tiến đáng kể về hiệu suất: Việc sử dụng GPU Nvidia kết hợp với ReDrafter giúp tăng tốc độ sinh token lên 2.7 lần, giảm độ trễ và tiêu thụ năng lượng. Mặc dù đây là một thành công lớn, tương lai của sự hợp tác này vẫn chưa rõ ràng. Liệu đây có phải là sự bắt đầu của một quan hệ lâu dài giữa Apple và Nvidia, hay chỉ là một thỏa thuận tạm thời?

Lợi ích cho người tiêu dùng và tương lai của công nghệ AI

Dù mối quan hệ giữa Apple và Nvidia đã trải qua nhiều biến động, sự hợp tác lần này có thể là tiền đề cho những sáng tạo và cải tiến tiếp theo trong công nghệ AI. Bất kỳ liên minh nghiên cứu và phát triển nào cũng sẽ mang lại lợi ích cho người tiêu dùng, đặc biệt là trong việc cải thiện tốc độ và hiệu suất của phần mềm AI.