Sagence ra mắt chip analog mới, tăng tốc xử lý AI

Các đơn vị xử lý đồ họa (GPU), bộ xử lý mà hầu hết các mô hình AI chạy trên đó, là những “con quái vật” tiêu tốn năng lượng. Do sự gia tăng nhanh chóng việc tích hợp GPU vào các trung tâm dữ liệu, AI sẽ thúc đẩy nhu cầu điện tăng 160% vào năm 2030, theo ước tính của Goldman Sachs.

Xu hướng này không bền vững, Vishal Sarin, một nhà thiết kế mạch tích hợp analog và bộ nhớ, cho biết. Sau hơn một thập kỷ làm việc trong ngành chip, Sarin đã thành lập Sagence AI (trước đây có tên là Analog Inference) để thiết kế các giải pháp thay thế hiệu quả năng lượng cho GPU.

“Các ứng dụng có thể khiến điện toán AI thực sự phổ biến bị hạn chế vì các thiết bị và hệ thống xử lý dữ liệu không thể đạt được hiệu suất cần thiết,” Sarin nói. “Nhiệm vụ của chúng tôi là phá vỡ giới hạn hiệu suất và kinh tế, và theo cách có trách nhiệm với môi trường.”

Sagence phát triển chip và hệ thống để chạy các mô hình AI, cũng như phần mềm để lập trình các chip này. Mặc dù không thiếu các công ty tạo ra phần cứng AI tùy chỉnh, nhưng Sagence khá độc đáo ở chỗ các chip của họ là analog, không phải kỹ thuật số.

Hầu hết các chip, bao gồm GPU, lưu trữ thông tin dưới dạng kỹ thuật số, dưới dạng chuỗi nhị phân gồm các số 0 và 1. Ngược lại, chip analog có thể đại diện cho dữ liệu bằng cách sử dụng một loạt các giá trị khác nhau.

Chip analog không phải là một khái niệm mới. Chúng đã có thời kỳ hoàng kim từ khoảng năm 1935 đến 1980, giúp mô hình hóa lưới điện Bắc Mỹ, trong số các kỳ tích kỹ thuật khác. Nhưng những nhược điểm của chip kỹ thuật số đang khiến analog trở nên hấp dẫn một lần nữa.

Thứ nhất, chip kỹ thuật số yêu cầu hàng trăm thành phần để thực hiện các phép tính nhất định mà chip analog có thể đạt được chỉ với một vài mô-đun. Chip kỹ thuật số cũng thường phải chuyển dữ liệu qua lại giữa bộ nhớ và bộ xử lý, gây ra tắc nghẽn.

“Tất cả các nhà cung cấp silicon AI di sản hàng đầu đều sử dụng cách tiếp cận kiến ​​trúc cũ này, và điều này đang cản trở sự tiến bộ của việc áp dụng AI,” Sarin nói.

Các chip analog như của Sagence, là các chip “trong bộ nhớ”, không chuyển dữ liệu từ bộ nhớ sang bộ xử lý, có khả năng cho phép chúng hoàn thành nhiệm vụ nhanh hơn. Và, nhờ khả năng sử dụng một loạt các giá trị để lưu trữ dữ liệu, chip analog có thể có mật độ dữ liệu cao hơn so với các đối tác kỹ thuật số của chúng.

Tuy nhiên, công nghệ analog cũng có những nhược điểm của nó. Ví dụ, việc đạt được độ chính xác cao với chip analog có thể khó hơn vì chúng yêu cầu sản xuất chính xác hơn. Chúng cũng có xu hướng khó lập trình hơn.

Nhưng Sarin cho rằng các chip của Sagence sẽ bổ sung chứ không thay thế chip kỹ thuật số, ví dụ, để tăng tốc các ứng dụng chuyên biệt trong máy chủ và thiết bị di động.

“Các sản phẩm của Sagence được thiết kế để loại bỏ các vấn đề về điện năng, chi phí và độ trễ vốn có trong phần cứng GPU, đồng thời cung cấp hiệu suất cao cho các ứng dụng AI,” ông nói.

Sagence, dự kiến ​​ra mắt chip vào năm 2025, đang hợp tác với “nhiều” khách hàng khi tìm cách cạnh tranh với các doanh nghiệp chip analog AI khác như EnCharge và Mythic, Sarin cho biết. “Hiện tại, chúng tôi đang đóng gói công nghệ cốt lõi của mình thành các sản phẩm cấp hệ thống và đảm bảo rằng chúng phù hợp với cơ sở hạ tầng và các tình huống triển khai hiện có” ông nói thêm.

Sagence đã nhận được đầu tư từ các nhà đầu tư bao gồm Vinod Khosla, TDK Ventures, Cambium Capital, Blue Ivy Ventures, Aramco Ventures và New Science Ventures, huy động được tổng cộng 58 triệu đô la trong sáu năm kể từ khi thành lập.

Giờ đây, startup đang lên kế hoạch huy động vốn một lần nữa để mở rộng đội ngũ 75 người của mình.

“Cấu trúc chi phí của chúng tôi thuận lợi vì chúng tôi không theo đuổi các mục tiêu hiệu suất bằng cách chuyển sang các [quy trình sản xuất] mới nhất cho chip của mình,” Sarin nói. “Đó là một yếu tố lớn đối với chúng tôi”.

Thời điểm có thể phù hợp với Sagence. Theo Crunchbase, vốn đầu tư cho các startup chip bán dẫn dường như đang phục hồi sau một năm 2023 ảm đạm. Từ tháng 1 đến tháng 7, các startup chip được hỗ trợ bởi VC đã huy động được gần 5,3 tỷ đô la – một con số vượt xa năm ngoái, khi các công ty như vậy chỉ huy động được dưới 8,8 tỷ đô la.

Tuy nhiên, sản xuất chip là một đề xuất tốn kém – càng trở nên khó khăn hơn do các lệnh trừng phạt và thuế quan quốc tế do chính quyền Trump sắp tới hứa hẹn. Chiếm được khách hàng đã “bị khóa” trong các hệ sinh thái như của Nvidia là một thách thức khác. Năm ngoái, nhà sản xuất chip AI Graphcore, đã huy động được gần 700 triệu đô la và từng được định giá gần 3 tỷ đô la, đã nộp đơn phá sản sau khi vật lộn để có được chỗ đứng vững chắc trên thị trường.

Để có bất kỳ cơ hội thành công nào, Sagence sẽ phải chứng minh rằng các chip của họ thực sự tiêu thụ ít điện năng hơn và cung cấp hiệu quả cao hơn so với các giải pháp thay thế và huy động đủ vốn đầu tư mạo hiểm để sản xuất quy mô lớn.