Từ Celestial AI đến Taalas, những công ty khởi nghiệp này đều đang cố gắng thách thức Nvidia.

Trong vài năm qua, khi thế giới nhận ra tiềm năng đột phá của trí tuệ nhân tạo và những con chip mạnh mẽ hỗ trợ công nghệ này, ngành công nghiệp bán dẫn đã thu hút được sự chú ý mới. Trong khi Nvidia là người hưởng lợi chính từ mối quan tâm này, nhiều công ty khởi nghiệp khác đang tìm cách thách thức gã khổng lồ chip AI này hoặc khám phá các lĩnh vực có khả năng đột phá khác.

Mặc dù các công ty khởi nghiệp bán dẫn vẫn phải đối mặt với rủi ro đáng kể, thường phải chịu chi phí cao hơn nhiều so với các công ty phần mềm ở giai đoạn đầu, nhưng họ vẫn được hưởng lợi từ mức tăng trưởng dự đoán của ngành là 20% trong năm nay, một phần nhờ nhu cầu mạnh mẽ về chip AI.

Điều này tạo cơ hội cho các công ty khởi nghiệp về chip AI như Cerebras Systems, Hailo và Kneron tận dụng mức tăng trưởng chi tiêu dự kiến ​​do công ty nghiên cứu IDC dự báo vào tháng 12. Các công ty khởi nghiệp bán dẫn khác nhằm mục đích phá vỡ các thiết kế chip điện toán AI bao gồm Celestial AI, Eliyan, Rivos và Tenstorrent.

Dưới đây là 10 công ty khởi nghiệp bán dẫn hot nhất năm 2024 của CRN, bao gồm các công ty khởi nghiệp nói trên cùng với MetisX, SiMa.ai và Taalas.

David Lazovsky,Người sáng lập và Giám đốc điều hành

Celestial AI đã tuyên bố rằng công nghệ kết nối quang cấu trúc quang tử của họ khắc phục được các tắc nghẽn về độ trễ và băng thông, mở đường cho những tiến bộ trong điện toán trí tuệ nhân tạo.

Có trụ sở tại Santa Clara, California, công ty khởi nghiệp này đã thông báo vào tháng 175 năm nay rằng họ đã đảm bảo được khoản tài trợ Series C được đăng ký vượt mức đáng kể là XNUMX triệu USD. Vòng này được dẫn dắt bởi Quỹ Công nghệ Đổi mới Hoa Kỳ, với sự tham gia của một số nhà đầu tư bao gồm công ty đầu tư mạo hiểm của AMD, Samsung và Porsche SE, công ty mẹ của Tập đoàn Volkswagen.

Trong cùng tháng, công ty khởi nghiệp quang tử silicon lưu ý rằng họ hiện đang thiết kế chip quang cấu trúc quang tử như một phần của giai đoạn đầu áp dụng công nghệ. Theo Celestial AI, việc tích hợp chip quang vào các gói nhiều chip đang ngày càng trở thành tiêu chuẩn cho bộ xử lý hiệu suất cao, cho phép băng thông ngoài gói tăng gấp 25 lần so với "các công nghệ tiên tiến khác".

Andrew Feldman, Đồng sáng lập và Giám đốc điều hành

Cerebras Systems đang tận dụng chip Wafer Scal Engine của mình để thách thức vị trí thống trị của Nvidia trong lĩnh vực điện toán AI, tự hào với hiệu suất vượt trội trên mỗi watt và “khả năng mở rộng chưa từng có”.

Có trụ sở tại Sunnyvale, California, công ty khởi nghiệp này đã tiết lộ chip thế hệ thứ ba của mình, Wafer Scal Engine 3, vào tháng 3 năm nay. Nó tuyên bố con chip mới cung cấp hiệu suất gấp đôi so với người tiền nhiệm của nó với cùng mức tiêu thụ điện năng và mức giá. WSE-400 bao gồm 5 nghìn tỷ bóng bán dẫn sử dụng quy trình 900,000 nanomet của TSMC, tích hợp 44 lõi AI và 1.25 GB SRAM trên chip, đạt được 16 exaflop hiệu suất dấu phẩy động XNUMX bit.

Các cột mốc quan trọng khác của công ty trong năm nay bao gồm hợp tác chiến lược với gã khổng lồ chăm sóc sức khỏe Mayo Clinic để phát triển các mô hình ngôn ngữ đa phương thức quy mô lớn nhằm nâng cao kết quả điều trị và chẩn đoán cho bệnh nhân, quan hệ đối tác lâu dài với công ty khởi nghiệp AI Aleph Alpha để xây dựng các giải pháp AI có chủ quyền an toàn và đặt nền móng cho siêu máy tính Condor Galaxy 3 của tập đoàn công nghệ G42 có trụ sở tại Abu Dhabi.

Ramin Farjadrad, Đồng sáng lập và Giám đốc điều hành

Eliyan đặt mục tiêu vượt qua các rào cản băng thông giữa các chip bằng công nghệ kết nối NuLink PHY, cho phép các nhà thiết kế chip xây dựng các bộ xử lý dựa trên chip mạnh hơn.

Công ty khởi nghiệp có trụ sở tại Santa Clara, California đã công bố vào tháng 60 về việc hoàn thành vòng tài trợ trị giá XNUMX triệu USD, do Samsung Catalyst và Tiger Global Management dẫn đầu, với sự tham gia của Intel và SK Hynix Ventures cùng các nhà đầu tư khác.

Đầu năm nay, Eliyan đã giới thiệu giải pháp được mô tả là giải pháp “hiệu suất cao nhất” ở lớp vật lý để kết nối nhiều chip trong kiến ​​trúc một chip. Nó sử dụng quy trình sản xuất 3 nanomet của TSMC, đạt tốc độ lên tới 64 Gbps trên mỗi làn.

Orr Danon，Đồng sáng lập và Giám đốc điều hành

Hailo đang tăng tốc khối lượng công việc AI biên bằng cách sử dụng các chip dẫn đầu về hiệu quả chi phí và năng lượng, định vị mình trong cuộc cạnh tranh với Nvidia.

Công ty khởi nghiệp có trụ sở tại Tel Aviv đã công bố vào tháng 120 rằng họ đã huy động được 10 triệu USD từ các nhà đầu tư như một phần mở rộng của vòng cấp vốn Series C, cùng với việc ra mắt máy gia tốc Hailo-XNUMX mới. Bộ tăng tốc này được thiết kế để mang lại "hiệu suất GenAI tối đa với mức tiêu thụ điện năng tối thiểu" cho các thiết bị như máy tính cá nhân và hệ thống thông tin giải trí trên ô tô.

Chẳng hạn, Hailo tuyên bố Hailo-10 có thể chạy mô hình Llama 2 với 7 tỷ thông số với tốc độ lên tới 10 mã thông báo mỗi giây, chỉ tiêu thụ 5 watt điện. Hơn nữa, chip có thể xử lý hình ảnh với mô hình Stable Diffusion 2.1 trong vòng 5 giây sử dụng cùng dải công suất.

Albert Liu, người sáng lập và CEO

Kneron nhằm mục đích làm suy yếu ảnh hưởng của Nvidia bằng các chip AI được thiết kế để giảm chi phí máy chủ cho doanh nghiệp và giảm giá cũng như mức tiêu thụ năng lượng của PC trong thế hệ AI.

Công ty khởi nghiệp có trụ sở tại San Diego này đã công bố vào tháng 330 về việc ra mắt máy chủ “Edge GPT” thế hệ thứ hai, KNEO 30, được quảng cáo là có thể cắt giảm chi phí AI cho các doanh nghiệp nhỏ từ 40% -480%. Máy chủ có thể thực hiện 8 nghìn tỷ thao tác mỗi giây (TOPS), hỗ trợ đồng thời tới XNUMX kết nối và nâng cao độ chính xác của việc tạo cho các mô hình ngôn ngữ lớn và truy xuất. Nó cạnh tranh với các giải pháp đám mây về khả năng.

Kneron đã huy động được 190 triệu USD từ các nhà đầu tư bao gồm Qualcomm và Foxconn. Công ty cũng tiết lộ Bộ xử lý thần kinh (NPU) thế hệ thứ ba, KL830, được thiết kế để hỗ trợ các PC AI chi phí thấp và các ứng dụng IoT được hỗ trợ AI.

Jim Kim, Đồng sáng lập và Giám đốc điều hành

MetisX đặt mục tiêu nâng cao các trung tâm dữ liệu bằng cách tiếp cận thông minh hơn, nhanh hơn và tiết kiệm chi phí hơn bằng cách phát triển hệ thống bộ nhớ thông minh dựa trên công nghệ Computing Express Link (CXL).

Công ty khởi nghiệp có trụ sở tại Seoul này đã công bố vào tháng 44 rằng họ đã nhận được XNUMX triệu USD vốn tài trợ Series A từ nhiều nhà đầu tư. Nó có kế hoạch thiết lập hoạt động tại Hoa Kỳ và ra mắt chip nhắm đến khách hàng quy mô lớn vào năm tới.

Công ty đã hoàn thành các nguyên mẫu cho các ứng dụng xử lý dữ liệu quy mô lớn như cơ sở dữ liệu vectơ, phân tích dữ liệu lớn và phân tích DNA. Theo báo cáo, những nguyên mẫu này mang lại hiệu suất gấp đôi so với CPU máy chủ truyền thống.

Puneet Kumar, Đồng sáng lập và Giám đốc điều hành

Rivos đặt mục tiêu phá vỡ thị trường trung tâm dữ liệu bằng cách tích hợp CPU RISC-V hiệu suất cao với bộ tăng tốc song song dữ liệu để phân tích dữ liệu và khối lượng công việc suy luận AI.

Công ty khởi nghiệp có trụ sở tại California, được thành lập bởi các cựu kỹ sư của Google, Apple và Intel, đã thông báo vào tháng 3 rằng họ đã đóng vòng tài trợ Series A-250 được đăng ký vượt mức, huy động được hơn XNUMX triệu USD từ các nhà đầu tư bao gồm cả các công ty liên doanh của Intel và Dell Technologies.

Vào tháng 2, sau khi giải quyết với Apple về vụ kiện tụng, công ty đã đảm bảo được nguồn tài trợ và tiết lộ kế hoạch ra mắt sản phẩm silicon đầu tiên và mở rộng đội ngũ của mình. Apple đã cáo buộc công ty khởi nghiệp này săn trộm hàng chục kỹ sư và đánh cắp bí mật thương mại, trong khi Rivos phản bác lại cáo buộc cạnh tranh không lành mạnh.

Krishna Rangasaee, Người sáng lập và Giám đốc điều hành

SiMa.ai đặt mục tiêu giành thị phần từ Nvidia trong khối lượng công việc AI biên bằng các chip mạnh mẽ và hiệu quả, có khả năng xử lý nhiều mẫu khác nhau trên nền tảng tập trung vào phần mềm.

Công ty khởi nghiệp có trụ sở chính tại San Jose, California này đã công bố vào tháng 70 rằng họ đã huy động được XNUMX triệu USD từ các nhà đầu tư, bao gồm cả chi nhánh liên doanh của Dell Technologies và Lip-Bu Tan, Chủ tịch Cadence Design Systems.

Công ty cho biết họ sẽ sử dụng số tiền này để đáp ứng nhu cầu về Hệ thống học máy trên chip (MLSoC) thế hệ đầu tiên, được thiết kế đặc biệt cho thị giác máy tính và đẩy nhanh quá trình phát triển MLSoC thế hệ thứ hai, hỗ trợ khối lượng công việc AI đa phương thức bao gồm xử lý tiếng nói, âm thanh, văn bản và hình ảnh.

Jim Keller, Giám đốc điều hành

Tenstorrent đang tiên phong trên con đường mới trong thiết kế chip điện toán AI bằng cách kết hợp mô hình kinh doanh bán bộ xử lý chuyên dụng với việc cấp phép công nghệ chip cho người khác.

Công ty khởi nghiệp có trụ sở tại Toronto này đã công bố vào tháng 2 một “thỏa thuận hợp tác đa cấp” với Trung tâm Công nghệ Bán dẫn Tiên tiến của Nhật Bản, nhằm mục đích sử dụng RISC-V và các công nghệ chip nhỏ của Tenstorrent để phát triển máy gia tốc AI biên XNUMX nanomet. Tenstorrent cũng sẽ đóng vai trò là đối tác đồng thiết kế cho con chip này.

Theo báo cáo tháng 100 của The Information, công ty khởi nghiệp này đã huy động được 300 triệu USD tài trợ vào năm ngoái do Tập đoàn ô tô Hyundai và Quỹ Samsung Catalyst dẫn đầu, và hiện đang huy động ít nhất 2 triệu USD trong vòng tài trợ mới do Samsung dẫn đầu, định giá Tenstorrent ở mức XNUMX tỷ USD. Các báo cáo cho thấy các cuộc đàm phán đang được tiến hành với một công ty lớn khác của Hàn Quốc, LG Electronics, về vòng cấp vốn này.

Ljubisa Bajic,Người sáng lập và Giám đốc điều hành

Taalas đang nhắm đến việc phá vỡ chiến lược GPU chung của Nvidia bằng cách thiết kế các chip tăng tốc trực tiếp triển khai toàn bộ mô hình AI, có khả năng giảm chi phí tới 1,000 lần.

Công ty khởi nghiệp có trụ sở tại Toronto, do người đồng sáng lập Tenstorrent Llubisa Bajic dẫn đầu, đã công bố vào tháng 50 rằng họ đã huy động được XNUMX triệu đô la tài trợ và tiết lộ kế hoạch tạo ra một quy trình làm việc tự động kết nối tất cả các loại mô hình học sâu vào chip.

Theo Taalas, phương pháp thiết kế này cho phép họ phát triển một con chip chứa toàn bộ mô hình AI quy mô lớn “mà không cần bộ nhớ ngoài”. Startup tuyên bố rằng thiết kế chip này dự kiến ​​sẽ mang lại hiệu suất cao hơn các trung tâm dữ liệu GPU quy mô nhỏ, mở đường cho việc giảm chi phí điện toán AI hơn 1,000 lần.

Công ty có kế hoạch sản xuất chip mô hình ngôn ngữ quy mô lớn đầu tiên vào quý 3 và đặt mục tiêu ra mắt nó cho khách hàng vào quý 1 năm sau.