Od Celestial AI po Taalas, wszystkie te start-upy próbują rzucić wyzwanie Nvidii.

W ciągu ostatnich kilku lat, gdy świat dostrzegł przełomowy potencjał generatywnej sztucznej inteligencji i potężnych chipów umożliwiających tę technologię, przemysł półprzewodników ponownie zwrócił na siebie uwagę. Chociaż głównym beneficjentem tego zainteresowania jest Nvidia, różne start-upy próbują rzucić wyzwanie temu gigantowi chipów AI lub zbadać inne potencjalnie destrukcyjne obszary.

Chociaż start-upy w branży półprzewodników nadal borykają się ze znacznym ryzykiem, często ponosząc znacznie wyższe koszty w porównaniu z producentami oprogramowania na wczesnym etapie rozwoju, mogą odnieść korzyści z przewidywanego w tym roku wzrostu branży o 20%, częściowo napędzanego dużym popytem na chipy AI.

Stwarza to możliwości start-upom w dziedzinie chipów AI, takim jak Cerebras Systems, Hailo i Kneron, wykorzystania przewidywanego wzrostu wydatków prognozowanego przez firmę badawczą IDC w grudniu. Inne start-upy zajmujące się półprzewodnikami, których celem jest zakłócenie projektów chipów obliczeniowych AI, to Celestial AI, Eliyan, Rivos i Tenstorrent.

Oto 10 najgorętszych start-upów CRN w branży półprzewodników w 2024 r., w tym wspomniane wcześniej startupy oraz MetisX, SiMa.ai i Taalas.

David Lazovsky, założyciel i dyrektor generalny

Celestial AI stwierdziło, że technologia wzajemnych połączeń optycznych o strukturze fotonicznej pokonuje opóźnienia i wąskie gardła w przepustowości, torując drogę postępowi w przetwarzaniu sztucznej inteligencji.

Startup z siedzibą w Santa Clara w Kalifornii ogłosił w marcu tego roku, że zabezpieczył znacznie nadsubskrybowane finansowanie serii C w wysokości 175 milionów dolarów. Rundę prowadził amerykański fundusz Innovation Technology Fund, w którym wzięło udział kilku inwestorów, w tym spółka Samsung zajmująca się kapitałem wysokiego ryzyka AMD, oraz Porsche SE, spółka holdingowa Grupy Volkswagen.

W tym samym miesiącu start-up zajmujący się fotoniką krzemową zauważył, że obecnie projektuje chipy optyczne o strukturze fotonicznej w ramach początkowej fazy wdrażania technologii. Według Celestial AI integrowanie chipów optycznych w pakietach wielochipowych staje się coraz bardziej standardem w przypadku procesorów o wysokiej wydajności, umożliwiając 25-krotny wzrost przepustowości poza pakietem w porównaniu z „innymi najnowocześniejszymi technologiami”.

Andrew Feldman, współzałożyciel i dyrektor generalny

Cerebras Systems wykorzystuje swój chip Wafer Scale Engine, aby rzucić wyzwanie dominującej pozycji Nvidii w przetwarzaniu sztucznej inteligencji, oferując wyjątkową wydajność w przeliczeniu na wat i „bezprecedensową skalowalność”.

Startup z siedzibą w Sunnyvale w Kalifornii zaprezentował w marcu tego roku chip trzeciej generacji – Wafer Scale Engine 3. Twierdzi, że nowy chip oferuje dwukrotnie większą wydajność niż jego poprzednik przy tym samym zużyciu energii i tej samej cenie. WSE-3 składa się z 400 bilionów tranzystorów wykorzystujących 5-nanometrowy proces TSMC, integrując 900,000 44 rdzeni AI i 1.25 GB wbudowanej pamięci SRAM, osiągając 16 eksaflopa XNUMX-bitowej wydajności zmiennoprzecinkowej.

Inne kamienie milowe firmy w tym roku obejmują strategiczną współpracę z gigantem z branży opieki zdrowotnej Mayo Clinic w zakresie opracowywania wielkoskalowych multimodalnych modeli językowych w celu poprawy wyników leczenia pacjentów i diagnostyki, długotrwałe partnerstwo ze start-upem AI Aleph Alpha w celu tworzenia bezpiecznych, suwerennych rozwiązań w zakresie sztucznej inteligencji oraz położenie podwalin za superkomputer Condor Galaxy 3 dla holdingu technologicznego G42 z siedzibą w Abu Zabi.

Ramin Farjadrad, współzałożyciel i dyrektor generalny

Celem Eliyan jest pokonanie barier w zakresie przepustowości między chipami dzięki technologii połączeń międzyukładowych NuLink PHY, umożliwiającej projektantom chipów budowanie wydajniejszych procesorów opartych na chipach.

Startup z siedzibą w Santa Clara w Kalifornii ogłosił w marcu zakończenie rundy finansowania o wartości 60 milionów dolarów, prowadzonej przez Samsung Catalyst i Tiger Global Management, przy udziale między innymi firm Intel i SK Hynix Ventures.

Na początku tego roku Eliyan wprowadził rozwiązanie, które określił jako „najwyższą wydajność” w warstwie fizycznej, umożliwiające łączenie wielu chipów w ramach architektury jednoukładowej. Wykorzystuje 3-nanometrowy proces produkcyjny TSMC, osiągając prędkość do 64 Gb/s na linię.

Orr Danon, współzałożyciel i dyrektor generalny

Hailo przyspiesza obciążenia sztucznej inteligencji na krawędzi, wprowadzając chipy, które przodują pod względem kosztów i efektywności energetycznej, pozycjonując się w konkurencji z Nvidią.

Startup z Tel Awiwu ogłosił w kwietniu, że pozyskał od inwestorów 120 milionów dolarów w ramach przedłużenia rundy finansowania serii C wraz z wprowadzeniem na rynek nowego akceleratora Hailo-10. Ten akcelerator został zaprojektowany w celu zapewnienia „maksymalnej wydajności GenAI przy minimalnym zużyciu energii” dla urządzeń takich jak komputery osobiste i samochodowe systemy informacyjno-rozrywkowe.

Na przykład Hailo twierdzi, że Hailo-10 może obsługiwać model Llama 2 z 7 miliardami parametrów przy prędkościach do 10 tokenów na sekundę, zużywając zaledwie 5 watów mocy. Co więcej, chip może przetwarzać obrazy w modelu Stable Diffusion 2.1 w ciągu 5 sekund przy tym samym zakresie mocy.

Albert Liu, założyciel i dyrektor generalny

Celem Kneron jest osłabienie wpływów Nvidii za pomocą chipów AI zaprojektowanych w celu zmniejszenia kosztów serwerów dla przedsiębiorstw oraz obniżenia ceny i zużycia energii komputerów PC generujących sztuczną inteligencję.

Startup z siedzibą w San Diego ogłosił w czerwcu wprowadzenie na rynek serwera „Edge GPT” drugiej generacji – KNEO 330, który ma obniżyć koszty sztucznej inteligencji dla małych firm o 30–40%. Serwer może wykonywać 480 bilionów operacji na sekundę (TOPS), obsługując jednocześnie do 8 połączeń i zwiększając dokładność generowania dużych modeli językowych i wyszukiwania. Pod względem możliwości konkuruje z rozwiązaniami chmurowymi.

Kneron zebrał 190 milionów dolarów od inwestorów, w tym Qualcomm i Foxconn. Firma zaprezentowała także jednostkę przetwarzania neuronowego (NPU) trzeciej generacji, KL830, zaprojektowaną do obsługi tanich komputerów PC ze sztuczną inteligencją i aplikacji IoT obsługujących sztuczną inteligencję.

Jim Kim, współzałożyciel i dyrektor generalny

MetisX ma na celu ulepszenie centrów danych dzięki bardziej inteligentnemu, szybszemu i opłacalnemu podejściu poprzez rozwój inteligentnych systemów pamięci opartych na technologii Compute Express Link (CXL).

Startup z Seulu ogłosił w maju, że zabezpieczył finansowanie serii A o wartości 44 milionów dolarów od wielu inwestorów. Planuje rozpocząć działalność w Stanach Zjednoczonych i w przyszłym roku wprowadzić na rynek chipy skierowane do dużych klientów.

Firma ukończyła prototypy aplikacji do przetwarzania danych na dużą skalę, takich jak wektorowe bazy danych, analiza dużych zbiorów danych i analiza DNA. Według doniesień prototypy te zapewniają dwukrotnie większą wydajność niż tradycyjne procesory serwerowe.

Puneet Kumar, współzałożyciel i dyrektor generalny

Celem Rivos jest zrewolucjonizowanie rynku centrów danych poprzez integrację wysokowydajnych procesorów RISC-V z równoległymi akceleratorami danych na potrzeby analizy danych i obciążeń wnioskowania AI.

Kalifornijski startup, założony przez byłych inżynierów z Google, Apple i Intela, ogłosił w kwietniu, że zamknął rundę finansowania serii A-3, w której wystąpiła nadsubskrypcja, pozyskując ponad 250 milionów dolarów od inwestorów, w tym oddziałów venture capital Intel i Dell Technologies.

W lutym, po ugodzie z Apple w sprawie spornej, firma zabezpieczyła finansowanie i ujawniła plany wprowadzenia na rynek swojego inauguracyjnego produktu krzemowego i rozszerzenia zespołu. Apple oskarżył startup o wyłudzenie kilkudziesięciu inżynierów i kradzież tajemnic handlowych, natomiast Rivos sprzeciwił się zarzutom nieuczciwej konkurencji.

Krishna Rangasayee, założyciel i dyrektor generalny

SiMa.ai ma na celu przejęcie udziału w rynku Nvidii w zakresie obciążeń AI na krawędziach dzięki potężnym i wydajnym chipom, zdolnym do obsługi różnych wzorców na platformie zorientowanej na oprogramowanie.

Startup z siedzibą w San Jose w Kalifornii ogłosił w kwietniu, że zebrał 70 milionów dolarów od inwestorów, w tym od spółki venture Dell Technologies i Lip-Bu Tana, prezesa Cadence Design Systems.

Firma oświadczyła, że ​​przeznaczy fundusze na zaspokojenie popytu na system uczenia maszynowego na chipie (MLSoC) pierwszej generacji, zaprojektowany specjalnie z myślą o wizji komputerowej, oraz przyspieszenie rozwoju MLSoC drugiej generacji, obsługującego multimodalne obciążenia AI, w tym przetwarzanie mowy, dźwięku, tekstu i obrazu.

Jim Keller, dyrektor generalny

Tenstorrent wyznacza nową ścieżkę w projektowaniu chipów obliczeniowych AI, łącząc model biznesowy polegający na sprzedaży dedykowanych procesorów z licencjonowaniem technologii chipów innym podmiotom.

Startup z siedzibą w Toronto ogłosił w lutym „wielopoziomową umowę o współpracy” z japońskim Centrum Zaawansowanych Technologii Półprzewodników, której celem jest wykorzystanie technologii RISC-V i małych chipów firmy Tenstorrent do opracowania 2-nanometrowego akceleratora sztucznej inteligencji. Tenstorrent będzie również partnerem współprojektującym ten chip.

Według czerwcowego raportu The Information startup pozyskał w zeszłym roku 100 milionów dolarów pod przewodnictwem Hyundai Motor Group i Samsung Catalyst Fund, a obecnie zbiera co najmniej 300 milionów dolarów w nowej rundzie finansowania prowadzonej przez firmę Samsung, wyceniając Tenstorrent na 2 miliardy dolarów. Z raportów wynika, że ​​trwają negocjacje z inną dużą koreańską firmą, LG Electronics, w sprawie tej rundy finansowania.

Ljubisa Bajic, założycielka i dyrektor generalna

Taalas zamierza zakłócić ogólną strategię Nvidii dotyczącą procesorów graficznych, projektując chipy akceleratorów, które bezpośrednio implementują całe modele sztucznej inteligencji, potencjalnie zmniejszając koszty nawet 1,000 razy.

Startup z siedzibą w Toronto, kierowany przez współzałożycielkę Tenstorrent Llubisę Bajic, ogłosił w marcu, że zebrał fundusze w wysokości 50 milionów dolarów i ujawnił plany stworzenia zautomatyzowanego przepływu pracy, który na stałe połączy wszystkie typy modeli głębokiego uczenia się z chipem.

Zdaniem Taalasa takie podejście do projektowania pozwala im opracować chip zawierający całe wielkoskalowe modele sztucznej inteligencji „bez potrzeby stosowania pamięci zewnętrznej”. Startup twierdzi, że oczekuje się, że ten projekt chipa zapewni wyższą wydajność niż małe centra danych GPU, torując drogę do ponad 1,000-krotnego obniżenia kosztów obliczeń AI.

Firma planuje nagrać swój pierwszy wielkoskalowy chip do modelowania języka w trzecim kwartale i ma zamiar udostępnić go klientom w pierwszym kwartale przyszłego roku.