Von Celestial AI bis Taalas versuchen diese Startups alle, Nvidia herauszufordern.

In den letzten Jahren hat die Welt das disruptive Potenzial der generativen künstlichen Intelligenz und der leistungsstarken Chips, die diese Technologie ermöglichen, erkannt und die Halbleiterindustrie hat erneut Aufmerksamkeit auf sich gezogen. Während Nvidia der Hauptnutznießer dieses Interesses ist, versuchen verschiedene Start-ups, diesem KI-Chip-Riesen Paroli zu bieten oder andere potenziell disruptive Bereiche zu erkunden.

Obwohl Halbleiter-Start-ups noch immer mit erheblichen Risiken konfrontiert sind und oft viel höhere Kosten verursachen als Software-Unternehmen in der Frühphase, werden sie wahrscheinlich von dem für dieses Jahr erwarteten Branchenwachstum von 20 % profitieren, das zum Teil auf die starke Nachfrage nach KI-Chips zurückzuführen ist.

Dies eröffnet KI-Chip-Startups wie Cerebras Systems, Hailo und Kneron die Möglichkeit, vom erwarteten Ausgabenwachstum zu profitieren, das das Forschungsunternehmen IDC im Dezember prognostizierte. Weitere Halbleiter-Startups, die das Design von KI-Computerchips revolutionieren wollen, sind Celestial AI, Eliyan, Rivos und Tenstorrent.

Hier sind laut CRN die 10 heißesten Halbleiter-Startups des Jahres 2024, darunter die oben genannten Startups sowie MetisX, SiMa.ai und Taalas.

David Lazovsky, Gründer und CEO

Celestial AI gab bekannt, dass seine optische Verbindungstechnologie mit photonischer Struktur Latenz- und Bandbreitenengpässe überwindet und so den Weg für Fortschritte in der künstlichen Intelligenz ebnet.

Das in Santa Clara, Kalifornien, ansässige Startup gab im März dieses Jahres bekannt, dass es eine deutlich überzeichnete Finanzierungsrunde der Serie C in Höhe von 175 Millionen Dollar abgeschlossen habe. Die Runde wurde vom US Innovation Technology Fund geleitet, an der sich mehrere Investoren beteiligten, darunter AMDs Risikokapitalabteilung, Samsung und Porsche SE, die Holdinggesellschaft des Volkswagen-Konzerns.

Im selben Monat gab das Silizium-Photonik-Startup bekannt, dass es derzeit als Teil der ersten Phase der Technologieeinführung optische Chips mit photonischer Struktur entwirft. Laut Celestial AI wird die Integration optischer Chips in Multi-Chip-Pakete für Hochleistungsprozessoren zunehmend zum Standard und ermöglicht eine 25-fache Erhöhung der Off-Package-Bandbreite im Vergleich zu „anderen hochmodernen Technologien“.

Andrew Feldman, Mitgründer und CEO

Cerebras Systems nutzt seinen Wafer Scale Engine-Chip, um die beherrschende Stellung von Nvidia im Bereich der KI-Computer herauszufordern, und rühmt sich einer herausragenden Leistung pro Watt und „beispielloser Skalierbarkeit“.

Das in Sunnyvale, Kalifornien, ansässige Startup stellte im März dieses Jahres seinen Chip der dritten Generation, den Wafer Scale Engine 3, vor. Es behauptet, der neue Chip biete die doppelte Leistung seines Vorgängers bei gleichem Stromverbrauch und Preis. WSE-3 besteht aus 400 Billionen Transistoren im 5-Nanometer-Prozess von TSMC, integriert 900,000 KI-Kerne und 44 GB On-Chip-SRAM und erreicht 1.25 Exaflops mit 16-Bit-Gleitkommaleistung.

Zu den weiteren Meilensteinen des Unternehmens in diesem Jahr zählen strategische Kooperationen mit dem Gesundheitsriesen Mayo Clinic zur Entwicklung groß angelegter multimodaler Sprachmodelle zur Verbesserung der Behandlungsergebnisse und Diagnostik von Patienten, eine langjährige Partnerschaft mit dem KI-Startup Aleph Alpha zur Entwicklung sicherer souveräner KI-Lösungen sowie die Vorbereitung des Supercomputers Condor Galaxy 3 für die in Abu Dhabi ansässige Technologieholding G42.

Ramin Farjadrad, Mitgründer und CEO

Eliyan möchte mit seiner NuLink PHY-Verbindungstechnologie die Bandbreitenbarrieren zwischen Chips überwinden und Chipdesignern so die Möglichkeit geben, leistungsfähigere chipbasierte Prozessoren zu bauen.

Das in Santa Clara (Kalifornien) ansässige Startup gab im März den Abschluss einer Finanzierungsrunde in Höhe von 60 Millionen US-Dollar bekannt. Angeführt wurde die Runde von Samsung Catalyst und Tiger Global Management, an der sich unter anderem Intel und SK Hynix Ventures beteiligten.

Anfang des Jahres stellte Eliyan die nach eigenen Angaben „leistungsstärkste“ Lösung auf der physischen Ebene vor, um mehrere Chips innerhalb einer Single-Chip-Architektur zu verbinden. Sie nutzt den 3-Nanometer-Herstellungsprozess von TSMC und erreicht Geschwindigkeiten von bis zu 64 Gbit/s pro Lane.

Orr Danon, Mitgründer und CEO

Hailo beschleunigt Edge-KI-Workloads durch den Einsatz kostengünstiger und energieeffizienter Chips und positioniert sich so im Wettbewerb mit Nvidia.

Das in Tel Aviv ansässige Startup gab im April bekannt, dass es im Rahmen seiner Finanzierungsrunde der Serie C 120 Millionen US-Dollar von Investoren eingesammelt habe, parallel zur Einführung des neuen Hailo-10-Beschleunigers. Dieser Beschleuniger soll „maximale GenAI-Leistung bei minimalem Stromverbrauch“ für Geräte wie PCs und Infotainmentsysteme in Autos liefern.

Hailo behauptet beispielsweise, dass der Hailo-10 das Modell Llama 2 mit 7 Milliarden Parametern bei Geschwindigkeiten von bis zu 10 Token pro Sekunde ausführen kann und dabei nur 5 Watt Strom verbraucht. Darüber hinaus kann der Chip Bilder mit dem Modell Stable Diffusion 2.1 innerhalb von 5 Sekunden verarbeiten und dabei denselben Leistungsbereich nutzen.

Albert Liu, Gründer und CEO

Kneron zielt darauf ab, den Einfluss von Nvidia mit KI-Chips zu schwächen, die die Serverkosten für Unternehmen senken und den Preis und Energieverbrauch von PCs der KI-Generation reduzieren sollen.

Das in San Diego ansässige Startup kündigte im Juni die Einführung seines „Edge GPT“-Servers der zweiten Generation, KNEO 330, an, der die KI-Kosten für kleine Unternehmen um 30 bis 40 Prozent senken soll. Der Server kann 480 Billionen Operationen pro Sekunde (TOPS) ausführen, unterstützt bis zu 8 Verbindungen gleichzeitig und verbessert die Generierungsgenauigkeit für große Sprachmodelle und den Abruf. In seiner Leistungsfähigkeit kann er mit Cloud-Lösungen mithalten.

Kneron hat 190 Millionen Dollar von Investoren wie Qualcomm und Foxconn eingesammelt. Das Unternehmen stellte außerdem seine Neural Processing Unit (NPU) der dritten Generation, KL830, vor, die kostengünstige KI-PCs und IoT-Anwendungen mit KI-Unterstützung unterstützen soll.

Jim Kim, Mitgründer und CEO

MetisX zielt darauf ab, Rechenzentren mit einem intelligenteren, schnelleren und kostengünstigeren Ansatz zu verbessern, indem es intelligente Speichersysteme auf Basis der Compute Express Link (CXL)-Technologie entwickelt.

Das in Seoul ansässige Startup gab im Mai bekannt, dass es von mehreren Investoren 44 Millionen Dollar in der Serie-A-Finanzierung erhalten habe. Es plant, im nächsten Jahr einen Betrieb in den USA aufzubauen und Chips auf den Markt zu bringen, die sich an Großkunden richten.

Das Unternehmen hat Prototypen für groß angelegte Datenverarbeitungsanwendungen wie Vektordatenbanken, Big-Data-Analysen und DNA-Analysen fertiggestellt. Berichten zufolge liefern diese Prototypen die doppelte Leistung herkömmlicher Server-CPUs.

Puneet Kumar, Mitgründer und CEO

Rivos möchte den Rechenzentrumsmarkt revolutionieren, indem es leistungsstarke RISC-V-CPUs mit parallelen Datenbeschleunigern für Datenanalyse- und KI-Inferenz-Workloads integriert.

Das in Kalifornien ansässige Startup, das von ehemaligen Ingenieuren von Google, Apple und Intel gegründet wurde, gab im April bekannt, dass es eine überzeichnete Finanzierungsrunde der Serie A-3 abgeschlossen und dabei über 250 Millionen US-Dollar von Investoren, darunter den Risikokapitalabteilungen von Intel und Dell Technologies, eingesammelt habe.

Im Februar sicherte sich das Unternehmen nach einer Einigung mit Apple im Rechtsstreit die Finanzierung und gab Pläne bekannt, sein erstes Siliziumprodukt auf den Markt zu bringen und sein Team zu erweitern. Apple hatte dem Startup vorgeworfen, Dutzende von Ingenieuren abzuwerben und Geschäftsgeheimnisse zu stehlen, während Rivos Gegenklage wegen unlauteren Wettbewerbs einreichte.

Krishna Rangasayee, Gründer und CEO

SiMa.ai zielt darauf ab, mit seinen leistungsstarken und effizienten Chips, die in der Lage sind, eine Vielzahl von Mustern auf einer softwarezentrierten Plattform zu verarbeiten, Nvidia Marktanteile bei Edge-KI-Workloads abzunehmen.

Das Startup mit Sitz in San Jose, Kalifornien, gab im April bekannt, dass es 70 Millionen US-Dollar von Investoren eingesammelt habe, darunter der Risikokapitalzweig von Dell Technologies und Lip-Bu Tan, Vorstandsvorsitzender von Cadence Design Systems.

Das Unternehmen gab an, dass es die Mittel verwenden werde, um die Nachfrage nach seinem Machine Learning System-on-Chip (MLSoC) der ersten Generation zu decken, das speziell für Computer Vision entwickelt wurde, und um die Entwicklung seines MLSoC der zweiten Generation zu beschleunigen, das multimodale KI-Workloads einschließlich Sprach-, Audio-, Text- und Bildverarbeitung unterstützt.

Jim Keller, CEO

Tenstorrent geht als Pionier einen neuen Weg im Chipdesign für KI-Computer, indem es ein Geschäftsmodell aus dem Verkauf dedizierter Prozessoren mit der Lizenzierung der Chiptechnologie an Dritte kombiniert.

Das in Toronto ansässige Startup gab im Februar eine „mehrstufige Kooperationsvereinbarung“ mit dem japanischen Advanced Semiconductor Technology Center bekannt, die darauf abzielt, Tenstorrents RISC-V- und Kleinchip-Technologien zur Entwicklung seines 2-Nanometer-Edge-KI-Beschleunigers zu nutzen. Tenstorrent wird auch als Co-Design-Partner für diesen Chip fungieren.

Laut dem Juni-Bericht von The Information hat das Startup im vergangenen Jahr 100 Millionen Dollar an Finanzmitteln unter der Leitung von Hyundai Motor Group und Samsung Catalyst Fund aufgebracht und sammelt nun mindestens 300 Millionen Dollar in einer neuen Finanzierungsrunde unter der Leitung von Samsung ein, wodurch Tenstorrent mit 2 Milliarden Dollar bewertet wird. Berichten zufolge laufen Verhandlungen bezüglich dieser Finanzierungsrunde mit einem anderen großen koreanischen Unternehmen, LG Electronics.

Ljubisa Bajic, Gründer und CEO

Taalas möchte die allgemeine GPU-Strategie von Nvidia durchbrechen, indem das Unternehmen Beschleunigerchips entwickelt, die ganze KI-Modelle direkt implementieren und so die Kosten um das bis zu Tausendfache senken könnten.

Das in Toronto ansässige Startup unter der Leitung von Tenstorrent-Mitbegründer Llubisa Bajic gab im März bekannt, dass es 50 Millionen US-Dollar an Finanzmitteln aufgebracht habe, und enthüllte seine Pläne zur Schaffung eines automatisierten Workflows, der alle Arten von Deep-Learning-Modellen fest in den Chip einprogrammiert.

Laut Taalas ermöglicht dieser Designansatz die Entwicklung eines Chips, der ganze KI-Modelle im großen Maßstab enthält, „ohne dass externer Speicher erforderlich ist“. Das Startup behauptet, dass dieses Chipdesign voraussichtlich eine höhere Leistung bieten wird als kleine GPU-Rechenzentren, was den Weg ebnet, die KI-Rechenkosten um mehr als das Tausendfache zu senken.

Das Unternehmen plant, seinen ersten groß angelegten Sprachmodellchip im dritten Quartal fertigzustellen und ihn im ersten Quartal nächsten Jahres an die Kunden auszugeben.