Van Celestial AI tot Taalas, deze startups proberen allemaal Nvidia uit te dagen.

In de afgelopen paar jaar, toen de wereld het ontwrichtende potentieel van generatieve kunstmatige intelligentie en de krachtige chips die deze technologie mogelijk maakten onderkende, heeft de halfgeleiderindustrie hernieuwde aandacht gekregen. Hoewel Nvidia de belangrijkste begunstigde van deze interesse is geweest, proberen verschillende startups deze AI-chipgigant uit te dagen of andere potentieel ontwrichtende gebieden te verkennen.

Hoewel start-ups op het gebied van halfgeleiders nog steeds met aanzienlijke risico's worden geconfronteerd en vaak veel hogere kosten met zich meebrengen dan beginnende softwarebedrijven, zullen ze waarschijnlijk profiteren van de verwachte sectorgroei van 20% dit jaar, deels gedreven door de robuuste vraag naar AI-chips.

Dit creëert kansen voor AI-chip-startups zoals Cerebras Systems, Hailo en Kneron om te profiteren van de verwachte uitgavengroei die onderzoeksbureau IDC in december voorspelde. Andere halfgeleider-startups die de ontwerpen van AI-computerchips willen ontwrichten, zijn onder meer Celestial AI, Eliyan, Rivos en Tenstorrent.

Hier zijn CRN's top 10 populairste halfgeleiderstartups van 2024, inclusief de bovengenoemde startups samen met MetisX, SiMa.ai en Taalas.

David Lazovsky, oprichter en CEO

Celestial AI heeft verklaard dat zijn optische interconnectietechnologie met fotonische structuur latentie- en bandbreedteknelpunten overwint, waardoor de weg wordt vrijgemaakt voor vooruitgang op het gebied van kunstmatige intelligentie.

De startup, gevestigd in Santa Clara, Californië, kondigde in maart van dit jaar aan dat het een aanzienlijk overtekende Series C-financiering van $ 175 miljoen had binnengehaald. De ronde werd geleid door het US Innovation Technology Fund, met deelname van verschillende investeerders, waaronder AMD's durfkapitaaltak, Samsung, en Porsche SE, de houdstermaatschappij van Volkswagen Group.

In dezelfde maand merkte de startup op het gebied van siliciumfotonica op dat het momenteel optische chips met fotonische structuur ontwerpt als onderdeel van de eerste fase van de adoptie van technologie. Volgens Celestial AI wordt het integreren van optische chips in pakketten met meerdere chips steeds meer de standaard voor krachtige processors, waardoor een 25-voudige toename van de bandbreedte buiten het pakket mogelijk wordt vergeleken met "andere state-of-the-art technologieën".

Andrew Feldman, medeoprichter en CEO

Cerebras Systems maakt gebruik van zijn Wafer Scale Engine-chip om de dominante positie van Nvidia op het gebied van AI-computing uit te dagen, met uitstekende prestaties per watt en "ongekende schaalbaarheid".

De startup, gevestigd in Sunnyvale, Californië, onthulde in maart van dit jaar zijn derde generatie chip, de Wafer Scale Engine 3. Het beweert dat de nieuwe chip twee keer zoveel prestaties levert als zijn voorganger bij hetzelfde stroomverbruik en dezelfde prijs. WSE-3 is samengesteld uit 400 biljoen transistors die gebruik maken van het 5-nanometerproces van TSMC, waarbij 900,000 AI-kernen en 44 GB on-chip SRAM zijn geïntegreerd, waardoor 1.25 exaflops met 16-bit drijvende-kommaprestaties worden bereikt.

Andere mijlpalen voor het bedrijf dit jaar zijn onder meer strategische samenwerkingen met gezondheidszorggigant Mayo Clinic voor de ontwikkeling van grootschalige multimodale taalmodellen om de behandelresultaten en diagnostiek van patiënten te verbeteren, een langdurige samenwerking met AI-startup Aleph Alpha om veilige, soevereine AI-oplossingen te bouwen, en het leggen van de basis voor de Condor Galaxy 3-supercomputer voor de in Abu Dhabi gevestigde technologieholding G42.

Ramin Farjadrad, medeoprichter en CEO

Eliyan wil bandbreedtebarrières tussen chips overwinnen met zijn NuLink PHY-interconnecttechnologie, waardoor chipontwerpers krachtigere, op chips gebaseerde processors kunnen bouwen.

De in Santa Clara, Californië gevestigde startup kondigde in maart de voltooiing aan van een financieringsronde van $ 60 miljoen, geleid door Samsung Catalyst en Tiger Global Management, met deelname van onder meer Intel en SK Hynix Ventures.

Eerder dit jaar introduceerde Eliyan wat zij omschreef als de "hoogst presterende" oplossing op de fysieke laag voor het verbinden van meerdere chips binnen een architectuur met één chip. Het maakt gebruik van het 3-nanometer-productieproces van TSMC en bereikt snelheden tot 64 Gbps per baan.

Orr Danon, medeoprichter en CEO

Hailo versnelt de edge-AI-workloads door chips te gebruiken die toonaangevend zijn op het gebied van kosten en energie-efficiëntie, en positioneert zichzelf in de concurrentie met Nvidia.

De in Tel Aviv gevestigde startup kondigde in april aan dat het 120 miljoen dollar van investeerders had opgehaald als verlenging van zijn Series C-financieringsronde, naast de lancering van de nieuwe Hailo-10-accelerator. Deze accelerator is ontworpen om "maximale GenAI-prestaties met minimaal stroomverbruik" te leveren voor apparaten zoals personal computers en auto-infotainmentsystemen.

Hailo beweert bijvoorbeeld dat de Hailo-10 het Llama 2-model met 7 miljard parameters kan uitvoeren met snelheden tot 10 tokens per seconde, waarbij hij slechts 5 watt aan stroom verbruikt. Bovendien kan de chip bij het Stable Diffusion 2.1-model binnen 5 seconden beelden verwerken met hetzelfde vermogensbereik.

Albert Liu, oprichter en CEO

Kneron wil de invloed van Nvidia verzwakken met AI-chips die zijn ontworpen om de serverkosten voor bedrijven te verlagen en de prijs en het energieverbruik van pc's bij het genereren van AI te verlagen.

De in San Diego gevestigde startup kondigde in juni de lancering aan van zijn tweede generatie "Edge GPT"-server, KNEO 330, die wordt aangeprezen om de AI-kosten voor kleine bedrijven met 30% -40% te verlagen. De server kan 480 biljoen bewerkingen per seconde (TOPS) uitvoeren, ondersteunt maximaal 8 verbindingen tegelijkertijd, en verbetert de nauwkeurigheid van het genereren van grote taalmodellen en het ophalen ervan. Het concurreert met cloudoplossingen wat betreft mogelijkheden.

Kneron heeft $190 miljoen opgehaald bij investeerders, waaronder Qualcomm en Foxconn. Het bedrijf onthulde ook zijn derde generatie Neural Processing Unit (NPU), KL830, ontworpen om goedkope AI-pc's en IoT-applicaties met AI te ondersteunen.

Jim Kim, mede-oprichter en CEO

MetisX streeft ernaar datacenters te verbeteren met een intelligentere, snellere en kosteneffectievere aanpak door slimme geheugensystemen te ontwikkelen op basis van Compute Express Link (CXL) -technologie.

De in Seoul gevestigde startup maakte in mei bekend dat het $44 miljoen aan Series A-financiering van meerdere investeerders had binnengehaald. Het is van plan om volgend jaar activiteiten in de Verenigde Staten op te zetten en chips te lanceren die gericht zijn op grootschalige klanten.

Het bedrijf heeft prototypes voltooid voor grootschalige gegevensverwerkingstoepassingen zoals vectordatabases, big data-analyse en DNA-analyse. Volgens rapporten leveren deze prototypes tweemaal de prestaties van traditionele server-CPU's.

Puneet Kumar, mede-oprichter en CEO

Rivos wil de datacentermarkt ontwrichten door krachtige RISC-V CPU's te integreren met parallelle dataversnellers voor data-analyse en AI-inferentieworkloads.

De in Californië gevestigde startup, opgericht door voormalige ingenieurs van Google, Apple en Intel, kondigde in april aan dat het een overtekende Series A-3-financieringsronde had afgerond, waarbij meer dan $ 250 miljoen werd opgehaald bij investeerders, waaronder de durfkapitaalafdelingen van Intel en Dell Technologies.

In februari, na een schikking met Apple over een rechtszaak, verzekerde het bedrijf zich van financiering en maakte het plannen bekend om zijn eerste siliciumproduct te lanceren en zijn team uit te breiden. Apple had de startup beschuldigd van het stropen van tientallen ingenieurs en het stelen van bedrijfsgeheimen, terwijl Rivos een tegenvordering indiende wegens oneerlijke concurrentie.

Krishna Rangasayee, oprichter en CEO

SiMa.ai streeft ernaar marktaandeel van Nvidia te veroveren op het gebied van edge AI-workloads met zijn krachtige en efficiënte chips, die in staat zijn om een ​​verscheidenheid aan patronen te verwerken op een softwaregericht platform.

De startup, met het hoofdkantoor in San Jose, Californië, maakte in april bekend dat het $70 miljoen had opgehaald bij investeerders, waaronder de venture-tak van Dell Technologies en Lip-Bu Tan, voorzitter van Cadence Design Systems.

Het bedrijf verklaarde dat het de fondsen zal gebruiken om te voldoen aan de vraag naar zijn Machine Learning System-on-Chip (MLSoC) van de eerste generatie, speciaal ontworpen voor computervisie, en om de ontwikkeling van zijn tweede generatie MLSoC te versnellen, ter ondersteuning van multimodale AI-workloads, waaronder spraak-, audio-, tekst- en beeldverwerking.

Jim Keller, CEO

Tenstorrent pioniert met een nieuw pad in het ontwerp van AI-computerchips door een bedrijfsmodel te combineren van het verkopen van speciale processors met het licentiëren van chiptechnologie aan anderen.

De in Toronto gevestigde startup kondigde in februari een ‘multi-level samenwerkingsovereenkomst’ aan met het Japanse Advanced Semiconductor Technology Center, met als doel de RISC-V en kleine chiptechnologieën van Tenstorrent te gebruiken om zijn 2-nanometer edge AI-accelerator te ontwikkelen. Tenstorrent zal ook dienen als co-designpartner voor deze chip.

Volgens het junirapport van The Information heeft de startup vorig jaar $100 miljoen aan financiering opgehaald onder leiding van Hyundai Motor Group en Samsung Catalyst Fund, en haalt nu minstens $300 miljoen op in een nieuwe financieringsronde onder leiding van Samsung, waarbij Tenstorrent wordt gewaardeerd op $2 miljard. Uit berichten blijkt dat er onderhandelingen gaande zijn met een ander groot Koreaans bedrijf, LG Electronics, over deze financieringsronde.

Ljubisa Bajic, oprichter en CEO

Taalas wil de algemene GPU-strategie van Nvidia ontwrichten door acceleratorchips te ontwerpen die volledige AI-modellen rechtstreeks implementeren, waardoor de kosten mogelijk tot duizend keer kunnen worden verlaagd.

De in Toronto gevestigde startup, geleid door Llubisa Bajic, mede-oprichter van Tenstorrent, kondigde in maart aan dat het $50 miljoen aan financiering heeft opgehaald en zijn plannen onthuld om een ​​geautomatiseerde workflow te creëren die alle soorten deep learning-modellen in de chip integreert.

Volgens Taalas stelt deze ontwerpaanpak hen in staat een chip te ontwikkelen die hele grootschalige AI-modellen bevat ‘zonder de noodzaak van extern geheugen’. De startup beweert dat dit chipontwerp naar verwachting hogere prestaties zal bieden dan kleinschalige GPU-datacenters, waardoor de weg wordt vrijgemaakt voor het verminderen van de AI-computerkosten met meer dan 1,000 keer.

Het bedrijf is van plan zijn eerste grootschalige taalmodelchip in het derde kwartaal op de markt te brengen en wil deze in het eerste kwartaal van volgend jaar aan klanten lanceren.