De Celestial AI à Taalas, ces startups tentent toutes de défier Nvidia.

Au cours des dernières années, alors que le monde reconnaissait le potentiel disruptif de l’intelligence artificielle générative et des puissantes puces permettant cette technologie, l’industrie des semi-conducteurs a suscité un regain d’attention. Bien que Nvidia ait été le principal bénéficiaire de cet intérêt, diverses startups cherchent à défier ce géant des puces IA ou à explorer d’autres domaines potentiellement disruptifs.

Bien que les startups de semi-conducteurs soient toujours confrontées à des risques importants, supportant souvent des coûts beaucoup plus élevés que les éditeurs de logiciels en démarrage, elles devraient bénéficier de la croissance attendue de 20 % du secteur cette année, tirée en partie par une forte demande de puces d'IA.

Cela crée des opportunités pour les startups de puces IA comme Cerebras Systems, Hailo et Kneron de capitaliser sur la croissance des dépenses prévue par le cabinet de recherche IDC en décembre. Parmi les autres startups de semi-conducteurs visant à perturber la conception de puces informatiques IA figurent Celestial AI, Eliyan, Rivos et Tenstorrent.

Voici le top 10 des startups de semi-conducteurs les plus en vogue de CRN en 2024, y compris les startups susmentionnées ainsi que MetisX, SiMa.ai et Taalas.

David Lazovsky, fondateur et PDG

Celestial AI a déclaré que sa technologie d'interconnexion optique à structure photonique surmonte les goulots d'étranglement en matière de latence et de bande passante, ouvrant ainsi la voie aux progrès de l'intelligence artificielle informatique.

Basée à Santa Clara, en Californie, la startup a annoncé en mars de cette année avoir obtenu un financement de série C largement sursouscrit de 175 millions de dollars. Le cycle a été mené par le Fonds américain pour l'innovation technologique, avec la participation de plusieurs investisseurs, dont la branche de capital-risque d'AMD, Samsung, et Porsche SE, la société holding du groupe Volkswagen.

Le même mois, la startup de photonique sur silicium a indiqué qu'elle concevait actuellement des puces optiques à structure photonique dans le cadre de la phase initiale d'adoption de la technologie. Selon Celestial AI, l'intégration de puces optiques dans des boîtiers multi-puces devient de plus en plus la norme pour les processeurs hautes performances, permettant une multiplication par 25 de la bande passante hors boîtier par rapport aux « autres technologies de pointe ».

Andrew Feldman, co-fondateur et PDG

Cerebras Systems exploite sa puce Wafer Scale Engine pour contester la position dominante de Nvidia dans le domaine de l'informatique IA, offrant des performances par watt exceptionnelles et une « évolutivité sans précédent ».

Basée à Sunnyvale, en Californie, la startup a dévoilé sa puce de troisième génération, le Wafer Scale Engine 3, en mars de cette année. Il affirme que la nouvelle puce offre deux fois les performances de son prédécesseur pour la même consommation d'énergie et le même prix. WSE-3 est composé de 400 5 milliards de transistors utilisant le processus 900,000 nanomètres de TSMC, intégrant 44 1.25 cœurs d'IA et 16 Go de SRAM sur puce, atteignant XNUMX exaflops de performances en virgule flottante XNUMX bits.

Parmi les autres jalons de l'entreprise cette année, citons des collaborations stratégiques avec le géant de la santé Mayo Clinic pour développer des modèles linguistiques multimodaux à grande échelle afin d'améliorer les résultats du traitement des patients et les diagnostics, un partenariat de longue date avec la startup d'IA Aleph Alpha pour créer des solutions d'IA souveraines sécurisées et jeter les bases. pour le supercalculateur Condor Galaxy 3 du groupe de holding technologique G42, basé à Abu Dhabi.

Ramin Farjadrad, co-fondateur et PDG

Eliyan vise à surmonter les barrières de bande passante entre les puces grâce à sa technologie d'interconnexion NuLink PHY, permettant aux concepteurs de puces de construire des processeurs sur puce plus puissants.

La startup basée à Santa Clara, en Californie, a annoncé en mars la finalisation d'un cycle de financement de 60 millions de dollars, dirigé par Samsung Catalyst et Tiger Global Management, avec la participation d'Intel et SK Hynix Ventures, entre autres investisseurs.

Plus tôt cette année, Eliyan a présenté ce qu'il a décrit comme la solution « la plus performante » au niveau de la couche physique pour connecter plusieurs puces au sein d'une architecture monopuce. Il utilise le processus de fabrication de 3 nanomètres de TSMC, atteignant des vitesses allant jusqu'à 64 Gbit/s par voie.

Orr Danon, co-fondateur et PDG

Hailo accélère les charges de travail d'IA de pointe en adoptant des puces leaders en termes de coût et d'efficacité énergétique, se positionnant ainsi en concurrence avec Nvidia.

La startup basée à Tel Aviv a annoncé en avril avoir levé 120 millions de dollars auprès d'investisseurs dans le cadre de son cycle de financement de série C, parallèlement au lancement du nouvel accélérateur Hailo-10. Cet accélérateur est conçu pour offrir « des performances GenAI maximales avec une consommation d'énergie minimale » pour des appareils tels que les ordinateurs personnels et les systèmes d'infodivertissement automobiles.

Par exemple, Hailo affirme que le Hailo-10 peut exécuter le modèle Llama 2 avec 7 milliards de paramètres à des vitesses allant jusqu'à 10 jetons par seconde, consommant seulement 5 watts d'énergie. De plus, la puce peut traiter des images avec le modèle Stable Diffusion 2.1 en 5 secondes en utilisant la même plage de puissance.

Albert Liu, fondateur et PDG

Kneron vise à affaiblir l'influence de Nvidia avec des puces IA conçues pour réduire les coûts des serveurs pour les entreprises et réduire le prix et la consommation d'énergie des PC dans la génération IA.

La startup basée à San Diego a annoncé en juin le lancement de son serveur « Edge GPT » de deuxième génération, KNEO 330, censé réduire de 30 à 40 % les coûts de l'IA pour les petites entreprises. Le serveur peut effectuer 480 8 milliards d'opérations par seconde (TOPS), prenant en charge jusqu'à XNUMX connexions simultanément, et améliore la précision de la génération pour les grands modèles de langage et la récupération. Il rivalise en capacité avec les solutions cloud.

Kneron a levé 190 millions de dollars auprès d'investisseurs dont Qualcomm et Foxconn. La société a également dévoilé son unité de traitement neuronal (NPU) de troisième génération, KL830, conçue pour prendre en charge les PC IA à faible coût et les applications IoT activées par l'IA.

Jim Kim, co-fondateur et PDG

MetisX vise à améliorer les centres de données avec une approche plus intelligente, plus rapide et plus rentable en développant des systèmes de mémoire intelligents basés sur la technologie Compute Express Link (CXL).

La startup basée à Séoul a annoncé en mai avoir obtenu un financement de série A de 44 millions de dollars auprès de plusieurs investisseurs. Il prévoit d'établir des opérations aux États-Unis et de lancer des puces destinées aux clients à grande échelle l'année prochaine.

La société a réalisé des prototypes pour des applications de traitement de données à grande échelle telles que les bases de données vectorielles, l'analyse du Big Data et l'analyse de l'ADN. Selon les rapports, ces prototypes offrent des performances deux fois supérieures aux processeurs de serveur traditionnels.

Puneet Kumar, co-fondateur et PDG

Rivos vise à perturber le marché des centres de données en intégrant des processeurs RISC-V hautes performances avec des accélérateurs de données parallèles pour l'analyse des données et les charges de travail d'inférence d'IA.

La startup basée en Californie, fondée par d'anciens ingénieurs de Google, Apple et Intel, a annoncé en avril avoir clôturé un cycle de financement sursouscrit de série A-3, levant plus de 250 millions de dollars auprès d'investisseurs, dont Intel et les divisions de capital-risque de Dell Technologies.

En février, à la suite d'un règlement avec Apple concernant un litige, la société a obtenu un financement et a dévoilé son intention de lancer son premier produit à base de silicium et d'élargir son équipe. Apple avait accusé la startup d'avoir braconné des dizaines d'ingénieurs et volé des secrets commerciaux, tandis que Rivos a répliqué en alléguant une concurrence déloyale.

Krishna Rangasayee, fondateur et PDG

SiMa.ai vise à conquérir la part de marché de Nvidia dans les charges de travail d'IA de pointe grâce à ses puces puissantes et efficaces, capables de gérer une variété de modèles sur une plate-forme centrée sur les logiciels.

La startup, dont le siège est à San Jose, en Californie, a annoncé en avril avoir levé 70 millions de dollars auprès d'investisseurs, dont la branche capital-risque de Dell Technologies et Lip-Bu Tan, président de Cadence Design Systems.

La société a déclaré qu'elle utiliserait les fonds pour répondre à la demande pour son système d'apprentissage automatique sur puce (MLSoC) de première génération, conçu spécifiquement pour la vision par ordinateur, et pour accélérer le développement de son MLSoC de deuxième génération, prenant en charge les charges de travail d'IA multimodales, notamment traitement de la parole, de l’audio, du texte et de l’image.

Jim Keller, PDG

Tenstorrent ouvre une nouvelle voie dans la conception de puces informatiques IA en combinant un modèle commercial consistant à vendre des processeurs dédiés avec des licences de technologie de puce à des tiers.

La startup basée à Toronto a annoncé en février un « accord de collaboration à plusieurs niveaux » avec le centre japonais de technologie avancée des semi-conducteurs, visant à utiliser les technologies RISC-V et de petites puces de Tenstorrent pour développer son accélérateur d'IA de pointe de 2 nanomètres. Tenstorrent servira également de partenaire de co-conception de cette puce.

Selon le rapport de juin de The Information, la startup a levé l'année dernière 100 millions de dollars de financement sous la direction de Hyundai Motor Group et du Samsung Catalyst Fund, et lève actuellement au moins 300 millions de dollars dans le cadre d'un nouveau cycle de financement dirigé par Samsung, valorisant Tenstorrent à 2 milliards de dollars. Des rapports suggèrent que des négociations sont en cours avec une autre grande entreprise coréenne, LG Electronics, concernant ce cycle de financement.

Ljubisa Bajic, fondatrice et PDG

Taalas vise à perturber la stratégie GPU générale de Nvidia en concevant des puces accélératrices qui implémentent directement des modèles d'IA entiers, réduisant potentiellement les coûts jusqu'à 1,000 XNUMX fois.

La startup torontoise, dirigée par le cofondateur de Tenstorrent, Llubisa Bajic, a annoncé en mars avoir levé 50 millions de dollars de financement et révélé son intention de créer un flux de travail automatisé qui intègre tous les types de modèles d'apprentissage profond dans la puce.

Selon Taalas, cette approche de conception leur permet de développer une puce contenant des modèles d'IA entiers à grande échelle « sans avoir besoin de mémoire externe ». La startup affirme que cette conception de puce devrait offrir des performances supérieures à celles des centres de données GPU à petite échelle, ouvrant la voie à une réduction de plus de 1,000 XNUMX fois des coûts de calcul de l’IA.

La société prévoit d'enregistrer sa première puce de modèle linguistique à grande échelle au troisième trimestre et vise à la lancer auprès de ses clients au premier trimestre de l'année prochaine.