Da Celestial AI a Taalas, queste startup stanno tutte tentando di sfidare Nvidia.

Negli ultimi due anni, quando il mondo ha riconosciuto il potenziale dirompente dell’intelligenza artificiale generativa e dei potenti chip che rendono possibile questa tecnologia, l’industria dei semiconduttori ha attirato una rinnovata attenzione. Sebbene Nvidia sia stata la principale beneficiaria di questo interesse, varie startup stanno cercando di sfidare questo gigante dei chip AI o di esplorare altre aree potenzialmente dirompenti.

Sebbene le startup di semiconduttori debbano ancora affrontare rischi significativi, sostenendo spesso costi molto più elevati rispetto alle società di software in fase iniziale, trarranno vantaggio dalla crescita prevista del settore del 20% per quest’anno, guidata in parte dalla forte domanda di chip IA.

Ciò crea opportunità per le startup di chip AI come Cerebras Systems, Hailo e Kneron di trarre vantaggio dalla crescita della spesa prevista dalla società di ricerca IDC a dicembre. Altre startup di semiconduttori che mirano a rivoluzionare la progettazione di chip informatici basati sull’intelligenza artificiale includono Celestial AI, Eliyan, Rivos e Tenstorrent.

Ecco le 10 migliori startup di semiconduttori più interessanti del 2024 secondo CRN, comprese le startup sopra menzionate insieme a MetisX, SiMa.ai e Taalas.

David Lazovsky, Fondatore e CEO

Celestial AI ha affermato che la sua tecnologia di interconnessione ottica a struttura fotonica supera i colli di bottiglia della latenza e della larghezza di banda, aprendo la strada ai progressi nel calcolo dell’intelligenza artificiale.

Con sede a Santa Clara, in California, la startup ha annunciato nel marzo di quest'anno di essersi assicurata un finanziamento di serie C significativamente superiore a 175 milioni di dollari. Il round è stato guidato dall'US Innovation Technology Fund, con la partecipazione di diversi investitori tra cui Samsung, il braccio di venture capital di AMD, e Porsche SE, la holding del gruppo Volkswagen.

Nello stesso mese, la startup di fotonica del silicio ha notato che sta attualmente progettando chip ottici con struttura fotonica come parte della fase iniziale di adozione della tecnologia. Secondo Celestial AI, l'integrazione di chip ottici in pacchetti multi-chip sta diventando sempre più uno standard per i processori ad alte prestazioni, consentendo un aumento di 25 volte della larghezza di banda fuori dal pacchetto rispetto ad "altre tecnologie all'avanguardia".

Andrew Feldman, co-fondatore e amministratore delegato

Cerebras Systems sta sfruttando il suo chip Wafer Scale Engine per sfidare la posizione dominante di Nvidia nell'informatica AI, vantando prestazioni eccezionali per watt e "scalabilità senza precedenti".

Con sede a Sunnyvale, in California, la startup ha presentato il suo chip di terza generazione, il Wafer Scale Engine 3, nel marzo di quest'anno. Afferma che il nuovo chip offre il doppio delle prestazioni del suo predecessore allo stesso consumo energetico e prezzo. WSE-3 è composto da 400 trilioni di transistor che utilizzano il processo a 5 nanometri di TSMC, integrando 900,000 core AI e 44 GB di SRAM su chip, ottenendo 1.25 exaflop di prestazioni in virgola mobile a 16 bit.

Altre pietre miliari per l'azienda quest'anno includono collaborazioni strategiche con il colosso sanitario Mayo Clinic per lo sviluppo di modelli linguistici multimodali su larga scala per migliorare i risultati e la diagnostica del trattamento dei pazienti, una partnership di lunga data con la startup AI Aleph Alpha per costruire soluzioni di intelligenza artificiale sovrane e sicure e gettare le basi per il supercomputer Condor Galaxy 3 per il gruppo tecnologico G42 con sede ad Abu Dhabi.

Ramin Farjadrad, cofondatore e amministratore delegato

Eliyan mira a superare le barriere della larghezza di banda tra chip con la sua tecnologia di interconnessione NuLink PHY, consentendo ai progettisti di chip di costruire processori basati su chip più potenti.

La startup con sede a Santa Clara, in California, ha annunciato a marzo il completamento di un round di finanziamento da 60 milioni di dollari, guidato da Samsung Catalyst e Tiger Global Management, con la partecipazione di Intel e SK Hynix Ventures tra gli altri investitori.

All'inizio di quest'anno, Eliyan ha introdotto quella che ha descritto come la soluzione dalle "prestazioni più elevate" a livello fisico per connettere più chip all'interno di un'architettura a chip singolo. Utilizza il processo di produzione a 3 nanometri di TSMC, raggiungendo velocità fino a 64 Gbps per corsia.

Orr Danon, co-fondatore e amministratore delegato

Hailo sta accelerando i carichi di lavoro di intelligenza artificiale all'avanguardia adottando chip all'avanguardia in termini di costi ed efficienza energetica, posizionandosi in concorrenza con Nvidia.

La startup con sede a Tel Aviv ha annunciato ad aprile di aver raccolto 120 milioni di dollari dagli investitori come estensione del suo round di finanziamento di serie C, insieme al lancio del nuovo acceleratore Hailo-10. Questo acceleratore è progettato per fornire "massime prestazioni GenAI con un consumo energetico minimo" per dispositivi come personal computer e sistemi di infotainment automobilistici.

Ad esempio, Hailo afferma che Hailo-10 può eseguire il modello Llama 2 con 7 miliardi di parametri a velocità fino a 10 token al secondo, consumando solo 5 watt di potenza. Inoltre, il chip può elaborare le immagini con il modello Stable Diffusion 2.1 entro 5 secondi utilizzando lo stesso intervallo di potenza.

Albert Liu, fondatore e amministratore delegato

Kneron mira a indebolire l'influenza di Nvidia con chip AI progettati per ridurre i costi dei server per le imprese e abbassare il prezzo e il consumo energetico dei PC nella generazione di AI.

La startup con sede a San Diego ha annunciato a giugno il lancio del suo server "Edge GPT" di seconda generazione, KNEO 330, che dovrebbe ridurre i costi dell'intelligenza artificiale per le piccole imprese del 30%-40%. Il server può eseguire 480 trilioni di operazioni al secondo (TOPS), supportando fino a 8 connessioni simultaneamente e migliora la precisione della generazione per modelli linguistici di grandi dimensioni e il recupero. Rivaleggia in termini di capacità con le soluzioni cloud.

Kneron ha raccolto 190 milioni di dollari da investitori tra cui Qualcomm e Foxconn. L’azienda ha inoltre presentato la sua Neural Processing Unit (NPU) di terza generazione, KL830, progettata per supportare PC AI a basso costo e applicazioni IoT abilitate all’intelligenza artificiale.

Jim Kim, co-fondatore e CEO

MetisX mira a migliorare i data center con un approccio più intelligente, veloce ed economico sviluppando sistemi di memoria intelligenti basati sulla tecnologia Compute Express Link (CXL).

La startup con sede a Seul ha annunciato a maggio di essersi assicurata 44 milioni di dollari in finanziamenti di serie A da parte di diversi investitori. Prevede di stabilire operazioni negli Stati Uniti e di lanciare chip destinati a clienti su larga scala il prossimo anno.

L'azienda ha completato prototipi per applicazioni di elaborazione dati su larga scala come database vettoriali, analisi di big data e analisi del DNA. Secondo i rapporti, questi prototipi offrono il doppio delle prestazioni delle tradizionali CPU dei server.

Puneet Kumar, cofondatore e amministratore delegato

Rivos mira a rivoluzionare il mercato dei data center integrando CPU RISC-V ad alte prestazioni con acceleratori paralleli di dati per analisi dei dati e carichi di lavoro di inferenza AI.

La startup californiana, fondata da ex ingegneri di Google, Apple e Intel, ha annunciato ad aprile di aver chiuso un round di finanziamento di serie A-3 con sottoscrizioni in eccesso, raccogliendo oltre 250 milioni di dollari da investitori tra cui Intel e le divisioni venture di Dell Technologies.

A febbraio, a seguito di un accordo con Apple sul contenzioso, la società si è assicurata i finanziamenti e ha rivelato i piani per lanciare il suo primo prodotto in silicio e espandere il proprio team. Apple aveva accusato la startup di aver preso di mira dozzine di ingegneri e di aver rubato segreti commerciali, mentre Rivos aveva ribattuto accusando concorrenza sleale.

Krishna Rangasayee, fondatore e amministratore delegato

SiMa.ai mira a conquistare quote di mercato da Nvidia nei carichi di lavoro IA edge con i suoi chip potenti ed efficienti, in grado di gestire una varietà di modelli su una piattaforma incentrata sul software.

La startup, con sede a San Jose, in California, ha annunciato ad aprile di aver raccolto 70 milioni di dollari da investitori, tra cui il braccio di venture capital di Dell Technologies e Lip-Bu Tan, presidente di Cadence Design Systems.

La società ha dichiarato che utilizzerà i fondi per soddisfare la domanda del suo Machine Learning System-on-Chip (MLSoC) di prima generazione, progettato specificamente per la visione artificiale, e per accelerare lo sviluppo del suo MLSoC di seconda generazione, che supporta carichi di lavoro AI multimodali tra cui elaborazione di parlato, audio, testo e immagini.

Jim Keller, amministratore delegato

Tenstorrent sta aprendo la strada a un nuovo percorso nella progettazione di chip di elaborazione AI combinando un modello di business di vendita di processori dedicati con la concessione in licenza della tecnologia dei chip ad altri.

La startup con sede a Toronto ha annunciato a febbraio un "accordo di collaborazione multi-livello" con l'Advanced Semiconductor Technology Center del Giappone, con l'obiettivo di utilizzare le tecnologie RISC-V e piccoli chip di Tenstorrent per sviluppare il suo acceleratore AI edge da 2 nanometri. Tenstorrent fungerà anche da partner di co-progettazione per questo chip.

Secondo il rapporto di giugno di The Information, l'anno scorso la startup ha raccolto 100 milioni di dollari in finanziamenti guidati da Hyundai Motor Group e Samsung Catalyst Fund, e ora sta raccogliendo almeno 300 milioni di dollari in un nuovo round di finanziamento guidato da Samsung, valutando Tenstorrent a 2 miliardi di dollari. I rapporti suggeriscono che sono in corso trattative con un'altra importante azienda coreana, LG Electronics, per quanto riguarda questo round di finanziamento.

Ljubisa Bajic, Fondatrice e CEO

Taalas mira a sconvolgere la strategia generale delle GPU di Nvidia progettando chip acceleratori che implementano direttamente interi modelli di intelligenza artificiale, riducendo potenzialmente i costi fino a 1,000 volte.

La startup con sede a Toronto, guidata dal co-fondatore di Tenstorrent Llubisa Bajic, ha annunciato a marzo di aver raccolto 50 milioni di dollari in finanziamenti e ha rivelato i suoi piani per creare un flusso di lavoro automatizzato che colleghi tutti i tipi di modelli di deep learning nel chip.

Secondo Taalas, questo approccio progettuale consente loro di sviluppare un chip contenente interi modelli di intelligenza artificiale su larga scala "senza la necessità di memoria esterna". La startup afferma che questo design di chip dovrebbe offrire prestazioni più elevate rispetto ai data center GPU su piccola scala, aprendo la strada alla riduzione dei costi di elaborazione dell'intelligenza artificiale di oltre 1,000 volte.

L'azienda prevede di realizzare il suo primo chip modello linguistico su larga scala nel terzo trimestre e punta a lanciarlo ai clienti nel primo trimestre del prossimo anno.