Dari Celestial AI hingga Taalas, semua startup ini berusaha menantang Nvidia.

Dalam beberapa tahun terakhir, ketika dunia menyadari potensi disruptif dari kecerdasan buatan generatif dan chip canggih yang memungkinkan teknologi ini, industri semikonduktor kembali mendapat perhatian. Meskipun Nvidia adalah penerima manfaat utama dari minat ini, berbagai startup berupaya untuk menantang raksasa chip AI ini atau mengeksplorasi area lain yang berpotensi menimbulkan disruptif.

Meskipun perusahaan rintisan semikonduktor masih menghadapi risiko yang signifikan, dan seringkali menanggung biaya yang jauh lebih tinggi dibandingkan dengan perusahaan perangkat lunak tahap awal, mereka akan mendapatkan keuntungan dari perkiraan pertumbuhan industri sebesar 20% tahun ini, yang sebagian didorong oleh kuatnya permintaan akan chip AI.

Hal ini menciptakan peluang bagi startup chip AI seperti Cerebras Systems, Hailo, dan Kneron untuk memanfaatkan antisipasi pertumbuhan pengeluaran yang diperkirakan oleh perusahaan riset IDC pada bulan Desember. Startup semikonduktor lain yang bertujuan untuk mendisrupsi desain chip komputasi AI termasuk Celestial AI, Eliyan, Rivos, dan Tenstorrent.

Berikut adalah 10 startup semikonduktor terpanas CRN pada tahun 2024, termasuk startup yang disebutkan di atas bersama dengan MetisX, SiMa.ai, dan Taalas.

David Lazovsky, Pendiri dan CEO

Celestial AI telah menyatakan bahwa teknologi interkoneksi optik struktur fotoniknya mengatasi latensi dan kemacetan bandwidth, membuka jalan bagi kemajuan dalam komputasi kecerdasan buatan.

Berbasis di Santa Clara, California, startup ini mengumumkan pada bulan Maret tahun ini bahwa mereka telah mendapatkan pendanaan Seri C yang kelebihan permintaan secara signifikan sebesar $175 juta. Putaran ini dipimpin oleh US Innovation Technology Fund, dengan partisipasi dari beberapa investor termasuk anak perusahaan modal ventura AMD, Samsung, dan Porsche SE, perusahaan induk dari Grup Volkswagen.

Pada bulan yang sama, startup fotonik silikon mencatat bahwa mereka sedang merancang chip optik struktur fotonik sebagai bagian dari tahap awal adopsi teknologi. Menurut Celestial AI, mengintegrasikan chip optik ke dalam paket multi-chip semakin menjadi standar untuk prosesor berkinerja tinggi, memungkinkan peningkatan bandwidth di luar paket sebesar 25 kali lipat dibandingkan dengan "teknologi canggih lainnya".

Andrew Feldman, Salah Satu Pendiri dan CEO

Cerebras Systems memanfaatkan chip Wafer Scale Engine untuk menantang posisi dominan Nvidia dalam komputasi AI, dengan kinerja per watt yang luar biasa dan "skalabilitas yang belum pernah terjadi sebelumnya".

Berbasis di Sunnyvale, California, startup ini meluncurkan chip generasi ketiganya, Wafer Scale Engine 3, pada bulan Maret tahun ini. Ia mengklaim chip baru ini menawarkan kinerja dua kali lipat dari pendahulunya dengan konsumsi daya dan harga yang sama. WSE-3 terdiri dari 400 triliun transistor menggunakan proses 5 nanometer TSMC, mengintegrasikan 900,000 inti AI dan SRAM on-chip 44 GB, mencapai 1.25 exaflops dengan kinerja floating-point 16-bit.

Pencapaian lain yang dicapai perusahaan pada tahun ini mencakup kolaborasi strategis dengan raksasa layanan kesehatan Mayo Clinic untuk mengembangkan model bahasa multimodal berskala besar guna meningkatkan hasil pengobatan dan diagnostik pasien, kemitraan jangka panjang dengan startup AI Aleph Alpha untuk membangun solusi AI berdaulat yang aman, dan meletakkan dasar. untuk superkomputer Condor Galaxy 3 untuk grup induk teknologi G42 yang berbasis di Abu Dhabi.

Ramin Farjadrad, Salah Satu Pendiri dan CEO

Eliyan bertujuan untuk mengatasi hambatan bandwidth antar-chip dengan teknologi interkoneksi NuLink PHY, yang memungkinkan perancang chip untuk membangun prosesor berbasis chip yang lebih kuat.

Startup yang berbasis di Santa Clara, California ini mengumumkan pada bulan Maret penyelesaian putaran pembiayaan senilai $60 juta, dipimpin oleh Samsung Catalyst dan Tiger Global Management, dengan partisipasi dari Intel dan SK Hynix Ventures serta investor lainnya.

Awal tahun ini, Eliyan memperkenalkan apa yang digambarkannya sebagai solusi "performa tertinggi" pada lapisan fisik untuk menghubungkan beberapa chip dalam arsitektur chip tunggal. Ini menggunakan proses manufaktur 3 nanometer TSMC, mencapai kecepatan hingga 64 Gbps per jalur.

Orr Danon, Salah Satu Pendiri dan CEO

Hailo mempercepat beban kerja AI dengan mengadopsi chip yang unggul dalam efisiensi biaya dan daya, sehingga mampu bersaing dengan Nvidia.

Startup yang berbasis di Tel Aviv ini mengumumkan pada bulan April bahwa mereka mengumpulkan $120 juta dari investor sebagai perpanjangan putaran pendanaan Seri C, bersamaan dengan peluncuran akselerator Hailo-10 yang baru. Akselerator ini dirancang untuk menghadirkan "kinerja GenAI maksimal dengan konsumsi daya minimal" untuk perangkat seperti komputer pribadi dan sistem infotainment otomotif.

Misalnya, Hailo mengklaim Hailo-10 dapat menjalankan model Llama 2 dengan 7 miliar parameter dengan kecepatan hingga 10 token per detik, hanya mengonsumsi daya 5 watt. Selain itu, chip tersebut dapat memproses gambar dengan model Stable Diffusion 2.1 dalam waktu 5 detik menggunakan rentang daya yang sama.

Albert Liu, pendiri dan CEO

Kneron bertujuan untuk melemahkan pengaruh Nvidia dengan chip AI yang dirancang untuk mengurangi biaya server bagi perusahaan dan menurunkan harga serta konsumsi energi PC dalam generasi AI.

Startup yang berbasis di San Diego ini mengumumkan pada bulan Juni peluncuran server "Edge GPT" generasi kedua, KNEO 330, yang disebut-sebut dapat memangkas biaya AI untuk usaha kecil sebesar 30%-40%. Server dapat melakukan 480 triliun operasi per detik (TOPS), mendukung hingga 8 koneksi secara bersamaan, dan meningkatkan akurasi pembangkitan untuk model dan pengambilan bahasa besar. Kemampuannya menyaingi solusi cloud.

Kneron telah mengumpulkan $190 juta dari investor termasuk Qualcomm dan Foxconn. Perusahaan juga meluncurkan Neural Processing Unit (NPU) generasi ketiga, KL830, yang dirancang untuk mendukung PC AI berbiaya rendah dan aplikasi IoT yang diaktifkan dengan AI.

Jim Kim, Salah Satu Pendiri dan CEO

MetisX bertujuan untuk meningkatkan pusat data dengan pendekatan yang lebih cerdas, lebih cepat, dan hemat biaya dengan mengembangkan sistem memori cerdas berdasarkan teknologi Compute Express Link (CXL).

Startup yang berbasis di Seoul ini mengumumkan pada bulan Mei bahwa mereka mendapatkan pendanaan Seri A sebesar $44 juta dari banyak investor. Perusahaan berencana untuk memulai operasi di Amerika Serikat dan meluncurkan chip yang menargetkan pelanggan skala besar tahun depan.

Perusahaan telah menyelesaikan prototipe untuk aplikasi pemrosesan data skala besar seperti database vektor, analisis data besar, dan analisis DNA. Menurut laporan, prototipe ini memberikan kinerja dua kali lipat dibandingkan CPU server tradisional.

Puneet Kumar, Salah Satu Pendiri dan CEO

Rivos bertujuan untuk mendisrupsi pasar pusat data dengan mengintegrasikan CPU RISC-V berkinerja tinggi dengan akselerator paralel data untuk analisis data dan beban kerja inferensi AI.

Startup yang berbasis di California, yang didirikan oleh mantan insinyur dari Google, Apple, dan Intel, mengumumkan pada bulan April bahwa mereka menutup putaran pendanaan Seri A-3 yang mengalami kelebihan permintaan, mengumpulkan lebih dari $250 juta dari investor termasuk cabang ventura Intel dan Dell Technologies.

Pada bulan Februari, setelah penyelesaian litigasi dengan Apple, perusahaan tersebut mendapatkan pendanaan dan mengungkapkan rencana untuk meluncurkan produk silikon perdananya dan memperluas timnya. Apple menuduh startup tersebut memburu puluhan insinyur dan mencuri rahasia dagang, sementara Rivos membalas dengan tuduhan persaingan tidak sehat.

Krishna Rangasayee, Pendiri dan CEO

SiMa.ai bertujuan untuk merebut pangsa pasar dari Nvidia dalam beban kerja edge AI dengan chipnya yang kuat dan efisien, yang mampu menangani berbagai pola pada platform yang berpusat pada perangkat lunak.

Startup ini, yang berkantor pusat di San Jose, California, mengumumkan pada bulan April bahwa mereka mengumpulkan $70 juta dari investor, termasuk cabang ventura Dell Technologies dan Lip-Bu Tan, Ketua Cadence Design Systems.

Perusahaan menyatakan akan menggunakan dana tersebut untuk memenuhi permintaan Machine Learning System-on-Chip (MLSoC) generasi pertama, yang dirancang khusus untuk visi komputer, dan mempercepat pengembangan MLSoC generasi kedua, mendukung beban kerja AI multi-modal termasuk pemrosesan ucapan, audio, teks, dan gambar.

Jim Keller, CEO

Tenstorrent memelopori jalur baru dalam desain chip komputasi AI dengan menggabungkan model bisnis penjualan prosesor khusus dengan teknologi chip lisensi kepada pihak lain.

Startup yang berbasis di Toronto ini mengumumkan pada bulan Februari sebuah "perjanjian kolaborasi multi-level" dengan Advanced Semiconductor Technology Center Jepang, yang bertujuan untuk memanfaatkan teknologi RISC-V dan chip kecil Tenstorrent untuk mengembangkan akselerator AI edge 2 nanometernya. Tenstorrent juga akan bertindak sebagai mitra desain bersama untuk chip ini.

Menurut laporan The Information pada bulan Juni, startup ini mengumpulkan pendanaan sebesar $100 juta tahun lalu yang dipimpin oleh Hyundai Motor Group dan Samsung Catalyst Fund, dan kini mengumpulkan setidaknya $300 juta dalam putaran pendanaan baru yang dipimpin oleh Samsung, yang menilai Tenstorrent sebesar $2 miliar. Laporan menunjukkan negosiasi sedang dilakukan dengan perusahaan besar Korea lainnya, LG Electronics, mengenai putaran pendanaan ini.

Ljubisa Bajic, Pendiri dan CEO

Taalas bertujuan untuk mengganggu strategi umum GPU Nvidia dengan merancang chip akselerator yang secara langsung mengimplementasikan seluruh model AI, sehingga berpotensi mengurangi biaya hingga 1,000 kali lipat.

Startup yang berbasis di Toronto, dipimpin oleh salah satu pendiri Tenstorrent, Llubisa Bajic, mengumumkan pada bulan Maret bahwa mereka telah mengumpulkan dana sebesar $50 juta dan mengungkapkan rencananya untuk menciptakan alur kerja otomatis yang menghubungkan semua jenis model pembelajaran mendalam ke dalam chip.

Menurut Taalas, pendekatan desain ini memungkinkan mereka mengembangkan sebuah chip yang berisi seluruh model AI skala besar "tanpa memerlukan memori eksternal". Startup ini mengklaim bahwa desain chip ini diharapkan menawarkan kinerja lebih tinggi dibandingkan pusat data GPU skala kecil, sehingga membuka jalan untuk mengurangi biaya komputasi AI hingga lebih dari 1,000 kali lipat.

Perusahaan berencana meluncurkan chip model bahasa skala besar pertamanya pada kuartal ketiga dan berencana meluncurkannya ke pelanggan pada kuartal pertama tahun depan.