Daripada Celestial AI hingga Taalas, syarikat pemula ini semuanya cuba mencabar Nvidia.

Dalam beberapa tahun yang lalu, apabila dunia mengiktiraf potensi gangguan kecerdasan buatan generatif dan cip berkuasa yang membolehkan teknologi ini, industri semikonduktor telah mendapat perhatian baharu. Walaupun Nvidia telah menjadi penerima utama minat ini, pelbagai syarikat permulaan berusaha untuk mencabar gergasi cip AI ini atau meneroka kawasan lain yang berpotensi mengganggu.

Walaupun permulaan semikonduktor masih menghadapi risiko yang ketara, selalunya menanggung kos yang jauh lebih tinggi berbanding syarikat perisian peringkat awal, mereka berpeluang mendapat manfaat daripada jangkaan pertumbuhan industri sebanyak 20% tahun ini, didorong sebahagiannya oleh permintaan kukuh untuk cip AI.

Ini mewujudkan peluang untuk permulaan cip AI seperti Cerebras Systems, Hailo, dan Kneron untuk memanfaatkan pertumbuhan perbelanjaan yang dijangkakan yang diramalkan oleh firma penyelidikan IDC pada bulan Disember. Permulaan semikonduktor lain yang bertujuan untuk mengganggu reka bentuk cip pengkomputeran AI termasuk Celestial AI, Eliyan, Rivos dan Tenstorrent.

Berikut ialah 10 syarikat permulaan semikonduktor terhangat CRN pada tahun 2024, termasuk syarikat permulaan yang disebutkan di atas bersama-sama dengan MetisX, SiMa.ai dan Taalas.

David Lazovsky, Pengasas dan Ketua Pegawai Eksekutif

Celestial AI telah menyatakan bahawa teknologi sambung optik struktur fotoniknya mengatasi kependaman dan kesesakan lebar jalur, membuka jalan untuk kemajuan dalam pengkomputeran kecerdasan buatan.

Berpangkalan di Santa Clara, California, syarikat permulaan itu mengumumkan pada Mac tahun ini bahawa ia telah memperoleh pendanaan Siri C yang terlebih langgan sebanyak $175 juta. Pusingan itu diketuai oleh Dana Teknologi Inovasi AS, dengan penyertaan daripada beberapa pelabur termasuk cabang modal teroka AMD, Samsung, dan Porsche SE, syarikat induk Volkswagen Group.

Pada bulan yang sama, syarikat permulaan fotonik silikon menyatakan bahawa ia sedang mereka bentuk cip optik struktur fotonik sebagai sebahagian daripada fasa awal penggunaan teknologi. Menurut Celestial AI, penyepaduan cip optik ke dalam pakej berbilang cip semakin menjadi standard untuk pemproses berprestasi tinggi, membolehkan peningkatan 25 kali ganda dalam lebar jalur luar pakej berbanding "teknologi terkini yang lain."

Andrew Feldman, Pengasas Bersama dan Ketua Pegawai Eksekutif

Cerebras Systems memanfaatkan cip Enjin Skala Wafernya untuk mencabar kedudukan dominan Nvidia dalam pengkomputeran AI, dengan prestasi cemerlang per watt dan "skala yang belum pernah terjadi sebelumnya."

Berpangkalan di Sunnyvale, California, syarikat permulaan itu memperkenalkan cip generasi ketiganya, Wafer Scale Engine 3, pada Mac tahun ini. Ia mendakwa cip baharu itu menawarkan prestasi dua kali ganda berbanding pendahulunya pada penggunaan kuasa dan harga yang sama. WSE-3 terdiri daripada 400 trilion transistor menggunakan proses 5-nanometer TSMC, menyepadukan 900,000 teras AI dan 44 GB SRAM pada cip, mencapai 1.25 exaflops prestasi titik terapung 16-bit.

Pencapaian lain untuk syarikat tahun ini termasuk kerjasama strategik dengan gergasi penjagaan kesihatan Mayo Clinic untuk membangunkan model bahasa multimodal berskala besar untuk meningkatkan hasil rawatan dan diagnostik pesakit, perkongsian lama dengan permulaan AI Aleph Alpha untuk membina penyelesaian AI berdaulat yang selamat, dan meletakkan asas untuk superkomputer Condor Galaxy 3 untuk kumpulan pemegang teknologi berasaskan Abu Dhabi G42.

Ramin Farjadrad, Pengasas Bersama dan Ketua Pegawai Eksekutif

Eliyan menyasarkan untuk mengatasi halangan lebar jalur antara cip dengan teknologi sambung NuLink PHY, membolehkan pereka cip membina pemproses berasaskan cip yang lebih berkuasa.

Permulaan yang berpangkalan di Santa Clara, California mengumumkan pada Mac selesai pusingan pembiayaan $60 juta, diketuai oleh Samsung Catalyst dan Tiger Global Management, dengan penyertaan daripada Intel dan SK Hynix Ventures di kalangan pelabur lain.

Awal tahun ini, Eliyan memperkenalkan apa yang disifatkannya sebagai penyelesaian "prestasi tertinggi" pada lapisan fizikal untuk menyambungkan berbilang cip dalam seni bina cip tunggal. Ia menggunakan proses pembuatan 3-nanometer TSMC, mencapai kelajuan sehingga 64 Gbps setiap lorong.

Orr Danon, Pengasas Bersama dan Ketua Pegawai Eksekutif

Hailo sedang mempercepatkan beban kerja AI yang canggih dengan menggunakan cip yang mendahului dalam kecekapan kos dan kuasa, meletakkan dirinya dalam persaingan dengan Nvidia.

Permulaan yang berpangkalan di Tel Aviv mengumumkan pada April bahawa ia mengumpul $120 juta daripada pelabur sebagai lanjutan pusingan pembiayaan Siri Cnya, di samping pelancaran pemecut Hailo-10 baharu. Pemecut ini direka untuk menyampaikan "prestasi GenAI maksimum dengan penggunaan kuasa yang minimum" untuk peranti seperti komputer peribadi dan sistem infotainmen automotif.

Sebagai contoh, Hailo mendakwa Hailo-10 boleh menjalankan model Llama 2 dengan 7 bilion parameter pada kelajuan sehingga 10 token sesaat, menggunakan hanya 5 watt kuasa. Selain itu, cip boleh memproses imej dengan model Stable Diffusion 2.1 dalam masa 5 saat menggunakan julat kuasa yang sama.

Albert Liu, pengasas dan Ketua Pegawai Eksekutif

Kneron bertujuan untuk melemahkan pengaruh Nvidia dengan cip AI yang direka untuk mengurangkan kos pelayan untuk perusahaan dan menurunkan harga dan penggunaan tenaga PC dalam penjanaan AI.

Permulaan yang berpangkalan di San Diego mengumumkan pada Jun pelancaran pelayan "Edge GPT" generasi kedua, KNEO 330, yang disebut-sebut akan mengurangkan kos AI untuk perniagaan kecil sebanyak 30%-40%. Pelayan boleh melakukan 480 trilion operasi sesaat (TOPS), menyokong sehingga 8 sambungan serentak, dan meningkatkan ketepatan penjanaan untuk model bahasa yang besar dan pengambilan semula. Ia menyaingi penyelesaian awan dalam keupayaan.

Kneron telah mengumpulkan $190 juta daripada pelabur termasuk Qualcomm dan Foxconn. Syarikat itu juga memperkenalkan Unit Pemprosesan Neural (NPU) generasi ketiganya, KL830, yang direka untuk menyokong PC AI kos rendah dan aplikasi IoT yang didayakan dengan AI.

Jim Kim, Pengasas Bersama dan Ketua Pegawai Eksekutif

MetisX menyasarkan untuk meningkatkan pusat data dengan pendekatan yang lebih pintar, lebih pantas dan kos efektif dengan membangunkan sistem memori pintar berdasarkan teknologi Compute Express Link (CXL).

Permulaan yang berpangkalan di Seoul mengumumkan pada Mei bahawa ia memperoleh $44 juta dalam pembiayaan Siri A daripada pelbagai pelabur. Ia merancang untuk menubuhkan operasi di Amerika Syarikat dan melancarkan cip yang menyasarkan pelanggan berskala besar tahun depan.

Syarikat itu telah melengkapkan prototaip untuk aplikasi pemprosesan data berskala besar seperti pangkalan data vektor, analisis data besar dan analisis DNA. Menurut laporan, prototaip ini menyampaikan dua kali prestasi CPU pelayan tradisional.

Puneet Kumar, Pengasas Bersama dan Ketua Pegawai Eksekutif

Rivos menyasarkan untuk mengganggu pasaran pusat data dengan menyepadukan CPU RISC-V berprestasi tinggi dengan pemecut selari data untuk analisis data dan beban kerja inferens AI.

Permulaan yang berpangkalan di California, yang diasaskan oleh bekas jurutera dari Google, Apple dan Intel, mengumumkan pada April bahawa ia menutup pusingan pendanaan Siri A-3 yang terlebih langgan, mengumpul lebih $250 juta daripada pelabur termasuk cabang usaha niaga Intel dan Dell Technologies.

Pada bulan Februari, berikutan penyelesaian dengan Apple mengenai litigasi, syarikat itu memperoleh pembiayaan dan mendedahkan rancangan untuk melancarkan produk silikon sulungnya dan mengembangkan pasukannya. Apple telah menuduh syarikat permulaan itu memburu berpuluh-puluh jurutera dan mencuri rahsia perdagangan, manakala Rivos menyaman balas mendakwa persaingan tidak adil.

Krishna Rangasayee, Pengasas dan Ketua Pegawai Eksekutif

SiMa.ai menyasarkan untuk menangkap bahagian pasaran daripada Nvidia dalam beban kerja AI edge dengan cipnya yang berkuasa dan cekap, yang mampu mengendalikan pelbagai corak pada platform yang mengutamakan perisian.

Permulaan itu, yang beribu pejabat di San Jose, California, mengumumkan pada April bahawa ia mengumpul $70 juta daripada pelabur, termasuk cabang teroka Dell Technologies dan Lip-Bu Tan, Pengerusi Cadence Design Systems.

Syarikat itu menyatakan ia akan menggunakan dana itu untuk memenuhi permintaan untuk Sistem Pembelajaran Mesin (MLSoC) generasi pertamanya, yang direka khusus untuk penglihatan komputer, dan mempercepatkan pembangunan MLSoC generasi keduanya, menyokong beban kerja AI berbilang mod termasuk pertuturan, audio, teks dan pemprosesan imej.

Jim Keller, Ketua Pegawai Eksekutif

Tenstorrent sedang merintis laluan baharu dalam reka bentuk cip pengkomputeran AI dengan menggabungkan model perniagaan menjual pemproses khusus dengan teknologi cip pelesenan kepada orang lain.

Permulaan yang berpangkalan di Toronto mengumumkan pada bulan Februari "perjanjian kerjasama pelbagai peringkat" dengan Pusat Teknologi Semikonduktor Termaju Jepun, yang bertujuan untuk menggunakan RISC-V Tenstorrent dan teknologi cip kecil untuk membangunkan pemecut AI tepi 2-nanometernya. Tenstorrent juga akan berfungsi sebagai rakan reka bentuk bersama untuk cip ini.

Menurut laporan The Information Jun, syarikat permulaan itu mengumpul $100 juta dalam pembiayaan tahun lepas yang diketuai oleh Hyundai Motor Group dan Samsung Catalyst Fund, dan kini mengumpul sekurang-kurangnya $300 juta dalam pusingan pembiayaan baharu yang diketuai oleh Samsung, dengan menilai Tenstorrent pada $2 bilion. Laporan mencadangkan rundingan sedang dijalankan dengan sebuah lagi syarikat utama Korea, LG Electronics, mengenai pusingan pembiayaan ini.

Ljubisa Bajic，Pengasas dan Ketua Pegawai Eksekutif

Taalas menyasarkan untuk mengganggu strategi GPU umum Nvidia dengan mereka bentuk cip pemecut yang melaksanakan keseluruhan model AI secara langsung, yang berpotensi mengurangkan kos sehingga 1,000 kali ganda.

Permulaan yang berpangkalan di Toronto, yang diketuai oleh pengasas bersama Tenstorrent Llubisa Bajic, mengumumkan pada bulan Mac bahawa ia telah mengumpulkan $50 juta dalam pembiayaan dan mendedahkan rancangannya untuk mencipta aliran kerja automatik yang menggabungkan semua jenis model pembelajaran mendalam ke dalam cip.

Menurut Taalas, pendekatan reka bentuk ini membolehkan mereka membangunkan cip yang mengandungi keseluruhan model AI berskala besar "tanpa memerlukan memori luaran." Permulaan mendakwa bahawa reka bentuk cip ini dijangka menawarkan prestasi yang lebih tinggi daripada pusat data GPU berskala kecil, membuka jalan untuk mengurangkan kos pengkomputeran AI sebanyak lebih 1,000 kali ganda.

Syarikat itu merancang untuk merakamkan cip model bahasa berskala besar pertamanya pada suku ketiga dan menyasar untuk melancarkannya kepada pelanggan pada suku pertama tahun depan.