От Celestial AI до Taalas — все эти стартапы пытаются бросить вызов Nvidia.

За последние пару лет, когда мир осознал прорывной потенциал генеративного искусственного интеллекта и мощных чипов, обеспечивающих эту технологию, полупроводниковая промышленность привлекла новое внимание. Хотя Nvidia была основным бенефициаром этого интереса, различные стартапы стремятся бросить вызов этому гиганту в области ИИ-чипов или исследовать другие потенциально революционные области.

Хотя стартапы в области полупроводников по-прежнему сталкиваются со значительными рисками, часто неся гораздо более высокие затраты по сравнению с компаниями-разработчиками программного обеспечения на ранней стадии, они могут извлечь выгоду из ожидаемого в этом году роста отрасли на 20%, отчасти обусловленного устойчивым спросом на чипы искусственного интеллекта.

Это создает возможности для стартапов, занимающихся чипами искусственного интеллекта, таких как Cerebras Systems, Hailo и Kneron, извлечь выгоду из ожидаемого роста расходов, прогнозируемого исследовательской фирмой IDC в ​​декабре. Среди других полупроводниковых стартапов, стремящихся изменить дизайн вычислительных чипов искусственного интеллекта, — Celestial AI, Eliyan, Rivos и Tenstorrent.

Вот 10 самых популярных полупроводниковых стартапов 2024 года по версии CRN, включая вышеупомянутые стартапы, а также MetisX, SiMa.ai и Taalas.

Дэвид Лазовский, основатель и генеральный директор

Celestial AI заявила, что ее технология оптических соединений с фотонной структурой преодолевает узкие места задержек и пропускной способности, открывая путь к достижениям в области вычислений с искусственным интеллектом.

Стартап, базирующийся в Санта-Кларе, штат Калифорния, объявил в марте этого года о том, что он получил значительно превышенное финансирование серии C в размере 175 миллионов долларов. Раунд проводился Фондом инновационных технологий США при участии нескольких инвесторов, в том числе подразделения венчурного капитала AMD, Samsung и Porsche SE, холдинговой компании Volkswagen Group.

В том же месяце стартап в области кремниевой фотоники отметил, что в настоящее время он разрабатывает оптические чипы с фотонной структурой в рамках начальной фазы внедрения технологии. По данным Celestial AI, интеграция оптических чипов в многочиповые корпуса все чаще становится стандартом для высокопроизводительных процессоров, что позволяет увеличить пропускную способность вне корпуса в 25 раз по сравнению с «другими современными технологиями».

Эндрю Фельдман, соучредитель и генеральный директор

Cerebras Systems использует свой чип Wafer Scale Engine, чтобы бросить вызов доминирующему положению Nvidia в сфере вычислений на базе искусственного интеллекта, демонстрируя выдающуюся производительность на ватт и «беспрецедентную масштабируемость».

В марте этого года стартап, базирующийся в Саннивейле, штат Калифорния, представил свой чип третьего поколения — Wafer Scale Engine 3. Компания утверждает, что новый чип обеспечивает вдвое большую производительность, чем его предшественник, при том же энергопотреблении и цене. WSE-3 состоит из 400 триллионов транзисторов, изготовленных по 5-нанометровому техпроцессу TSMC, объединяющих 900,000 44 ядер искусственного интеллекта и 1.25 ГБ встроенной SRAM, что обеспечивает производительность 16 эксафлопс при XNUMX-битных операциях с плавающей запятой.

Другие вехи для компании в этом году включают стратегическое сотрудничество с гигантом здравоохранения Mayo Clinic для разработки крупномасштабных мультимодальных языковых моделей для улучшения результатов лечения и диагностики пациентов, давнее партнерство со стартапом в области искусственного интеллекта Aleph Alpha для создания безопасных суверенных решений в области искусственного интеллекта и закладывание основы. для суперкомпьютера Condor Galaxy 3 для технологического холдинга G42 в Абу-Даби.

Рамин Фарджадрад, соучредитель и генеральный директор

Компания Eliyan стремится преодолеть барьеры межчиповой пропускной способности с помощью своей технологии соединения NuLink PHY, позволяя разработчикам микросхем создавать более мощные процессоры на базе микросхем.

Стартап из Санта-Клары, штат Калифорния, объявил в марте о завершении раунда финансирования на сумму 60 миллионов долларов, возглавляемого Samsung Catalyst и Tiger Global Management, с участием Intel и SK Hynix Ventures, среди других инвесторов.

Ранее в этом году компания Eliyan представила то, что она назвала решением «наивысшей производительности» на физическом уровне для соединения нескольких чипов в рамках однокристальной архитектуры. Он использует 3-нанометровый производственный процесс TSMC, обеспечивая скорость до 64 Гбит/с на полосу.

Орр Данон, соучредитель и генеральный директор

Hailo ускоряет выполнение задач искусственного интеллекта, внедряя чипы, которые лидируют по стоимости и энергоэффективности, позиционируя себя как конкуренцию Nvidia.

В апреле базирующийся в Тель-Авиве стартап объявил, что привлек $120 млн от инвесторов в рамках раунда финансирования серии C, а также запуска нового ускорителя Hailo-10. Этот ускоритель предназначен для обеспечения «максимальной производительности GenAI при минимальном энергопотреблении» для таких устройств, как персональные компьютеры и автомобильные информационно-развлекательные системы.

Например, Hailo утверждает, что Hailo-10 может запускать модель Llama 2 с 7 миллиардами параметров со скоростью до 10 токенов в секунду, потребляя всего 5 Вт мощности. Более того, чип может обрабатывать изображения с помощью модели Stable Diffusion 2.1 за 5 секунд, используя тот же диапазон мощности.

Альберт Лю, основатель и генеральный директор

Kneron стремится ослабить влияние Nvidia с помощью чипов искусственного интеллекта, предназначенных для снижения затрат на серверы для предприятий, а также снижения цены и энергопотребления ПК при создании искусственного интеллекта.

Стартап из Сан-Диего объявил в июне о запуске сервера Edge GPT второго поколения, KNEO 330, который, как рекламируется, сократит затраты на ИИ для малого бизнеса на 30–40%. Сервер может выполнять 480 триллионов операций в секунду (TOPS), поддерживая до 8 соединений одновременно и повышая точность генерации больших языковых моделей и поиска. По своим возможностям он конкурирует с облачными решениями.

Кнерон привлек $190 млн от инвесторов, включая Qualcomm и Foxconn. Компания также представила свой модуль нейронной обработки (NPU) третьего поколения KL830, предназначенный для поддержки недорогих ПК с искусственным интеллектом и приложений Интернета вещей, поддерживающих искусственный интеллект.

Джим Ким, соучредитель и генеральный директор

MetisX стремится усовершенствовать центры обработки данных с помощью более интеллектуального, быстрого и экономически эффективного подхода путем разработки интеллектуальных систем памяти на основе технологии Compute Express Link (CXL).

В мае базирующийся в Сеуле стартап объявил, что получил финансирование серии А на сумму 44 миллиона долларов от нескольких инвесторов. В следующем году компания планирует начать деятельность в США и выпустить чипы, ориентированные на крупных клиентов.

Компания завершила создание прототипов крупномасштабных приложений для обработки данных, таких как векторные базы данных, анализ больших данных и анализ ДНК. По имеющимся данным, эти прототипы обеспечивают вдвое большую производительность, чем традиционные серверные процессоры.

Пунит Кумар, соучредитель и генеральный директор

Rivos стремится революционизировать рынок центров обработки данных, интегрируя высокопроизводительные процессоры RISC-V с ускорителями параллельного анализа данных для анализа данных и рабочих нагрузок искусственного интеллекта.

Калифорнийский стартап, основанный бывшими инженерами из Google, Apple и Intel, объявил в апреле о закрытии раунда финансирования Series A-3 с превышением подписки, собрав более 250 миллионов долларов от инвесторов, включая венчурные подразделения Intel и Dell Technologies.

В феврале, после урегулирования спора с Apple по судебному разбирательству, компания получила финансирование и раскрыла планы по выпуску своего первого кремниевого продукта и расширению своей команды. Apple обвинила стартап в переманивании десятков инженеров и краже коммерческих тайн, а Ривос подал встречный иск, заявив о недобросовестной конкуренции.

Кришна Рангасайи, основатель и генеральный директор

SiMa.ai стремится отвоевать у Nvidia долю рынка в области периферийных рабочих нагрузок искусственного интеллекта с помощью своих мощных и эффективных чипов, способных обрабатывать различные шаблоны на программно-ориентированной платформе.

Стартап со штаб-квартирой в Сан-Хосе, штат Калифорния, объявил в апреле, что привлек $70 млн от инвесторов, в том числе от венчурного подразделения Dell Technologies и Лип-Бу Тана, председателя Cadence Design Systems.

Компания заявила, что будет использовать средства для удовлетворения спроса на свою систему машинного обучения на кристалле (MLSoC) первого поколения, разработанную специально для компьютерного зрения, и ускорить разработку своего MLSoC второго поколения, поддерживающего мультимодальные рабочие нагрузки искусственного интеллекта, включая обработка речи, звука, текста и изображений.

Джим Келлер, генеральный директор

Tenstorrent открывает новый путь в разработке вычислительных чипов для искусственного интеллекта, сочетая бизнес-модель продажи специализированных процессоров с лицензированием технологии чипов для других.

Стартап из Торонто объявил в феврале о «многоуровневом соглашении о сотрудничестве» с Японским центром передовых полупроводниковых технологий, целью которого является использование RISC-V от Tenstorrent и технологий малых чипов для разработки своего 2-нанометрового ускорителя искусственного интеллекта. Tenstorrent также выступит партнером по разработке этого чипа.

Согласно июньскому отчету The Information, в прошлом году стартап привлек финансирование в размере 100 миллионов долларов США от Hyundai Motor Group и Samsung Catalyst Fund, а сейчас привлекает не менее 300 миллионов долларов США в рамках нового раунда финансирования под руководством Samsung, оценивая Tenstorrent в 2 миллиарда долларов США. По сообщениям, переговоры по поводу этого раунда финансирования ведутся с другой крупной корейской компанией LG Electronics.

Любиша Баич, основатель и генеральный директор

Таалас стремится разрушить общую стратегию Nvidia в отношении графических процессоров, разработав чипы-ускорители, которые напрямую реализуют целые модели искусственного интеллекта, потенциально сокращая затраты до 1,000 раз.

Стартап из Торонто, возглавляемый соучредителем Tenstorrent Льюбишей Баич, объявил в марте, что привлек финансирование в размере 50 миллионов долларов, и раскрыл свои планы по созданию автоматизированного рабочего процесса, который будет жестко встраивать в чип все типы моделей глубокого обучения.

По словам Тааласа, такой подход к проектированию позволяет им разработать чип, содержащий целые крупномасштабные модели искусственного интеллекта, «без необходимости использования внешней памяти». Стартап утверждает, что эта конструкция чипа, как ожидается, будет обеспечивать более высокую производительность, чем небольшие центры обработки данных с графическими процессорами, что откроет путь к сокращению затрат на вычисления с использованием искусственного интеллекта более чем в 1,000 раз.

Компания планирует выпустить свой первый крупномасштабный чип языковой модели в третьем квартале и планирует представить его клиентам в первом квартале следующего года.