Da Celestial AI à Taalas, todas essas startups estão tentando desafiar a Nvidia.

Nos últimos dois anos, à medida que o mundo reconhecia o potencial disruptivo da inteligência artificial generativa e dos poderosos chips que permitem esta tecnologia, a indústria de semicondutores atraiu uma atenção renovada. Embora a Nvidia tenha sido a principal beneficiária deste interesse, várias startups estão tentando desafiar esse gigante dos chips de IA ou explorar outras áreas potencialmente perturbadoras.

Embora as startups de semicondutores ainda enfrentem riscos significativos, muitas vezes suportando custos muito mais elevados em comparação com empresas de software em fase inicial, poderão beneficiar do crescimento previsto da indústria de 20% para este ano, impulsionado em parte pela procura robusta de chips de IA.

Isto cria oportunidades para startups de chips de IA como Cerebras Systems, Hailo e Kneron capitalizarem o crescimento previsto das despesas previsto pela empresa de pesquisa IDC em dezembro. Outras startups de semicondutores que visam revolucionar os designs de chips de computação de IA incluem Celestial AI, Eliyan, Rivos e Tenstorrent.

Aqui estão as 10 startups de semicondutores mais importantes da CRN em 2024, incluindo as startups mencionadas junto com MetisX, SiMa.ai e Taalas.

David Lazovsky, Fundador e CEO

A Celestial AI afirmou que sua tecnologia de interconexão óptica de estrutura fotônica supera gargalos de latência e largura de banda, abrindo caminho para avanços na computação de inteligência artificial.

Com sede em Santa Clara, Califórnia, a startup anunciou em março deste ano que havia garantido um financiamento da Série C com excesso de assinaturas de US$ 175 milhões. A rodada foi liderada pelo Fundo de Tecnologia de Inovação dos EUA, com a participação de vários investidores, incluindo o braço de capital de risco da AMD, Samsung, e a Porsche SE, a holding do Grupo Volkswagen.

No mesmo mês, a startup de fotônica de silício observou que está atualmente projetando chips ópticos de estrutura fotônica como parte da fase inicial de adoção da tecnologia. De acordo com a Celestial AI, a integração de chips ópticos em pacotes multi-chip está se tornando cada vez mais padrão para processadores de alto desempenho, permitindo um aumento de 25 vezes na largura de banda fora do pacote em comparação com “outras tecnologias de ponta”.

Andrew Feldman, cofundador e CEO

A Cerebras Systems está aproveitando seu chip Wafer Scale Engine para desafiar a posição dominante da Nvidia na computação de IA, ostentando excelente desempenho por watt e “escalabilidade sem precedentes”.

Com sede em Sunnyvale, Califórnia, a startup revelou seu chip de terceira geração, o Wafer Scale Engine 3, em março deste ano. Ela afirma que o novo chip oferece o dobro do desempenho de seu antecessor com o mesmo consumo de energia e preço. O WSE-3 é composto por 400 trilhões de transistores usando o processo de 5 nanômetros da TSMC, integrando 900,000 núcleos AI e 44 GB de SRAM no chip, alcançando 1.25 exaflops de desempenho de ponto flutuante de 16 bits.

Outros marcos para a empresa este ano incluem colaborações estratégicas com a gigante da saúde Mayo Clinic para o desenvolvimento de modelos de linguagem multimodais em grande escala para melhorar os resultados e diagnósticos do tratamento dos pacientes, uma parceria de longa data com a startup de IA Aleph Alpha para construir soluções seguras de IA soberanas e estabelecer as bases para o supercomputador Condor Galaxy 3 para o grupo detentor de tecnologia G42, com sede em Abu Dhabi.

Ramin Farjadrad, cofundador e CEO

Eliyan pretende superar as barreiras de largura de banda entre chips com sua tecnologia de interconexão NuLink PHY, permitindo que os projetistas de chips construam processadores baseados em chips mais poderosos.

A startup com sede em Santa Clara, Califórnia, anunciou em março a conclusão de uma rodada de financiamento de US$ 60 milhões, liderada pela Samsung Catalyst e Tiger Global Management, com participação da Intel e SK Hynix Ventures, entre outros investidores.

No início deste ano, Eliyan apresentou o que descreveu como a solução de “maior desempenho” na camada física para conectar vários chips em uma arquitetura de chip único. Ele utiliza o processo de fabricação de 3 nanômetros da TSMC, atingindo velocidades de até 64 Gbps por pista.

Orr Danon, cofundador e CEO

A Hailo está acelerando as cargas de trabalho de IA de ponta ao adotar chips que lideram em custo e eficiência de energia, posicionando-se na competição com a Nvidia.

A startup com sede em Tel Aviv anunciou em abril que levantou US$ 120 milhões de investidores como uma extensão de sua rodada de financiamento da Série C, juntamente com o lançamento do novo acelerador Hailo-10. Este acelerador foi projetado para fornecer “desempenho máximo de GenAI com consumo mínimo de energia” para dispositivos como computadores pessoais e sistemas de infoentretenimento automotivos.

Por exemplo, Hailo afirma que o Hailo-10 pode executar o modelo Llama 2 com 7 bilhões de parâmetros a velocidades de até 10 tokens por segundo, consumindo apenas 5 watts de energia. Além disso, o chip pode processar imagens com o modelo Stable Diffusion 2.1 em 5 segundos usando a mesma faixa de potência.

Albert Liu, fundador e CEO

Kneron pretende enfraquecer a influência da Nvidia com chips de IA projetados para reduzir custos de servidores para empresas e diminuir o preço e o consumo de energia dos PCs na geração de IA.

A startup com sede em San Diego anunciou em junho o lançamento de seu servidor “Edge GPT” de segunda geração, KNEO 330, que reduz os custos de IA para pequenas empresas em 30% -40%. O servidor pode executar 480 trilhões de operações por segundo (TOPS), suportando até 8 conexões simultaneamente, e aumenta a precisão de geração para recuperação e modelos de linguagem grandes. Ela rivaliza com as soluções em nuvem em capacidade.

Kneron levantou US$ 190 milhões de investidores, incluindo Qualcomm e Foxconn. A empresa também revelou sua unidade de processamento neural (NPU) de terceira geração, KL830, projetada para oferecer suporte a PCs de IA de baixo custo e aplicativos de IoT habilitados com IA.

Jim Kim, cofundador e CEO

A MetisX visa aprimorar os data centers com uma abordagem mais inteligente, rápida e econômica, desenvolvendo sistemas de memória inteligentes baseados na tecnologia Compute Express Link (CXL).

A startup com sede em Seul anunciou em maio que garantiu US$ 44 milhões em financiamento da Série A de vários investidores. Ela planeja estabelecer operações nos Estados Unidos e lançar chips direcionados a clientes de grande porte no próximo ano.

A empresa concluiu protótipos para aplicações de processamento de dados em larga escala, como bancos de dados vetoriais, análise de big data e análise de DNA. Segundo relatos, esses protótipos oferecem o dobro do desempenho das CPUs de servidores tradicionais.

Puneet Kumar, cofundador e CEO

A Rivos pretende revolucionar o mercado de data centers integrando CPUs RISC-V de alto desempenho com aceleradores paralelos de dados para análise de dados e cargas de trabalho de inferência de IA.

A startup com sede na Califórnia, fundada por ex-engenheiros do Google, Apple e Intel, anunciou em abril que fechou uma rodada de financiamento da Série A-3 com excesso de inscrições, levantando mais de US$ 250 milhões de investidores, incluindo os braços de risco da Intel e da Dell Technologies.

Em fevereiro, após um acordo com a Apple sobre litígios, a empresa garantiu financiamento e divulgou planos para lançar seu primeiro produto de silício e expandir sua equipe. A Apple acusou a startup de caçar dezenas de engenheiros e roubar segredos comerciais, enquanto Rivos rebateu alegando concorrência desleal.

Krishna Rangasayee, fundador e CEO

SiMa.ai pretende conquistar a participação de mercado da Nvidia em cargas de trabalho de IA de ponta com seus chips poderosos e eficientes, capazes de lidar com uma variedade de padrões em uma plataforma centrada em software.

A startup, sediada em San Jose, Califórnia, anunciou em abril que levantou US$ 70 milhões de investidores, incluindo o braço de risco da Dell Technologies e Lip-Bu Tan, presidente da Cadence Design Systems.

A empresa afirmou que usará os fundos para atender à demanda por seu Machine Learning System-on-Chip (MLSoC) de primeira geração, projetado especificamente para visão computacional, e acelerar o desenvolvimento de seu MLSoC de segunda geração, suportando cargas de trabalho de IA multimodais, incluindo processamento de fala, áudio, texto e imagem.

Jim Keller, CEO

A Tenstorrent é pioneira em um novo caminho no design de chips de computação de IA, combinando um modelo de negócios de venda de processadores dedicados com licenciamento de tecnologia de chip para terceiros.

A startup com sede em Toronto anunciou em fevereiro um “acordo de colaboração multinível” com o Advanced Semiconductor Technology Center do Japão, com o objetivo de utilizar o RISC-V da Tenstorrent e tecnologias de pequenos chips para desenvolver seu acelerador de IA de ponta de 2 nanômetros. A Tenstorrent também atuará como parceira de co-design deste chip.

De acordo com o relatório de junho do The Information, a startup levantou US$ 100 milhões em financiamento no ano passado, liderada pelo Hyundai Motor Group e Samsung Catalyst Fund, e agora está levantando pelo menos US$ 300 milhões em uma nova rodada de financiamento liderada pela Samsung, avaliando a Tenstorrent em US$ 2 bilhões. Os relatórios sugerem que estão em curso negociações com outra grande empresa coreana, a LG Electronics, relativamente a esta ronda de financiamento.

Ljubisa Bajic, Fundadora e CEO

Taalas pretende interromper a estratégia geral de GPU da Nvidia, projetando chips aceleradores que implementam diretamente modelos inteiros de IA, reduzindo potencialmente os custos em até 1,000 vezes.

A startup com sede em Toronto, liderada pelo cofundador da Tenstorrent, Llubisa Bajic, anunciou em março que levantou US$ 50 milhões em financiamento e revelou seus planos para criar um fluxo de trabalho automatizado que conecta todos os tipos de modelos de aprendizagem profunda ao chip.

De acordo com Taalas, esta abordagem de design permite desenvolver um chip contendo modelos inteiros de IA em grande escala “sem a necessidade de memória externa”. A startup afirma que se espera que esse design de chip ofereça desempenho superior ao dos data centers de GPU de pequena escala, abrindo caminho para a redução dos custos de computação de IA em mais de 1,000 vezes.

A empresa planeja lançar seu primeiro chip de modelo de linguagem em grande escala no terceiro trimestre e pretende lançá-lo aos clientes no primeiro trimestre do próximo ano.