General Compute acelera desenvolvimento de nuvem de inferência

A inteligência artificial deixou de ser uma promessa para se tornar parte da rotina de empresas em praticamente todos os setores. No entanto, conforme os modelos de linguagem (LLMs) se tornam maiores e mais sofisticados, cresce também a necessidade de uma infraestrutura capaz de processar bilhões de consultas com baixa latência e alto desempenho. É por isso que a nuvem de inferência ganha protagonismo.

Diferentemente das infraestruturas voltadas ao treinamento de modelos, a nuvem de inferência é responsável por executar os modelos já treinados e entregar respostas aos usuários em tempo real. Quanto mais produtiva essa etapa, melhor será a experiência em aplicações como chatbots, agentes autônomos, geração de conteúdo, programação assistida e análise de documentos.

É justamente nesse segmento que a General Compute vem chamando a atenção do mercado ao anunciar uma linha de crédito comprometida de até US$ 400 milhões, destinada à expansão da sua infraestrutura de nuvem de inferência.

O que é uma nuvem de inferência?

A inferência representa a fase em que um modelo de inteligência artificial recebe uma solicitação e gera uma resposta. Embora pareça uma etapa simples para o usuário, ela exige enorme capacidade computacional, principalmente quando envolve modelos com centenas de bilhões ou até mais de um trilhão de parâmetros.

Uma nuvem de inferência reúne toda a infraestrutura necessária para executar esses modelos em escala, garantindo velocidade, estabilidade e eficiência energética para aplicações comerciais.

À medida que empresas passam a incorporar IA em seus processos internos e produtos, cresce também a necessidade de plataformas especializadas capazes de atender milhares de requisições simultaneamente sem perda de desempenho.

General Compute aposta em uma arquitetura diferente

Enquanto boa parte do mercado continua baseada em GPUs tradicionais, a General Compute decidiu seguir um caminho diferente. A empresa desenvolveu uma infraestrutura construída sobre chips especializados da SambaNova, projetados especificamente para cargas de inferência.

Segundo a companhia, essa arquitetura permite entregar resultados de inteligência artificial até 16 vezes mais rápido do que infraestruturas convencionais baseadas em GPUs.

Além disso, a plataforma consegue servir modelos extremamente grandes, conhecidos como "tokens premium", com desempenho superior, reduzindo drasticamente o tempo necessário para gerar respostas.

Essa abordagem também permite maior produtividade operacional, reduzindo gargalos que hoje limitam muitas aplicações de IA em larga escala.

Investimento impulsiona expansão da nuvem de inferência

Para acelerar essa expansão, a General Compute anunciou uma linha de crédito comprometida de até US$ 400 milhões, concedida pela Upper90 Capital Management.

Inicialmente, o financiamento disponibiliza US$ 100 milhões, podendo crescer conforme aumenta a demanda dos clientes.

"A Upper90 chegou cedo à oportunidade de infraestrutura de IA, permanecendo seletiva sobre onde alocamos capital. Focamos em abordagens diferenciadas que tornam a computação mais barata, mais rápida e mais acessível para os clientes. A parceria da General Compute com a SambaNova lhe dá acesso a um silício de inferência até seis vezes mais eficiente em energia do que GPUs tradicionais. Nosso papel é garantir que a empresa tenha o capital de que precisa para escalar junto com uma demanda em rápido crescimento." — Billy Libby, cofundador e CEO da Upper90

O objetivo é ampliar rapidamente a capacidade da empresa e consolidar sua posição como uma das principais plataformas globais de nuvem de inferência, acompanhando o crescimento acelerado da utilização de modelos de inteligência artificial.

A empresa também informou possuir mais de US$ 300 milhões em fornecimento de hardware previamente garantido, o que reduz riscos relacionados à disponibilidade de equipamentos.

Mais velocidade e menor consumo de energia

Um dos principais diferenciais da infraestrutura desenvolvida pela General Compute está na eficiência energética.

Enquanto racks modernos baseados em GPUs podem ultrapassar 120 kW de consumo e normalmente exigem sistemas complexos de resfriamento líquido, a arquitetura utilizada pela empresa opera com aproximadamente 20 kW por rack e utiliza resfriamento a ar.

Na prática, isso proporciona diversas vantagens para uma nuvem de inferência, como:

• desempenho de inferência até 16 vezes superior;
• tempo para geração do primeiro token até sete vezes menor;
• capacidade de processamento de até 1.000 tokens por segundo;
• consumo energético até seis vezes menor;
• implantação da infraestrutura em poucas semanas;
• menor custo operacional para empresas.

Além dos ganhos de velocidade, a redução no consumo de energia também contribui para tornar projetos de IA mais sustentáveis e financeiramente viáveis.

"Somos a única neocloud capaz de servir tokens premium — inteligência de nível de fronteira e os maiores modelos, servidos com rapidez", disse Finn Puklowski, cofundador e CEO da General Compute. "É para lá que as cargas de trabalho estão migrando. Por sermos novos, não estamos algemados a um único fornecedor de chips. Esta linha de crédito nos permite implantar o silício de inferência mais rápido do planeta em data centers existentes e atender a essa demanda agora."

Infraestrutura preparada para modelos de IA

Outro diferencial importante da plataforma é sua compatibilidade com modelos de diferentes fornecedores.

A empresa afirma que sua nuvem de inferência pode executar modelos desenvolvidos por organizações como OpenAI, DeepSeek, MiniMax e outros, permitindo migração em menos de 30 segundos.

Também há compatibilidade com APIs e MCP (Model Context Protocol), tecnologia cada vez mais utilizada no desenvolvimento de agentes inteligentes capazes de executar tarefas de forma autônoma.

Essa flexibilidade permite que empresas utilizem diferentes modelos conforme suas necessidades, sem ficarem dependentes de um único fornecedor de hardware ou software.

A demanda por inferência continuará crescendo

Diversas consultorias apontam que o crescimento do mercado de IA será impulsionado justamente pela etapa de inferência. À medida que milhões de usuários utilizam ferramentas baseadas em inteligência artificial diariamente, aumenta exponencialmente o número de solicitações processadas pelos modelos.

Segundo projeções citadas pela própria General Compute, o consumo global de tokens deverá crescer de forma acelerada nos próximos anos, exigindo uma nova geração de infraestrutura especializada.