OpenAI Revela Seu Primeiro Processador de IA: Jalapeño

A OpenAI acaba de revelar seu primeiro chip personalizado para servidores de inteligência artificial, desenvolvido em parceria com a Broadcom. Batizado de Jalapeño, o novo processador é um ASIC (Circuito Integrado de Aplicação Específica) projetado especificamente para inferência de IA — o processo pelo qual modelos como o ChatGPT processam requisições dos usuários e executam agentes como o Codex.

Um novo passo na independência de hardware

O anúncio chega apenas nove meses após a OpenAI revelar que trabalharia com a Broadcom para desenvolver chips próprios, em uma tentativa de reduzir sua dependência das GPUs da Nvidia, que permanecem em oferta limitada no mercado.

Em entrevista à Reuters, o CEO da Broadcom, Hock Tan, afirmou que o Jalapeño iguala o desempenho das GPUs Nvidia B200 em cargas de trabalho de inferência, mas com eficiência energética significativamente superior.

Desempenho e eficiência

Embora os testes finais ainda estejam em andamento, a OpenAI afirma que resultados preliminares mostram que o Jalapeño oferece “desempenho por watt substancialmente melhor do que as alternativas atuais de ponta”. O foco principal do chip está na redução de custos operacionais durante a execução de modelos de codificação em tempo real.

Greg Brockman, presidente da OpenAI, explicou a abordagem da empresa em seu podcast interno: “Temos um entendimento profundo da carga de trabalho. Estamos buscando cargas específicas que são mal atendidas, e perguntando: como podemos construir algo que acelere o que é possível?”

Estratégia de integração vertical

O Jalapeño representa o primeiro passo do que a OpenAI chama de “plataforma de computação multigeracional”, com previsão de implantação até o final de 2026. O movimento insere a OpenAI em um seleto grupo de empresas que projetam seus próprios aceleradores de IA — Google e Amazon já desenvolveram chips com propósitos semelhantes.

“OpenAI não está apenas desenvolvendo modelos de fronteira ou construindo produtos sobre eles; está projetando a infraestrutura por baixo deles: arquitetura de chip, kernels, sistemas de memória, rede, agendamento, sistemas de implantação e experiência de produto”, afirmou a empresa no anúncio. “Como a OpenAI opera em toda a stack, cada camada pode ser otimizada em torno do mesmo objetivo: tornar seus modelos mais rápidos, mais confiáveis e mais acessíveis para os usuários.”

O que isso significa para o mercado

A entrada da OpenAI no mercado de hardware proprietário sinaliza uma mudança estratégica importante. Embora tarefas mais intensivas como pré-treinamento provavelmente continuem dependendo do hardware da Nvidia, mesmo pequenas reduções nos custos de inferência podem melhorar drasticamente os resultados financeiros da empresa — especialmente considerando os bilhões de requisições diárias processadas pelo ChatGPT.

O chip foi desenvolvido com o auxílio dos próprios modelos de IA da OpenAI, em um exemplo prático de como a empresa pretende usar sua tecnologia para otimizar toda a sua operação.

Com informações de The Verge e TechCrunch.