Google lança TPU 8i Max e 8tx para agentes de IA com mais memória e dados protegidos
O Google anunciou nesta segunda-feira, 9, dois sistemas de chips para inteligência artificial: o TPU 8i Max, voltado a agentes que precisam processar grandes volumes de informação, e o TPU 8tx, que permite trabalhar com dados sensíveis sem expô-los durante o processamento.
CONTINUA DEPOIS DA PUBLICIDADE
As novidades se juntam ao TPU 8t, usado para treinar grandes modelos, e ao TPU 8i, criado para diminuir o tempo de resposta de modelos já treinados. Os dois novos sistemas reaproveitam chips apresentados em abril, mas combinam de outra forma memória, rede e recursos de segurança.
TPU 8i Max amplia memória para agentes de IA
Ao corrigir um erro de software, um agente pode consultar arquivos, rodar testes e usar os resultados para voltar ao código. Cada fase aumenta a janela de contexto, ou seja, o conjunto de informações que o modelo consegue considerar durante a tarefa.
CONTINUA DEPOIS DA PUBLICIDADE
Quando vários agentes trabalham ao mesmo tempo, os processadores podem ficar à espera dos dados necessários para avançar. Para reduzir esse intervalo, o Google agrupou dois chips TPU 8i em um único encapsulamento.
Segundo a empresa, o TPU 8i Max dobra a capacidade de cálculo e a memória interna SRAM do 8i, além de duplicar a largura de banda da memória HBM. Com isso, o sistema transfere o dobro de dados por segundo entre a HBM e o processador. A configuração também comporta o dobro de chips no mesmo espaço de um rack, afirma o Google.
TPU 8tx mantém dados e pesos do modelo protegidos
Dados armazenados ou enviados pela rede podem ser criptografados, mas o sistema precisa acessá-los na memória enquanto os processa. O TPU 8tx foi desenvolvido para proteger essas informações durante essa etapa.
O sistema combina o chip do TPU 8t com processadores AMD EPYC de quinta geração. Segundo o Google, o hardware isola tanto os dados usados na tarefa quanto os pesos do modelo — os parâmetros que determinam seu funcionamento.
A empresa afirma que o TPU 8tx pode executar um modelo e ajustá-lo com dados privados sem mover as informações entre grupos separados de servidores. O Google também diz que a rede interna reduz pela metade a latência em relação ao TPU 8t. Para agentes que consultam o modelo repetidas vezes, a espera de cada etapa se acumula.
Google amplia oferta de TPUs para empresas
As unidades de processamento tensorial, conhecidas como TPUs, foram criadas para tarefas internas, entre elas reconhecimento de voz e tradução. Atualmente, o Google usa os chips para treinar e executar o Gemini e também os oferece na nuvem e para instalação nos centros de dados dos clientes.
A empresa diz que o negócio de TPUs reúne quase 100 clientes. Para ampliar o uso dos chips, o Google também trabalha para facilitar a execução de softwares empresariais neles.
Em outubro, o Google abriu o código do TorchTPU, ferramenta desenvolvida em parceria com a equipe do PyTorch da Meta. O programa reduz a adaptação necessária para quem já usa essa biblioteca no desenvolvimento de modelos. O grupo também anunciou um acordo para oferecer TPUs na nuvem da Oracle.
A Anthropic, empresa responsável pelo Claude, usa TPUs do Google, chips Trainium da Amazon e GPUs da Nvidia. Em abril, anunciou com Google e Broadcom um acordo para ampliar, a partir de 2027, sua capacidade de computação com TPUs de nova geração.
O Google não divulgou preços nem datas de disponibilidade do TPU 8tx e do TPU 8i Max.
Editoria:
Redação Tecnologia e Games
A Redação Tecnologia e Games reúne a cobertura do Clique Fatos sobre tecnologia, internet e games. As matérias são produzidas com apoio de inteligência artificial a partir de agências e veículos citados no texto. Encontrou um erro? Escreva para [email protected].
