Google lança chips de IA para proteger dados e ampliar memória

O Google anunciou dois novos sistemas de chips de inteligência artificial (IA), o TPU 8tx e o TPU 8i Max, que ampliam a oitava geração de seus processadores. Um foi desenvolvido para proteger dados durante o processamento; o outro, para lidar com grandes volumes de informações usadas por agentes de IA.

Com os lançamentos, a empresa passa a oferecer quatro sistemas TPU de oitava geração em um único ano, cada um voltado a diferentes necessidades de treinamento e execução de modelos.

Novos chips atendem a necessidades diferentes

Os equipamentos se juntam aos TPU 8t e TPU 8i, apresentados em abril, durante o Google Cloud Next. O primeiro é voltado ao treinamento de modelos em larga escala; o segundo, a tarefas que exigem respostas rápidas. Segundo o Google, eles oferecem até 2,7 vezes mais desempenho em treinamento e uma relação entre preço e desempenho de inferência 80% melhor que a geração anterior, respectivamente.

O TPU 8tx atende a empresas e governos que precisam trabalhar com informações sensíveis sem expô-las durante o processamento. Já o TPU 8i Max foi projetado para aplicações que precisam analisar grandes quantidades de dados de uma só vez, como agentes de IA que examinam extensas bases de código ou horas de vídeo.

TPU 8tx protege dados durante o processamento

O TPU 8tx incorpora recursos de computação confidencial diretamente no hardware. Na prática, isso permite manter dados e informações internas dos modelos protegidos mesmo enquanto são utilizados pelo sistema. O recurso pode atender a organizações que lidam com informações privadas ou precisam cumprir exigências rigorosas de segurança.

O equipamento utiliza a mesma tecnologia de processamento do TPU 8t, combinada com processadores AMD EPYC de quinta geração e a rede Boardfly. Segundo o Google, essa configuração oferece até metade do tempo de resposta do TPU 8t, com impacto quase nulo no desempenho.

A arquitetura também permite adaptar modelos de IA com dados privados, criar versões menores a partir de modelos maiores e treinar agentes sem transferir informações entre diferentes conjuntos de servidores.

TPU 8i Max amplia capacidade de processamento

O TPU 8i Max reúne dois chips TPU 8i em uma mesma estrutura física. Com isso, oferece o dobro da capacidade de processamento e de recursos de memória em comparação com o modelo convencional. Segundo o Google, o sistema também concentra duas vezes mais componentes de processamento no mesmo espaço de rack, permitindo instalar mais capacidade computacional nos data centers.

Além dos equipamentos, a empresa apresentou ferramentas para facilitar o trabalho dos desenvolvedores. O TorchTPU, disponibilizado como código aberto, permite executar aplicações criadas com PyTorch e modelos do Hugging Face nas TPUs sem precisar reescrever o código.

Outra novidade é o TPU Sync, que melhora a comunicação entre os chips, os servidores e os sistemas de armazenamento. A ferramenta também otimiza o acesso a informações que a IA reutiliza durante a geração de respostas. Segundo o Google, isso pode reduzir em mais de 90% o tempo de transferência desses dados e a espera até a produção da primeira palavra ou parte de uma resposta.

O Cloud Pathways, por sua vez, passou a estar disponível de forma geral no Google Kubernetes Engine (GKE). A ferramenta permite coordenar vários conjuntos de processadores TPU como se fossem uma única máquina, facilitando a execução de tarefas que exigem grande capacidade de processamento.

O Google afirma que quase 100 clientes já utilizam suas TPUs, entre laboratórios de IA, empresas financeiras, varejistas e universidades. A companhia também usa ferramentas de inteligência artificial, como AlphaChip e Gemini, para acelerar o desenvolvimento de seus próprios processadores.