Los primeros chatbots respondían una pregunta y se olvidaban de ella. Los agentes de inteligencia artificial actuales, en cambio, pueden pasar horas trabajando sobre un proyecto entero de software, analizando videos largos o coordinándose con otros agentes. Para eso necesitan tener a mano enormes cantidades de información al mismo tiempo, y ahí aparece uno de los grandes cuellos de botella del hardware de IA: no tanto la potencia de cálculo, sino la velocidad con la que los chips pueden leer y mover datos en la memoria.
Google apunta justamente a ese problema con sus nuevos chips. El 9 de noviembre, la compañía presentó dos nuevos sistemas de su octava generación de TPU, las unidades de procesamiento tensorial que diseña desde hace una década para entrenar y ejecutar sus modelos de IA. Con ellos, ya son cuatro los sistemas de esta generación lanzados en un solo año, algo que la empresa no había hecho nunca.
Cuatro chips para cuatro trabajos
En abril, Google había anunciado el TPU 8t, dedicado al entrenamiento de modelos, y el TPU 8i, pensado para la inferencia, es decir, para ejecutar modelos ya entrenados y responder a los usuarios. Según la compañía, el primero ofrece hasta 2,7 veces mejor rendimiento de entrenamiento que la generación anterior, y el segundo, hasta un 80 % mejor relación entre precio y rendimiento en inferencia.
Ahora suma dos variantes más especializadas. La tendencia es clara: en lugar de un único chip para todo, los fabricantes diseñan hardware a medida para cada tipo de tarea.
TPU 8i Max: dos chips en uno
El TPU 8i Max combina dos chips TPU 8i en un solo encapsulado. Según Google, eso duplica la capacidad de cálculo, la memoria interna ultrarrápida y el ancho de banda de memoria de alto rendimiento respecto del TPU 8i, y permite instalar el doble de silicio en el mismo espacio de un rack de servidores.
Está pensado para tareas en las que la memoria es el límite, como muchos agentes trabajando a la vez sobre un gran proyecto de código o sobre horas de video. «El TPU 8i es el motor de razonamiento, diseñado para romper el muro de la memoria», escribió Amin Vahdat, vicepresidente y tecnólogo jefe de infraestructura de IA de Google.
TPU 8tx: IA con datos confidenciales
El segundo sistema, el TPU 8tx, responde a otra preocupación: la privacidad. Usa el mismo silicio que el TPU 8t, combinado con procesadores AMD EPYC de quinta generación, y ofrece computación confidencial a nivel de hardware. Eso significa que los datos y los modelos permanecen protegidos incluso mientras se procesan, una garantía clave para gobiernos, bancos o empresas de salud que quieren usar IA con información sensible.
Según Google, el TPU 8tx permite ajustar modelos con datos privados, entrenar agentes con aprendizaje por refuerzo y ejecutarlos en un mismo sistema, sin mover la información entre centros de cómputo, y con una latencia hasta dos veces menor que la del TPU 8t.
Lo que falta saber
El anuncio deja varios huecos. Google no publicó cifras absolutas de rendimiento, capacidad de memoria ni consumo eléctrico, y todas sus comparaciones son con su propia generación anterior. Tampoco dio fechas de disponibilidad para estos dos nuevos sistemas en Google Cloud.
Lo que sí deja claro es la estrategia. Mientras Nvidia domina el mercado de chips para IA con sus GPU, Google apuesta por hardware propio, que ya usan cerca de 100 clientes, entre ellos laboratorios de IA, empresas financieras, comercios y universidades. Y en una industria donde la escasez de memoria ya encarece desde servidores hasta computadoras personales, la batalla por el hardware de la IA se libra cada vez más en cómo se mueven los datos, y no solo en cuánto se calcula.
