Google presenta DiffusionGemma, su nueva IA que genera texto diez veces más rápido que ChatGPT

Google lanza DiffusionGemma, un modelo de IA que genera texto en bloques, alcanzando velocidades de más de 1. 000 tokens por segundo.

Google presenta DiffusionGemma, su nueva IA que genera texto diez veces más rápido que ChatGPT
Imagen: Hipertextual

Google ha anunciado el lanzamiento de DiffusionGemma, un revolucionario modelo de inteligencia artificial que optimiza la generación de texto, logrando velocidades de hasta diez veces superiores a las de ChatGPT. Esta nueva herramienta permite generar bloques completos de texto en lugar de token por token, lo que incrementa notablemente la eficiencia del proceso.

DiffusionGemma es capaz de alcanzar más de 1.000 tokens por segundo utilizando una GPU dedicada como la NVIDIA H100, lo que la diferencia significativamente de otros modelos, como el GPT-5.4 mini, que operan en un marco más convencional. Este avance es posible gracias a su diseño que permite la generación de 256 tokens en paralelo.

Cómo funciona DiffusionGemma A diferencia de los modelos tradicionales que procesan la información de manera secuencial, DiffusionGemma aplica un enfoque innovador: comienza con un bloque de texto aleatorio y, por medio de un refinamiento iterativo, mejora la calidad del resultado. Este método es análogo a los sistemas de generación de imágenes, como DALL-E 3, donde el modelo también parte de un estado inicial, en este caso, ruido visual, para afinar la salida.

Adicionalmente, su arquitectura de atención bidireccional permite que cada token generado se relacione con los demás, lo que amplía su utilidad en tareas complejas como el rellenado de código o la edición de texto en tiempo real.

Accesibilidad y Limitaciones DiffusionGemma está disponible para descarga gratuita en Hugging Face bajo licencia Apache 2.0, facilitando su uso sin la necesidad de costosos entornos de servidor. Aunque destaca por su velocidad, Google advierte que este modelo prioriza la rapidez sobre la calidad, y los modelos Gemma 4 convencionales aún son preferidos para producción debido a su superioridad en calidad.

En conclusión, DiffusionGemma representa un avance significativo en la optimización de la generación de texto, especialmente para usuarios con recursos de computación adecuados que buscan realizar tareas de edición rápida y experimentación.

Compartir este artículo