DiffusionGemma: Google ускоряет генерацию текста ИИ

Google представила DiffusionGemma, модель для параллельной генерации 256 токенов и самокоррекции. Это новый подход к созданию текста.

Графическое представление работы Google DiffusionGemma, генерирующей текст

Google анонсировала DiffusionGemma, новую модель искусственного интеллекта, разработанную для эффективной генерации текста. Главная особенность технологии заключается в способности создавать до 256 токенов параллельно, а также самостоятельно корректировать ошибки в процессе.

Принцип работы DiffusionGemma аналогичен диффузионным моделям для изображений, таким как Stable Diffusion. Генераторы изображений начинают с «шума» и постепенно уточняют всю картинку параллельно, пока она не станет чёткой. Теперь этот метод применяют и к тексту.

Ранее аналогичный подход для генерации текста был сложен в реализации. Google удалось применить этот метод, значительно ускоряя и улучшая качество текстового вывода. Это открывает новые перспективы для ИИ-разработок.

Способность модели к самокоррекции прямо по ходу генерации позволяет создавать более связные и логичные тексты. Это минимизирует необходимость ручной доработки и повышает общую эффективность. Развитие серьёзно повлияет на скорость и качество работы больших языковых моделей, а также расширит их применение в различных областях.