DiffusionGemma от Google доказывает, что для создания диффузионной модели текста не нужно обучать её с нуля
Вместо обучения новой модели с нуля Google DeepMind адаптировала Gemma 4 в диффузионную модель, использовав менее 10% первоначального бюджета на обучение. DiffusionGemma генерирует 256 токенов параллельно, а не по одному, достигая…