Как выбрать подход к управляемой генерации
Различайте градиентное управление, условную генерацию и заполнение пропусков, прежде чем выбирать метод под ограничения.
Отправные точки с источниками, а не полный обзор или текущий рейтинг. Задания для чтения ниже — рекомендации, а не проведённые сайтом эксперименты.
Перед началом
Различайте непрерывные эмбеддинги и дискретные токены. Укажите, какую часть входа нужно сохранить и как проверять допустимость результата.
Непрерывное и дискретное состояние · Условная генерация · Управление генерацией (guidance) · Жёсткое ограничение · Повторное маскирование и сохранение токенов
1. Управляйте непрерывным представлением
Diffusion-LM Improves Controllable Text Generation — Li et al. · NeurIPS 2022
Разделы 4–5: эмбеддинги, округление и управляемая генерация.
Diffusion-LM применяет градиентное управление к непрерывным промежуточным представлениям, затем возвращается к словам.
Проверьте себя
Доказывает ли улучшение оценки управляющей модели выполнение ограничения в готовом тексте?
Ориентир для ответа
Нет. Улучшение оценки не гарантирует точного выполнения ограничения после декодирования. Если допустимость обязательна, проверяйте готовый текст независимым валидатором.
2. Задайте исходную последовательность
DiffuSeq: Sequence to Sequence Text Generation with Diffusion Models — Gong et al. · ICLR 2023
Исходный DiffuSeq (ICLR 2023): условная генерация и оценка. DiffuSeq-v2 — более поздний метод; не смешивайте их настройки.
DiffuSeq решает генерацию текста по входной последовательности. Такая условная генерация не равнозначна точному сохранению фрагмента выходного текста.
Проверьте себя
Достаточно ли оценки на перефразировании для применения модели к редактированию кода с точным форматом?
Ориентир для ответа
Нет. Задайте проверки своей задачи: неизменённые области, синтаксис, обязательные поля и смысл. Условия оценки должны соответствовать применению.
3. Заполняйте пропуски, различая гарантии
Условия заполнения пропусков и правила условной генерации.
SEDD исследует заполнение пропусков с окружающим контекстом. Сохранение наблюдаемых токенов и выполнение смыслового требования — разные свойства.
Проверьте себя
Какие две проверки нужны для сгенерированного фрагмента?
Ориентир для ответа
Проверьте неизменность защищённого контекста и отдельно соответствие нового фрагмента задаче. Выполнение одной проверки не доказывает другую.
Примените прочитанное
Опишите контракт управления: изменяемая область, фиксированный контекст, управляющий сигнал, валидатор и допустимое поведение при ошибке. Эти примеры для чтения не являются сертифицированными декодерами с ограничениями.