Исследователи представили Autodata — агентную систему для автоматизированного создания синтетических наборов данных, предназначенных для обучения моделей машинного обучения. Система имитирует работу дата-сайентиста, самостоятельно выполняя итеративный цикл генерации, фильтрации и проверки данных. Это позволяет значительно повысить качество обучающих выборок, минимизируя шум и ошибки, характерные для стандартных методов синтеза данных.

В основе Autodata лежит агентный цикл, который анализирует требования к целевой задаче и формирует запросы для генеративных моделей. Важной особенностью системы является встроенный механизм валидации: агент не просто создает контент, но и проводит автоматические тесты на соответствие статистическим распределениям и логическую непротиворечивость. Такой подход решает проблему деградации моделей при обучении на «грязных» синтетических данных.

Использование агентных систем для подготовки данных становится критически важным направлением, так как запасы качественных человеческих данных для обучения LLM и других архитектур постепенно истощаются. Autodata демонстрирует, что автоматизация этапа подготовки данных позволяет не только масштабировать процесс, но и улучшать итоговые метрики моделей на сложных задачах, требующих высокой точности и специфических доменных знаний.

Ключевые факты

  • Autodata использует агентный цикл для итеративной генерации и очистки синтетических данных.
  • Система включает автоматизированные модули валидации для проверки статистической достоверности данных.
  • Метод направлен на решение проблемы нехватки высококачественных данных для обучения современных нейросетей.
  • Подход позволяет снизить уровень шума в обучающих выборках по сравнению с традиционными методами генерации.
  • Исследование опубликовано в препринте arXiv под номером 2606.25996.