NVIDIA представила Nemotron Post-Training Prompt Atlas — интерактивный инструмент для анализа и визуализации данных, используемых при дообучении моделей семейства Nemotron. Ресурс позволяет изучать структуру промптов и ответов, помогая разработчикам лучше понимать принципы настройки моделей на следование инструкциям, а также оценивать качество обучающих датасетов, которые формируют поведение LLM в различных сценариях взаимодействия.

Атлас предоставляет доступ к систематизированной выборке данных, на которых обучались модели Nemotron-3. Инструмент позволяет фильтровать примеры по типам задач, сложности и стилистике ответов. Это дает возможность исследователям проводить глубокий анализ того, как конкретные формулировки в обучающей выборке влияют на итоговую точность, логику и безопасность генерации текста в реальных задачах.

Публикация такого набора данных является важным шагом в сторону прозрачности процессов пост-тренинга. В отличие от закрытых методов обучения, этот атлас позволяет сообществу увидеть, какие именно паттерны инструкций способствуют лучшему выполнению сложных запросов, и использовать эти данные для оптимизации собственных пайплайнов дообучения (SFT) и настройки моделей под специфические доменные задачи.

Ключевые факты

  • Инструмент размещен на платформе Hugging Face Spaces и доступен для публичного изучения.
  • База данных сфокусирована на методах пост-тренинга (Post-Training) для улучшения способности моделей следовать сложным инструкциям.
  • Атлас включает визуализацию связей между промптами и эталонными ответами, что помогает выявлять закономерности в качестве данных.
  • Ресурс ориентирован на исследователей и инженеров, занимающихся дообучением (fine-tuning) и RLHF-оптимизацией LLM.
  • Данные охватывают широкий спектр категорий запросов, от логических задач до творческого письма и написания кода.