Исследователи проанализировали эффективность оптимизаторов при обучении межатомных потенциалов на базе машинного обучения (MLIPs). Традиционно в этой области доминирует алгоритм Adam, однако внедрение методов второго порядка, таких как SOAP и Muon, позволяет значительно ускорить сходимость моделей и повысить их точность при меньшем объеме обучающих данных, что критически важно для научных симуляций.

В работе проведено систематическое сравнение производительности различных оптимизаторов на стандартных архитектурах MLIP. Авторы показывают, что адаптивные методы второго порядка, которые учитывают кривизну функции потерь, обеспечивают более стабильное обучение в сложных ландшафтах оптимизации, характерных для физико-химических задач. Это позволяет сократить время обучения без потери качества предсказаний атомных взаимодействий.

Использование более совершенных алгоритмов оптимизации открывает путь к созданию более масштабных и точных моделей для молекулярного моделирования. Переход от стандартных градиентных методов к более сложным подходам позволяет эффективнее использовать вычислительные ресурсы и быстрее достигать целевых показателей точности в задачах материаловедения и биофизики.

Ключевые факты

  • Исследование сфокусировано на оптимизации обучения MLIPs, которые являются стандартом для научных симуляций.
  • Проведено сравнение классического оптимизатора Adam с новыми методами второго порядка — SOAP и Muon.
  • Установлено, что новые методы обеспечивают более высокую эффективность обучения при ограниченном количестве размеченных данных.
  • Результаты работы способствуют ускорению разработки моделей для предсказания свойств материалов и химических реакций.