Команда INT21 представила PTX Kernel Factory — инструмент для автоматической генерации и оптимизации ядер на уровне PTX (Parallel Thread Execution). Это позволяет ускорять вычисления в ИИ-моделях, особенно на графических процессорах NVIDIA.
PTX Kernel Factory автоматизирует процесс создания высокопроизводительных ядер, что упрощает разработку и развёртывание ИИ-решений. Инструмент поддерживает различные архитектуры GPU и оптимизирует код для максимальной производительности.
Ключевая особенность фабрики — её способность к самообучению. Она анализирует результаты выполнения и адаптирует ядра для повышения эффективности. Это особенно важно для задач, требующих высокой производительности, таких как инференс больших языковых моделей.
INT21 позиционирует свой инструмент как решение для разработчиков, стремящихся к оптимизации вычислений в ИИ. PTX Kernel Factory может значительно сократить время разработки и улучшить производительность моделей без ручной настройки.