The GitHub Blog · 31.07.2026 ·Данные и инжиниринг

Оптимизация поиска в коде: кейс-фолдинг на скорости 45 ГБ/с

Инженеры GitHub представили метод высокопроизводительного приведения символов к единому регистру (case-folding) при поиске в исходном коде. Используя арифметику байтового пространства и циклы без ветвлений, разработчикам удалось достичь скорости обработки более 45 ГБ/с на одном ядре процессора. Это решение позволяет значительно ускорить индексацию и поиск по огромным массивам данных без потери точности.

Традиционные подходы к обработке строк часто полагаются на условные переходы, которые замедляют выполнение из-за промахов предсказателя ветвлений процессора. В данном случае команда отказалась от раннего выхода из циклов и сложных проверок в пользу линейного сканирования. Такой подход превращает задачу обработки текста в последовательную операцию, максимально эффективно использующую пропускную способность памяти.

Техническая реализация опирается на побайтовую обработку, где каждый символ трансформируется с помощью фиксированных арифметических операций. Это исключает необходимость обращения к таблицам поиска (lookup tables) в оперативной памяти, что критически важно при работе с терабайтами кода. Метод демонстрирует, как низкоуровневая оптимизация алгоритмов обработки данных позволяет кратно повысить производительность поисковых систем.

Ключевые факты

Скорость обработки данных достигла 45 ГБ/с на одном вычислительном ядре.
Основной метод оптимизации — использование циклов без ветвлений (branch-free loops).
Отказ от раннего завершения операций (early exit) позволил стабилизировать время выполнения алгоритма.
Решение ориентировано на задачи полнотекстового поиска в больших репозиториях исходного кода.

Источник: The GitHub Blog

Обсудить с ИИ

Похожие материалы

Hacker News · Машинное обучение Оптимизация LLM для ускорения генерации программного кода Исследователи представили методы оптимизации языковых моделей, направленные на повышение скорости генерации программного кода. Основная проблема при работе с кодом заключается в высокой вычислительной сложности инференса, так как структура синтаксиса требует точного предсказания длинных последовательностей токенов. Авторы работы анализируют влияние различных архитектурных решений на задержку (latency) и пропускную способность при выполнении задач программирования. Hacker News · Данные и инжиниринг Ускорение векторных эмбеддингов в 14 раз: опыт Manticore Search Разработчики Manticore Search оптимизировали работу с векторными эмбеддингами, переработав путь обработки данных через ONNX Runtime. Внедрение изменений позволило увеличить скорость генерации векторов в 14 раз по сравнению с предыдущей реализацией. Обновление направлено на повышение производительности полнотекстового поиска и векторных операций в высоконагруженных поисковых системах. Hacker News · Инференс и железо DeepSeek представила методы оптимизации инференса с ускорением до 85% Компания DeepSeek опубликовала техническую документацию по методам оптимизации инференса, позволяющим ускорить генерацию текста на 60–85%. Разработка фокусируется на снижении задержек при работе с большими языковыми моделями за счет эффективного управления вычислительными ресурсами и оптимизации алгоритмов обработки токенов, что критически важно для масштабируемых агентных систем и высоконагруженных сервисов. Hacker News · ИИ в бизнесе Оптимизация потребления токенов в GitHub Copilot Разработчики GitHub Copilot представили обновленные подходы к управлению контекстным окном, направленные на повышение эффективности использования токенов. Основная задача изменений — сократить избыточную передачу данных в языковую модель без потери качества генерации кода. Инженеры пересмотрели алгоритмы формирования промптов, внедрив более интеллектуальные методы фильтрации и приоритизации фрагментов кода, которые действительно влияют на результат работы ИИ-ассистента. Hacker News · Инфраструктура для агентов Оптимизация веб-поиска для локальных LLM без перерасхода контекстного окна Разработан метод эффективного подключения веб-поиска к локальным языковым моделям, позволяющий минимизировать потребление токенов. Вместо передачи полного содержимого веб-страниц в контекстное окно, решение использует специализированные инструменты для извлечения релевантных фрагментов данных. Это позволяет компактным моделям выполнять поисковые задачи, сохраняя производительность и избегая ограничений контекста, характерных для работы с объемным контентом в реальном времени. arXiv · Данные и инжиниринг Jailbreak: новый метод ускорения аналитических запросов в обход СУБД Исследователи представили метод Jailbreak, позволяющий ускорить аналитическую обработку данных за счет прямого чтения файлов хранилища в обход стандартных драйверов СУБД. Система использует агентный подход для автоматической генерации высокопроизводительных ридеров, что устраняет узкие места, возникающие при использовании протоколов JDBC или ODBC в задачах bulk-аналитики, значительно повышая скорость извлечения данных. Hacker News · Данные и инжиниринг Асимметричное квантование для эффективного векторного поиска Компания mixedbread представила метод асимметричного квантования, позволяющий сократить объем памяти для хранения векторных эмбеддингов на 97% при сохранении точности поиска. Технология оптимизирует хранение индексов, минимизируя потери данных, что критически важно для масштабируемых RAG-систем и высокопроизводительных поисковых движков, работающих с миллиардами векторов в оперативной памяти. Hacker News · Машинное обучение Оптимизация разреженных тензорных вычислений на векторных процессорах Исследователи представили новый подход к выполнению разреженных тензорных операций на векторных архитектурах, позволяющий достичь производительности, близкой к теоретическому пределу (Roofline model). Метод существенно ускоряет инференс нейросетей, эффективно используя пропускную способность памяти и вычислительные ресурсы процессоров при работе с разреженными матрицами, что критически важно для оптимизации современных моделей с высокой степенью разреженности весов. Hacker News · Данные и инжиниринг Manticore Search ускорила генерацию эмбеддингов в 14 раз через оптимизацию ONNX Команда Manticore Search представила результаты оптимизации своего поискового движка, добившись 14-кратного ускорения процесса генерации векторных эмбеддингов. Переработка пути обработки данных через ONNX Runtime позволила значительно снизить накладные расходы при выполнении инференса моделей внутри системы, что критически важно для высоконагруженных RAG-систем и векторного поиска в реальном времени. Hacker News · Инфраструктура для агентов Новый подход к компиляции для LLM и моделей мира Исследователи представили концепцию специализированного компилятора, предназначенного для оптимизации работы LLM и моделей мира. Система переводит высокоуровневые агентные задачи в эффективный машинный код, минимизируя задержки при выполнении сложных логических цепочек. Это решение направлено на повышение производительности систем, работающих в режиме реального времени, и создание более надежной инфраструктуры для будущих автономных ИИ-агентов.

← Все материалы