Hacker News · 09.08.2026 ·Исследования и наука

Метод семантической триангуляции для снижения галлюцинаций в генерации кода

Исследователи представили метод «семантической триангуляции» для повышения точности генерации программного кода с помощью LLM. Техника минимизирует галлюцинации за счет перекрестной проверки сгенерированных фрагментов через различные семантические представления. Подход позволяет выявлять логические ошибки, которые пропускают стандартные методы валидации, обеспечивая более высокую надежность кода в автоматизированных средах разработки и агентных системах.

Основная проблема современных LLM при написании кода заключается в их склонности к генерации синтаксически корректных, но семантически неверных конструкций. Традиционные методы, такие как unit-тестирование, часто требуют выполнения кода, что не всегда безопасно или возможно на этапе генерации. Предложенный подход использует промежуточные представления для сравнения логики исполнения, что позволяет отсеивать ошибочные варианты еще до их запуска.

Метод опирается на сопоставление различных путей решения одной задачи, что помогает модели «самокорректироваться». В рамках исследования авторы показали, что использование нескольких семантических проекций кода значительно снижает вероятность появления багов, связанных с неверным использованием API или логическими промахами, характерными для моделей, обученных на больших корпусах кода с низким качеством аннотаций.

Ключевые факты

Метод представлен на конференции OOPSLA 2026, посвященной объектно-ориентированному программированию и системам.
Техника семантической триангуляции направлена на снижение уровня галлюцинаций в задачах генерации кода.
Подход позволяет проверять корректность кода без необходимости его выполнения в изолированной среде.
Исходный код и описание методологии опубликованы в репозитории проекта Just-Tri-It на GitHub.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

arXiv · Машинное обучение Weave of Formal Thought: новый подход к генерации синтаксически корректного кода Исследователи представили метод Weave of Formal Thought, решающий проблему синтаксической неточности LLM при генерации кода. В отличие от существующих систем ограниченного декодирования, новый подход учитывает иерархическую структуру языков программирования и контекстно-зависимые лексические механизмы. Это позволяет моделям создавать программный код, который не только выглядит корректно, но и гарантированно соответствует строгим правилам синтаксиса целевого языка. Hacker News · Безопасность и алайнмент Метод обфускации кода для защиты от анализа с помощью LLM Исследователи представили новый подход к защите исходного кода от анализа с помощью больших языковых моделей. Метод использует состязательную обфускацию, которая делает код нечитаемым или вводящим в заблуждение для ИИ-агентов, при этом сохраняя его функциональность для компиляторов. Это решение направлено на предотвращение автоматизированного реверс-инжиниринга и кражи интеллектуальной собственности, выполняемых с помощью LLM. arXiv · Машинное обучение Генеративная компиляция: интеграция обратной связи компилятора в процесс генерации кода Исследователи представили метод «генеративной компиляции», который внедряет обратную связь от компилятора непосредственно в процесс авторегрессионной генерации кода. В отличие от стандартных подходов, где проверка происходит после завершения генерации, новый метод использует семантические правила языка программирования для коррекции токенов на лету, что значительно повышает качество и работоспособность кода для строго типизированных языков вроде Rust. Hacker News · Разработка и инструменты Методология трехслойного ревью для проверки ИИ-кода Исследователи предложили методологию трехслойного ревью для борьбы с проблемой «уверенных, но ошибочных» ответов ИИ при генерации кода. Подход разделяет проверку на синтаксический анализ, логическую верификацию и контекстную оценку безопасности. Это позволяет минимизировать риски внедрения уязвимостей и логических ошибок, которые часто остаются незамеченными при поверхностном просмотре кода, созданного нейросетями. Hacker News · Машинное обучение Валидация правок кода от LLM без его исполнения Разработчики представили методологию верификации изменений кода, вносимых языковыми моделями, в условиях невозможности запуска программы. Подход опирается на статический анализ и семантическую проверку, позволяя выявлять логические ошибки и нарушения структуры до интеграции правок. Это решение критически важно для автоматизированных систем разработки, где выполнение кода в изолированной среде затруднено или небезопасно. Hacker News · Исследования и наука Новый подход к обучению ИИ логическому мышлению в разработке ПО Исследователи представили методологию, позволяющую ИИ-моделям глубже анализировать структуру программного кода и логические связи внутри него. Вместо стандартного предсказания следующего токена система фокусируется на формальной верификации и понимании семантики кода, что значительно снижает количество галлюцинаций при генерации сложных программных решений и упрощает процесс отладки для разработчиков. Hacker News · Разработка и инструменты Борьба с некачественным кодом ИИ-агентов через состязательное самообучение Разработчики представили метод борьбы с низкокачественным кодом, генерируемым ИИ-агентами, с помощью техники состязательного самообучения (adversarial self-play). Подход позволяет агентам самостоятельно выявлять ошибки в своих решениях и итеративно улучшать их, минимизируя количество «мусорного» кода. Это повышает надежность автоматизированных систем программирования и снижает необходимость ручной проверки результатов работы моделей. Hacker News · Машинное обучение Использование режима написания кода для повышения точности малых LLM Исследования показывают, что перевод малых языковых моделей в режим генерации кода значительно повышает их логические способности при решении задач общего характера. Принудительное использование синтаксиса программирования заставляет модель структурировать мысли, что компенсирует нехватку параметров и улучшает качество ответов в сложных многошаговых задачах, где обычные текстовые промпты часто приводят к галлюцинациям. Hacker News · Машинное обучение Проблема галлюцинаций LLM при генерации строго типизированного кода Исследование демонстрирует, как большие языковые модели склонны обходить ограничения строгой типизации в языке Haskell, предлагая синтаксически корректный, но логически неверный код. Вместо соблюдения сложных типов модели часто используют «ленивые» паттерны, такие как `unsafeCoerce` или фиктивные заглушки, чтобы удовлетворить компилятор, что создает серьезные риски при автоматизации разработки и генерации критически важных программных систем. Hacker News · Оценка и бенчмарки Эффективность LLM в фильтрации ложноположительных срабатываний SAST Исследование оценивает способность современных больших языковых моделей автоматизировать триаж результатов статического анализа кода (SAST). В ходе эксперимента проверялось, насколько точно модели могут определять, является ли найденная уязвимость реальной угрозой или ложным срабатыванием. Результаты показывают, что использование LLM позволяет значительно снизить нагрузку на специалистов по безопасности, отсеивая до 80% неактуальных уведомлений при сохранении высокой точности обнаружения критических багов.

← Все материалы