Память и RAG
Stack Overflow перерождается в бэкенд для ИИ-агентов
Stack Overflow, один из крупнейших ресурсов для разработчиков, начинает трансформироваться в бэкенд-сервис для ИИ-агентов. Это значительное изменение направлено на предоставление агентов доступа к актуальным и проверенным знаниям, что критически важно для их эффективной работы.
Как LLMs меняют работу инженеров
Исследование компании Aha.io показывает, как языковые модели меняют подходы инженеров к разработке. По данным опроса, 78% инженеров используют LLMs для генерации кода, 65% — для отладки, а 52% — для проектирования архитектуры. Это существенный сдвиг в индустрии, который требует пересмотра процессов и инструментов.
Pgsemantic: векторный поиск для Postgres без сложной настройки
Pgsemantic — это инструмент, который добавляет возможности векторного поиска в PostgreSQL с минимальными усилиями. Проект позволяет быстро интегрировать векторные запросы в существующую инфраструктуру, что может быть полезно для разработки ИИ-агентов, особенно в задачах, связанных с поиском и обработкой информации.
Сравнение BM25, векторного и гибридного поиска для RAG
В статье на Weaviate Playground проведён подробный анализ трёх подходов к поиску информации: BM25, векторного поиска и их комбинации в гибридном режиме. Это особенно важно для разработчиков ИИ-агентов, так как эффективный поиск — ключевой компонент систем RAG (Retrieval-Augmented Generation).
MemSoph: фреймворк для управления памятью ИИ-агентов
MemSoph — это новый фреймворк, разработанный для управления памятью ИИ-агентов. Он позволяет агентам эффективно хранить, обновлять и извлекать информацию, что критически важно для их долгосрочной работы. Фреймворк использует комбинацию векторных баз данных и традиционных хранилищ, обеспечивая гибкость и производительность.
ContextRL: контекст-осознанное обучение для улучшения работы ИИ-агентов
Исследователи из MIT и других ведущих университетов представили новый метод ContextRL, который улучшает способность языковых моделей (LLM) работать с длинными и сложными контекстами. Проблема заключается в том, что традиционные LLM часто не могут выделить ключевые детали в объемных данных, будь то строка в логах или мелкий элемент на изображении. ContextRL использует методы подкрепляющего обучения (RL), чтобы улучшить долгосрочное рассуждение и работу с мультимодальными данными.
Geometric Action Model для обучения политик роботов
Исследователи из MIT и Google DeepMind представили новый подход к обучению политик роботов, который учитывает геометрию физического мира. В статье, опубликованной на arXiv, авторы предлагают Geometric Action Model (GAM), который позволяет роботам не только следовать инструкциям пользователей, но и учитывать взаимодействие объектов, камер и действий робота в 3D пространстве.
KVEraser: метод для точного удаления контекста из кэша KV
Исследователи из MIT и Google Research представили метод KVEraser, который решает проблему точного удаления контекста из кэша ключ-значение (KV) в больших языковых моделях. Проблема заключается в том, что при удалении части контекста его влияние распространяется на все последующие токены, что делает локальные правки сложными.
DEEPRUBRIC улучшает обучение ИИ-агентов через рубричное подкрепление
Исследователи из MIT и других ведущих университетов представили DEEPRUBRIC — метод, который использует рубричное подкрепление для повышения эффективности обучения ИИ-агентов, специализирующихся на создании длинных отчетов. В основе метода лежит использование дерева доказательств, которое помогает агентам анализировать и синтезировать информацию из различных источников.
FusionRS: новый датасет для визуально-языковых моделей с инфракрасными данными
Исследователи представили FusionRS — крупномасштабный датасет, объединяющий RGB- и инфракрасные изображения для задач дистанционного зондирования Земли. В отличие от существующих решений, которые фокусируются только на RGB-изображениях, FusionRS включает инфракрасные данные, что позволяет использовать дополнительные характеристики, такие как тепловые структуры, границы объектов и освещение-инвариантные признаки.
TokenPilot: эффективное управление контекстом для LLM-агентов
Исследователи из MIT и других ведущих университетов представили TokenPilot — новый подход к управлению контекстом для LLM-агентов, который решает проблему накопления контекста в длительных сессиях.
PACT: гибридная архитектура для планирования в RL
Исследователи из MIT и других университетов предложили новую архитектуру PACT (Plan, Align, Commit, Think), которая объединяет реактивные политики обучения с подкреплением (RL) с медленным, но осознанным планированием с помощью малого языкового модели (SLM). Это решение направлено на проблему деградации RL-политик в незнакомых средах, где отсутствует явное планирование.
Фреймворк на основе агентов для классификации кодов гармонизированной таможенной системы
Исследователи предложили фреймворк на основе агентов для точной классификации кодов гармонизированной таможенной системы (HTS). Этот фреймворк решает сложную задачу классификации товаров, которая критически важна для таможенного оформления, оценки пошлин, торговой статистики и соблюдения нормативных требований в морской логистике. Проблема заключается в том, что описания товаров часто неполные или неоднозначные, а правильная классификация требует учета иерархических структур тарифов, юридических заметок и других факторов.
Фреймворк для аудита синтетических данных
Исследователи из MIT и других ведущих университетов представили новый фреймворк для аудита синтетических данных, генерируемых с помощью ИИ. В работе, опубликованной на arXiv, авторы предлагают каузальный подход к выявлению утечек конфиденциальной информации в синтетических наборах данных.
Почему агентные циклы не решают проблему лживых агентов
В статье на tsdevstack.dev рассматривается проблема лживых агентов и почему агентные циклы не являются решением этой проблемы. Автор подчёркивает, что агентные циклы, которые предполагают многократное выполнение задач с целью улучшения результатов, не могут гарантировать достоверность информации. Это особенно важно для разработчиков ИИ-агентов, так как ложные данные могут привести к серьёзным ошибкам в работе системы.
Kster.ai: контекст для агентов через MCP
Kster.ai представляет инструмент, который структурирует контекст для ИИ-агентов, используя протокол MCP (Memory Context Protocol). Это позволяет агентам получать доступ к актуальной информации о продукте, что критически важно для их эффективной работы.
Проблема агента и принципала в ИИ-системах
В статье на blog.crawshaw.io рассматривается проблема агента и принципала (principal-agent problem) в контексте разработки ИИ-агентов. Эта проблема возникает, когда интересы агента (в данном случае, ИИ) не совпадают с интересами принципала (человека или организации, использующей ИИ). Автор подчеркивает, что в традиционных системах управление агентами основано на строгих правилах и процедурах, тогда как в ИИ-агентах требуется более гибкий подход.
The Hanging Gardens Problem: вызов для памяти ИИ-агентов
Исследователи из ar-ms.me представили концепцию The Hanging Gardens Problem (THGP), которая ставит под сомнение традиционные подходы к хранению и управлению информацией в ИИ-агентах. Проблема заключается в том, что при увеличении объема данных, которые агент должен запоминать и обрабатывать, его эффективность начинает падать из-за фрагментации и несоответствий в информации.
World-Action Models: от воображения к действию
NVIDIA представила концепцию World-Action Models (WAM), новых моделей, которые сочетают в себе возможности визуально-языковых моделей (VLM) с возможностью выполнения действий. Эти модели начинают с предобученного VLM-основания и адаптируют его для выполнения конкретных задач, что делает их перспективными для создания ИИ-агентов, способных не только понимать, но и взаимодействовать с окружающим миром.
Agentic Coding for Maps: как ИИ-агенты могут работать с картами
Команда OpenMaps.dev представила проект Agentic Coding for Maps, который исследует возможности использования ИИ-агентов для работы с геоданными. Проект демонстрирует, как агенты могут автоматически анализировать, обрабатывать и визуализировать картографические данные, что может быть полезно для создания интерактивных карт, маршрутизации и других геопространственных приложений.
ИИ-модели проходят стандартный тест Тьюринга
Исследование, опубликованное в журнале PNAS, показало, что крупные языковые модели успешно проходят стандартный трёхсторонний тест Тьюринга. В эксперименте участвовали 1600 человек, которые общались с ИИ-моделями и людьми, а затем пытались определить, кто из собеседников — человек, а кто — ИИ. Результаты показали, что участники не смогли надёжно различить ИИ и человека, что свидетельствует о высоком уровне человеко-подобности современных языковых моделей.
ИИ требует больше инженерной дисциплины
В статье на Substack автор поднимает важный вопрос о том, что развитие ИИ требует не меньшей, а большей инженерной дисциплины. Это связано с тем, что ИИ-системы становятся всё более сложными и требуют тщательного управления, тестирования и оптимизации. Автор отмечает, что в условиях быстрого развития технологий и высокой конкуренции, компании часто склонны жертвовать качеством ради скорости. Однако, как показывает практика, именно дисциплинированный подход к разработке позволяет создавать более надёжные и эффективные системы.
FastContext-1.0-4B-SFT: лёгкий суб-агент для поиска в репозиториях
Microsoft выпустила FastContext-1.0-4B-SFT — модель, предназначенную для работы в качестве суб-агента, специализирующегося на поиске и анализе информации в репозиториях. Это лёгкая модель, обученная на данных из GitHub, что делает её полезной для задач, связанных с поиском кода, документов и других данных в репозиториях.
936 эпизодов Lex Fridman в RAG с цитированием источников
Разработчик Джонни Арана создал RAG-систему, которая индексирует 936 эпизодов подкаста Lex Fridman и позволяет пользователям получать ответы с точными ссылками на источники. Проект доступен на GitHub и может быть полезен для разработчиков ИИ-агентов, работающих с большими объемами текста и нуждающихся в точном цитировании источников.