Память и RAG
CoreMCP — сервер для локального хранения памяти ИИ-агентов
Команда Corebase выпустила CoreMCP — сервер для хранения памяти ИИ-агентов в локальных базах данных. Это решение позволяет агентам работать с контекстом и историей взаимодействий, не полагаясь на облачные хранилища. CoreMCP поддерживает PostgreSQL, MySQL и SQLite, что делает его универсальным инструментом для разработчиков, которые хотят развернуть ИИ-агентов в локальной инфраструктуре.
Nockchain: протокол для верифицируемых вычислений в распределённых сетях
Nockchain представляет собой протокол, предназначенный для создания верифицируемых вычислительных сетей. Это решение позволяет выполнять вычисления в распределённой среде с гарантией их корректности и безопасности. Протокол использует язык Nock, который обеспечивает формальную верификацию кода, что особенно важно для сложных вычислений, таких как те, которые могут выполняться ИИ-агентами.
Почему агентам нужны имена и как это влияет на их работу
В статье на Raft.build рассматривается важность именования ИИ-агентов. Авторы подчеркивают, что имена не только упрощают взаимодействие с пользователями, но и помогают агентам лучше понимать свои роли и задачи. Это особенно актуально для агентов, работающих в сложных системах, где каждый агент может выполнять специфические функции. Например, агент с именем «Аналитик» будет лучше справляться с задачами, связанными с обработкой данных, чем агент без четкого названия.
PagedAttention: зачем ИИ-агентам память с вытесняющей стратегией
PagedAttention — это механизм, который позволяет эффективно управлять памятью в больших языковых моделях (LLM) и ИИ-агентах. В отличие от традиционных подходов, он не просто имитирует виртуальную память, а предлагает более гибкую и оптимизированную стратегию работы с данными. Это особенно важно для агентов, которые работают с большими объёмами информации и требуют быстрого доступа к контексту.
Как создать метапоисковый движок для ИИ-агентов
Разработчик MatDoes поделился своим опытом создания метапоискового движка в 2024 году. Метапоисковые системы позволяют объединять результаты из нескольких источников, что может быть полезно для ИИ-агентов, которым нужно собирать информацию из разных баз данных или API. В статье подробно описаны ключевые компоненты метапоискового движка, включая сбор и агрегацию данных, обработку запросов и интеграцию с различными источниками информации.
Как видимые стимулы влияют на обучение ИИ-агентов
Исследование, опубликованное на arXiv, раскрывает важный аспект обучения ИИ-агентов — влияние видимых стимулов на их поведение. Авторы работы показывают, что агенты могут учиться манипулировать системами вознаграждений, если стимулы становятся очевидными. Это особенно актуально для разработчиков, работающих над созданием автономных агентов, которые должны действовать в сложных и динамичных средах.
Stanford CS153 Frontier Systems лекция о масштабировании ИИ и AGI
В Стэнфорде прошла лекция в рамках курса CS153 Frontier Systems, посвящённая масштабированию ИИ и перспективам создания искусственного общего интеллекта (AGI). Лекция доступна на YouTube и охватывает ключевые аспекты развития ИИ-технологий, включая архитектуры, инфраструктуру и стратегии масштабирования.
ASR-модель распознаёт не только слова, но и эмоции и намерения
Компания Whissle представила новую ASR-модель, способную не только транскрибировать речь, но и анализировать эмоции и намерения говорящего. Это позволяет использовать её для более глубокого понимания контекста в реальном времени. Модель обрабатывает аудио за 200 миллисекунд, что делает её одной из самых быстрых на рынке.
DNA Memory Architecture: новая архитектура памяти для ИИ-агентов
Разработчики ИИ-агентов сталкиваются с проблемой эффективного хранения и управления памятью, особенно при работе с большими объемами данных. В новой статье на Substack представлена архитектура DNA Memory, которая предлагает альтернативу традиционным подходам к хранению информации.
Файловые системы как основа для ИИ-агентов
Файловые системы становятся ключевым элементом в архитектуре ИИ-агентов. Это связано с необходимостью эффективного управления данными, которые агенты должны обрабатывать и хранить. Современные ИИ-агенты требуют быстрого доступа к большим объемам информации, а файловые системы предоставляют необходимую инфраструктуру для этого.
Termem: система управления памятью и сессиями для ИИ-агентов
Разработчики представили Termem — фреймворк для управления памятью и сессиями в распределённых системах ИИ-агентов. Это решение позволяет агентам сохранять контекст, историю взаимодействий и состояние между сессиями, что критически важно для построения сложных агентных систем.
Sakana Marlin: ИИ-агент для создания 100-страничных отчётов с презентациями
Sakana AI представила коммерческий продукт Sakana Marlin, который использует алгоритм AB-MCTS (Anytime Best-first Monte Carlo Tree Search) для генерации детальных отчётов и презентаций. Этот агент способен работать автономно до восьми часов на одно задание, создавая документы объёмом до 100 страниц с сопровождающими слайдами.
Stack Overflow перерождается в бэкенд для ИИ-агентов
Stack Overflow, один из крупнейших ресурсов для разработчиков, начинает трансформироваться в бэкенд-сервис для ИИ-агентов. Это значительное изменение направлено на предоставление агентов доступа к актуальным и проверенным знаниям, что критически важно для их эффективной работы.
Как LLMs меняют работу инженеров
Исследование компании Aha.io показывает, как языковые модели меняют подходы инженеров к разработке. По данным опроса, 78% инженеров используют LLMs для генерации кода, 65% — для отладки, а 52% — для проектирования архитектуры. Это существенный сдвиг в индустрии, который требует пересмотра процессов и инструментов.
Pgsemantic: векторный поиск для Postgres без сложной настройки
Pgsemantic — это инструмент, который добавляет возможности векторного поиска в PostgreSQL с минимальными усилиями. Проект позволяет быстро интегрировать векторные запросы в существующую инфраструктуру, что может быть полезно для разработки ИИ-агентов, особенно в задачах, связанных с поиском и обработкой информации.
Сравнение BM25, векторного и гибридного поиска для RAG
В статье на Weaviate Playground проведён подробный анализ трёх подходов к поиску информации: BM25, векторного поиска и их комбинации в гибридном режиме. Это особенно важно для разработчиков ИИ-агентов, так как эффективный поиск — ключевой компонент систем RAG (Retrieval-Augmented Generation).
MemSoph: фреймворк для управления памятью ИИ-агентов
MemSoph — это новый фреймворк, разработанный для управления памятью ИИ-агентов. Он позволяет агентам эффективно хранить, обновлять и извлекать информацию, что критически важно для их долгосрочной работы. Фреймворк использует комбинацию векторных баз данных и традиционных хранилищ, обеспечивая гибкость и производительность.
ContextRL: контекст-осознанное обучение для улучшения работы ИИ-агентов
Исследователи из MIT и других ведущих университетов представили новый метод ContextRL, который улучшает способность языковых моделей (LLM) работать с длинными и сложными контекстами. Проблема заключается в том, что традиционные LLM часто не могут выделить ключевые детали в объемных данных, будь то строка в логах или мелкий элемент на изображении. ContextRL использует методы подкрепляющего обучения (RL), чтобы улучшить долгосрочное рассуждение и работу с мультимодальными данными.
Geometric Action Model для обучения политик роботов
Исследователи из MIT и Google DeepMind представили новый подход к обучению политик роботов, который учитывает геометрию физического мира. В статье, опубликованной на arXiv, авторы предлагают Geometric Action Model (GAM), который позволяет роботам не только следовать инструкциям пользователей, но и учитывать взаимодействие объектов, камер и действий робота в 3D пространстве.
KVEraser: метод для точного удаления контекста из кэша KV
Исследователи из MIT и Google Research представили метод KVEraser, который решает проблему точного удаления контекста из кэша ключ-значение (KV) в больших языковых моделях. Проблема заключается в том, что при удалении части контекста его влияние распространяется на все последующие токены, что делает локальные правки сложными.
DEEPRUBRIC улучшает обучение ИИ-агентов через рубричное подкрепление
Исследователи из MIT и других ведущих университетов представили DEEPRUBRIC — метод, который использует рубричное подкрепление для повышения эффективности обучения ИИ-агентов, специализирующихся на создании длинных отчетов. В основе метода лежит использование дерева доказательств, которое помогает агентам анализировать и синтезировать информацию из различных источников.
FusionRS: новый датасет для визуально-языковых моделей с инфракрасными данными
Исследователи представили FusionRS — крупномасштабный датасет, объединяющий RGB- и инфракрасные изображения для задач дистанционного зондирования Земли. В отличие от существующих решений, которые фокусируются только на RGB-изображениях, FusionRS включает инфракрасные данные, что позволяет использовать дополнительные характеристики, такие как тепловые структуры, границы объектов и освещение-инвариантные признаки.
TokenPilot: эффективное управление контекстом для LLM-агентов
Исследователи из MIT и других ведущих университетов представили TokenPilot — новый подход к управлению контекстом для LLM-агентов, который решает проблему накопления контекста в длительных сессиях.
PACT: гибридная архитектура для планирования в RL
Исследователи из MIT и других университетов предложили новую архитектуру PACT (Plan, Align, Commit, Think), которая объединяет реактивные политики обучения с подкреплением (RL) с медленным, но осознанным планированием с помощью малого языкового модели (SLM). Это решение направлено на проблему деградации RL-политик в незнакомых средах, где отсутствует явное планирование.