Память и RAG
Почему большие контекстные окна в ИИ-агентах могут быть обманчивы
Недавний пост на платформе HN поднимает важный вопрос о надежности больших контекстных окон в ИИ-моделях. Автор статьи, Garrit Franke, утверждает, что несмотря на то, что большие контекстные окна позволяют моделям обрабатывать больше информации, это не всегда приводит к лучшим результатам. В частности, он отмечает, что модели могут терять фокус на ключевых деталях, что особенно критично для ИИ-агентов, где точность и контекстуальная релевантность имеют первостепенное значение.
Как сохранить контекст в ИИ-агентах без потери производительности
Разработчики ИИ-агентов часто сталкиваются с проблемой ограниченного контекста: модели не могут удерживать большие объёмы информации, что снижает их эффективность. Новый инструмент Claude API Saver предлагает решение этой проблемы, позволяя сохранять и управлять контекстом без потери производительности.
Lime 2.0: аутентификация для ИИ-агентов без участия человека
Команда Lime представила обновлённую версию своей системы аутентификации Lime 2.0, которая позволяет ИИ-агентам взаимодействовать с сервисами без участия человека. Это решение может стать важным шагом в развитии автономных агентов, так как устраняет необходимость в ручном подтверждении действий.
ScreenMind: локальный поиск по визуальной памяти
ScreenMind — это инструмент для поиска по визуальной памяти, работающий полностью на устройстве. Он позволяет пользователям искать и находить визуальные данные, такие как скриншоты, изображения и другие визуальные элементы, которые были сохранены в памяти устройства. Это может быть полезно для разработчиков ИИ-агентов, которые хотят интегрировать визуальные данные в свои системы.
Анализ пузыря ИИ: новые данные и прогнозы
Экономисты из CEPR (Centre for Economic Policy Research) запустили проект AI Bubble Monitor, который отслеживает динамику инвестиций в ИИ-стартапы и оценивает риски перегрева рынка. По данным проекта, в 2023 году объем инвестиций в ИИ-компании вырос на 40% по сравнению с предыдущим годом, что может свидетельствовать о формировании пузыря.
Engram: оффлайн-сервер MCP для обмена памятью между ИИ-агентами
Команда разработчиков представила Engram — оффлайн-сервер MCP (Memory-Centric Protocol), предназначенный для обмена памятью между ИИ-агентами. Проект доступен на GitHub и предлагает решение для локального хранения и управления памятью, что особенно важно для агентов, работающих в оффлайн-режиме или с ограниченным доступом к облачным сервисам.
MiMo Code: масштабирование агентов для сложных задач
Команда Xiaomi представила фреймворк MiMo Code, который позволяет масштабировать ИИ-агентов для выполнения задач с длинным горизонтом. Это значит, что агенты могут работать с многоэтапными процессами, требующими последовательного выполнения действий и координации между разными модулями.
Локальная система памяти для RAG с возможностью записи ИИ
Разработчик Paul Tobey представил локальную систему памяти для RAG (Retrieval-Augmented Generation), которая позволяет ИИ-агентам напрямую записывать информацию. Проект доступен на GitHub и реализует механизм, аналогичный Memory Control Plane (MCP), но с упором на локальное хранение данных.
AgentGraph: графовая модель для управления контекстом в ИИ-агентах
Разработчики ИИ-агентов сталкиваются с проблемой эффективного управления контекстом, особенно при работе с длинными цепочками диалогов или сложными задачами. В новом подходе, представленном в AgentGraph, предлагается использовать графовую модель для хранения и обработки контекста. Это позволяет не только сохранять информацию в структурированном виде, но и обеспечивает более гибкий доступ к данным, что особенно важно для агентов, работающих с большими объемами информации.
Renwei Writing: ИИ-скилл для редактирования текста с сохранением авторского стиля
Разработчики orange2ai представили новый ИИ-скилл под названием Renwei Writing, который позволяет редактировать тексты пользователей, сохраняя их индивидуальный стиль и голос. Этот инструмент может быть полезен для создания более естественных и персонализированных текстов, что особенно важно при работе с ИИ-агентами, которые должны взаимодействовать с пользователями на их языке.
Как визуально-языковые модели смотрят на изображения
Исследователи из MIT и Google Research выяснили, что визуально-языковые модели (VLM) используют специфический механизм для описания изображений. Они обнаружили небольшой набор attention heads в языковой части модели, которые называют gaze heads. Эти heads отслеживают конкретные области изображения, которые модель описывает в данный момент. Это открытие важно для понимания того, как модели обрабатывают визуальную информацию и как можно улучшить их точность и интерпретируемость.
CORA: метод для устранения разрыва между мышлением и ответом в многомодальных ИИ-агентах
Исследователи из MIT и других ведущих университетов представили метод CORA (Consistency-Oriented Reasoning Alignment), который решает проблему несоответствия между процессом рассуждений и конечным ответом в многомодальных системах с подкрепляющим обучением и проверяемыми вознаграждениями (RLVR).
Исследование: как ИИ может генерировать ценные математические доказательства
Недавнее исследование, опубликованное на arXiv, рассматривает проблему генерации ценных математических доказательств с помощью ИИ. Авторы моделируют этот процесс как вложенную генерацию языка в пределе, где формальный язык F, доступный через оракул принадлежности (проверяющий доказательства), содержит ценные математические утверждения.
Новый подход к редактированию знаний в ИИ-агентах
Исследователи из MIT и Университета Карнеги-Меллона представили новый метод редактирования знаний в ИИ-моделях, который позволяет обновлять конкретные факты, не затрагивая близлежащие, но нерелевантные данные. В статье, опубликованной на arXiv, авторы предлагают использовать память, которая извлекается во время инференса, и адаптеры для коррекции предпочтений модели.
Как улучшить надёжность ИИ-агентов в робототехнике
Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями.
Prometheus Jeff Bezos собирает $12 млрд для создания ИИ-инженера
Компания Prometheus, основанная Джеффом Безосом, привлекла $12 млрд инвестиций, что оценило её в $41 млрд. Startup ставит амбициозную цель — создать «искусственного общего инженера» (Artificial General Engineer), способного автоматизировать сложные инженерные задачи и разработку лекарств.
xAI запускает Grok Build Plugin Marketplace с поддержкой MongoDB, Vercel и других
xAI представила Grok Build Plugin Marketplace — встроенный маркетплейс для терминальных приложений, который предоставляет доступ к навыкам, агентам, хукам и серверам MCP. Этот маркетплейс позволяет интегрировать плагины от таких компаний, как MongoDB, Vercel, Sentry, Chrome DevTools, Cloudflare и Superpowers, что значительно расширяет функциональность ИИ-агентов.
EvoArena: тестирование памяти ИИ-агентов в динамичных средах
Исследователи из MIT и других ведущих университетов представили EvoArena — новый бенчмарк для оценки способности ИИ-агентов адаптироваться в динамичных средах. Проблема в том, что большинство тестов для LLM-агентов предполагают статичные условия, тогда как реальный мир требует постоянного обновления знаний и навыков.
Как RAG помогает ИИ-агентам решать сложные задачи через аналогии
Исследователи из MIT и Google Research предложили новый подход к улучшению способности языковых моделей решать сложные задачи через аналогии. В работе, опубликованной на arXiv, они демонстрируют, как Retrieval-Augmented Generation (RAG) может быть адаптирован для более эффективного решения задач, требующих нестандартного мышления.
SpatialClaw: новый интерфейс для пространственного мышления ИИ-агентов
Исследователи из MIT и других ведущих университетов представили новый подход к решению проблемы пространственного мышления в ИИ-агентах. В работе SpatialClaw они предлагают пересмотреть интерфейс действий, через который агенты взаимодействуют с инструментами для восприятия пространства. Это особенно важно для задач, требующих понимания расположения объектов, их взаимосвязей и движений в 3D-пространстве.
Исследование геометрии памяти в непрерывном обучении
Учёные изучили структуру памяти в непрерывном обучении, чтобы понять, как ИИ-агенты могут сохранять знания без катастрофического забывания. Исследование основано на фреймворке Accessibility Collapse и анализирует, как модели, такие как ResNet-18, теряют и восстанавливают информацию при обучении на последовательных задачах.
Исследование: ИИ и люди используют схожие механизмы мышления
Новое исследование, опубликованное на arXiv, бросает вызов распространённому мнению о том, что люди и ИИ используют принципиально разные механизмы мышления. Авторы сравнили способность людей и больших языковых моделей (LLM) к обобщению и логическому выводу. Они обнаружили, что и те, и другие часто полагаются на сопоставление шаблонов, а не на строгие абстрактные модели мира.
LabVLA: ИИ-агенты для выполнения научных экспериментов
Исследователи представили LabVLA — фреймворк, который позволяет ИИ-агентам не только анализировать научные данные и генерировать гипотезы, но и выполнять физические действия в лабораториях. Это важный шаг в интеграции ИИ в реальные научные процессы, где до сих пор требуется человеческое вмешательство.
DeepMind инвестирует в робототехнику в Европе
DeepMind объявил о масштабной инициативе по развитию робототехники в Европе. Компания планирует инвестировать значительные ресурсы в исследования и разработки, чтобы ускорить внедрение ИИ в робототехнические решения. Это включает в себя сотрудничество с ведущими европейскими университетами и исследовательскими центрами, а также создание новых лабораторий и программ обучения.