arXiv · 12.06.2026 ·ИИ-агенты и память

Новый подход к редактированию знаний в ИИ-агентах

Исследователи из MIT и Университета Карнеги-Меллона представили новый метод редактирования знаний в ИИ-моделях, который позволяет обновлять конкретные факты, не затрагивая близлежащие, но нерелевантные данные. В статье, опубликованной на arXiv, авторы предлагают использовать память, которая извлекается во время инференса, и адаптеры для коррекции предпочтений модели.

Ключевая идея работы заключается в том, что важно не только знать, как вносить изменения, но и когда их подавлять. Это особенно актуально для ИИ-агентов, которые должны оперативно обновлять свои знания, не теряя при этом общую консистенцию и точность.

Авторы предлагают использовать route-specialized dual adapters, которые позволяют более точно контролировать процесс редактирования. Это может быть полезно для агентов, которые работают с динамическими данными и должны быстро адаптироваться к новым условиям.

Разработчики Jarv могут использовать этот подход для улучшения системы памяти и редактирования знаний в своих агентах. Это позволит сделать агентов более гибкими и адаптивными, что является ключевым для их эффективной работы в реальных условиях.

Источник: arXiv

Похожие материалы

arXiv · Обучение и генерализация в ИИ-агентах Новый фреймворк для обучения ИИ-агентов в условиях зависимости данных Исследователи из Arxiv представили новый фреймворк для обучения ИИ-агентов, который учитывает зависимость данных. В статье "Learning with Simulators: No Regret in a Computationally Bounded World" авторы рассматривают минимальные предположения, необходимые для генерализации в условиях, где данные не являются независимыми. Это особенно важно для ИИ-агентов, которые часто работают с последовательными или взаимосвязанными данными, например, в задачах планирования или взаимодействия с окружающей средой. arXiv · ИИ-агенты и память Исследование геометрии памяти в непрерывном обучении Учёные изучили структуру памяти в непрерывном обучении, чтобы понять, как ИИ-агенты могут сохранять знания без катастрофического забывания. Исследование основано на фреймворке Accessibility Collapse и анализирует, как модели, такие как ResNet-18, теряют и восстанавливают информацию при обучении на последовательных задачах. Hacker News · ИИ-агенты и память Рекурсивные языковые модели и нейросимволическое управление контекстом Исследователи предлагают новый подход к управлению контекстом в ИИ-агентах, сочетающий рекурсивные языковые модели и нейросимволические методы. Этот метод позволяет более эффективно обрабатывать и хранить информацию, что критически важно для построения сложных агентов. Hacker News · AI-агенты и память Исследование: случайный прорыв в памяти ИИ-агентов Исследователи из Coder Company случайно достигли нового уровня в области памяти ИИ-агентов, используя подход, основанный на AI-компаньонах. В ходе эксперимента они обнаружили, что агенты, взаимодействующие друг с другом, способны сохранять и использовать информацию более эффективно, чем традиционные методы. Hacker News · Знание и долг Почему ИИ-агентам нужен аналог технического долга В разработке ПО давно существует понятие «технического долга» — накопление проблем, которые нужно исправить, но откладываются на потом. Автор статьи предлагает аналогичный подход для «знания» — концепцию «knowledge debt». Это особенно актуально для ИИ-агентов, которые работают с огромными объёмами данных и моделей. Hacker News · ИИ-агенты и память Проблема памяти в ИИ: почему системы всё ещё работают как поиск Автор статьи Jeffrey Flynt поднимает важный вопрос о текущем состоянии памяти в ИИ-агентах. Он утверждает, что большинство современных систем, включая RAG (Retrieval-Augmented Generation), работают по принципу поиска, а не по принципу истинной памяти. Это означает, что они не могут эффективно хранить и использовать контекстную информацию в долгосрочной перспективе, а лишь извлекают данные из базы при каждом запросе. arXiv · RAG и аналитическое мышление Как RAG помогает ИИ-агентам решать сложные задачи через аналогии Исследователи из MIT и Google Research предложили новый подход к улучшению способности языковых моделей решать сложные задачи через аналогии. В работе, опубликованной на arXiv, они демонстрируют, как Retrieval-Augmented Generation (RAG) может быть адаптирован для более эффективного решения задач, требующих нестандартного мышления. arXiv · Робототехника и ИИ-агенты Как улучшить надёжность ИИ-агентов в робототехнике Исследователи из MIT и других ведущих университетов предложили новый подход к улучшению надёжности ИИ-агентов в робототехнике. В своей работе, опубликованной на arXiv, они рассматривают проблему обнаружения аномалий в поведении роботов, управляемых генеративными моделями. The latest research from Google · Разумные агенты и байесовские сети Исследование Google: как обучить ИИ разумно рассуждать Исследователи Google представили новый подход к обучению языковых моделей разумному рассуждению на основе байесовских принципов. В статье, опубликованной на официальном блоге Google Research, описывается метод, который позволяет моделям лучше обрабатывать вероятностные данные и принимать решения в условиях неопределенности. Это особенно важно для разработки ИИ-агентов, которые должны работать в динамических и сложных средах, где точность и логичность рассуждений критически важны. arXiv · ИИ-агенты и память Память в ИИ для прогнозирования трафика Исследователи из Университета Цинхуа и других ведущих вузов представили новый подход к прогнозированию состояния дорожного движения с использованием памяти. В статье, опубликованной на arXiv, они предлагают Memory-Augmented Graph Liquid Time-Constant Networks (M-GLTN) — модель, которая решает проблему нехватки данных в некоторых регионах за счёт переноса знаний из других областей.

← Все материалы