MeMo: новый подход к непрерывному обновлению знаний больших языковых моделей

Способность больших языковых моделей (БЯМ) усваивать новые знания после обучения остается серьезной проблемой для корпоративного искусственного интеллекта. Существующие решения часто слишком дороги, медленны или ограничены размерами контекстного окна. Фреймворк MeMo, разработанный исследователями из нескольких университетов, предлагает инновационный подход: он кодирует новые знания в отдельную, меньшую модель памяти, которая функционирует независимо от основной БЯМ.

Эта модульная архитектура совместима как с открытыми, так и с закрытыми моделями, минуя сложность конвейеров RAG (Retrieval-Augmented Generation – генерация с дополнением извлекаемой информацией) и полное переобучение моделей. Эксперименты показывают, что MeMo надежно обрабатывает сложные запросы даже при наличии шума в системах извлечения. Он также позволяет избежать катастрофического забывания, связанного с прямым дообучением, и предлагает экономически эффективный путь для постоянного обновления знаний.

Проблемы обновления памяти БЯМ

Большие языковые модели после обучения становятся «замороженными», и их внутренние знания остаются статичными до тех пор, пока они не пройдут последующие, вычислительно ресурсоемкие обновления. В настоящее время разработчики используют три основных подхода для интеграции внешних знаний в БЯМ, каждый из которых имеет свои недостатки:

• Непараметрические методы, такие как генерация с дополнением извлекаемой информацией (RAG) и обучение в контексте, извлекают релевантные документы из внешней базы данных и вставляют их непосредственно в запрос модели. Хотя эти методы популярны, они ограничены размерами контекстного окна. По словам Армандо Солар-Лезамы, одного из соавторов статьи, векторные базы данных сталкиваются с фундаментальной трудностью кодирования полной семантики текстового фрагмента в один вектор, а затем сопоставления этого вектора с запросом, даже если релевантность фрагмента проявляется только в контексте других фрагментов. Исследователи отмечают, что семантическое сходство вложений часто не соответствует тому, что фактически требуется запросом пользователя. Обработка тысяч извлеченных токенов также создает значительные вычислительные накладные расходы и задержку вывода. Что наиболее проблематично, системы RAG очень чувствительны к шуму. Неактуальные или плохо извлеченные фрагменты часто ухудшают конечный ответ модели.
• Параметрические методы, такие как непрерывное предварительное обучение или дообучение с учителем, пытаются интернализировать новые знания непосредственно в веса БЯМ. Обновление современных, массивных БЯМ является чрезвычайно дорогостоящим и, как правило, невозможным для проприетарных моделей с закрытым исходным кодом, скрытых за API. Дообучение также подвержено риску катастрофического забывания. Принуждение модели к адаптации к новым корпоративным данным часто подрывает ее ранее приобретенные способности к рассуждению и защитные механизмы.
• Методы латентной памяти, такие как сжатие контекста, предлагают компромиссное решение. Они сжимают знания в компактные «мягкие токены» или представления, которые добавляются в контекст модели во время вывода. Основной недостаток здесь – это «связывание представлений». Сжатая память строго привязана к архитектуре модели, которая ее произвела; невозможно передать латентную память, обученную на модели с открытым исходным кодом, в модель с закрытым исходным кодом.

Как работает MeMo

Фреймворк MeMo (Memory as a Model – память как модель) представляет модульную архитектуру, состоящую из двух отдельных компонентов. Модель MEMORY – это небольшая языковая модель, специально обученная для кодирования новых знаний в свои параметры. Модель EXECUTIVE – это «замороженная», готовая БЯМ, которая функционирует как механизм рассуждений. Когда пользователь задает вопрос, модель EXECUTIVE обрабатывает модель MEMORY как внешний оракул, выдавая целевые подзапросы для сбора фактов и синтезируя эти факты в окончательный ответ.

Ключевым принципом дизайна MeMo является концепция «рефлексий». Рефлексии – это целевые пары вопросов и ответов, разработанные для охвата каждого возможного аспекта корпуса знаний. Вместо того чтобы заставлять ИИ обрабатывать массивный, неструктурированный корпус документов во время обучения, MeMo использует модель GENERATOR для дистилляции необработанного текста в тысячи целевых пар вопросов и ответов. Затем модель MEMORY дообучается на этом наборе данных, чтобы отвечать на вопросы, используя только свои параметрические знания, без необходимости чтения извлеченного контекста.

Во время вывода взаимодействие между двумя моделями следует структурированному трехэтапному протоколу:

• Модель EXECUTIVE декомпозирует сложный запрос пользователя на набор атомарных подвопросов. Модель MEMORY отвечает на каждый из них независимо для установления основных фактов.
• Используя эти первоначальные подсказки, модель EXECUTIVE выдает последующие запросы для сужения списка возможных сущностей, пока она уверенно не сфокусируется на конкретной цели.
• Наконец, модель EXECUTIVE запрашивает у модели MEMORY вспомогательные факты об этой целевой сущности и синтезирует извлеченные фрагменты в связный ответ.

Эта архитектура объединяет сильные стороны трех существующих парадигм памяти ИИ, минуя их недостатки. Она использует готовые передовые модели, отделяя хранение памяти от рассуждений, гарантируя совместимость как с моделями с открытыми весами, так и с моделями с закрытым API. Она интернализует знания непосредственно в параметры, но изолирует обновления в меньшую, специализированную модель MEMORY для защиты механизма рассуждений. Наконец, она создает артефакт памяти, доступный для запросов, который не привязан к какой-либо конкретной модели и может использоваться с различными семействами БЯМ.

Управление непрерывными обновлениями знаний

Управление памятью ИИ требует постоянных обновлений по мере изменения корпоративных политик и публикации новых отчетов. Обычно обновление параметров модели требует ее переобучения с нуля на основе как старых, так и новых данных. По мере роста базы знаний эта кумулятивная стоимость переобучения становится неуправляемой.

Для эффективной обработки непрерывных обновлений MeMo использует метод, называемый «слиянием моделей». Вместо массивной фазы совместного переобучения MeMo обучает новую, независимую модель MEMORY исключительно на вновь добавленных документах. Система выводит «вектор задачи», представляющий изменения параметров, полученные из свежих данных. Эти обновления затем математически объединяются с весами исходной модели MEMORY.

Этот подход сокращает количество часов вычислений, необходимых для поддержания актуальности системы, избегая при этом интерференции, которая вызывает катастрофическое забывание. Однако эта эффективность имеет свою цену: слияние моделей приводит к снижению точности на 11–19% по сравнению с полным переобучением, в зависимости от используемой модели рассуждений.

MeMo в действии

Для измерения реальной эффективности исследовательская группа оценила MeMo по нескольким отраслевым бенчмаркам, которые требуют сложного многоступенчатого рассуждения по множеству документов.

Исследователи использовали Qwen2.5-32B-Instruct в качестве модели GENERATOR для дистилляции необработанного текста в рефлексии. В качестве основной модели MEMORY они использовали Qwen2.5-14B-Instruct. Они также проверили подход на меньших моделях с 1-2 миллиардами параметров различных архитектур, включая Gemma3-1B.

Для исполнительной модели рассуждений (EXECUTIVE) они протестировали как модель Qwen2.5-32B с открытым весом, так и проприетарную модель Gemini 3 Flash от Google.

MeMo сравнивали с «идеальным извлечением» (где точные правильные документы предоставляются вручную) и несколькими передовыми системами извлечения, включая традиционный поиск BM25, плотное векторное извлечение и современную RAG-систему на основе графов (HippoRAG2). Они также протестировали «Cartridges», недавний метод, который загружает обученный KV-кеш в модель во время вывода.

MeMo показал доминирующие результаты в рассуждениях по длинным документам. На бенчмарке NarrativeQA MeMo достиг точности 53,58% в сочетании с Gemini 3 Flash, по данным исследователей. HippoRAG2 показал максимум 23,21%.

Корпоративным системам часто требуется синтезировать сложные ответы, например, при анализе пересекающихся нормативных актов, написанных разными органами, или при консолидации информации из огромной кодовой базы и внешней документации. Традиционные системы RAG здесь дают сбой, поскольку они достигают пределов контекстного окна и не могут связать концепции, охватывающие сотни страниц. MeMo преуспевает, потому что эти связи отображаются и интернализируются внутри модели MEMORY во время обучения. Солар-Лезама сравнил это с наличием собственного Малкольма Гладуэлла, который может связать историю The Beatles с историей Билла Гейтса, чтобы привести аргумент о природе экспертизы.

Эксперименты выявили еще одно важное преимущество: обновление механизма рассуждений не требует переобучения. Простая замена модели EXECUTIVE с открытой Qwen на проприетарную Gemini 3 Flash повысила производительность MeMo на 26,73% на NarrativeQA и на 11,90% на бенчмарке MuSiQue. Для практиков это означает, что можно безопасно обучить модель MEMORY на частных данных и мгновенно подключить ее к новейшим коммерческим API, постоянно обновляя интеллект системы без новых затрат на обучение.

Исследовательская группа описала интеграцию как не требующую дополнительной настройки: «Базовая (или исполнительная) БЯМ, которую команды уже используют в RAG, может быть настроена для прямого запроса к модели памяти. Эти запросы выполняются на естественном языке, подобно отправке сообщения в API, без какой-либо дополнительной настройки».

MeMo также исключительно хорошо справляется с зашумленными данными. Когда исследователи намеренно наводнили набор данных нерелевантными документами (до двух раз больше полезной информации), производительность HippoRAG2 снизилась на 11,55%. Производительность MeMo осталась относительно стабильной, снизившись менее чем на 2%. Корпоративные базы знаний, как правило, содержат много «мусора», заполнены дублирующимися документами и устаревшими политиками. Стандартные системы RAG с трудом справляются с этим шумом, извлекая неправильные абзацы в запрос и вызывая галлюцинации. Поскольку модель EXECUTIVE MeMo взаимодействует с синтезированным оракулом, а не с фрагментами необработанных документов, она остается очень устойчивой к неорганизованным корпоративным данным.

Ограничения и компромиссы

Для инженерных команд, рассматривающих возможность развертывания MeMo, существует несколько ключевых ограничений, которые необходимо учитывать.

• В отличие от традиционных систем RAG, которые быстро индексируют необработанные документы в векторную базу данных, MeMo требует первоначальных затрат на обучение для каждого нового корпуса. Конвейер генерации данных, используемый для синтеза обучающих рефлексий, является вычислительно дорогим. Например, команда отметила, что «генерация полного набора данных вопросов и ответов для рефлексий заняла примерно 240 часов работы GPU на NVIDIA H200s», в то время как обучение модели MEMORY с 14 миллиардами параметров «заняло примерно 180 часов работы GPU на H200». По словам Солар-Лезамы, «снижение стоимости обучения является одной из важнейших нерешенных задач исследований, чтобы сделать эту технику рабочей лошадкой».
• Поскольку модель MEMORY представляет собой нейронную сеть фиксированного размера, ее способность интернализировать знания ограничена ее репрезентативной емкостью. Хотя исследователи не достигли жесткого предела во время своих бенчмарков, они предполагают, что «достаточно большие или информационно плотные корпусы превысят то, что модель MEMORY фиксированного размера может правильно сжать и представить».
• Наконец, поскольку MeMo синтезирует ответы из параметрической памяти, а не извлекает точные текстовые фрагменты, он скрывает источник информации. Это затрудняет приписывание конкретных утверждений исходным документам, что создает критическую проблему соответствия для корпоративных приложений, требующих строгих аудиторских следов.

Выбор между MeMo и традиционным RAG сводится к эвристике «поиск против синтеза», а также к волатильности данных. Исследователи советуют, что «традиционный RAG был бы предпочтителен, когда ответы содержатся в одном документе или когда есть четко определенный источник... MeMo был бы предпочтителен, когда задача смещается от поиска к синтезу ответа из информации, разбросанной по множеству фрагментов». Если ваш корпус знаний быстро меняется (например, ежедневные новостные ленты) и вам требуются точные ссылки на источники, RAG остается лучшим вариантом из-за первоначальных затрат на обучение MeMo. Если ваш корпус состоит из общих предметных знаний, которые медленно эволюционируют относительно их объема, MeMo предлагает значительно превосходящие возможности рассуждений. Команды также могут использовать гибридную архитектуру маршрутизации в продакшене: отправлять «поисковые» запросы в стандартную векторную базу данных, а «синтезирующие» запросы – в модель MEMORY.

«Заглядывая дальше, я бы ожидал, что модели памяти станут стандартным архитектурным компонентом наряду с системами извлечения информации, – отметила Даниэла Рус, соавтор статьи и директор Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) Массачусетского технологического института, – так же, как кэширование и индексирование являются стандартными компонентами любой серьезной системы данных сегодня».