Память и знания

Четыре уровня

Первые две всегда в деле и потому что-то стоят при каждом ходе; вторые две запрашиваются по требованию и ничего не стоят, пока не используются. Именно в этой разнице вся причина осознанно выбирать, где чему место.

Память разговора

Каждый разговор — это долговечная ветка. Закройте браузер, вернитесь через неделю, откройте её снова с панели Chat — у агента контекст всё ещё сохранён. Разговоры перечислены сначала новые, с понятной подписью, каналом, откуда они пришли, числом сообщений и текущей стоимостью.

Долгий разговор не разваливается: по мере приближения к пределу модели старые ходы сжимаются на месте, так что ветка продолжается, а не разветвляется. панель контекста в заголовке чата показывает, насколько заполнен разговор сейчас, а команда /context открывает карточку разбивки - сколько места занимают системный промпт, инструменты, файлы памяти, скилы и сообщения по отдельности, и сколько свободного места осталось.

Здесь важны две команды. /new начинает новый разговор, что правильно всякий раз, когда вы меняете тему - чистая ветка дешевле и точнее, чем длинная, тащащая за собой не относящуюся к делу историю. /compact запрашивает сжатие прямо сейчас, не дожидаясь предела.

Долгая память

Эта Память раздел — это прямой вид на документ долгой памяти агента, который вставляется в его инструкции при каждом ходе. Доступны три режима чтения: Структура (разделы и факты, с фильтрацией и сворачиванием), Чтение (отрисованный) и Исходник (исходный markdown). Копировать и Скачать делают именно то, что написано.

Записывать в неё можно двумя способами. Форма быстрого добавления добавляет один факт: выберите раздел, и он попадёт в долгую память; оставьте раздел пустым, и он попадёт в сегодняшний дневной журнал. Кнопка Изменить кнопка открывает весь документ для редактирования - Сохранить перезаписывает файл одной атомарной операцией.

Агент также поддерживает это сам. Фоновый цикл дистиллирует недавние разговоры в датированный дневной журнал и периодически сворачивает устойчивые части этих журналов в основной документ памяти. Вот почему память растёт сама, без того чтобы кто-то в неё печатал.

Держите долгую память короткой. Она читается на каждом ходе, поэтому в ней должны быть устойчивые вещи - кто клиенты, какой фирменный стиль, какой поставщик предпочтителен, - а не стенограмма прошлого вторника.

Ваша база знаний

Эта Знания раздел строит доступную для поиска коллекцию из документов и веб-страниц, которые вы предоставляете. Добавляйте отдельные файлы, добавляйте URL, создавайте именованные хранилища, чтобы разные массивы материала оставались раздельными, синхронизируйте целый каталог, просматривайте список проиндексированного и удаляйте источники, которые больше не нужны. Поиск идёт по базе знаний, рабочему пространству агента, его памяти или пользовательскому хранилищу.

Именно сюда относятся руководства по продукту, прайс-листы, политики, прошлые предложения и справочные PDF. Агент не носит ничего из этого в голове; он ищет, когда этого требует вопрос, и цитирует то, что находит. Это удерживает ответы на почве ваших материалов, а не общего обучения модели, и держит стоимость хранения большого массива на нуле, пока он реально не понадобится.

Файлы, загруженные через окно ввода чата, попадают в рабочее пространство агента и видны в Файлы разделе, в папке uploads/. Всё, что производит агент - сгенерированное изображение, отчёт, скриншот, - тоже попадает туда, поэтому Files - то место, куда стоит смотреть, когда вам нужен сам артефакт, а не разговор о нём.

Заметки

Эта Заметки раздел — это связанная markdown-вики, которую агент читает и пишет. У каждой заметки есть заголовок, теги, псевдонимы и источники, а заметки ссылаются друг на друга; панель чтения показывает оба направления этого графа связей в виде Ссылается на и Упоминается в чипов, чтобы вы могли обойти окрестности идеи. Поле поиска выполняет поиск по ключевым словам по всей коллекции.

Стоит знать один флажок: auto-inject. У заметки, помеченной как auto-inject, её фрагмент проталкивается в контекст агента при каждом ходе, как долгая память - полезно для постоянной инструкции, заслуживающей отдельного документа, и ограничено пятью самыми недавними такими заметками, чтобы это незаметно не раздувалось. Всё остальное запрашивается по требованию.

Навыки

Скил — это заученная процедура: папка с письменными инструкциями и, по желанию, скриптами для запуска. Там, где системный промпт говорит, кто такой агент, скил говорит, как выполняется конкретная работа - шаги, формат, проверки. Агент подхватывает подходящий, когда задача совпадает, а вы включаете или выключаете их для каждого агента на вкладке Навыки на странице подробностей агента.

Скилы берутся из трёх мест: те, что идут вместе с платформой, те, что написаны для вашей установки, и те, которым агент учится сам через Cortex (см. главу 7). Введите /skills в чате, чтобы вывести список того, что реально есть у текущего агента, сгруппированный по категориям. Если какой-то скил был придержан аудитом безопасности, он тоже показан там с причиной, а не тихо исчезает.

Скилы — правильное место для всего, что состоит из шагов. «Составить черновик еженедельного обновления для клиента, взяв задачи прошлой недели, сгруппировав их по аккаунту и сверившись с этим шаблоном» — это скил; попытка закодировать это как абзац системного промпта делает промпт хуже во всём остальном.

Куда это должно попасть?

• Факт, который должен влиять на каждый ответ - наши часы работы, имя генерального директора, тон, которым мы пишем, - идёт в долгую память.
• Документ, о котором могут спросить - политика на 40 страниц, каталог, прошлогодний отчёт - идёт в базу знаний.
• Повторяемый метод - как мы квалифицируем лид, как форматируем дайджест - идёт в скил.
• То, что имеет значение только для этой ветки - просто скажите это в разговоре. Это помнится ровно столько, сколько живёт этот разговор.

Обычная ошибка — заливать документы в долгую память. Неделю это работает, а потом каждый ответ становится медленнее, дороже и запутаннее, потому что агент таскает картотечный шкаф в каждый разговор. Кладите документы туда, куда кладутся документы.