AI 에이전트는 어떻게 기억하는가: 기억, 지식, 그리고 스킬

기억상실 문제

모든 대규모 언어 모델은 상태를 갖지 않습니다. 지금 눈앞에 있는 것 - 여기까지의 대화, 그리고 함께 놓아 준 것 - 만 가지고 답합니다. 모델을 둘러싼 시스템이 남기도록 만들지 않는 한, 세션 사이에 남는 것은 아무것도 없습니다.

가벼운 잡담이라면 괜찮습니다. 하지만 실무에서는 실격 사유입니다. 단골에게 매번 주문번호를 묻는 프런트는 프런트가 아닙니다. 지난주의 결정을 잊는 운영 담당은 매주 같은 논쟁을 되풀이합니다. 업무용 AI 시스템에서 기억은 얹으면 좋은 부가 기능이 아닙니다. 직원과 예의 바른 낯선 사람을 가르는 바로 그 차이입니다.

그러니 어떤 AI 에이전트 플랫폼에든 던져야 할 정직한 질문은 "모델이 똑똑한가?"가 아니라 "내 사업에 대해 알게 된 것을 어디에 보관하는가 - 그리고 그것을 또 누가 만질 수 있는가?"입니다.

기억 스택, 층별로

1. 세션이 끝나도 남는 대화 기억

Olano의 에이전트는 세션을 넘어 기억을 유지합니다. 지난달에 문의했던 고객은 이번 달에도 맥락 속에서 알아보고, 화요일에 팀이 잡아 준 수정은 금요일에도 그대로 유효합니다. 에이전트가 딛고 있는 것은 대화 하나의 맥락이 아니라 관계 전체의 맥락입니다.

2. 장기 기억은 쌓아 두는 게 아니라 정제하는 것

원본 대화 기록은 잘 늙지 않습니다. 쓸모 있는 사실은 마흔 줄의 인사치레 아래 묻혀 버립니다. 그래서 Olano Cortex 가 주기적으로 지나간 작업을 다시 읽고, 의미 있었던 것 - 결정, 선호, 남길 가치가 있는 사실 - 을 장기 기억으로 정제합니다. 그리고 정리 주기마다 그 기억을 손질해 신선하게 유지합니다. 낡은 항목은 쳐 내고, 중복은 합칩니다. 늘어나기만 하는 기억은 소음이 되지만, 가꾼 기억은 복리로 쌓입니다.

3. 지식베이스: 당신의 문서를 사실의 기준으로

어떤 것들은 아예 "기억"할 게 아니라 찾아봐야 합니다. 가격, 정책, 제품 사양, 업무 절차는 당신의 문서로 만든 지식베이스에 있고, 에이전트는 거기에 근거해 답합니다. 가격표가 바뀌면 문서를 갱신하면 되고, 에이전트는 새 버전으로 답합니다. 재학습도, 프롬프트 수술도 없습니다. 기준이 되는 것은 여전히 당신 팀이 이미 관리하는 파일입니다.

이 층은 답을 정직하게 지키는 층이기도 합니다. 근거에 묶인 에이전트는 그럴듯하게 들리는 환불 정책을 지어내는 대신, 실제 환불 정책을 인용합니다.

4. 스킬: 절차 기억

사실을 아는 것은 기억의 한 종류이고, 일을 어떻게 하는지 아는 것 일을 어떻게 하는지 아는 것은 또 다른 종류입니다. 스킬은 절차를 담습니다. 한 번 가르치면 에이전트가 매번 같은 방식으로 반복합니다. 같은 일이 되풀이되는 걸 알아채면 Cortex가 스스로 스킬 초안을 쓰기도 합니다. 월간 보고서, 리드를 판단하는 방식, 불만을 위로 올리는 정확한 단계. 한 번 적어 두면, 그다음부터는 한결같이 실행됩니다.

기억은 전용 인프라입니다

위의 모든 것이 당신만의 격리된 환경 안에 있습니다. 에이전트, 기억, 파일, 연결된 앱, 이력이 다른 고객의 데이터와 섞이는 일은 결코 없고, 모든 것이 저장 시에도 전송 시에도 암호화됩니다. 이는 기억에 있어 다른 무엇보다 중요합니다. 고객과의 관계, 가격 책정 논리, 내부 절차가 쌓이는 층이기 때문입니다. 바로 이 데이터야말로 날카로운 질문을 던져야 할 대상입니다. 저희의 PDPA 가이드 가이드에는 어떤 공급사에든 던져 볼 만한 질문들이 정리되어 있습니다. 저희에게도요.

이 스택이 실제로 돌아가는 모습

각 층은 서로 다른 질문에 답합니다. 기억은 이 사람은 누구이고 우리는 무엇을 알고 있는가? 지식베이스는 지금 무엇이 사실인가? 스킬은 이건 어떻게 처리하는가? 그리고 승인 게이트가 이 모든 것 위에 걸쳐 있어서, 에이전트가 아는 것이 그가 해도 되는 것을 결코 앞지르지 못합니다. 이 구조는 저희의 승인-우선 플레이북에 담겨 있습니다..

핵심은 이 누적 효과입니다. 챗봇은 첫날과 삼백 일째가 똑같습니다. Olano의 시스템은 삼백 일째에 당신의 단골, 당신의 카탈로그, 당신의 절차, 당신의 어투를 알고 있습니다. 기억을 모델에 맡기지 않고, 플랫폼 안에 만들어 넣었기 때문입니다.