AI 에이전트 플랫폼 고르는 법

데모가 아니라 당신의 업무로 평가하세요

시장이 시끄럽습니다. 이제 채팅 상자가 달린 도구는 죄다 스스로를 에이전트 플랫폼이라 부릅니다. 데모로는 구별할 수 없습니다. 데모란 공급사의 데이터를 놓고 미리 짜 둔 대화니까요. 유일하게 의미 있는 시험은, 그 플랫폼이 당신의 업무 중 하나를 실제로 돌릴 수 있느냐입니다. 당신의 채널에서, 당신의 승인 규칙 아래, 당신의 예산 안에서.

그러니 통화 한 번 잡기 전에, 정말 넘기고 싶은 업무를 두세 개 적어 두세요. 대부분의 중소기업에서는 이런 것들입니다. 가격과 재고를 묻는 WhatsApp 문의에 답하기, 공용 받은편지함을 분류하고 답장 초안 쓰기, 아니면 주간 리서치 요약을 만들기. 그런 다음 아래 체크리스트로 각 공급사를 그 업무 기준으로 채점하세요.

이 페이지가 공급사의 웹사이트에 있는 만큼, 편향에 관해 한마디. 저희도 이런 플랫폼을 만드는 쪽이고, 이 체크리스트는 저희가 만들기로 택한 것들을 반영합니다. 중립적이지 않습니다. 다만 각 항목은 실제로 기업들이 부딪히는 것을 본 실패 유형이고, 모든 질문은 어떤 공급사에도 통합니다. 저희에게도요.

1. 채널: 에이전트가 고객이 있는 곳에 있을 수 있는가?

웹 위젯 안에만 존재하는 에이전트는 문법이 좀 나은 챗봇일 뿐입니다. 문의는 WhatsApp, 이메일, Telegram, Slack으로 들어오고, 이벤트는 사내 시스템에서 웹훅으로 날아옵니다. 플랫폼이 거기까지 나가지 못하면, 복사·붙여넣기 계층은 당신의 팀이 됩니다.

• 지금 지원되는 채널은 무엇이고 - WhatsApp, Telegram, 이메일, Slack, SMS - 무엇이 로드맵에만 있는가?
• 들어오는 이벤트(새 메일, 상점에서 온 웹훅)가 일을 시작할 수 있는가, 아니면 사람이 먼저 채팅을 열어야 하는가?
• 한 에이전트가 한 채널에서는 고객을 응대하고, 다른 채널에서는 직원에게 보고할 수 있는가?

2. 사람의 통제: 누가, 무엇을, 어디서 승인하는가?

쓸모 있는 에이전트와 부채의 차이는, 감독 없이 무엇을 해도 되는가에 있습니다. 켜고 끄는 스위치가 아니라 단계적 자율성을 찾으세요. 조사와 초안 작성은 자유롭게 돌려도 되지만, 외부 발송과 돈, 시스템 변경은 신뢰가 쌓일 때까지 사람을 기다리게 해야 합니다. 저희의 승인-우선 플레이북 이 설계를 깊이 다룹니다.

• 자율성이 단계적인가 - 에이전트별 수준이나 범위가 있는가 - 아니면 전부 아니면 전무인가?
• 기본적으로 무엇이 승인을 기다리며, 카테고리별로 게이트를 설정할 수 있는가: 금전 관련 작업, 외부 발송, 파일 쓰기?
• 승인 요청은 어디로 도착하는가 - 팀이 이미 쓰는 도구 안인가, 아니면 누군가 확인하러 가야 한다고 기억해야 하는 대시보드인가?

3. 감사: 모든 작업이 기록되고 되짚어 볼 수 있는가?

고객이 들은 내용을 두고 다툴 때, 또는 에이전트의 자율성을 넓힐지 결정할 때 필요한 것은 기록이지 재구성이 아닙니다. 로그는 기본 요건일 뿐이고, 실제로 논쟁을 끝내는 것은 에이전트가 읽고 쓰고 보낸 모든 것을 담은 변경 불가능한 기록입니다.

• 그 기록은 변경 불가능한가, 아니면 항목을 수정하거나 삭제할 수 있는가?
• 모든 작업을 담는가, 아니면 외부로 나가는 메시지만 담는가?
• 각 작업을 누가 언제 승인했는지 볼 수 있는가?

4. 비용 통제: 상한, 계량, 그리고 BYOK

모델 사용량은 변동비이고, 변동비는 사람을 놀라게 합니다. 알림은 통제가 아닙니다. 단단한 상한이 통제입니다. 인원수 과금도 살펴보세요. 그건 당신이 바라는 바로 그 확산에 세금을 매기는 방식입니다.

• 시작 전에 합의하는 단단한 지출 상한이 있는가, 아니면 사후 사용량 알림뿐인가?
• AI 사용량이 들여다볼 수 있는 투명한 계량기 위에 있는가, 아니면 불투명한 요금 안에 묶여 있는가?
• 가격이 인원수 기준인가? 자기 모델 키를 가져올 수 있는가(BYOK) - 그리고 그건 추가 비용이 드는가?

5. 격리와 프라이버시: 누구의 인프라, 누구의 데이터인가?

에이전트는 대화 이력, 당신의 문서, 그리고 연결된 시스템의 자격 증명을 쥐고 있습니다. 그러니 고객 데이터를 다루는 다른 어떤 업체와 똑같은 눈으로 플랫폼을 평가하세요. 절대적인 약속은 의심하세요. 포괄적인 보증은 아키텍처가 아니라 마케팅입니다. 대신 검증 가능한 기본 사항에 대해 구체적으로 따지세요.

• 고객마다 작업 공간이 격리되어 있는가, 아니면 공유인가?
• 커넥터 토큰과 API 키는 어떻게 보관되고, 누가 접근할 수 있는가? 역할 기반 접근 통제가 있는가?
• 데이터가 저장 시와 전송 시 모두 암호화되는가, 그리고 데이터 소재지 요건을 위해 특정 클라우드 리전을 고를 수 있는가?

6. 기억과 근거: 그것이 당신의 사업을 아는가?

세션 사이에 모든 것을 잊는 플랫폼은 팀이 같은 말을 영원히 반복하게 만들고, 모델의 일반 학습 내용으로 답하는 플랫폼은 당신의 가격을 짐작해서 말합니다. 둘 다 필요합니다. 지속되는 기억과, 당신 문서에 근거한 답.

• 에이전트의 기억이 세션을 넘어 유지되는가, 아니면 대화마다 초기화되는가?
• 답변을 당신의 문서 - 가격표, 정책, 업무 절차 - 로 만든 지식베이스에 근거시킬 수 있는가?
• 문서가 바뀌면 답변은 얼마나 빨리 따라오는가?

7. 운영: 누가 호스팅하고, 지켜보고, 유지보수하는가?

이 질문이 플랫폼과 툴킷을 가릅니다. 누군가는 런타임을 호스팅하고, 밤새 지켜보고, 업데이트를 적용하고, 망가진 커넥터를 고쳐야 합니다. 그 누군가가 당신의 팀이라면, 그 시간을 비교에 넣어 계산하세요. 이 맞바꿈은 저희의 호스팅형 에이전트 vs 직접 만든 자동화 비교 글에 정리되어 있습니다.

• 에이전트를 호스팅하고 지켜보는 것은 누구인가 - 공급사인가, 당신인가?
• 무엇이 포함되는가: 구축, 유지보수, 모니터링? 구축 기간은 영업일 기준 며칠인가?
• 새벽 2시에 무언가 망가지면, 그건 누구의 문제인가?

8. 이탈: 무엇이 당신과 함께 나가는가?

언젠가 떠나고 싶어질 것이라 가정하고, 들어가기 전에 문을 확인해 두세요. 계약, 키, 그리고 쌓인 지식 - 이 셋을 따져 보면 됩니다.

• 계약 기간이 정해져 있고, 명확한 이탈 절차와 데이터 이동성이 있는가?
• 자기 모델 키를 가져왔다면, 그 계정과 이력은 계속 당신의 것으로 남는가?
• 떠날 때 무엇이 남는가 - 당신의 문서, 절차, 대화 기록은?

Olano의 답은 이렇습니다

짧게, 그리고 체크리스트의 정신 그대로 말씀드리면 - 웹페이지의 말을 그대로 믿는 대신, 이 질문들을 통화에서 저희에게 던져 보세요.

• 채널: 15개가 넘는 메시징 채널 - WhatsApp, Telegram, Slack, Discord, 이메일, SMS, Signal 등 - 에 더해 인바운드 웹훅, 그 뒤로 75개 이상의 기본 연동과 450개 이상의 커넥터 도구.
• 사람의 통제: 신뢰 수준 0~4(Observer, Assistant, Collaborator, Autonomous, Developer)와 카테고리별 승인 게이트. 밖으로 나가는 것은 기본적으로 승인을 기다립니다.
• 감사: 모든 작업에 남는 변경 불가능한 감사 기록.
• 비용: 시작 전에 합의한 단단한 지출 상한이 걸린 투명한 계량기, 인원수 과금 없음, 추가 비용 없는 BYOK, 그리고 18개가 넘는 LLM 공급사에 걸친 라우팅.
• 격리: 고객마다 격리된 작업 공간, 암호화된 커넥터 토큰과 API 키, 역할 기반 접근 통제, 저장 시와 전송 시 암호화, 데이터 소재지 요건에 맞춘 AWS/GCP 리전 지정.
• 기억: 에이전트별 지속 기억에 더해, 업로드한 문서로 만든 지식베이스 기반 응답.
• 운영: 호스팅과 운영까지 포함 - 구축, 호스팅, 유지보수, 모니터링이 들어 있습니다. 업무 하나는 보통 온보딩 후 영업일 1~2일이면 돌아가고, 더 큰 배포는 1~3주. 그리고 모든 것은 만들기 전에 견적과 승인을 거칩니다.
• 이탈: 정해진 계약 기간, 옮길 수 있는 데이터, 그리고 BYOK 덕분에 모델 계정은 계속 당신의 것으로 남습니다.

그리고 솔직히 저희가 답이 아닌 경우도 있습니다. 필요한 것이 개인 작업 - 일회성 글쓰기, 일반적인 질의응답, 고객 채널이 없는 작은 팀 - 이라면 ChatGPT나 Claude 같은 범용 AI 작업 공간으로 충분할 수 있습니다. 에이전트 플랫폼이 값을 하는 것은, 에이전트가 당신의 채널에 상주하고, 업무상의 사건에 반응하고, 승인·감사 이력·지출 통제 아래에서 움직일 때입니다.