AI가 답하기 전에, 우리 회사의 정보부터 정리해야 한다

좋은 답변의 출발점은 정확하고 최신인 업무 자료
직원의 경험과 회사의 기준을 정리하는 일이 AI 활용의 기초가 된다


@DC Studio

“이 상품도 교환이 되나요?” 고객의 질문에 직원이 잠시 머뭇거린다. 홈페이지에는 구매 후 14일 이내라고 적혀 있지만, 매장 안내문에는 행사 상품 제외라는 문구가 있다. 지난주 단체 대화방에서는 일부 행사 상품도 교환을 받기로 했다는 이야기가 오갔다. 최종 기준이 무엇인지 아는 사람은 지금 자리에 없다.

작은 사업장에서 충분히 생길 법한 가상의 상황이다. 여기에 AI 상담 도우미를 연결하면 문제가 해결될까. AI가 자료를 빠르게 찾아줄 수는 있다. 그러나 서로 다른 안내 중 무엇을 회사의 공식 기준으로 삼아야 하는지는 여전히 정해야 한다.

AI를 도입할 때 우리는 어떤 모델이 더 똑똑한지, 얼마나 자연스럽게 답하는지에 관심을 둔다. 업무 현장에서는 그에 앞서 살펴볼 것이 있다. AI가 참고할 우리 회사의 정보가 제대로 정리돼 있는가 하는 문제다.

Anthropic은 2026년 10월 1일 Barclays와의 협력 확대를 발표하며 직원용 정보 검색 도우미 사례를 소개했다. 발표에 따르면 2025년부터 운영된 이 도우미를 1만 6천 명 이상의 직원이 사용했고, 누적 검색은 100만 건을 넘었다. Claude가 관련 자료를 검색해 답변에 활용하는 방식으로 직원들의 고객 응대를 지원한다는 설명이다. 이는 회사 측이 공개한 운영 수치이며, 독립적으로 검증된 생산성 향상 수치는 아니다.

이 사례에서 작은 사업장이 참고할 만한 부분은 규모보다 역할이다. 고객을 직접 상대하는 직원이 필요한 정보를 찾도록 AI를 활용한다는 점이다. 상품 설명, 예약 변경 절차, 자주 묻는 질문처럼 반복해서 확인하는 자료가 있다면 비슷한 출발점을 생각해 볼 수 있다.

다만 자료를 많이 넣는 것만으로 준비가 끝나지는 않는다. 지난해 가격표와 올해 가격표가 함께 있고, 폐기된 안내문이 최신 문서처럼 남아 있다면 답변의 근거가 흔들릴 수 있다. 서로 충돌하는 내용을 매끄러운 문장으로 합쳐 놓으면 오류를 알아차리기 더 어려울 수도 있다.

첫 단계는 자료를 모으는 일과 함께 기준을 정하는 일이다. 어떤 문서가 현재 유효한지, 언제부터 적용되는지, 누가 내용을 확인하는지를 표시해야 한다. 같은 주제의 자료가 여러 개라면 무엇을 우선할지도 정할 필요가 있다. 파일명에 ‘최종’이라는 단어를 붙이는 것만으로는 충분하지 않다.

거창한 시스템을 만들 필요는 없다. 직원들이 자주 받는 질문 열 개부터 시작할 수 있다. 각 질문에 현재의 답변, 적용 조건, 예외 상황, 담당자를 적어 두는 것이다. 가격이나 영업시간처럼 자주 바뀌는 정보에는 마지막 확인 날짜도 붙이면 좋다. 이렇게 만든 자료는 AI를 연결하기 전에도 직원 교육과 인수인계에 도움이 된다.

정리 과정에서는 문서에 없는 지식도 드러난다. 오래 근무한 직원은 고객의 설명을 듣고 어떤 부분을 다시 물어야 하는지 안다. 특정 상품은 주문 전에 추가 확인이 필요하고, 어떤 요청은 매니저에게 넘겨야 한다는 것도 경험으로 익힌다. 이런 판단을 모두 규칙으로 만들 수는 없지만, 반복되는 사례와 확인 질문을 기록해 두면 다른 직원도 참고할 수 있다.

여기서 중요한 것은 예외를 없애려 하지 않는 것이다. 사업에는 문서만으로 결정하기 어려운 상황이 있다. 고객과 개별적으로 약속한 내용이 있거나, 상품 상태를 직접 살펴봐야 할 수도 있다. 이런 경우에는 AI가 빈틈을 추측으로 채우게 하기보다 담당자에게 확인하도록 업무를 구성하는 편이 낫다.

자료의 접근 범위도 함께 정해야 한다. 고객에게 공개할 수 있는 안내와 직원만 볼 수 있는 내부 메모는 용도가 다르다. AI가 찾을 수 있는 정보라고 해서 누구에게나 답변해도 되는 정보는 아니다. 어떤 업무를 돕는 도구인지에 따라 필요한 자료와 이용 대상을 구분해야 한다.

준비한 자료를 연결한 뒤에는 실제 질문으로 시험해 볼 수 있다. 답변이 자연스러운지만 보지 말고, 현재 기준을 사용했는지, 중요한 조건을 빠뜨리지 않았는지, 근거 문서를 찾을 수 있는지 확인하는 것이다. 자료에 답이 없는 질문도 넣어 보면 도움이 된다. 모르는 상황에서 확인을 요청하는지 살펴볼 수 있기 때문이다.

정보 정리는 한 번으로 끝나는 작업도 아니다. 상품이 바뀌고 운영 방식이 달라지면 자료도 함께 바뀌어야 한다. 누군가 문서를 수정했는데 예전 사본이 계속 검색된다면 같은 혼란이 반복될 수 있다. 변경된 기준을 반영하고 오래된 자료를 구분하는 절차까지 일상 업무에 포함해야 한다.

AI 도입이 기대만큼 편리하지 않을 때, 모델의 능력만을 원인으로 생각하기 쉽다. 그러나 그 과정에서 드러난 어려움이 원래 회사 안에 있던 정보의 불일치일 수도 있다. 직원마다 다르게 알고 있던 기준, 개인 메모에만 남아 있던 절차, 담당자가 떠난 뒤 설명할 수 없게 된 관행을 발견하는 계기가 될 수 있다.

정확한 업무 자료는 AI만을 위한 준비물이 아니다. 새 직원이 질문하기 편해지고, 고객에게 일관된 안내를 제공하며, 특정 직원에게 확인이 몰리는 부담을 줄이는 데도 쓰인다. AI를 도입하는 과정이 회사의 일하는 방식을 정돈하는 기회가 되는 셈이다.

AI가 빠르게 답할수록 그 답변이 무엇을 근거로 했는지는 더 중요해진다. 우리 회사의 기준을 정하고 최신 상태로 유지하는 일은 여전히 사람의 몫이다. 좋은 AI 도우미를 만드는 첫걸음은, 내일 들어올 고객의 질문에 오늘 우리가 같은 답을 할 수 있는지 확인하는 데서 시작된다.

참고 자료
- Anthropic, 「Barclays scales Claude to upgrade operations and improve client experience」, 2026년 10월 1일. 공식 발표는 아래 관련링크 참조.
※ 교환 안내 사례는 이해를 돕기 위한 가상 예시입니다. 업무 자료의 정리와 운영 방법은 해당 발표를 참고한 제안입니다.