한때는 단순히 버튼을 누르고 정해진 답을 받던 챗봇이, 이제는 사람처럼 대화하고 문서를 이해하는 시대가 되었습니다. 하지만 여전히 많은 사람들은 ‘챗봇’을 불편한 FAQ 도우미나 형식적인 고객 응대 창구로 기억합니다. 그만큼 챗봇의 기술은 빠르게 진화했지만, 인식은 과거에 머물러 있죠.

그러나 현재의 챗봇은 완전히 다른 방향으로 진화하고 있습니다. 정해진 시나리오를 따르던 시대를 넘어, AI가 스스로 문서를 이해하고 지식을 말하는 시대가 열린 것입니다.

그렇다면, 챗봇은 어떤 과정을 거쳐 여기까지 오게 되었을까요?

초기 챗봇은 단순히 키워드에 반응하는 규칙형이었고, 이후에는 상담 시나리오를 미리 설계하는 시나리오 기반 챗봇이 주류를 이뤘습니다. 하지만 사용자가 예상치 못한 질문을 하면 대화가 끊기거나 잘못된 답을 내놓는 한계가 있었죠.

최근에는 GPT 같은 대규모 언어모델(LLM)이 자연스러운 대화를 가능하게 했지만, 여전히 “기업의 실제 데이터”를 반영하지 못해 부정확한 정보를 제공하는 환각 현상이라는 한계가 있습니다. 이런 문제를 해결한 것이 바로 RAG(Retrieval Augmented Generation) 기반 챗봇입니다. AI가 질문을 받으면 기업 내부 문서나 데이터베이스에서 관련 정보를 검색하고, 그 근거를 바탕으로 답을 생성하기 때문에, 이제 챗봇은 “정해진 답을 반복하는 도구”가 아니라 “기업의 지식을 실시간으로 말하는 인터페이스”로 진화하고 있습니다. <챗봇 기술의 발전 과정>

이처럼 LLM과 RAG의 결합은 단순한 대화형 AI를 넘어, 신뢰 가능한 정보 기반의 지식 대화 서비스로 발전시켰습니다.

RAG 기반 AI 챗봇의 가장 큰 강점은 '자료'만 있으면 스스로 학습하고 답변을 생성한다는 점입니다. 복잡한 시나리오를 설계하거나, 수많은 예문을 학습시킬 필요 없이 AI가 학습할 자료를 건네주기만 하면 됩니다.

이처럼 시나리오 기반 챗봇은 관리자가 미리 정의한 “질문 → 답변 → 다음 선택지” 형태의 트리형 대화 흐름을 따라갑니다. 따라서 각 주제에 대한 시나리오가 사전에 등록되어 있어야만 응답할 수 있으며, 두 가지 내용을 동시에 물을 경우 챗봇은 첫 번째 키워드만 인식해 “등록 안내”로 진입하고, “주차 지원”과 같은 추가 질문은 처리하지 못합니다.

또한 시나리오 챗봇은 자연어 의미를 이해하기보다 사전에 정의된 키워드 및 인텐트를 기반으로 동작하기 때문에, 해당 시나리오에 매칭되지 않는 질문에는 적절한 답변을 생성할 수 없습니다.

반변 RAG 기반 AI는 내부 문서나 자료를 직접 참조하여 정확하고 여러가지 답변을 통합하여 제공합니다. 즉, 관리자가 매번 새로운 시나리오를 만들지 않아도, AI가 스스로 문서에서 필요한 정보를 찾아 “등록 기간”과 “주차 지원 여부”를 한 번에 종합해 안내할 수 있습니다.

RAG 기반 AI 대화 서비스의 핵심은 "문서를 대화로 바꾸는 것"입니다.

과거에는 고객에게 보여줄 답변을 하나하나 작성했다면, 이제는 내부에서 쓰는 업무 문서를 그대로 고객 대응에 활용할 수 있습니다.

즉, RAG 기반 AI 대화는 과거 시나리오 기반의 불편함을 없애고, 모든 질문에 시나리오 없이 답변합니다. 필요한 건 단 하나, 잘 정리된 문서입니다.

더 이상 "이 질문은 어느 시나리오에 넣어야 하지?" 고민하지 않아도 됩니다. 더 이상 수백 개의 대화 플로우를 그리지 않아도 됩니다.

그런데….혹시 눈치채셨나요?

지금까지 ‘RAG 기반 챗봇’이라는 표현 대신 ‘RAG 기반 AI 대화 서비스’라고 이야기해왔습니다. 그 이유는, 지금껏 우리가 경험해온 대부분의 챗봇이 시나리오 기반의 정해진 응답형 서비스였기 때문입니다.

플래니는 그러한 고정된 이미지에서 벗어나, 자연스럽게 대화하며 지식을 이해하고 전달하는 ‘AI 대화 서비스’ 를 지향합니다.

이제 '챗봇 업데이트'가 아니라 '지식 업데이트'만 하면 됩니다. 문서를 올리는 순간, 그것이 곧 고객과의 대화가 되니까요. 이것이 플래니가 말하는 'AI 대화 서비스'입니다.

플래니는 단순한 RAG 구현을 넘어, 기업이 보유한 다양한 형태의 자료를 지식화하고 활용하는 고도화된 기술력을 탑재하고 있습니다. 여러분의 회사 자료가 곧 AI의 지식 엔진이 될 수 있는 비결은 다음과 같은 핵심 기술에 있습니다.

RAG의 정확도를 결정짓는 가장 중요한 요소는 AI가 질문과 관련된 가장 정확한 정보 조각(Chunk)을 찾아내는 것입니다. 단순히 문서를 잘게 자르는 것이 아니라, 정보의 논리적인 문맥을 유지하며 자르는 기술이 필수적입니다. 플래니는 AI가 업로드된 문서를 자동으로 분석하여, 문장·단락·제목·소제목 등 문서의 구조를 인지하고 가장 효율적인 청킹 단위로 스스로 최적화합니다. 복잡한 기술문서나 매뉴얼이라도 AI가 문맥을 파악해 자동으로 청킹을 수행하므로, 별도의 수동 설정이 필요 없습니다.

기업이 사용하는 자료는 PDF, PPT, 워드, 한글 파일 등 포맷이 다양합니다. 특히 회사소개서나 매뉴얼에는 텍스트뿐만 아니라 표, 그래프, 이미지 속 텍스트가 혼재되어 있습니다.

OCR(광학 문자 인식) 기술을 적용해, 업로드된 문서 내 이미지나 표 속의 문자 정보까지 자동으로 추출·분석합니다. 이를 통해 AI는 텍스트뿐 아니라 시각적 데이터까지 완전한 지식 자산으로 변환하여, 표나 그래프의 수치 정보까지 근거로 삼아 정확한 답변을 제공합니다.

고객 상담은 한 번의 질문으로 끝나지 않으며, 이전 대화의 내용을 이어가는 자연스러운 흐름이 필요합니다.

대화의 전체 맥락을 기억하고 이해하는 멀티턴 기능을 통해, 직전 질문뿐 아니라 이전 대화의 흐름까지 반영해 답변을 생성합니다.

정확한 답변만큼 중요한 것은 기업의 목적과 상황에 맞는 커뮤니케이션 방식입니다.

답변의 톤과 깊이를 설정할 수 있어, 빠른 정보 전달이 필요한 경우에는 핵심만 간결히 요약하고, 정책이나 규정 등 복잡한 내용을 안내할 때는 근거와 부연 설명을 포함한 상세형 응답을 제공합니다.

이를 통해 고객 접점, 내부 직원, 공공기관 등 다양한 채널에서 일관된 브랜드 경험을 유지할 수 있습니다.

우리는 이미 일상에서 정보 탐색의 비효율성을 경험하고 있습니다. 업무에 필요한 정보가 파편화되어 있어 필요한 자료 하나를 찾기 위해 여러 플랫폼을 오가며 검색어를 바꾸고, 스크롤을 내리는 데 소중한 시간을 소요합니다.

하지만 이렇게 복잡하고 비효율적인 탐색 과정을 거치는 대신, 정보의 위치나 내용을 정확히 아는 동료에게 한 번 물어보는 것이 더 빠르다는 것을 알고 있듯이, 웹사이트에서의 고객 경험 역시 마찬가지여야 합니다.

웹사이트 페이지 내 어딘가에 모든 정보가 있을 겁니다. 하지만 고객이 그걸 일일이 찾아서 습득하는 시간을 대화 한 번으로 줄여줘야 합니다. 고객이 원하는 것을 클릭 대신 질문으로 바로 얻게 하는 것, 그것이야말로 진정한 새로운 웹 경험의 핵심입니다.