알리 앤서

문서답변 찾기, 이제 AI 비서에게 명령만 내리세요


어느 사무실의 오후, 창을 통해 나른한 햇살이 내리쬐고 있다. 광합성을 하며 꾸벅꾸벅 졸던 신입사원 노태근씨의 잠을 깨는 명령이 떨어졌다.


“노태근씨, 전임자가 작성한 A기업의 파트너십 제휴 보도자료에서 제휴 년도가 언제였는지 알아봐줄래요?”

“…네!”


번쩍 일어난 태근씨는 의욕을 갖고 마우스를 움직이기 시작했다. 이정도야 충분히 할 수 있지! 노 태근씨는 파일 검색을 시작했다. 일단 ‘A기업’ 키워드를 기입하고 검색했다. 그러나 문서가 너무 많았다. 파일의 내용을 곧바로 볼 수 없었기 때문에 태근 씨는 하나하나 열어서 내용물을 확인해야 했다. 거기다 키워드가 조금만 달라져도 검색에 걸리지 않았기 때문에 ‘A기업 보도자료’, ‘제휴 보도자료’, ‘A기업 제휴’ 등 수많은 검색어를 넣어야만 했다. 첫 번째, 아니고. 두 번째, 아니고, 세 번째, 아니고. 조급한 마음으로 클릭을 반복할 때였다.


“태근씨, 아직 못 찾으셨어요?”

“네, 죄송합니다.”


한숨 소리가 들려왔다. 태근은 쪼그라드는 자신을 느꼈다. 하지만 그 마음은 곧이어 억울함으로 바뀌었다. 내가 답답하면 직접 찾아보든가! 저 문서 사막에서 바늘이 바로 튀어나올 것 같아? 태근씨는 상사가 알려준 대로 알리(alli) 앤서를 켜, 사용해보기로 했다.

*예시를 돕기 위한 이미지입니다. 답변 내역은 상세 이미지와 다를 수 있습니다.


“에이, 설마… 이정도 질문으로 바로 찾을 수 있겠어?”

알리 앤서가 답했다.


‘응, 나왔어.......’



태근씨가 묻습니다. “알리(alli) 앤서? 그게 뭔가요?”


태근씨가 문서를 찾기 위해 가장 먼저 했던 일은 키워드를 이용한 검색이었다. 그러나 일반적인 키워드 검색은 본인이 찾고자 하는 키워드에 연관된 결과보다 빈도율이 높은 키워드 중심으로 검색 결과가 나올 확률이 높다. 태근씨의 두번째 문제는 문서의 내용물을 바로바로 볼 수 없는 것이었다. 문서를 하나하나 클릭하며 확인하는 데에 많은 시간이 소비됐고, 결국 상사가 태근씨를 타박하는 결과를 낳았다.

그렇다면, 이런 문제를 해결할 방법은 없을까? 정답은 ‘있다’이며, 정확한 답은 올거나이즈의 ‘알리 앤서’다. 알리 앤서는 AI 기반 인지검색 솔루션으로, 인공지능이 기업 내부 문서의 내용을 미리 학습해, 특정 질문에 대한 문의가 들어오면 빠르고 정확하게 검색해 결과를 보여준다. 한 예로 미쓰비시 케미컬 시스템은 알리 앤서를 활용해 계열사 직원 약 4만 명에게 소프트웨어, 업무 시스템 등을 지원하고 있다.

기업의 문서 및 매뉴얼, 최신 정보를 업로드하면 해당 질문에 대한 답을 문서에서 찾고 요약해 답할 수 있다. 오픈 AI의 GPT-3.5, GPT-4, 메타의 라마 2, 구글의 팜(Palm), 앤트로픽의 클로드 등 다양한 LLM을 지원한다.

알리 앤서는 자연어 이해 AI를 장착해 기존에 찾으려고 했던 키워드와 다른 키워드를 입력해도 의미론적으로 봤을 때 같은 뜻을 내포하고 있다면 원하는 답을 찾을 수 있다. 자연어 이해 AI가 문자의 의미와 의도를 이해해, 동일한 내용을 다른 형태로 질문해도 정확한 결과를 제시하기 때문이다.

태근씨의 상사는 알리 앤서에게 “A기업의 제휴 년도를 알려줘.”라는 간단한 질문으로 문제를 해결할 수 있었다.



설명만 들어도 솔깃하네요. 저희도 도입해볼까요?

올거나이즈는 2주일간 체험할 수 있는 알리 앤서 데모 버전을 제공한다. 우리도 신청해보았다.


프로젝트 생성을 준비하는 첫 단계다. 생성을 누르면, 나오는 설정을 필요한 대로 설정하면 된다. 프로젝트가 만들어지면 아래와 같이 가이드가 시작된다.


가이드의 첫번째 단계인 ‘Alii 사용 시작하기(①)’를 누르면 Q&A를 만드는 과정으로 넘어간다. 알리앤서는 사내/외 질문에 대한 답을 해주는 도구다. 여기서 Q&A는 질문과 답변의 카테고리에 따라 나누어 놓은 바구니와 같은 역할을 하는 노드(node)로 취급된다. 사용자가 만들어 놓은 Q&A의 모음인 데이터베이스로부터 질문에 대한 답을 찾아 사용자에게 제시하는 방식이다. 업로드 기능을 이용하면 다수의 Q&A를 알리의 지식 베이스에 한번에 업로드할 수 있다.


Q&A를 생성하는 방법은 직접 추가하는 것과 알리 앤서에서 제공하는 Q&A 데이터를 활용해 자동으로 만드는 것이 있다. 업로드한 문서에서 자동으로 질문/답변 쌍을 생성하는 방식으로 지식 베이스에서 문서 메뉴로 이동하면 문서 이름 옆의 Q&A 행에 ‘자동 생성’ 버튼이 있다. 알리 앤서는 ‘지식 베이스’를 가지고 있다. 지식 베이스는 FAQ 모음에 사용되는 FAQ 데이터 및 기계 독해에 사용되는 문서 등의 지식 베이스를 관리하고 학습시킬 수 있는 메뉴다. Q&A와 별개로 기계 독해를 이용해 문서에서 직접 답변을 추출해 보여주는 직접 답변도 가능하다.

알리 앤서는 프로그램 내에 산업군별 각종 데이터 및 관련 규약들과 관련한 공개 정보를 올거나이즈가 직접 크롤링(Crawling)해 만들 베이스 라인 모델이 있다. 그 후 고객사마다 갖고 있는 데이터와 자주 묻는 질문(FAQ)을 학습시켜 베이스 라인 모델에 접목해 업무 효율성을 향상시킨다.

일례로 일본의 주요 은행 중 하나인 미쓰이스미토모은행(SMBC)은 원래 IBM의 왓슨을 사용했지만, 금융에 특화된 AI 솔루션을 찾다 알리 앤서를 도입했다. SMBC가 왓슨을 1년 6개월간 사용할 동안 91.5%의 정확도를 보인 반면, 알리 앤서는 단 2주의 사전 테스트 기간 동안 정확도 95%를 기록했다. 이처럼 알리 앤서는 범용이지만, 베이스 라인 모델을 활용해 어떤 산업군에서 바로 적용하며 높은 정확도를 보인다. 실제 SMBC가 알리 앤서를 도입한 후, 수많은 해외 금융사들이 알리 앤서의 고객으로 유입됐다.



위의 사진은 문서만 업로드 한 뒤, 올거나이즈에서 제공하는 Q&A 샘플 파일을 학습시켜 생성한 질문과 답변(Q&A)이다. 테스트에 사용된 건 우리 고객사의 보도자료다.

첫번째 질문인 ‘두들린의 투자 유치 금액’은 문서상에서 제대로 찾아 정확히 답변했다. 이 경우는 Q&A로 옮겨 챗봇의 질문으로 바로 활용할 수 있다. 그러나 두번째 질문은 다소 생뚱 맞은 답변이다. 이는 아직 미답변 Q&A로 후보에 있는 내용이기 때문에 사용자가 직접 답변을 수정해 Q&A로 넘길 수 있다. 정확한 답변을 학습해 이후의 정확도도 점점 높일 수 있다. 이런 식으로 최종적으로 활용될 Q&A 데이터베이스를 쌓을 수 있다.


자동으로 생성되는 질문과 답변은 다양하다. 상단을 확인하면 아직 미답변 Q&A에 있는 것을 확인할 수 있다.

업무용이 아닌 일상 대화를 직접 만드는 것도 가능하다. 




알리 앤서를 이용해 AI비서를 만들어 보자!

갑자기 이상한 화면이 나왔다고 놀라지 않아도 된다. 알리 앤서에서 기본적으로 제공하는 인터페이스는 챗봇이며, 챗봇을 사용할 때 흐름은 대부분 다음과 같다. 첫 단계, A와 B중에서 어떤 것을 선택하시겠습니까? 여기서 A를 선택하면, 이후의 흐름은 A-1, A-2, A-3. 어떤 것을 선택하시겠습니까? 이런 식으로 진행된다. 그 다음도 유사하게 B-1, B-2, B’-1, B’’-1… 이런 식으로 뻗어 나가는, 쉽게 설명하면 프로그래밍 알고리즘의 플로우차트와 유사한 형태다.

갑자기 알고리즘이요? 그럼 알리 앤서는 컴퓨터공학도를 위한 솔루션 아닌가요? 이런 반박이 들어올 수도 있겠다. 절대 그렇지 않다. 일의 진행과정을 생각의 흐름에 맞추어 빠진 조건 없이 차근차근 그려 가면 누구나 알리 앤서를 활용해 스킬 생성이 가능하다.

주장의 입증을 위해 테스터용 챗봇을 하나 만들었다. 이름은 ‘미팅 장소 추천’ 스킬이다. 미팅이 잦은 업무 특성상 일정이 생길 때마다 적절한 장소를 골라 예약하는 것도 하나의 일이었다. 또한, 소셜 커뮤니티 후기를 참고해 고르고 골라 방문해도 예상보다 별로인 경우도 많았다. 이러한 상황에서 회사 내에서 공유 문서를 통해 미팅 장소 후기를 업데이트하고 있었다.

만들어진 챗봇 내부는 이런 식으로 되어 있다. 얼핏 보면 여러 질문과 답변이 복잡하게 섞인 것 같지만, 이는 우리가 생각하는 흐름을 그저 차례대로 표현한 것뿐이다. 식당을 고르고 싶어요. 위치가 어디인가요? 스텝 바이 스텝. 알리 앤서를 사용할 때는 그것만 생각하면 된다. 아래는 완성된 챗봇의 사용 모습이다.


이런 식으로 내 질문에 곧장 대답해주는 비서 같은 솔루션이라니. 이건 꿈만 같은 이야기가 아닌가? 심지어 누군가가 필요한 스킬을 만들어 놓으면 우리 팀, 아니 우리 회사 모두가 활용할 수도 있다. 물론 알리 앤서는 문서 접근에 대한 권한을 각각 부여하는 기능도 있다. 예시로 사용한 문서는 누구에게나 접근이 허용된 경우다. 또한 회사 내부 직원이 물어보는 것과 회사 외부 고객이 물어보는 상황에 따라서도 사용 용도가 달라진다.

또한, 알리 앤서는 문서 출처를 밝히는 방식으로 답변의 근거를 댄다. 기업의 문서 및 매뉴얼, 최신 정보를 업로드하면 해당 질문에 대한 답을 문서에서 찾고 요약해 답할 수 있다. 또한, 사내 문서 외 웹사이트와 같은 외부 소스에서도 답변을 얻을 수 있다.


그래서 ‘알리 앤서’를 옆에 두고 사용하고 싶어요?

질문에 대한 답을 간단히 하면, YES다. 기능이 제한된 데모 버전으로 이만한 성능을 낸다면, 고객사의 제품이 아니라도 도입했을 것이라는 생각이 들었다.

올거나이즈에 따르면, 사무직 근로자들은 2시간 30분, 근무시간의 30%를 검색으로 소비하고 있다고 한다. 이는 문서 작업이 많은 직종일수록 심할 것이다. 기본 탐색기는 키워드를 조금만 바꿔도 검색을 못하거나 특정 어구만 걸려도 결과물로 내보이는 경우가 있다. 알리 앤서는 이러한 문제를 해결하고, 똑똑하게 문서의 근거까지 보여준다.

알리 앤서에는 오류 답변을 막아주는 RAG(Retrieval Augmented Generation, 검색 증강 생성) 기능이 고도화돼 있다. RAG는 기업들의 내부 데이터나 최신 정보를 연결함으로써 AI가 제대로 된 답변을 할 수 있도록 맥락을 제공하는 기능이다. 이를 통해 최신 정보가 없을 경우 잘못된 정보를 생성해 내는 생성형AI의 할루시네이션 이슈를 상당 부분 해소할 수 있다.

그리고 업무 환경의 질을 떨어뜨리는 건 문서만의 문제가 아니다. 인원이 많아질수록소모적인 작업에 허비되는 시간이 많아진다. 기업의 제도와 복지에 대한 신입 사원의 질문은 얼핏 보기에 소소한 것 같지만, 수 백명이 동일한 질문을 한다면? 해결하는 사람도 답을 기다리는 사람도 지칠 수밖에 없다.

올거나이즈는 이러한 문제점들을 알리 앤서를 이용해 해결하고자 한다. 실제로 알리 앤서는 단순히 문서를 검색해주는 솔루션이 아니라 태스크봇(TaskBot)에 가까우며, CRM 업무까지 수행할 수 있는 다재다능한 비서다. 자유도가 높은 만큼 많은 기능을 구축할 수 있고, 그 예시는 올거나이즈의 홈페이지에 자세히 소개되어 있다.

직관적인 질문 하나로 궁금증에 대한 답을 옆에서 척척 내려주는 AI비서, 누구나 장만하고 싶지 않을까? 업무 효율성을 높이고 싶다면, ‘알리 앤서’는 앞으로 필수가 될 선택이다.


알리앤서 도입 바로가기>>

INQUIRY

오랜 IT홍보 경험을 토대로 쌓은 
미디어 네트워크를 통해서 다양한 

내용을 홍보하면서 신뢰감을 높일 수 
있도록 도와드립니다. 

CONTACT US

(주)오픈피알, ‌서울시 구로구 디지털로31길 12 
대표: 구태형 / 사업자등록번호: 105-87-33165
Tel: 02-2345-6789 / E-mail: pr@openpr.kr

INQUIRY
오랜 IT홍보 경험과 미디어 네트워크를 보유한 
홍보 전문가가 사내 홍보팀의 빈자리를 채워드립니다. 
CONTACT US

(주)오픈피알, ‌서울시 구로구 디지털로31길 12 대표: 구태형
사업자등록번호: 105-87-33165 / Tel: 070-7363-0767 / E-mail: pr@openpr.kr