RAG 기술, 인공지능 혁신의 중심으로 떠오르다

인공지능 분야에서 Chat GPT와 같은 생성형 AI가 다양한 분야에서 활용되고 있습니다.

 

그러나 생성형 AI은 학습된 데이터 내에서만 작동하기 때문에 최신 정보나 특정 도메인의 전문 지식에 대해 정확한 답변을 제공하지 못하는 한계를 지니고 있습니다.

 

또한 그럴듯한 거짓 답변을 만들어내어 어떤 근거로 답변을 한 것인지, 진짜인지 거짓말인지 판단하기 어렵다는 문제가 있습니다.

 

이를 극복하기 위한 것이 바로 검색증강생성(RAG: Retrieval-Augmented Generation)입니다.

 

 

RAG란 무엇인가?

RAG는 외부데이터, 소스를 검색하여(Retrieve) 나의 질문을 보강하여(Augmented) 더 좋은 답변을 생성(Generation)해 LLM의 한계를 극복하기 위해 개발된 기술입니다.

 

즉, 사용자가 질문을 입력하면, LLM이 이를 처리하는 동안 외부 데이터베이스에서 필요한 정보를 실시간으로 검색하고, 그 정보를 바탕으로 보다 정확한 답변을 생성하는 방식입니다.

 

RAG의 개념은 오픈북 테스트에 비유되곤 합니다. 질문에 대한 답변을 생성할 때, LLM은 학습된 데이터에만 의존하는 것이 아니라 외부 자료를 참조하여 답변의 신뢰성과 정확성을 높입니다.

 

 

 

 

 

이는 특히 비즈니스 환경에서 중요한 역할을 합니다.

기업들은 내부의 고유한 데이터베이스를 기반으로 특정 정보에 대한 정확한 답변을 생성하고자 할 때 RAG를 활용할 수 있고, 이는 고객 서비스, 법률 자문, 의료 상담 등 다양한 비즈니스 애플리케이션에서 적용될 수 있습니다​.

 

예를 들어, "2024 대한민국 웰스 리포트"라는 문서가 있다고 가정하고, 챗봇이 "고액 자산가들이 유망하다고 생각하는 투자처는?"이라는 질문을 받았다고 합시다.

 

 

 

 

RAG를 활용하면 챗봇은 단순히 학습된 데이터에 의존하는 것이 아니라, 해당 문서를 실시간으로 검색해 정확한 답변을 제공할 수 있습니다.

 

이는 사용자의 질문을 강화해 더 신뢰할 수 있는 답변을 생성하는 방식입니다. RAG의 강점은 AI 모델이 학습하지 않은 새로운 정보에 대한 답변도 가능하게 한다는 점입니다.

 

 

 

RAG의 미래

현재 Microsoft, Perplexity AI 등 여러 기술 기업들이 RAG 기술을 활용한 상용 서비스를 선보이고 있습니다.

 

예를 들어, Microsoft는 Bing 검색 엔진에 RAG 기술을 적용해 사용자에게 최신 정보를 제공하고 있으며, Perplexity AI 또한 웹 검색을 통해 관련 정보를 수집하고, 이를 바탕으로 질의응답 서비스를 제공하고 있습니다.

 

특히 RAG 기술은 실시간 응답이 중요한 분야나 의료, 법률, 금융 등 고도의 전문 지식이 요구되는 분야에서 중요한 기술이 될 것으로 기대되고 있습니다.

 

앞으로 RAG 기술이 더욱 발전하면, 우리는 더욱 정확하고, 신뢰할 수 있는 정보를 바탕으로 더욱 편리하게 생성형 AI를 활용 할 수 있을 것입니다.