SEMINAR
최고의 LLM보다 중요하다는 ‘이것’, AI 생태계가 변한다
AI를 넘어 AGI
많은 전문가들이 디지털 혁신이 도달해야 할 최종 목적지는 범용인공지능, 즉 AGI(Artificial General Intelligence)라고 말합니다. 이미 충분히 우리를 놀라게 하고 있는 생성형 AI 또한 그 목적지로 가는 과정이라고 하면서요. AGI는 인간 수준의 지능을 갖추고 스스로 사고하고 학습하는 AI입니다. 인간이 방대한 양의 데이터셋을 통해 학습시키는 것이 아니라 ‘스스로’ 학습한다는 점에서 기존 AI와는 큰 차이가 있습니다. 영화 아이언맨의 ‘자비스’나 HER의 ‘사만다’를 떠올려 볼 수 있겠네요.
구글, 아마존, 메타 등 빅테크 기업들의 AGI 연구도 활발합니다. 구글은 ‘딥마인드’를 통해, 아마존은 ‘아마존AGI’를 통해 AGI 개발에 열을 올리고 있습니다. 올 초 메타의 CEO 마크 저커버그 역시 ‘메타의 장기 비전은 AGI를 구축하는 것’ 이라고 선언하며, 연내 총 60만 개의 AI 칩을 확보한다는 계획을 발표했습니다. 이같은 수요에 힘입어 최근 삼성 또한 AGI용 칩 개발을 위한 전용 컴퓨팅랩을 신설한다고 밝힌 바 있습니다.
AGI가 먼 미래의 이야기처럼 느껴지지만 멀티모달 기술의 발전과 이를 뒷받침해주는 반도체 칩 개발이 가속화되면서 도래 시기에 대한 예측도 점차 앞당겨지고 있습니다. 지난 3월 19일, 엔비디아 연례 개발자 콘퍼런스 ‘GTC 24’에서 CEO 젠슨 황은 ‘AGI가 5년 이내에 등장할 것’ 이라고 말했습니다. 무려 2080억 개의 트랜지스터와 10조 개의 파라미터를 탑재했다는 AI칩 ‘블랙웰’도 함께 공개됐고요. 오픈AI의 GPT-3 파라미터가 1750억 개, 구글의 제미나이가 1조 개, 그리고 사람의 뇌가 약 100조 개라고 하니 젠슨 황의 호언장담이 과장은 아닌 듯합니다.
2022년 말 텍스트 기반의 Chat GPT가 처음 출시된 이후 올 초 멀티모달 AI ‘Sora’의 등장까지 1년여 만에 AI가 인간과 상호작용하는 방식에 드라마틱한 발전이 있었습니다. 그리고 이제는 인간 수준의 지능을 가지고 스스로 사고하고 학습하는 AGI를 향한 카운트다운이 시작됐죠. 그리고 이제는 인간 수준의 지능을 가진 AGI를 향한 카운트다운이 시작됐죠. 이렇듯 산업 전반으로 확산되는 급속한 변화의 흐름 가운데 예측할 수 있는 것은 많지 않지만, 이러한 흐름에서 한 발 빠져 있다면 나중에 뒤늦게 따라잡기란 무척 어려울 것은 분명해 보입니다.
오늘은 메가존클라우드 ADC(AI & Data Analytics Center)의 김한수 그룹장님을 모시고 너무나 빠르게 변화하는 AI 시장에서 기업들은 과연 무엇에 집중해야 하는지 메가존클라우드의 도입 성공 사례와 함께 알아보려고 합니다.
최고의 LLM vs. 최적의 LLM
(제목의 의미를 눈치채셨나요?😉) 지난 3월 4일, 앤트로픽이 GPT-4를 능가한다는 Claude 3를 공개했고, 이에 질세라 오픈AI가 올 여름 GPT-5를 출시할 것이라고 밝혔습니다. 엎치락뒤치락하며 발전하는 LLM의 개발 경쟁을 지켜보는 일은 매우 흥미롭습니다. 그러나 이러한 변화의 속도는 점점 더 빨라지고 있고, 기업들은 이제 ‘최고의 LLM’을 찾는 것이 능사는 아님을 이해하고 있습니다.
어떤 모델이 더 많은 파라미터를, 더 빠른 처리 속도를 가졌는지 보다는 우리 기업에 맞는, 우리 산업의 특성과 언어를 이해하는 ‘최적의 LLM’을 구축하는 것이 더욱 중요한 문제기 때문입니다. 이러한 경향은 각 산업에 특화된 버티컬 서비스의 진화와 AI 생태계 기술이 기반 모델에서 응용/인프라로 빠르게 전환되는 모습에서 찾아볼 수 있습니다.
위 그래프는 Github의 생성형 AI 오픈소스 인기도를 나타낸 것인데요, 2023년 1분기에 비해 3분기에는 인기 총량이 30% 가량 상승하였고, 인기 순위 상위권 30개 중 26개가 기반 모델에서 응용/인프라 부분으로 대체되었습니다. 이전에는 빅테크 기업들이 기반 모델을 출시하면 개발자들이 그것을 튜닝해서 올리는 방식이 인기였다면, 이제는 LLM을 직접 응용하는 것에 대한 관심이 훨씬 커진 것입니다.
고객님, 생성형 AI 어디에 쓰시려고요?🤓
지난 3월 12일, 메가존클라우드와 AWS가 공동으로 주최한 <비즈니스 리더를 위한 성공적인 생성형 AI 도입 로드맵> 세미나에서 등록 고객을 대상으로 설문조사를 진행했습니다. 생성형 AI 도입을 고려하고 있는 분야를 묻는 질문을 통해 현재 생성형 AI에 대한 기업의 주요 관심사는 업무 생산성 향상, 직원 업무 지원, 고객 경험 강화임을 확인할 수 있었습니다.
2월 메클레터에서 현재 많은 고객들이 AI 도입을 위한 PoC를 진행 중이라고 말씀드렸는데요, 이번에는 생성형 AI의 주요 부문별 실제 도입 사례를 공유해드리려고 합니다.
영업 일지 질의를 통해 업무 생산성 강화한 사례
먼저 영업 일지 질의를 통한 영업 전략 및 마케팅 업무의 생산성을 강화한 사례입니다. 이 기업은 다년간 축적된 영업 일지에 숨겨진 인사이트가 있을 것으로 추측했습니다. 그리고 이를 데이터베이스화하면 숨은 인사이트를 발굴하여 비즈니스적으로 활용할 수 있을 것으로 기대했죠. 그러나 단순히 검색 엔진을 적용하거나 LLM 서비스를 도입하는 것만으로는 니즈 해결이 어려웠습니다.
메가존클라우드 ADC(AI & Data Analytics Center)에서는 이를 해결하기 위해 기업 보안 거버넌스를 준수한 생성형 AI 활용 체계를 마련하였습니다. 또한, 그동안은 조직마다 분산되어 사일로하게 보관되었던 데이터를 한 곳으로 통합하여 업무 수행에 필요한 과거 이력 정보의 접근성을 강화하였습니다.
검색 및 추천 기능 강화를 통해 고객 만족도 개선한 사례
이번에는 고객 경험 강화 사례를 소개해 드리겠습니다. B2C 이커머스 플랫폼에서 검색 및 추천 기능을 강화함으로써 고객 만족도를 개선하고 매출 확대를 경험한 사례입니다. 기존 사이트에서는 상품 검색이 DB 기반이거나 텍스트 검색 기반이었기 때문에 상품의 관리를 위한 컬럼에 검색어가 포함되면 관련성이 없어도 검색 결과에 나타나는 문제가 있었습니다. 또한, 자연어로 입력할 경우 상품이 조회되지 않아 구매 연결이 단절되는 경우도 발생했습니다. 경쟁사 역시 자연어로는 상품이 검색되지 않는 상황이었기 때문에 선제적으로 이를 개선할 필요성이 있었습니다.
메가존클라우드 ADC에서는 생성형 AI를 활용해 기업의 데이터 활용 체계를 마련하고, 효율적이고 직관적인 정보 검색 및 관리 기능을 도입하였습니다. 이로써 기존의 데이터베이스에 기반한 검색의 경직성을 탈피할 수 있었습니다. 또한, 생성형 AI를 통해 상품 추천 메시지를 생성하거나 추천 상품이 포함된 이미지를 생성하는 등 고객의 구매 여정에 적극적으로 개입함으로써 고객 경험을 향상시킬 수 있었습니다.
기승전RAG 라고요?
앞서 이제 기업은 ‘최고의’ 모델 보다는 우리 기업에 ‘최적인’ 서비스를 구축하는데 더욱 집중해야 할 때라고 말씀드린 바 있습니다. 이때 무엇보다 중요한 것이 바로 RAG 파이프라인을 잘 구축하는 것입니다.
2월 메클레터에서도 소개드렸던 RAG(Retrieval-Augmented Generation)는 LLM의 환각 문제를 해결하는 대표적인 기술입니다. (혹시 못 보셨다면 클릭👉) LLM은 이미 입력된 데이터에 기반한 확률 모델이기 때문에 환각을 100% 없애는 것은 불가능하다고들 말합니다. LLM의 특성상 무조건 답변하려는 경향이 강하기도 하고요. 프롬프터에 ‘모르면 모른다고 말해’ 라든지, ‘출처가 있는 경우에만 대답해’라고 했을 경우에도 억지로 답변을 생성하는 경우가 발생합니다.
따라서 LLM의 활용도가 높아질수록 RAG 파이프라인을 제대로 구축하는 것이 더욱 중요해지고 있습니다. 가장 정확도가 높은 답변을 생성할 수 있도록 풍성한 프롬프트를 구성하는 것도 당연히 여기에 포함됩니다.
그러나 아주 간단하고 기본적인 형태의 챗봇이 아닌 이상 RAG 파이프라인을 실제로 구축하다 보면 계획보다 훨씬 더 복잡해지는 경우가 많습니다. 각 기업의 특성에 맞춰 품질 좋은 결과가 나오게 하려면 결과단에서 보여주고 있는 복잡한 프로세스 여러 덩어리가 유기적으로 하나의 LLM을 구성해야 하기 때문입니다.
쉽게 하는 방법 알려드려요💡
메가존클라우드 ADC(AI & Data Analytics Center)에서는 ‘GenAI 360’ 오퍼링을 서비스하고 있습니다. 기업의 고유 데이터를 기반으로 즉각적인 생성형 AI 활용이 가능하도록 대상 서비스 선정부터 모델 학습 및 운영 단계까지 엔드투엔드로 제공하는 기업 맞춤형 서비스입니다.
RAG 파이프라인 구성 및 RAG 연계 프롬프트 엔지니어링을 통해 많은 계산 리소스와 특수 하드웨어가 필요한 파인 튜닝 과정 없이 우리 기업의 데이터를 ‘잘’ 저장하고 연결하는 것만으로 최적의 ‘맞춤형 생성형 AI’를 도입할 수 있습니다. 우리 기업을 위한 쉬운 생성형 AI 도입 방법이 궁금하시면 지금 문의를 남겨보세요. 메가존클라우드 ADC의 데이터크루가 신속하게 답변드립니다.
👉GenAI 360 더 알아보기
👉ADC 데이터크루에 문의하기
자료 출처
- [한국경제] AGI가 뭐길래…빅테크 열공
- [조선일보] “트랜지스터 2080억개”… 엔비디아, 차세대 괴물 AI칩 ‘B100′ 공개
- [연합뉴스] 인간 뇌에 가까워진다…블랙웰, GPT-4 성능 20배 AI ‘괴물칩’
- [뉴스핌] AGI를 만날 준비
- [AI타임스] 오픈AI, 올해 중반 ‘GPT-5’ 출시 유력…”일부 기업에 데모 전달”
- [ANTHROPIC 블로그] Introducing Claude