믿음 (인공지능)
믿음(Mi:dm)은 ㈜케이티(KT)에서 개발한 초거대 인공지능 모델이다. 감성을 이해하고 인간과의 교감을 중시하며, 사용자 의도를 해석하고 상황에 맞춰 말투나 목소리를 조정할 수 있는 능력을 가지고 있다.
[아사달] 스마트 호스팅 |
개요[편집]
믿음은 ㈜케이티 2023년 10월 31일에 출시를 발표한 초거대 인공지능 모델이다. 대규모 데이터를 학습한 거대언어모델(LLM)로, 특정한 목적 외에도 다양한 작업에 대한 응답을 생성할 수 있는 능력을 가지고 있다. 기존의 AI 모델과 달리 '믿음'은 하나의 모델로 여러 작업을 동시에 수행할 수 있도록 설계되었다.베이직, 스탠다드, 프리미엄, 엑스퍼트 등 총 4종의 모델로 구성되어 있으며, 기업들이 각자의 필요에 맞게 선택할 수 있는 옵션을 제공한다. 특히 이 모델들은 완전 맞춤형(Full Fine-Tuning)으로 사용할 수 있어, 기업의 구체적인 요구에 따라 AI를 세밀하게 조정할 수 있다. 경량부터 초대형 모델까지 기업의 규모와 사용 목적에 따라 맞춤형으로 사용할 수 있는 기능을 제공한다. 특히, 초거대 AI를 사용하고 싶지만, 직접 모델을 구축할 여력이 없는 기업들에게 최적의 솔루션을 제공한다. 기존 상업용 파운데이션 모델이 풀 파인 튜닝을 제공하지 못하는 한계를 보완하기 위해, ㈜케이티는 자체 개발한 파운데이션 모델을 통해 더 세밀한 맞춤형 튜닝을 가능하게 했다. 이는 기업들이 빅테크에 종속되지 않고 데이터 자주권을 유지하면서 AI 모델을 활용할 수 있는 중요한 기반이 된다.[1][2]
특징[편집]
감성[편집]
믿음은 적은 양의 데이터로도 사용자의 의도를 파악할 수 있으며, 대화 중 상황에 따라 말투나 목소리를 조정할 수 있는 능력을 보유하고 있다. 믿음은 단순히 질문에 대한 답변을 제공하는 것을 넘어, 이전에 나눈 대화를 기억하여 이를 바탕으로 더욱 자연스럽고 사람에 가까운 대화를 제공하는 것을 목표로 한다. KT는 이러한 믿음의 특징을 활용하여 AI 전문 상담과 감성 케어 분야에 적용하려 하고 있다. 특히, 믿음은 방대한 지식을 학습하고, AI 형상화(Embodied AI) 및 개인화된 TTS(Text to Speech) 기술을 결합해 사용자에게 전문적이고 개인화된 상담 서비스를 제공할 수 있다. 예를 들어, KT는 '오은영 AI 육아 상담 서비스'를 준비 중이며, 이 서비스를 통해 사용자는 AI와의 상호작용을 통해 전문적인 육아 상담을 받을 수 있게 될 것이다.
또한, 믿음은 감성 케어 분야에서도 중요한 역할을 할 것으로 기대된다. 이 AI는 시니어 고객과의 대화를 기억하여 그들의 취향이나 생활 패턴에 맞춘 감성적인 대화를 나눌 수 있다. 이를 통해, AI는 고객의 건강 상태에 변화가 있을 때 먼저 말을 건네거나, 관련 정보를 보호자나 관련 기관에 전달하는 등의 역할을 수행할 수 있다. 이러한 기능들은 믿음을 단순한 대화형 AI를 넘어선, 감성적이고 인간 중심적인 AI로 자리매김하게 한다.[3]
신뢰성[편집]
믿음은 개발 과정에서 강력한 신뢰 패키지(Reliable Package)를 도입했다. 이는 생성형 AI의 가장 큰 문제점 중 하나로 지적되는 환각(Hallucination) 현상을 줄이기 위한 것이다. KT는 세 가지 주요 기술을 통해 이 문제를 해결하고자 했다. 다큐먼트 AI(Document AI)는 복잡한 문서를 AI가 정확히 이해하도록 도와주며, 서치 AI(Search AI)는 최신 정보를 찾아내는 기능을 강화한다. 또한, 팩트가드 AI(FactGuard AI)는 원문에 근거한 응답만을 생성하도록 학습시켜, 환각 답변을 최대 70%까지 줄일 수 있다. 믿음 모델 중에서도 특히 70억 파라미터 규모의 경량 모델은 한국어 LLM 평가 리더보드인 Open Ko-LLM에서 최상위를 기록하며 그 성능을 입증했다. 이로써 KT는 신뢰성과 성능 면에서 경쟁력을 확보하며, 다양한 산업 분야에서 활용될 수 있는 가능성을 입증했다.[4]
비용효율성[편집]
믿음은 기존 대비 약 27% 가까운 GPU 학습 비용 절감이 가능한 KT 클라우드의 HAC(Hyperscale AI Computing) 서비스와 전력효율 6배, 추론 비용을 기존 대비 50% 절감한 리벨리온의 NPU 인프라 등 AI 풀스택을 효율적인 AI 개발 환경을 위한 맞춤형 통합 패키지로 함께 제공한다. 이는 네이버, SK텔레콤, LG, 엔씨소프트 등 자체 LLM을 선보인 경쟁사들과의 차별화 포인트로, 30% 낮은 가격에 해당한다. [5][6]
기술[편집]
㈜케이티는 초거대 AI 모델 믿음을 개발하는 데 엔비디아 DGX 슈퍼팟 플랫폼을 활용했다. 이 모델의 학습에는 엔비디아 네모(NVIDIA NeMo) 프레임워크가 사용되었다. 네모 프레임워크는 AI 엔터프라이즈 소프트웨어 제품군의 일환으로, 데이터 처리부터 학습, 평가, 생성형 AI 모델 추론에 이르는 모든 과정을 포괄하는 완벽한 솔루션으로 평가받고 있다. 엔비디아 네모는 LLM을 대규모로 빠르게 학습시키고 사용자 맞춤형 모델을 신속하게 배포할 수 있게 해, 투자 수익률(ROI)을 극대화한다. 또한, 멀티 노드와 멀티 GPU 학습을 통해 LLM 학습 시간을 단축하는 데 기여한다. KT와 엔비디아는 3D 병렬처리를 최적화하여 믿음 학습의 계산 효율성을 극대화하는 데 협력하였다.
또한, 믿음은 효율적 미세학습(PEFT)을 통해 맞춤형 AI 서비스를 제공한다. PEFT는 사전 학습된 모델의 대부분의 매개변수를 유지한 채, 소수의 가중치만 추가로 학습시켜 기업의 특정 작업과 도메인에 적합한 AI를 제공하는 방법이다. 엔비디아는 PEFT 방법으로 LoRA, IA^3 등을 분석하여 '믿음'에 적용하였다. 이러한 미세학습 방법은 네모 프레임워크와 텐서RT-LLM 소프트웨어에서 지원된다.
텐서RT-LLM은 엔비디아 GPU 상에서 최적의 LLM 추론 성능을 제공하며, 특히 양자화된 모델의 효율적인 분산 추론을 지원한다. KT와 엔비디아는 공동으로 인트4(int4) 양자화를 통해 모델의 메모리 사용량을 크게 줄이는 솔루션을 제공할 계획이다.
마지막으로, 응답의 유용성과 안정성을 향상시키기 위해 다양한 강화학습 기법을 활용했다. 엔비디아와 KT는 PPO, DPO, SteerLM 등의 다양한 강화학습 방법을 검토했으며, 네모 프레임워크에서 RLHF와 SteerLM을 통해 모델 정렬 성능을 개선할 수 있는 여러 방안을 함께 제공할 예정이다.[5]
활용[편집]
믿음은 다양한 분야에서 활용 가능성을 보여주고 있다. 특히, AI 컨택센터(AICC) 분야에서 혁신적인 변화를 이끌어내고 있다. AICC는 음성인식, 음성합성, 텍스트 분석, 대화엔진 등 최신 AI 기술을 통합하여 고객센터 업무를 전반적으로 최적화하는 시스템이다. KT의 구독형 AICC 서비스인 '에이센 클라우드'는 '믿음'을 기반으로 보이스봇과 챗봇에 적용되어 고객의 의도와 맥락, 그리고 감정까지도 정확하게 파악해 대응한다. 이를 통해 고객 문의에 대한 응답 품질이 크게 향상되고, 기업의 상담 업무 효율성도 극대화된다. 믿음이 적용된 AICC 시스템은 상담 후 처리 작업을 대폭 줄여준다. 예를 들어, 상담 내용을 요약하고 분류하는 작업을 자동화하여, 상담원들의 후처리 부담을 줄이고, 인입되는 전화 콜 수를 줄임으로써 전체적인 업무 생산성을 높인다. 실제로, 금융, 보험, 카드, 커머스 등 다양한 산업 분야에서 '에이센 클라우드'를 도입한 결과, 상담 품질은 약 10% 향상되고, 운영 비용은 15% 절감되었으며, 구축 비용도 30% 절감되는 효과를 보였다.
또한, KT의 AICC는 B2B 시장뿐만 아니라 일반 개인 고객(B2C)에게도 확장되어 그 활용 범위를 넓히고 있다. 예를 들어, 믿음이 탑재된 AI통화비서 서비스는 대기업뿐만 아니라 소상공인들에게도 실질적인 도움을 주고 있다. 이 서비스는 현재 6만 개 이상의 사업장에서 사용되고 있으며, 바쁜 소상공인을 대신해 전화를 받고, 부재 중에도 고객 전화를 응대하는 역할을 한다. 이를 통해 소상공인의 업무 부담이 줄어들 뿐만 아니라 매출 증대에도 기여하고 있다. 이러한 사례는 믿음이 단순한 AI 기술이 아니라, 실제 업무 환경에서 효율성을 극대화하고 고객 경험을 개선하는 데 있어 중요한 도구로 활용될 수 있음을 보여준다. KT는 믿음을 기반으로 한 AI 솔루션을 지속적으로 발전시켜 다양한 산업 분야에 적용하고 있으며, 이를 통해 국내외 시장에서의 경쟁력을 더욱 강화할 계획이다.[7]
믿음 스튜디오[편집]
믿음 스튜디오는 크게 멀티 LLM 제공, 편리하고 자유도 높은 학습 환경, 합리적 과금 정책 등 3가지 특징을 가지고 있다. 우선 믿음 스튜디오는 믿음 사전학습 모델부터 파트너사들의 다양한 모델까지 자유롭게 원하는 모델을 선택할 수 있으며, 모델별 최적화된 HAC 인프라와 인스턴스 제공으로 단 몇 번의 클릭만으로 학습·서빙이 가능하다. 또한 기업의 특화된 요구사항을 수용하고자 PEFT부터 완전 맞춤형(Full Fine-Tuning)까지 자유도 높은 학습 환경을 제공하고 있다. 아울러 효율적인 비용의 인프라를 기반으로 초기에 큰 비용 투입 없이도 초거대 AI를 활용할 수 있다. 이에 더해 2차 고도화 시에는 지식 최적화 검색 솔루션과 기업 특화 요구사항을 반영하기 위한 플러그인(API·SQL·web 등) 기능도 지원할 예정이다.[8]
해외 동향[편집]
KT는 2023년 10월, 태국의 자스민 그룹(Jasmine group)과 협력하여 태국어 거대언어모델(Thai-LLM) 구축 및 동남아시아 시장에서의 공동 사업화를 추진하기로 발표했다. 이 협력은 KT의 초거대 AI 모델 믿음을 기반으로 하며, 태국어 전용 LLM을 구축하여 해당 시장에 맞춘 AI 서비스를 제공하는 것이 목표이다. 양사는 태국어 전용 LLM을 개발하기 위해 공동으로 기술을 개발하고, 이를 태국의 신규 IDC에 GPU Farm을 구축하는 방식으로 추진할 예정이다. 이 프로젝트는 단순히 태국 시장에 국한되지 않고, 이후 라오스, 캄보디아 등 동남아시아 전역으로 확장할 계획이다. 이를 통해 KT는 동남아시아의 AI 시장에서의 입지를 강화하고, 글로벌 AI 시장에서 경쟁력을 확보할 것이다. KT는 이번 협력을 소버린 AI(Sovereign AI)'라는 흐름의 일환으로 보고 있다. 이는 국가나 기업들이 빅테크에 종속되지 않고, 자체적인 데이터 주권을 확보하기 위한 움직임이다. 많은 비영어권 국가들은 언어적 다양성을 반영하지 못하는 기존의 글로벌 AI 모델에 한계를 느끼고 있으며, KT는 이러한 상황을 반영해 태국어 LLM을 구축함으로써 태국의 AI 주권을 강화하고자 한다. 앞으로도 KT는 믿음을 다양한 글로벌 시장에 확산시키며, 각 국가의 요구에 맞춘 맞춤형 AI 솔루션을 제공할 계획이다.[9]
각주[편집]
- ↑ 박현진 기자, 〈KT 초거대 AI '믿음', 원하는 기업 누구나 쓴다!...조(兆)단위 데이터 사전학습 파운데이션 모델 개방〉, 《인공지능신문》, 2023-10-31
- ↑ 박상원 기자, 〈KT, 초거대 AI '믿음' 출시…1700조 시장 공략〉, 《라이센스뉴스》, 2023-10-31
- ↑ 김봉기 기자, 〈초거대 AI '믿음', 공개 초읽기… 동남아 국가와는 공동 AI 사업〉, 《조선일보》, 2023-10-30
- ↑ 구교형 기자, 〈KT, ‘환각현상’ 확 줄인 초거대 AI ‘믿음’ 출시〉, 《경향신문》, 2023-10-31
- ↑ 5.0 5.1 서재창 기자, 〈엔비디아, KT 초거대AI '믿음' 구축에 자사 플랫폼 지원〉, 《헬로티》, 2024-01-16
- ↑ 정지은 기자, 〈베일 벗은 KT 초거대 AI '믿음'…30% 가격 낮춰 차별화〉, 《한국경제》, 2023-11-06
- ↑ 박준호 기자, 〈[2024 신년기획]KT, 초거대AI '믿음'으로 산업계 AX 이끈다〉, 《전자신문》, 2024-01-02
- ↑ 원태영 기자, 〈KT가 초거대 AI ‘믿음’을 선보인 이유는? [이코노 인터뷰]〉, 《이코노미스트》, 2023-11-24
- ↑ 박미영 기자, 〈국산 초거대 AI ‘믿음’ 해외로 진출한다〉, 《보안뉴스》, 2023-10-24
참고자료[편집]
- 박미영 기자, 〈국산 초거대 AI ‘믿음’ 해외로 진출한다〉, 《보안뉴스》, 2023-10-24
- 김봉기 기자, 〈초거대 AI '믿음', 공개 초읽기… 동남아 국가와는 공동 AI 사업〉, 《조선일보》, 2023-10-30
- 박현진 기자, 〈KT 초거대 AI '믿음', 원하는 기업 누구나 쓴다!...조(兆)단위 데이터 사전학습 파운데이션 모델 개방〉, 《인공지능신문》, 2023-10-31
- 박상원 기자, 〈KT, 초거대 AI '믿음' 출시…1700조 시장 공략〉, 《라이센스뉴스》, 2023-10-31
- 구교형 기자, 〈KT, ‘환각현상’ 확 줄인 초거대 AI ‘믿음’ 출시〉, 《경향신문》, 2023-10-31
- 정지은 기자, 〈베일 벗은 KT 초거대 AI '믿음'…30% 가격 낮춰 차별화〉, 《한국경제》, 2023-11-06
- 원태영 기자, 〈KT가 초거대 AI ‘믿음’을 선보인 이유는? [이코노 인터뷰]〉, 《이코노미스트》, 2023-11-24
- 박준호 기자, 〈[2024 신년기획]KT, 초거대AI '믿음'으로 산업계 AX 이끈다〉, 《전자신문》, 2024-01-02
- 서재창 기자, 〈엔비디아, KT 초거대AI '믿음' 구축에 자사 플랫폼 지원〉, 《헬로티》, 2024-01-16
같이 보기[편집]
이 믿음 (인공지능) 문서는 인공지능 서비스에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.