KoreaWho
KoreaWho
기업과산업  전자·전기·정보통신

KT 기업용 초거대AI '믿음' 공개, '환각 답변' 70% 감소 기술 적용

나병현 기자 naforce@businesspost.co.kr 2023-10-31 10:52:00
확대 축소
공유하기
페이스북 공유하기 X 공유하기 네이버 공유하기 카카오톡 공유하기 유튜브 공유하기 url 공유하기 인쇄하기

KT 기업용 초거대AI '믿음' 공개, '환각 답변' 70% 감소 기술 적용
▲  최준기 KT AI/빅데이터사업본부장(왼쪽에서 두번째)이 31일 기자설명회에서 KT 초거대AI 믿음에 대해 설명하고 있다. (왼쪽에서 세번째부터) 배수민 KT AI2XL 연구소 소장, 이용재 매스프레소 대표, 김성훈 업스테이지 대표, 조성은 KT SW개발본부장. < KT >
[비즈니스포스트] KT가 기업고객을 위한 초거대 인공지능(AI) 대중화에 나선다.

KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 열고 초거대 AI ‘믿음(Mi:dm)’을 공개했다.
 
KT는 경량모델부터 초대규모의 전문모델까지 4종의 라인업을 마련했다.

KT는 초거대 AI를 활용하고 학습하고자 하는 모든 기업에게 믿음의 ‘파운데이션 모델’을 제공한다.

파운데이션 모델이란 방대한 데이터셋으로 학습한 초거대 AI 핵심 기반 모델을 말한다. 오픈 AI의 자연어 처리 모델 GPT가 대표적이다.

더 복잡한 기술의 구현이나 시스템의 구축을 위해 기업에서 원하는 형태로 미세조정(파인 튜닝)을 거쳐 다양한 AI 응용서비스를 만들 수 있다.

초거대 AI를 사용하고 싶지만 수십억에서 수천억에 달하는 파라미터 모델을 직접 만들 여력이 없는 대다수 기업들은 기존에 공개된 파운데이션 모델을 튜닝해 활용하는 방법이 가능하다.

하지만 데이터 자주권(Sovereign AI) 차원에서 빅테크에 데이터가 종속될 수 있다는 보안 우려가 있고 무엇보다 기존 상업용 파운데이션 모델은 풀 파인튜닝(FFT)을 제공하지 못한다는 한계가 있었다.

KT는 이러한 기업고객들의 갈증을 해결하고자 이번에 국내 업계 최초로 조 단위 데이터의 사전 학습을 완료한 자체 파운데이션 모델 믿음을 개방했다.

이를 통해 대형언어모델(LLM)의 기업간거래(B2B) 사업화를 가속하고 궁극적으로 기업들이 원하는 AI 사업 모델과 응용 서비스의 폭발적 확산을 이끌어낸다는 계획을 세웠다.

아울러 기존 대비 약 27% 가까운 그래픽처리장치(GPU) 학습 비용 절감이 가능한 KT클라우드의 HAC(하이버스케일 AI 컴퓨팅) 서비스, 추론 비용을 기존 대비 50% 절감한 리벨리온의 신경처리장치(NPU) 인프라 등 ‘AI 풀스택’을 맞춤형 통합 패키지로 함께 제공한다.

KT는 B2B 시장 공략에 집중한다.

최준기 KT AI/빅데이터사업부장은 “KT는 이번 믿음 출시를 계기로 기업전용 LLM 사업화, 새로운 AI 혁신 사업 발굴 등 우선 B2B 시장에 집중한다”며 “KT는 이미 65만 B2B 고객이 있다”고 설명했다.

글로벌, 제조, 금융, 공공, 교육의 5대 영역으로 초거대 AI 사업 영역을 확장하고 스타트업 개방 생태계를 통해 초거대 AI 기반 비즈니스 혁신에 나선다.

KT는 기업전용 LLM 사업화에 ‘업스테이지’, 교육 영역에선 ‘콴다’와 ‘에누마’, 기업용 업무 개인비서 영역에는 ‘비아이매트릭스’와 믿음을 활용한 AI 사업모델을 공동으로 개발한다.

KT 믿음의 특징으로 내세운 장점 가운데 하나는 고질적 ‘환각 답변(할루시네이션)’ 문제를 잡을 수 있다는 것이다.

KT는 환각 답변을 해결하기 위해 검색과 추론, 답변 모든 단계에서 신뢰성을 높일 세 가지 기술을 개발해 믿음에 적용했다.

다큐먼트 AI도 주요한 특징이다. 이는 도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 기술이다. 

아울러 서치 AI와 팩트가드 AI 기술도 장착했다. 서치 AI는 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술이다.

팩트가드 AI는 원문에 근거한 응답만 생성하도록 강화학습을 적용했다.

KT는 이로 인해 생성형AI의 가장 큰 문제점인 환각 답변을 일반 생성형AI 서비스 대비 최대 70% 가까이 줄일 수 있다고 설명했다.

생성형AI는 향후 큰 폭의 성장이 기대되는 시장이다.

블룸버그 인텔리전스 보고서에 따르면 글로벌 생성형AI 시장은 2032년 약 1조3천억 달러(1700조 원)까지 성장할 것으로 예상된다.

한국IDC는 국내 AI 시장이 2027년 4조4천억 원 규모로 성장할 것이라는 전망을 내놓기도 했다.

송재호 KT AI/DX융합사업부문장 부사장은 “초거대 AI 시장은 빅테크부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다”며 “KT는 차별화된 초거대 AI 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다”고 말했다. 나병현 기자

최신기사

법원, 우리금융 '부당대출' 혐의 전 회장 손태승 구속영장 재차 기각
경찰, 국방부·수방사 압수수색해 전 국방장관 김용현 '비화폰' 확보
하나은행장에 이호성 하나카드 사장, 하나증권 강성묵 사장 연임, 하나카드 사장에 성영수..
야당 6당 윤석열 대통령 탄핵소추안 두번째 제출, 14일 오후 5시 표결
신한은행 38세 이상 직원 대상 희망퇴직 받아, 특별퇴직금 최대 31달치 임금
우리은행 고강도 인사 쇄신, 부행장 줄이고 70년대생 발탁해 세대교체
이부진 포브스 선정 '가장 영향력 있는 여성' 85위, 네이버 최수연 99위
메리츠화재 김중현 이범진·메리츠증권 김종민 사장 승진, "경영 개선 기여"
미국 생물보안법안 연내 통과되나, 외신 "예산 지속 결의안에 포함 땐 가능"
국회 내란 특검법안과 김건희 특검법안 가결, 국힘 반대 당론에도 이탈표 나와
koreawho

댓글 (0)

  • - 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
  • - 저작권 등 다른 사람의 권리를 침해하거나 명예를 훼손하는 댓글은 관련 법률에 의해 제재를 받을 수 있습니다.
  • - 타인에게 불쾌감을 주는 욕설 등 비하하는 단어가 내용에 포함되거나 인신공격성 글은 관리자의 판단에 의해 삭제 합니다.