KT, 기업 대상 초거대 AI '믿음' 공개..."환각현상 70% 줄였다"
KT, 기업 대상 초거대 AI '믿음' 공개..."환각현상 70% 줄였다"
  • 하영건 기자
  • 승인 2023.10.31 14:59
  • 댓글 0
이 기사를 공유합니다

왼쪽 두번째부터 KT AI/BigData 사업본부 최준기 본부장, KT AI2XL 연구소 배순민 소장, '매스프레소' 이용재 대표, '업스테이지' 김성훈 대표, KT SW개발본부 조성은 본부장. (사진=KT)

KT가 31일 서울 서초구 KT 연구개발센터에서 설명회를 열고, 기업을 대상으로 하는 초거대 AI ‘믿음(Mi:dm)’을 선보인다고 밝혔다.

KT 관계자는 B2B 대상 초거대 AI 사업을 통해 3년 뒤 약 1000억원 규모의 매출을 기록할 수 있을 것이라 내다보며, 동시에 향후 5년간 초거대 AI 관련 1조 5000억원의 투자를 단행하겠다는 계획이 여전히 유효하다고 말했다.

■더 쉽고 더 저렴한 고객 맞춤형 AI, '믿음'

최준기 KT AI 빅데이터사업 본부장은 이날 설명회에서 기업고객들의 패인포인트는 크게 3가지였다고 설명했다. 첫째로 나만의 맞춤형 모델을 갖고 싶다, 둘째 모델을 만드는 과정이 쉬웠으면 좋겠다, 셋째 비용이 저렴했으면 좋겠다 등, 고객들의 니즈를 세 가지로 설명한 최 본부장은 기업 고객 누구나 쉽게 AI를 사용할 수 있도록 기술적으로 크게 앞서나간 '믿음'을 공개했다.

'믿음'은 국내 최초로 1조 토큰 이상 데이터를 학습한 거대언어모델(LLM)로, 기업 규모와 사용 목적에 맞게 선택해 사용할 수 있도록 매개변수(패러미터) 70억개 수준의 '경량' 모델부터 2000억개 이상 되는 '초대형'까지 총 4종의 모델이 출시됐다. 기업들은 각자의 사용 목적에 따라 완전 맞춤형(Full Fine-Tuning)으로 사용할 수 있다.

KT는 AI 풀스택을 통해 KT클라우드와 함께 믿음의 기업전용 AI 클라우드팜(Mi:dm CloudFarm)을 패키지로 제공해, 별도 개발 및 학습 인프라가 없더라도 누구나 합리적인 비용으로 초거대 AI를 활용한 서비스를 개발할 수 있도록 했다.

또, 고객들이 원하는 '맞춤형 AI'의 실현을 위해 파운데이션 모델을 간편하게 튜닝해 활용할 수 있도록 '믿음 스튜디오'도 선보였다.

초거대 AI를 사용하고 싶지만 수십억에서 수천억에 달하는 파라미터 모델을 직접 만들 여력이 없는 대다수 기업들의 경우, 기존에 공개된 파운데이션 모델을 튜닝해 활용해야 한다.

KT는 기존 상업용 파운데이션 모델은 풀파인 튜닝을 제공하지 못한다는 점을 반대로 이용해, 국내 업계 최초로 파운데이션 모델 믿음을 개방하고 이를 자유롭게 튜닝할 수 있도록 시스템도 제공한 것이다. 고객들은 믿음 스튜디오를 통해 몇 번의 클릭만으로 원하는 형태의 파인 튜닝을 거쳐, 다양한 AI 응용 서비스를 만들 수 있다.

■AI의 고질적 문제, '환각현상' 70%↓

KT 믿음의 또 하나의 장점은 강력한 신뢰 패키지를 제공한다는 것이다. 그간 생성형 AI의 고질적인 문제로 여겨진 환각 답변(Hallucination: 이하 할루시네이션)을 해결하기 위해, KT는 검색과 추론, 답변 모든 단계에서 신뢰성을 높일 세 가지 기술을 개발해 믿음에 적용했다.

도식화된 복잡한 문서를 정확히 이해할 수 있도록 하는 p다큐먼트 AI(Document AI), 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 p서치 AI(Search AI), 마지막으로 원문에 근거한 응답만 생성하도록 하는 p팩트가드 AI(FactGuard AI) 등 세 가지 기술을 적용함으로써, KT는 할루시네이션 현상을 최대 70% 가까이 줄일 수 있다고 설명했다.

또, KT가 공개한 4종 모델 가운데 70억 패러미터 규모의 경량 모델은 한국어 LLM 평가 리더보드인 ‘Open Ko LLM’에서 최상위를 기록하기도 했다.

‘Open Ko-LLM’은 역사 왜곡이나 형태소 오류, 환각, 혐오 표현 등 광범위한 항목을 평가하고 AI가 주어진 조건에 대해 생성해 낸 결과물이 한국어 사용자의 일반 상식에 부합하는지를 평가한다. 여기서 최상위를 기록하며 믿음은 신뢰성과 성능을 공식적으로 인정 받게 된 셈이다.

KT는 믿음 출시 이후 우선 B2B 시장에 집중하고, 이후 스타트업 등 국내외 다양한 기업들과 협업을 통해 초거대 AI 기반 비즈니스 혁신에 나선다는 계획이다.

송재호 KT AI/DX융합사업부문장 부사장은 “초거대 AI 시장은 세계적 빅테크 기업부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다”며, “KT는 차별화된 초거대 AI 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다”고 말했다.