제보
주요뉴스 산업

SKT, 기업·공공용 AI에도 멀티 LLM 적용

기사등록 : 2023-08-23 09:08

※ 뉴스 공유하기

URL 복사완료

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게
엔트로픽, 코난 등 타 LLM과 협업 시도

[서울=뉴스핌] 조수빈 기자 = SK텔레콤이 기업·공공용 생성형 인공지능(AI) 시장 공략을 위한 멀티 거대 언어모델(LLM) 전략을 23일 발표했다.

SK텔레콤의 인공지능(AI) 서비스 에이닷용 슈퍼컴퓨터 '타이탄'. [사진=SK텔레콤]


SK텔레콤은 기업 및 공공기관 등의 요구에 맞춰 에이닷 LLM, 엔트로픽의 LLM, 코난의 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.

LLM은 오픈AI(GPT-3)와 같은 생성형 AI의 기본모델이다. 에이닷 LLM은 대화와 고객센터 등 통신사 기반 서비스를 중심으로 SK텔레콤이 자체 개발해온 언어모델이다. 엔트로픽사의 LLM은 윤리적 답변과 대용량 텍스트 입력에 강점이 있다. 코난 LLM은 한국어 데이터가 풍부하다는 평가를 받는다.

앞서 SK텔레콤은 코난과 엔트로픽 사에 각각 지분투자를 하고 협력을 확대할 예정이다. 각사의 LLM 기능은 올 4분기부터 통합 작업이 완료돼 실제 서비스 제공이 가능해질 전망이다.

SK텔레콤은 자사가 국내 최고 수준의 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있고, 전국 단위의 IT 인프라 운용 경험과 대규모 AI 개발자 기반을 보유했다는 점에서 엔터프라이즈 AI 분야 풀스택 서비스가 가능하다고 자신헀다.

그 기반으로 SK텔레콤은 AI반도체 전문기업인 사피온을 설립하고 X330등의 신기술을 활용해 GPU가 가지고 있는 발열과 높은 가격이라는 이슈를 해결하는 중이다.

SK텔레콤은 기업공공분야 LLM 서비스에 있어 산업별 특화 LLM서비스 제공을 지향한다고 전했다. 에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사 내 서비스 장점이 있다. 엔트로픽 LLM의 경우 AI가 따라야 할 윤리원칙을 미리 학습시켜 두었기 때문에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특성이 있다. 자료 입력 시 소설책 한 권에 해당하는 텍스트를 통째로 입력이 가능하다.

이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

SK텔레콤은 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중에 있다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행 중이다.

김경덕 SK텔레콤 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 "중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 강조했다. 

beans@newspim.com

CES 2025 참관단 모집
<저작권자© 글로벌리더의 지름길 종합뉴스통신사 뉴스핌(Newspim), 무단 전재-재배포 금지>