전체기사 최신뉴스 GAM 라씨로
KYD 디데이

SKT, 기업·공공용 AI에도 멀티 LLM 적용

기사입력 : 2023년08월23일 09:08

최종수정 : 2023년08월23일 09:08

엔트로픽, 코난 등 타 LLM과 협업 시도

[서울=뉴스핌] 조수빈 기자 = SK텔레콤이 기업·공공용 생성형 인공지능(AI) 시장 공략을 위한 멀티 거대 언어모델(LLM) 전략을 23일 발표했다.

SK텔레콤의 인공지능(AI) 서비스 에이닷용 슈퍼컴퓨터 '타이탄'. [사진=SK텔레콤]


SK텔레콤은 기업 및 공공기관 등의 요구에 맞춰 에이닷 LLM, 엔트로픽의 LLM, 코난의 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.

LLM은 오픈AI(GPT-3)와 같은 생성형 AI의 기본모델이다. 에이닷 LLM은 대화와 고객센터 등 통신사 기반 서비스를 중심으로 SK텔레콤이 자체 개발해온 언어모델이다. 엔트로픽사의 LLM은 윤리적 답변과 대용량 텍스트 입력에 강점이 있다. 코난 LLM은 한국어 데이터가 풍부하다는 평가를 받는다.

앞서 SK텔레콤은 코난과 엔트로픽 사에 각각 지분투자를 하고 협력을 확대할 예정이다. 각사의 LLM 기능은 올 4분기부터 통합 작업이 완료돼 실제 서비스 제공이 가능해질 전망이다.

SK텔레콤은 자사가 국내 최고 수준의 슈퍼컴 등 대규모 GPU 시스템을 갖추고 있고, 전국 단위의 IT 인프라 운용 경험과 대규모 AI 개발자 기반을 보유했다는 점에서 엔터프라이즈 AI 분야 풀스택 서비스가 가능하다고 자신헀다.

그 기반으로 SK텔레콤은 AI반도체 전문기업인 사피온을 설립하고 X330등의 신기술을 활용해 GPU가 가지고 있는 발열과 높은 가격이라는 이슈를 해결하는 중이다.

SK텔레콤은 기업공공분야 LLM 서비스에 있어 산업별 특화 LLM서비스 제공을 지향한다고 전했다. 에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사 내 서비스 장점이 있다. 엔트로픽 LLM의 경우 AI가 따라야 할 윤리원칙을 미리 학습시켜 두었기 때문에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특성이 있다. 자료 입력 시 소설책 한 권에 해당하는 텍스트를 통째로 입력이 가능하다.

이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

SK텔레콤은 행안부, 과기부 등 정부에서 추진중인 LLM 기반 시범 사업과 본 사업 참여를 준비중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진중에 있다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술의 제조 영역 적용을 위한 협의를 진행 중이다.

김경덕 SK텔레콤 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 "중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 강조했다. 

beans@newspim.com

[뉴스핌 베스트 기사]

사진
국힘 대선후보 김문수 56.53% 득표 [서울=뉴스핌] 국회사진취재단 = 국민의힘 대선후보로 선출된 김문수 후보가 3일 오후 경기 고양시 킨텍스에서 열린 국민의힘 제5차 전당대회에서 당직자들과 손을 들며 인사하고 있다. 2025.05.03 photo@newspim.com   2025-05-03 17:28
사진
李 파기환송심 서울고법 재판장은? [서울=뉴스핌] 이성화 기자 = 대법원 전원합의체가 이재명 더불어민주당 대선 후보의 공직선거법 위반 사건을 유죄 취지로 서울고법에 돌려보낸 지 하루 만에 이 후보의 파기환송심을 맡을 재판부와 첫 공판기일이 정해졌다. 서울고법은 2일 오후 이 후보의 공직선거법 위반 사건 파기환송심을 형사7부(재판장 이재권)에 배당했다. 또 이날 이 후보의 공직선거법 위반 사건과 관련해 소환장 및 기일통지 발송에 이어, 집행관 송달을 촉탁했다. 집행관 송달은 우편송달이 되지 않을 때 진행하는 특별송달이다.  서울고법의 선거사건 전담 재판부는 형사2부, 6부, 7부 3곳인데 이 후보의 기존 항소심 재판부인 형사6부는 배당 대상에서 제외됐고 6부의 대리 재판부인 형사7부에 배당됐다. [서울=뉴스핌] 김학선 기자 = 이재명 더불어민주당 대선 후보가 지난 1일 서울 중구 프레스센터에서 열린 한국노총과의 정책협약식에 참석하고 있다. 이날 대법원은 이재명 대선 후보의 공직선거법 위반 사건에 대해 무죄를 선고한 2심 판결을 파기 환송했다. 2025.05.01 yooksa@newspim.com ◆ 이재권 재판장, '민주당 돈봉투' 등 사건 맡아 해당 재판부는 '민주당 돈봉투' 사건으로 기소된 이성만 전 의원과 송영길 소나무당 대표의 전 보좌관 박용수 씨 사건을 심리하고 있다. 이밖에 폐수 불법 배출 혐의를 받는 HD현대오일뱅크 사건, 김학의 전 법무부 차관 사건 관련 허위 면담보고서 작성 혐의를 받는 이규원 조국혁신당 전략위원장(전 부부장 검사) 사건도 맡고 있다. 해당 재판부는 이재권(사법연수원 23기) 부장판사와 박주영(33기)·송미경(35기) 고법판사로 구성됐다. 재판장은 이 부장판사가, 주심은 송 고법판사가 맡는다. 이 부장판사는 제주 서귀포 출신으로 제주제일고등학교와 서울대학교 법대를 졸업했다. 1997년 서울중앙지법 판사로 임관한 뒤 서울행정법원 판사, 제주지법 부장판사, 수원고법 부장판사 등을 거쳐 지난해 2월부터 서울고법 부장판사로 근무하고 있다. 특히 이 부장판사는 2005년 법원행정처 사법정책연구심의관, 2006년 법원행정처 사법정책실 판사, 2021~2024년 사법정책연구원 수석연구위원 등을 역임했다. 이용훈·양승태 전 대법원장 재임 당시인 2010년~2012년에는 대법원장 비서실 판사로도 근무했다. 박 고법판사는 서울과학고등학교와 서울대 산업공학과를 졸업했다. 2004년 서울중앙지법 판사를 시작으로 서울서부지법 판사, 수원지법 판사, 부산지법 부장판사, 의정부지법 부장판사를 역임했고 올해 2월 서울고법에 부임했다. 송 고법판사는 부산서여자고등학교와 이화여대 법학과를 졸업한 뒤 같은 대학원 법학과 석사과정을 거쳐 2006년 서울중앙지법에서 판사 생활을 시작했다. 서울남부지법 판사, 부산지법 판사, 인천지법 판사 등을 거쳐 2022년 2월부터 서울고법에서 근무하고 있다. 김명수 대법원장 시절인 2019년~2022년에는 대법원 재판연구관을 지냈다. [서울=뉴스핌] 김학선 기자 = 이재명 더불어민주당 대선 후보가 1일 서울 중구 프레스센터에서 열린 한국노총과의 정책협약식에 참석하고 있다. 이날 대법원은 이재명 대선 후보의 공직선거법 위반 사건에 대해 무죄를 선고한 2심 판결을 파기 환송했다. 2025.05.01 yooksa@newspim.com ◆ 첫 파기환송심 15일...李 불복 뒤 재상고 가능성 커 파기환송심 첫 공판기일은 오는 15일 오후 2시로 지정됐다. 이날 사건이 배당된 지 약 한 시간 만에 재판부가 기일을 지정하면서 이 후보 사건은 신속하게 진행될 것으로 보인다. 하지만 파기환송심 선고 결과가 나오더라도 이 후보가 이에 불복해 대법원에 재상고할 것으로 보여 오는 6월 3일 대선 전 최종 판결이 나오기는 어렵다는 관측이 우세하다.   대법 전합은 전날 이 후보의 공직선거법 위반 혐의 사건 상고심 선고기일을 열고 이 후보에게 무죄를 선고한 원심 판결을 파기환송했다. 재판부는 이 후보가 대장동 개발사업의 핵심 실무자였던 고(故) 김문기 전 성남도시개발공사 개발1처장과 골프를 쳤다는 의혹과 관련해 '사진이 조작됐다'는 취지로 한 발언, 백현동 개발사업 특혜 의혹과 관련해 국토부의 압박 내지는 협박이 있었다고 한 발언이 선거인의 정확한 판단을 그르칠 정도에 해당해 허위사실공표라고 판단했다. 재판부는 "김씨를 하위직이라서 몰랐다는 발언과 함께 골프 발언을 듣는 일반 선거인으로서는 출장은 같이 갔지만 함께 간 해외줄장 기간에 골프를 치지는 않았다는 의미로 자연스럽게 받아들이게 된다"며 "그런데 피고인은 김씨 등과 함께 간 출장 기간에 골프를 친 것이 사실이므로 이 발언은교유행위에 관한 허위사실 공표에 해당한다"고 판시했다. 또 "백현동 개발 특혜 의혹과 관련해 '국토부가 이 사건 의무조항을 들어 용도지역 변경을 압박했다'는 취지의 발언과 '국토부가 이 사건 의무조항에 따르지 않으면 직무유기를 문제 삼겠다고 협박했다'는 취지의 발언은 사실의 공표이지 단순히 과장된 표현이거나 추상적인 의견 표명에 그치는 것이 아니다"라고 지적했다. 대법원 판결은 기속력이 있기 때문에 파기환송심은 이를 뒤집을 만한 중대한 증거가 새롭게 제시되지 않는 이상 대법원 판결 취지에 따라 이 후보에 대한 추가 양형 심리를 거쳐 유죄를 선고하게 된다. 이 후보의 공소사실을 유죄로 판단한 1심은 의원직 상실형인 징역 1년에 집행유예 2년을 선고한 바 있다.  shl22@newspim.com 2025-05-02 18:55
안다쇼핑
Top으로 이동