[실리콘밸리=뉴스핌]김나래 특파원="챗봇 개발 및 운용 비용으로 1~2년 (기업들이) 고생할 수 있다. 실용화에도 1~2년 걸릴 것이다"

실리콘밸리 대부인 존 헤네시 알파벳회장은 최근 구글의 대화형 인공지능(AI) 바드 발표가 성급했다는 비판에 대해 여러 문제점으로 인해 바드 공개를 망설였다며 이같이 토로했다. AI만 10년을 연구해 온 구글 최고 수장의 솔직한 진단은 업계에 다시 경고음을 울렸다.

실리콘밸리 업계에서는 최근 AI 기술의 발전으로 검색의 패러다임의 변화에 대해서는 공감하면서도 넘어야 할 산이 많다는 부분에 대한 지적이 나오고 있다. AI 챗봇을 활용한 실질적인 상용화를 위해 개선해야 할 기술도 많지만 천문학적인 비용도 문제다. 또 전통적인 검색이 변화하게 되면 광고 수익모델도 바뀔 수 있어 이같은 논의도 본격적으로 시작되고 있다. 

[뉴스핌=김나래 기자] 2023.02.24 ticktock0326@newspim.com

◆ 검색엔진 운용 비용만 천문학적인 숫자…골머리 앓는 빅테크

AI 챗봇 개발에 기업들이 앞다퉈 뛰어 들고 있지만 천문학적인 비용을 걱정해야 하는 것은 빅테크들도 예외는 아니다. 헤네시 알파벳 회장은 로이터 통신과의 인터뷰에서 구글이 바드를 활용해 사용자 질문에 대답하려면 기존의 키워드 검색방식보다 비용이 10배 이상 들것으로 예상했다.

로이터 통신에 따르면 전문가들도 AI챗봇 투자가 알파벳의 수익을 잠식할 수 있을 정도라고 우려하고 있다. 모간스탠리는 구글이 바드를 활용해 검색엔진을 운용하려면 2024년까지 최소 60억달러의 추가 비용이 들 것으로 추산했다. 이는 구글이 지난해 총 3조3000억건의 사용자 검색을 처리했는데 이중 절반을 AI챗봇이 50자 내외의 답변으로 처리한다고 가정할 경우 나온 수치다.

만약 현재 챗GPT처럼 사용량이 몰리거나 답변 내용이 길어지면 비용은 폭증할 수 있다. 지난해 알파벳이 벌어들인 순수익은 600억달러인데 최소 약 10분의 1을 투자해야 한다는 계산이 나온다.

마이크로소프트도 만만치 않은 반도체 칩 비용에 골머리를 썩고 있다. 뉴스트리트 리서치의 추정에 따르면 마이크로소프트는 빙 검색내 오픈AI 기반 챗GPT 모델은 1초 이내에 질문에 대한 응답을 제공하기 위해 8개의 GPU가 필요하다. 이 속도라면 마이크로소프트는 빙에서 모든 사람에게 대답을 하기 위해서는 2만개 이상의 8-GPU 서버가 필요하다는 추산이 나온다.

뉴스트리트 리서치의 기술분가인 안토니 치카이반은 "마이크로소프트에서 빙 규모 사이즈를 운영하려면 40억 달러 정도가 필요하다고 본다"고 밝혔다.

빅테크 기업들보다 스타트업들은 더욱 어려운 상황이다. 이마드 모스타크 스태빌리티 AI 최고경영자(CEO)는 트위터에 "시장 가격으로 모델을 훈련하는 데만 60만 달러가 든다"면서 "여기에는 대규모 언어모델을 지원하는 AI 추론(inference)또는 모델 배포 비용은 포함되지 않는다"고 밝힌 바 있다.

샘 알트먼 오픈AI 최고경영자도 지난해 트위터를 통해 "적절한 시점에 유료화를 해야겠다"며 "챗GPT 구동에 들어가는 비용이 눈물 날 정도로 비싸다"고 밝혔다. 챗GPT 검색 1회당 답변 비용은 1~2센트 정도로 알려져 있다. 오픈AI는 챗GPT 출시 2개월 만에 월 20달러인 유료 서비스를 내놓았다.

마이크로소프트는 이같은 높은 비용을 상쇄하기 위해 인상 정책을 예고하며 치고 나갔다. 최근 '빙 서치 API' 이용료는 5월 1일부터 3배 이상 인상된다. 요금제마다 가격은 다르며 가격 인상 후에도 매월 1000건까지 무료로 사용할 수 있다. 무료 요금제의 초당 트랜잭션(TPS)은 3TPS다. 이같은 인상은 검색엔진 투자를 회수하기 위한 일환이라는 분석이다.

[사진= 로이터 뉴스핌]

◆ 검색 광고로 먹고 사는데 AI가 판도를 바꿔 '딜레마'

빅테크들의 또다른 딜레마는 AI가 전통광고 시장의 판도를 흔들고 있기 때문이다. 전통 광고 수익모델은 검색 결과를 기반으로 하기 때문에 AI 챗봇으로 인해 큰 타격을 받을 수 있다. 특히 광고 시장 수익이 주사업인 구글의 고민은 깊다.

브렛 윈턴 아크인베스트먼트는최근 CNBC와 인터뷰에서 "구글의 딜레마는 AI 챗봇을 개발시키고 있는데서 출발점이 있다"며 "AI로 전환하는 과정에 검색 사업의 비용은 증가하고 광고가 줄어들게 될면 수익성 악화로 이어진다"고 말했다.

구글의 주력사업인 검색엔진은 검색 결과를 통해 이용자를 여러 다른 사이트로 이동하게 하면서 광고 수익을 얻는 구조다. 즉 사용자가 검색하는 여러가지 질문을 분석해 표적 광고를 할 수 있기 때문에 수입을 크게 올릴 수 있었다. 

데이터 회사 스타트카운터에 따르면 현재 검색 시장에서 구글의 점유율은 거의 93%, 빙의 시장 점유율은 약 3%다. 제프리스 애널리스트의 조사에 따르면 지난해 구글 광고 총 매출은 2240억 달러였으며 마이크로소프트는 약 180억 달러에 불과했다.

반면 MS는 광고가 주수입원이 아닌 만큼 이번 기회를 통해 새로운 광고수익을 얻을 수 있다고 기대하고 있다.

필립 오크덴 MS 부사장은 지난 주 애널리스트들에게 "빙의 광고 사업이 검색 광고 시장에서 점유율이 1포인트 증가할 때마다 20억 달러의 수익을 올릴 것"이라고 밝혔다.

이에 MS는 발빠르게 최근 '빙'의 챗봇 검색에 광고를 결합하는 형식을 테스트하기 시작했다. 전통적인 검색 광고 수익모델은 '챗GPT' 등장으로 큰 변화를 맞이할 수 있어 검색광고 유형 등이 지금보다 훨씬 다양해질 전망이다.

AI 챗봇이 생성한 응답에 전통적인 검색 광고나 새로운 유형의 광고를 결합하는 방식 등이 시도됐다. 예컨대 새로운 '빙'은 검색어를 입력하면 왼편에 기존 검색처럼 관련 링크들을 찾아서 보여준다. 동시에 오른편에 채팅창을 열어 검색 결과를 요약하는 답변을 대화체로 제시하면서 그 아래에 답변의 근거가 되는 링크 세 개를 제시한다.

MS는 최근 대형 광고대행사들과의 회의에서 이 채팅창에 전통적인 검색 광고를 결합하는 방식을 예로 들었다. 채팅창에 광고가 들어가면 기존 검색 광고에 비해 더 눈에 띌 수 있다는 장점을 꼽았다.

또 전통적인 방식이 아닌 새로운 시도도 있다. 예를 들면 '멕시코에서 가장 좋은 호텔은 어딘가'라는 질문에 챗봇의 답변과 함께 호텔 광고가 팝업 형식으로 뜨는 방식도 있다.

로이터 통신은 "이 방식은 광고하려는 링크가 챗봇의 답변 아래로 밀리는 단점을 해소할 수 있는 장점이 있다"면서 "채팅창에서는 챗봇의 답변이 상단에 있어 검색 광고가 아래로 밀려 효과가 기존 보다 떨어질 수 있다는 지적에 따라 개발됐다"고 평가했다.

또 주요 광고 그룹인 옴니콤은 고객에게 보내는 서한에서 "(마이크로소프트와 구글의) 발표가 검색 분야에서 20년 만에 가장 큰 변화를 예고한다고 해도 과언이 아니다"라며 "장기적으로 대화형 AI가 소비자가 인터넷에서 검색하는 지배적인 방법이 될 것"이라고 밝혔다.

ticktock0326@newspim.com