전체기사 최신뉴스 GAM 라씨로
KYD 라이브
KYD 디데이

AI 최강자 등극 구글 '제미나이', GPT-4와 비교해 보니

기사입력 : 2023년12월07일 14:53

최종수정 : 2023년12월08일 07:49

[서울=뉴스핌] 최원진 기자= 구글이 오픈AI의 최신 생성형 인공지능(AI) 거대언어모델(LLM) 'GPT-4'를 능가하는 자체 모델 '제미나이(Gemini) 1.0'을 6일(현지시간) 공개해 화제다.

지난해 11월 챗GPT로 생성형 AI의 미래를 제시한 오픈AI가 기술 최강 자리를 굳건히 지킬 것이란 예상이 GPT-4 출시 후 불과 약 9개월 만에 깨진 것이다. 구글 제미나이가 AI 업계의 치열한 개발 경쟁에 다시 한번 불을 지폈다.

◆ 제미나이의 강점은 '멀티 플레이어'

제미나이는 3가지 버전으로 나온다. 구글이 지금까지 내놓은 것 중 가장 강력한 LLM이자 데이터센터와 기업용 모델인 '제미나이 울트라', 구글의 AI 챗봇 '바드'의 모델인 '제미나이 프로', 스마트폰 등 모바일 기기에서 사용 가능한 컴팩트한 사이즈의 '나노'다.

제미나이 프로는 제품 공개한 이날 바로 바드에 탑재됐다. 제미나이 프로가 적용된 바드는 170개 이상 국가 및 지역에서 영어로 제공되며, 향후 서비스 확장 및 새로운 지역과 언어도 지원될 예정이다. 

'제미나이 울트라'는 내년 초 '바드 어드밴스드'라는 이름으로 바드에 장착되며, '제미나이 나노'는 구글이 지난 10월 공개한 최신 스마트폰인 '픽셀8 프로'에 탑재된다.

구글은 제미나이가 "선천적"(natively)으로 멀티모달(Multi-Modal·다중모드) AI 모델이라고 소개한다. 멀티모달은 말그대로 텍스트뿐만 아니라 이미지, 동영상 등 비언어 입력값도 이해해 응용할 수 있는 '멀티 플레이어'다.

오픈AI가 이미지 생성 AI '달리'(DALL-E), 음성 인식 AI '위스퍼'(Whisper)를 각각 개발한 방식과 달리 구글은 애초부터 텍스트·이미지·오디오 등 다양한 데이터로 제미나이를 훈련해왔다는 것이다.

제미나이가 학생의 물리학 문제를 풀이해주는 예시. [사진=구글 딥마인드 제공]

특히 제미나이는 이미지와 동영상을 이해한 데이터를 응용하고 상호 작용하는 데 강점을 보인다.

예컨대 한 학생이 물리학 문제를 풀이하는 과정을 펜으로 쓴 이미지를 교사가 제미나이 프롬프트에 넣어 문제 풀이 과정에 어떤 부분이 틀렸는지 질문하면 제미나이는 정확히 문제의 정답과 학생의 손 글씨를 이해해 잘못된 문제 풀이 과정을 수정해 준다.

구글 딥마인드는 "제미나이가 이미지 속 텍스트를 이해하는 것을 넘어 교사가 어떻게 문제를 다르게 설정했는지 등을 이해해야 가능하다"고 설명했다. 제미나이는 오답 풀이 뿐만 아니라 학생이 틀린 유형의 다른 연습 문제도 제공해 교육 환경에서의 활용도가 높다는 게 자체 평가다.

이 밖에 제미나이는 동영상 속 언어를 감지해 번역 자막을 달아주고, 동영상 속 상황을 이해해 질문에 답할 수 있다.

◆ 32개 벤치마크 테스트 중 30개, 최고 성적

이미지와 영상의 이해부터 수학적 추론까지 가능한 제미나이 울트라가 업계에서 LLM 연구개발 평가 시 널리 사용되는 학술 벤치마크 기준 32개 가운데 30개 항목에서 GPT-4를 뛰어넘는 성적을 기록했다.

구체적으로 제미나이 울트라는 텍스트와 추론 벤치마크 부문 12개 중 10개, 이미지 이해 부문 9개 중 9개, 동영상 이해 벤치마크 6개 중 6개, 음성 인식 부문 5개 중 5개에서 GPT-4보다 높은 신기록을 썼다.

특히 대규모 다중작업 언어 이해(MMLU) 벤치마크에서 제미나이 울트라는 90% 이상의 정답률을 기록했다.

MMLU는 수학, 물리학, 역사, 법률, 의학, 윤리 등 57개의 주제를 복합적으로 활용해 지식과 문제 해결 능력을 평가하는 대표 격 LLM 벤치마크다.

구글 딥마인드는 제미나이 울트라의 MMLU 점수가 GPT-4의 86.4%를 앞선 것에서 나아가 AI 모델로는 최초로 인간 전문가 점수인 89.8%를 뛰어넘었다고 밝혔다. 

이 밖에 여러 단계의 추론을 요구하는 여러 문제 해결 능력을 평가하는 빅 벤치 하드(BIG-Bench-Hard)와 독해력 벤치마크인 DROP에서 각각 80%가 넘는 점수로 GPT-4를 능가했다. 

WMT23 벤치마크는 LLM의 번역 능력을 평가한다. 제미나이 울트라는 74.40%로 GPT-4보다 번역 능력이 우수했다.

다만 일상에 필요한 상식 추론 능력을 보는 헬라스웨그(HellaSwag) 벤치마크에서는 제미나이 울트라가 GPT-4에 못미쳤다. 

제미나이 울트라의 이미지 이해 능력은 GPT-4 보다 뛰어났다.

과학, 기술, 인문 과학, 음악 등 6개 핵심 부문 대학교 시험과 교과서에서 수집된 차트, 표, 악보 이미지를 이해하는 능력을 평가하는 다소 새로운 벤치마크인 MMMU에서 제미나이 울트라는 59.4%를 기록, GPT-4를 앞섰다.

이미지를 보고 이해해 관련 질문에 답할 수 있는 능력을 확인하는 VQAv2 벤치마크와 서류상 이미지를 이해하는 능력을 보는 DocVQA, 그래프 등을 보고 수학적 추론 능력을 보는 매스 비스타(MathVista) 벤치마크에서도 GPT-4 보다 좋은 성적을 거뒀다.

AI 모델의 동영상 이해를 평가하는 벤치마크들에서도 제미나이 울트라는 두각을 보였다. 

영상 속 상황을 텍스트로 옮기는 능력을 평가하는 VATEX 벤치마크와 영상과 관련된 질문에 답해 전반적인 영상 이해도를 평가하는 인식 테스트 MCQA 벤치마크 모두 GPT-4를 뛰어넘었다. 

이밖에 중국어 텍스트로 영상 속 상황을 옮기는 능력을 평가하는 VATEX ZH, 영어로 복잡한 요리 과정이 담긴 영상을 텍스트로 옮기는 YouCook2 등 여러 벤치마크에서도 높은 성적을 거뒀다.

제미나이 프로의 음성 인식 이해도도 우수했다. 21개 언어의 음성을 인식해 텍스트로 변환하는 능력을 평가하는 CoVoST 2 벤치마크에서 제미나이 프로는 40.1을 기록, 오픈AI의 음성 인식 AI 모델 '위스퍼' 버전 2(v2) 보다 10 이상 높았다.

62개 언어로 음성 인식 여부를 확인하는 FLEURS 벤치마크에서도 제미나이 프로는 7.6%를 기록, 위스퍼 v3 보다 월등했다. FLEURS는 AI 모델이 음성 인식 정확도를 측정하는 테스트로 점수가 낮을 수록 인식 오류가 적다는 의미다. 

이밖에 제미나이는 파이선(Python), 자바(JAVA), C++, Go 등 세계에서 널리 사용되는 프로그래밍 언어로 코드를 이해하고 생성할 수 있다. 

코딩 작업 성능을 평가하는 업계 표준인 휴먼이발(HumanEval) 벤치마크에서 제미나이 울트라는 74.4%를 기록해 GPT-4(67.0%)를 능가했다. 파이썬 코드 생성 능력을 평가하는 내추럴2코드(Natural2Code) 벤치마크에서도 GPT-4 보다 1%포인트(p) 높은 74.9%를 기록했다. 

[사진= 구글 홈페이지]

wonjc6@newspim.com

 

[뉴스핌 베스트 기사]

사진
백악관 "바이든, 새로운 대중 관세 곧 직접 발표 예정" [시드니=뉴스핌] 권지언 특파원 = 조 바이든 미국 대통령이 중국산 제품에 대한 관세를 곧 발표할 예정이라고 13일(현지시각) 제이크 설리번 백악관 국가안보보좌관이 밝혔다. 설리번 보좌관은 이날 브리핑에서 관련 질문을 받은 뒤 대통령보다 앞서 밝히지 않겠다면서 "구체적 내용은 적절한 때에, 조만간 발표될 것"이라고 답했다. 바이든 대통령과 행정부 전체가 미국 노동자 및 기업에 피해를 주는 중국의 불공정 관행, 과잉 생산 문제, 전략적인 일련의 비시장적 시장 왜곡 관행 등을 우려하고 있다는 점이 비밀은 아니라면서 "이에 저항하고 대응할 것이란 입장을 바이든 대통령이 일관되게 밝혀왔다"고 강조했다. 이날 카린 장-피에르 백악관 대변인 역시 관련 내용을 "대통령한테 직접 듣게 될 것"이라며 "우리는 노동자와 기업을 보호하겠다는 점을 매우 분명히 밝혀 왔고 현 행정부는 그 일을 지속해 나갈 것"이라고 말했다. 앞서 월스트리트저널(WJ)과 블룸버그통신 등은 바이든 대통령이 이번 주 중국산 재화에 대대적 관세 인상을 발표할 계획이며, 전기차에는 4배, 철강에는 3배 수준의 관세율 인상이 발표될 것이라고 전했다. 또 AP통신은 바이든 대통령이 중국산 태양광 장비, 반도체, 주사기 등 의약용품에 대해서도 신규 관세를 부과할 예정이며, 14일 해당 내용이 발표될 것이라고 보도했다. 제이크 설리번 미국 백악관 국가안보보좌관. [사진=블룸버그] kwonjiun@newspim.com 2024-05-14 06:13
사진
'김여사 수사' 서울중앙지검장에 이창수 전주지검장 내정 [서울=뉴스핌] 신정인 기자 = '김건희 여사 명품 가방 수수 의혹'과 '더불어민주당 전당대회 금품 살포 의혹' 등을 수사하는 서울중앙지검장에 이창수(사법연수원 30기) 전주지검장이 내정됐다. 법무부는 13일 대검검사급 검사 39명에 대한 신규 보임(12명) 및 전보(27명) 인사를 단행했다. 검찰 로고 [사진=뉴스핌 DB] 이 지검장은 윤석열 대통령이 검찰총장이던 시절 대검 대변인으로 근무했다. 그는 수원지검 성남지청장으로 재직할 당시 이재명 더불어민주당 대표의 성남FC 후원금 의혹 수사를 지휘해 그를 기소했으며, 전주지검장이 된 뒤에는 문재인 전 대통령의 전 사위 서모 씨 사건 수사를 지휘했다. 김태은 중앙지검 3차장검사는 대검 공공수사부장으로, 송강 인천지검장은 법무부 검찰국장으로 자리를 옮겼다. 송경호 중앙지검장은 부산고검장으로 발령받았다. 서울고검장에는 임관혁 대전고검장이, 수원고검장에는 권순정 법무부 검찰국장이, 대전고검장에는 황병주 서울동부지검장이, 대구고검장에는 이진동 서울서부지검장이, 광주고검장에는 신봉수 수원지검장이 각각 내정됐다. 법무부 관계자는 "업무능력, 전문성, 리더십, 그간의 성과를 고려해 형사·공판, 반부패·공공·과학수사, 감찰, 기획, 법제 등 다양한 전담 분야의 최우수 자원을 대검검사급 검사로 신규 보임했다"며 "적재적소 인사를 통해 검찰이 본연의 업무를 더욱 신속하고 충실하게 수행할 수 있는 체제를 갖추는 데 중점을 뒀다"고 밝혔다. 중앙지검에선 김 여사의 명품백 수수 의혹과 도이치모터스 주가조작 의혹 등을 수사하고 있다. 검찰은 명품백 수수 의혹과 관련해 최근 이원석 검찰총장이 전담 수사팀 구성을 지시하면서 수사에 속도를 내고 있다. allpass@newspim.com 2024-05-13 16:09
안다쇼핑
Top으로 이동