전체기사 최신뉴스 GAM 라씨로
뉴스핌 채널 추가
뉴스핌 채널 추가 안내
사회 교육

속보

더보기

[기고] AI 프로필 알고 보면 위험한 놀이문화

기사입력 : 2023년09월04일 08:27

최종수정 : 2023년09월04일 08:30

하민회 이미지21대표(코가로보틱스 마케팅자문)

"어디서 본 듯한데, 누구 시죠?" 메이크업부터 헤어스타일까지 한참 공들인 스튜디오 사진이구나 싶은데 뭔가 좀 이상하다. 또렷한 윤곽, 훨씬 어려 보이기도 하고 포즈나 시선도 수준급이다. 요즘 SNS에 유행하는 AI 프로필이다. 

사용법도 어렵지 않다. 평소 찍어 두었던 셀카 10~20장을 앱에 업로드하고 커피 두 잔 값 정도만 지불하면 1시간 내에 스튜디오급 사진을 받아볼 수 있다. 작심하고 날 잡아 차려 입고 임하는 스튜디오 촬영 비용이 30~40만원 정도임을 감안하면 시간, 비용 절감은 물론 심리적 부담도 거의 없으니 AI프로필은 만족도가 높을 수밖에 없다.

인스타그램 에서 #ai프로필 해시태그는 2만 8천개를 넘었다. 대표 앱으로 꼽히는 스노우는 두 달 만에 150억 가까운 매출을 올렸다. 한국에서 뿐 아니라 일본, 미국, 태국 등에서도 인기를 끄는 걸 보니 사람 마음 다 비슷한 모양이다. '어쨌든 가장 멋지고 보기 좋은 나를 사진으로 남기고 싶다.' - 비록 내 것인 듯 내 것 아닌 내 사진이라도 말이다.

하민회 이미지21 대표.

하지만 AI 프로필은 엄밀히 프로필 사진이라 보기는 어렵다. 단순 사진 보정과 편집을 넘어 AI가 만들어낸 가상인물이기 때문이다. 우선 사용자의 셀카사진을 데이터로 변환해 측정한다. 이때 인물의 특징을 읽어내고 부수적인 복잡도는 줄인다. 그리고 비슷한 특징을 가진 사람들의 데이터와 묶은 후 기존에 확보된 '멋진' 사진에 사용자 데이터를 입히는 형태다. 최대한 자연스럽고 조화로운 대입이 관건인 일종의 딥 페이크(Deepfake)다.

아무리 마음에 들어도 AI 프로필을 입사지원서 사진으로 제출하거나 주민등록증, 운전면허증, 여권 등의 신분증에 사용해서는 안 된다. 행정안전부 지침에 의하면 신분증 사진은 '6개월 이내 모자 등을 쓰지 않은 상반신 사진'으로 지나친 보정이나 변형으로 인해 당사자 확인이 어려우면 사용이 불가하다. 자신의 것이긴 해도 온전히 자기 사진이 아닌 AI 프로필은 신분증 사진으로 자격에 못 미친다.

AI 프로필이 염려스러운 점은 또 있다. 최근 SNS에서는 AI 프로필을 정체성으로 삼아 보여주는 것이 놀이문화로 자리 잡았다. 불특정 다수에 쉽게 노출되는 만큼 디지털 범죄에 취약할 수밖에 없다. 실제 사진은 아니지만 정체성에 관련되는 만큼 얼굴이나 신체를 성적인 목적 또는 수치심을 유발하는 형태로 편집해 엉뚱한 용도에 활용하거나 교묘하게 합성한 딥 페이크 2차 제작물로 악용될 위험도 있다. 아무 생각없이 올린 내 AI 프로필이 사기계정의 프로필로 버젓이 쓰이고 있다면 얼마나 억울하겠는가?

[사진=카카오브레인]

딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크(Deepfake)는 사람들의 얼굴, 목소리, 동작 등을 합성하여 진짜와 구분하기 어려운 가짜 영상, 음성 등을 만들어내는 AI 기술이다. 영화를 비롯한 엔터테인먼트 산업은 물론 교육과 광고, 의료 분야까지 쓸모가 다양하지만 안타깝게도 정치, 사회, 경제 등 다양한 분야에서 사회적 혼란을 가져오고 실제 피해자를 만드는 등 악용의 잠재력 또한 커서 경계해야 할 기술로 꼽힌다.

지난 해 SNS에 게시되어 사람들을 당황시켰던 젤렌스키 우크라이나 대통령이 러시아에 항복을 발표하는 영상, 바이든 미국대통령이 성 소수자를 향해 막말하는 영상, 세계적인 영화배우 엠마 왓슨, 스칼렛 요한슨 등이 출연한 음란 광고 등은 모두 딥 페이크였다.

'저 사람이 대체 왜 저런 말을 하고 저런 행동을 할까?' SNS에 맥락에 맞지 않는 뜬금없는 영상이 돈다면 십중팔구 딥 페이크 영상이다. 세계경제포럼 2021년 보고서에 의하면 딥 페이크 동영상 수는 매년 약 900%씩 증가했다.

딥 페이크가 반드시 부정적 기능만 있는 것은 아니다. 8·15 광복절 기념식에 안중근 의사, 유관순 열사가 생생한 목소리로 나라에 대해 당부하거나 젊은 나이에 세상을 떠난 마이클 잭슨이나 김광석을 영상으로 부활시킨 공연은 팬들에게 큰 선물이 되기도 한다.

아일랜드 코크대 연구진에 의하면 딥 페이크를 이용해 실제 있었던 사건에 가짜 정보를 더하면 사람들은 이를 실제 사건으로 기억하는 경향이 나타난다. 딥 페이크 영상이 사람들의 기억보다 더 쉽게 받아들여지며 영상에 노출된 사람들의 기억에도 영향을 미치기 때문이다.

글로벌 보안 업체 아크로니스는 챗GPT를 비롯해 생성형 AI 기술이 사이버 공격과 악성 콘텐츠를 생성하는 데 사용되는 현상은 'AI가 사기꾼의 능력을 가속화' 하는 것과 같다며 초기부터 전 사회적으로 주의를 기울여야 한다고 경고했다.

AI 프로필로 돌아가 보자. 누군가 나의 AI 프로필을 이용해 딥 페이크 영상을 만들고 음란물 광고에 썼다면 그는 어떤 처벌을 받을까? 결론부터 말하자면 그는 아무런 처벌을 받지 않는다. 현행법상 근거가 없기 때문이다. AI로 만든 산출물은 가상의 인물에 해당되므로 실제 인물을 피해자로 특정하지는 못한다.

훅 들어온 AI 시대, 기술의 발전 속도에 비해 우리의 대비는 여전히 미약하다. 법적 기준과 규제가 준비될 때까지 자기 초상권 보호에 보다 예민해질 필요가 있다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
"구글, 제미나이로 AI 주도권 회복"···기존 사업과 연결 수익성 주목 [뉴욕=뉴스핌] 김민정 특파원 = 구글이 생성형 인공지능(AI) 모델 제미나이(Gemini)를 전격 공개하면서 지난해 챗GPT를 세상에 내놓은 오픈AI에 뒤처졌다는 오명을 씻게 됐다. 업계와 월가는 제미나이가 기존 챗GPT보다 뛰어난 성능으로 구글의 AI 역량을 확인했다고 평가하고 있다. 구글은 지난 6일(현지시간) 텍스트와 이미지, 음성 등을 동시에 처리하는 '멀티모달'(Multi Modal) AI 모델인 제미나이를 출시했다. 구글 딥마인드의 데미스 허사비스 최고경영자(CEO)는 "제미나이는 MMLU(대규모 다중작업 언어 이해)에서 90%의 점수를 얻었다"며 "인간 전문가 점수인 89.8%를 넘은 첫 AI 모델"이라고 설명했다. MMLU는 수학과 물리학, 의학, 역사, 윤리, 법률 등 50여 개의 주제를 복합적으로 활용해 지식과 문제 해결 능력을 평가하는 테스트다. 앞서 GPT-4는 86.4%를 정답률을 기록한 바 있다. 업계에서는 제미나이의 출시로 구글이 마침내 챗GPT에 대응하기 위한 답을 내놨다고 평가했다. 정보기술(IT) 전문업체 와이어드(WIRED)는 "구글의 제미나이가 생성형 AI 호황의 진짜 시작"이라고 호평하기도 했다. 순다르 피차이 알파벳 최고경영자(CEO)가 지난 6일 제미나이를 소개하고 있다.[사진=블룸버그] 2023.12.08 mj72284@newspim.com 지난해 챗GPT의 출시는 이전까지만 해도 AI 산업의 선두 주자라는 이미지를 갖고 있던 구글에 상당한 충격을 줬다. 챗GPT가 출시 5일 만에 100만 명의 사용자를 확보하는 등 돌풍을 일으키자, 구글은 검색엔진 사업에 대한 위협을 느끼면서 '코드레드'(적색경보)를 발령하는 등 긴박하게 움직였다. 이후 구글은 바드(Bard) 등 AI 관련 발표를 이어가며 업계에서 존재감을 더 잃지 않기 위해 노력했다. 월가에서는 AI 산업에서 구글의 입지에 대한 의구심이 이번 제미나이의 출시로 상당 부분 해소됐다는 평가가 나온다. 웰스파고는 제미나이 발표가 AI에서의 구글의 입지에 대한 논란을 잠재우기에 충분할 것이라며 구글이 여전히 경쟁력이 있음이 증명됐다고 판단했다. 챗GPT의 한계와 관련한 의문이 제기되고 샘 올트먼 CEO 퇴출과 복귀 등 오픈AI의 혼란이 화제가 된 지 얼마 지나지 않은 시점에 제미나이가 공개됐다는 사실 역시 시장이 관심을 가지는 대목이다. 맥쿼리의 애널리스트들은 투자 노트에서 "제미나이 공개는 오픈AI의 챗GPT 사용자들이 GPT모델군 업데이트가 결과물의 품질에 미쳤을 영향에 대해 불만을 제기한 흥미로운 시점에 이뤄졌다"며 "구글이 GPT4를 능가하는 모델을 내놓는다면 구글이 보유한 사용자와 개발자를 모으는 데 도움이 될 것"이라고 설명했다. AI 산업의 높은 비용 등에 대한 투자자들의 의문 역시 구글이 시장의 주도권을 다시 잡으면서 상당 부분 해결될 것이라는 기대도 커지고 있다. JP모간은 "구글이 제미나이의 다양한 모델 사이즈 조합을 통해 생성형 AI 혁신과 생성형 AI 구동의 높은 비용을 둘러싼 투자자들의 우려를 진정시키기 시작했다"고 분석했다. 인공지능(AI) 일러스트레이션.[이미지=로이터 뉴스핌] 2023.12.08 mj72284@newspim.com 월가의 관심은 이제 구글이 어떻게 제미나이를 기존 사업에 접목해 수익으로 연결시킬 지로 옮겨가고 있다. 특히 AI 주도 클라우드 시장에서 마이크로소프트에 뒤처졌던 구글이 이번 제미나이 출시로 상황을 역전시킬 수 있을지 여부도 주목된다. 지난 9월 말 종료된 한 분기 마이크로소프트의 클라우드 사업인 애저(Azure)의 성장률은 반등한 반면 구글 클라우드의 성장률은 3년간 최저 수준으로 주저앉았다. 키뱅크는 제미나이가 올해 구글에서 나온 AI 발표의 정점을 찍은 것으로 평가하고 AI가 회사의 성장과 이익에 의미 있는 영향을 주기 위해서는 다소 시간이 걸릴 것으로 전망했다. 키뱅크는 전날 보고서에서 "오늘 발표는 제미나이가 여전히 검색과 같은 핵심 상품에 적용되는 방향으로 가고 있다는 것을 보여줬다"며 "(실적) 추정치로 연결되기까지는 인내심이 필요할 것"이라고 진단했다. 보고서는 "2024년에는 뉴스보다 결과가 더 나올 것으로 전망하지만 아직 광고주와 소비자, 개발자, 기업행동을 바꾸는 초기 단계"라고 지적했다. 결국 제미나이가 구글의 기업가치를 더할 것이라는 기대도 나왔다. 뱅크오브아메리카(BofA)는 구글의 AI 능력과 관련해 알파벳 주가가 압박을 받아왔다고 언급하고 이번에 발표된 경쟁력 있는 AI 모델이 검색과 기업 클라우드 매출에 긍정적 영향을 미칠 것으로 내다봤다. BofA는 "구글은 강력한 AI 능력을 갖추고 있으며 구글이 동급 최강의 독점 AI 역량을 보유하고 있다는 데이터는 2024년 상반기 주가에 긍정적일 것"이라고 판단했다. 구글의 모기업 알파벳의 A주는 미국 동부 시간 오후 1시 2분 전장보다 6.04% 오른 137.88달러에 거래됐다. 현재 알파벳의 주가수익비율은 19.59배로 마이크로소프트의 30.68배보다 낮다.  mj72284@newspim.com 2023-12-08 03:30
사진
위례과천선, 문원역 살리고 선암IC역 위치 변경될까 [서울=뉴스핌] 최현민 기자 = 과천정부청사역에서 우면보금자리와 과천신도시를 지나 위례신도시를 잇는 위례과천선이 내년부터 본격 추진될 것이란 기대감이 나온다.  사업의 최대현안인 201정류장(가징 문원역), 102정류장(가칭 주암역) 폐지를 두고 서울 서초구와 경기도 과천시의 타협 가능성이 커지고 있어 적격성 통과가 이뤄지면 신설역 윤곽도 오래지 않아 나오며 내년 안에는 확정안이 나올 것으로 예상되고 있다. 민자사업자인 대우건설컨소시엄이 심사에 올린 안의 최대 쟁점은 과천시 관내 2개역의 폐지건이다. 하지만 과천 시민들의 반발이 거세지면서 정부와 서울시·서초구, 경기도·과천시는 문원역을 되살리고 선암IC역(102정류장) 위치를 조정해 주암지구 주민들 이용이 용이하도록 무빙워크 등을 설치하는 방법으로 합의를 유도할 것으로 보인다. 국토교통부는 우선 민자적격성 심사를 통과하고 이후 정밀 설계과정에서 노선을 조절할 수 있는 만큼 서초구와 과천시가 만족할 수 있는 최적의 안을 찾아 진행한다는 방침이다. ◆ 위례과천선 민자사업 올해 9월 '민자 적격성 조사' 돌입  7일 국토교통부에 따르면 올해 9월 한국개발연구원(KDI)의 민자 적격성 조사 절차에 돌입한 '위례과천선' 민자사업의 심사 결과가 내년 4월 확정되고 이후 약 1년간의 실시설계가 진행될 것으로 예상된다. 위례과천선은 당초 2008년 위례신도시 광역교통개선 대책으로 계획됐지만 그동안 추진이 지연돼 왔다. 처음 나온 노선은 총 사업비 1조6990억원을 투입해 복정역과 정부과천청사역 총연장 22.9km를 잇는 복선전철로 계획됐다. 애초 송파~과천간 급행간선철도라는 사업명으로 발표했지만 경제성 문제로 2014년 중단됐다.  노선이 주거지역인 위례신도시와 과천을 연결하다보니 사업성이 현저히 떨어져서다. 위례신사선 사업에는 관심이 많은 위례신도시 주민들도 위례과천선 사업에는 관심을 두지 않았고 과천 주민들도 서울 강남이나 도심이 아닌 위례신도시와 성남시로 연결되는 이 철도노선에는 신경을 쓰지 않았다.   특히 경전철도 아닌 중전철인 만큼 웬만큼 수익성이 확보되지 않으면 사업이 어려울 것이란 진단이 나왔다. 결국 2014년 급행철도사업이 취소되며 광역철도로 바뀌며 사업명도 '과천~서울 동남권 동서철도사업'으로 격하됐다.  이후 2016년 3차 국가철도망 계획, 2020년 과천신도시 광역교통개선 대책, 2021년 4차 국가철도망 계획에도 착공계획이 반영되면서 재논의가 시작됐다. 하지만 여전한 수익성 저하문제가 걸리는데다 노선과 신설역 추가 등의 문제로 서울 서초구와 경기 과천시의 이견차를 좁히지 못하면서 속도를 내지 못했다.  위례과천선이 새로운 전기를 맞은 것은 2021년 12월이다. 민자사업자인 대우건설 컨소시엄이 사업성 확보를 위해 국토부에 총사업비 3조 118억원 규모로 위례~과천 광역철도 민간 투자사업으로 제안했다. 해당 노선은 복정역과 정부과천청사역을 잇는 본선과 양재시민의숲에서 압구정을 잇는 지선 구간을 건설한다는 계획이 담겼다. 위례신도시와 과천을 연결해서는 수익성은 물론 주민들의 관심도 없었던 이 사업이 서울 강남과 연결하는 구상안이 나오자 곧바로 화두에 올랐던 것이다. 여기에 서울 서초구 우면동 주변 R&D 연구단지 사업이 구상되면서 사업의 중요성도 더 커지고 있는 상황이다.  하지만 역사 위치가 발목을 잡았다. 대우 제안서에는 과천시 관내 2개역의 폐지건이 담겨 있어 과천시민들의 반발이 거센상황이다. 대우건설 제안서에는 기존 4차 국가철도망 계획에 포함됐던 문원역이 빠지고 주암지구내 주암역도 폐지했다. 대신 서초구 우면지구내 선암IC역 설치 내용이 담겨있다. 특히 주암역의 경우 오히려 주암지구 중심부에 위치하지 못한다는 점과 서초구 아파트 지하를 관통하게 된다는 문제가 있어 이를 해결하기는 쉽지 않을것으로 보인다. 국토부 관계자는 "기본적으로 수도권광역급행철도(GTX)-C 노선과 은마아파트 사례가 있었기 때문에 아파트단지 하부를 통과하는 노선 계획은 잡지 않는다"면서도 "이를 고려해서 안을 잡고 있고 (현재로선) 주암역이 생긴다, 선암IC역이 생긴다 말하긴 어려운 상황"이라고 말했다. ◆ 서초구·과천시 중재안…주암지구 역 위치 조정에 힘실릴 듯 서초구와 과천시의 중재안으로는 문원역은 되살리고 선암IC역을 주암지구 쪽에 설치한 이후 무빙워크나 도보 등으로 역을 이용할 수 있도록 해 주암지구 주민들의 불편을 줄이는 쪽으로 하는 방향이 논의되고 있다. 이소영 더불어민주당 국회의원은 지난 4월 과천시청에서 의정 보고회를 열고 위례과천선에 대한 생각을 밝힌바 있다. 당시 이 의원은 "국토부에서 주암역은 주암지구 중심부에 위치하게 되면 서초구 아파트 단지 지하를 관통하게 돼 사업이 지연될 수 있다는 입장을 보이고 있다"며 "가급적 유리한 위치에 주암역을 신설할 수 있도록 하고 지하보도나 무빙워크 등을 통해 주암지구 주민들이 역에 보다 쉽게 접근할 수 있도록 하는 조치를 요구할 예정"이라고 설명했다. 경제성을 더 고려한다면 선암IC역의 필요성이 더 높다. 서울시가 기업 연구소가 모여있는 서초구 양재·우면동 일대를 R&D지구로 개발할 의사를 밝히며 선암IC역 설치 가능성이 더 커지고 있다. 위례과천선 선암IC역과 양재시민의숲역 사이 우면동 일대 개발사업이 더 탄력을 받을 수 있다. 지금 이곳에서는 더케이호텔 재건축을 비롯해 민간 차원의 개발사업이 시작되고 있다.   이에 따라 주암지구에 거주하는 과천신도시 주민들이 이용할 수 있는 위치에 역시 신설된다면 서초구와 과천시도 협의할 수 있을 것으로 예측된다. 다만 과천지식정보타운 연장 등은 당분간 확정되기 어려울 전망이다.  역 신설 위치와 관련해 국토부는 민자적격성 심사가 끝나더라도 역 설치는 재고가 가능한 만큼 노선이 확정되는 것은 아니라는 입장을 보였다. 심사안이 통과하더라도 이후 정밀 설계과정에서 노선의 변동이나 정거장 형식이나 위치가 조금씩 달라질 가능성이 있다는 것이다. 국토부 관계자는 "심사결과가 언제 나올지는 예상하기 어렵다"면서 "결과가 나온다면 기본적으로 해당 안을 바탕으로 사업을 진행하게 되는데 그 과정에서 정밀한 설계를 하면서 노선이나 정거장 위치가 조금씩 바뀔 수 있다"고 말했다. 이 관계자는 또 "세부적인 노선이나 역사에 대한건 협약까지 체결돼야 확정되는 부분"이라며 "철도사업을 하면서 노선은 하나기 때문에 서초구와 과천의 원하는 바를 모두 만족시키는 안을 마련하긴 어렵지만 (최대한)만족할 수 있는 안을 진행하려고 하고 있다"고 말했다. min72@newspim.com 2023-12-07 07:00
안다쇼핑
Top으로 이동