전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 기술에 책임을 요구할 권리

기사입력 : 2024년04월01일 08:34

최종수정 : 2024년04월01일 09:06

하민회 이미지21대표(코가로보틱스 마케팅자문)

'전례 없는 청소년 정신 건강 위기 초래'. 캐나다 학교들이 최근 메타(구 페이스북)와 틱톡, 스냅 등 소셜 미디어(SNS)기업들을 상대로 제기한 손해 배상 소송의 이유다. 이들 학교들은 'SNS 기업들이 중독성 행동을 유발하기 위해 고의로 제품을 설계해 교실에서 혼란을 초래하고 성적 학대와 착취에 더 취약하게 만든다.'고 주장했다. 배상액은 45억 캐나다 달러, 우리 돈 약 4조 5000억 원에 달한다.

청소년의 뇌가 취약한 만큼 SNS에 의해 충분히 조작, 중독될 수 있음을 사전에 인지했음에도 불구하고 보호조치는 커녕 오히려 상업적으로 이용했다는 것이다.

SNS기업에 대한 소송은 최근 몇 년간 꾸준히 지속되고 있다. 지난 해 10월 메타는 미국 41개 주정부로부터 캐나다 학교들과 비슷한 이유로 소송을 당했고 올 2월엔 뉴욕시가 메타, 스냅, 유튜브, 틱톡 등을 중과실, 공공방해 명목으로 고소했다.

소송에 등장하는 공통된 키워드는 '고의성'과 '중독성' 그리고 '기업 책임성'이다.

미국 41개 주정부를 대표해 소송을 주도한 콜로라도 주 법무장관은 메타를 '대중의 건강을 희생' 해 '이익을 극대화하는 기업'으로 질타하며 금전적 배상은 물론 청소년에게 해악을 끼치는 중독성 알고리즘을 즉시 제거할 것을 요청했다.

하민회 이미지21 대표.

이들이 지적한 중독 알고리즘은 다음과 같다.

좋아요와 댓글이 많을수록 상단에 드러나도록 해서 경쟁을 부추기는 '참여기반 노출', 끝없이 계속 게시물을 보여줌으로써 사용자를 SNS에 오래 붙잡아 두는 '무한 스크롤', 새로운 게시물이나 반응을 알려주어 확인 욕구를 자극하는 '푸시 알림'. 게시 후 24시간이 지나면 볼 수 없는 '스토리'와 실시간 시청만 가능한 '라이브' 역시 지금 당장 꼭 SNS를 봐야 할 것 같은 불안감을 조성한다.

이 같은 알고리즘은 도파민을 조종한다. 사용자가 스스로 인지하지 못한 상태에서 '좋아요'의 숫자에 대한 동경과 집착을 만들고 '좋아요'를 하나라도 더 받기 위해 자극적인 게시물을 올리고 이를 위해 위험천만한 행동을 마지않게 만든다.

2017년 미국역학저널에 실린 대규모 연구에 따르면 페이스북을 더 많이 사용할수록 신체 건강, 정신 건강, 삶의 만족도가 악화했다. 이는 5천명 이상의 페이스북 사용자를 3년 동안 추적한 결과다.

2010년 미국 의대 연구진이 고등학생 4천명 이상을 대상으로 SNS 습관을 관찰한 결과도 눈여겨볼만하다. 평일 하루 3시간 이상 SNS를 사용하는 '초네트워커(hypernetworkers)' 11.5%가 우울증, 약물남용, 수면 부족, 스트레스, 성적 부진을 보이며 자살 비율이 대조군인 일반 학생보다 훨씬 더 높은 것으로 나타났다.

인스타그램 로고.[사진=로이터 뉴스핌] 2024.03.29 mj72284@newspim.com

2000년 초반 SNS가 등장 한 이후 10여년이 지났을 무렵부터 SNS 유해성 논란이 시작되었다. 하지만 소비자가 직접 소송 등의 법률적 행위에 나서기까지 10여 년이 더 흘러갔다. 그 시간 동안 SNS가 중독 알고리즘 외에도 편견과 증오를 키우고 우울증을 유발하는 등의 부작용을 일으킨다는 다수의 연구 결과가 이어졌다.

심지어 메타에서 데이터과학자로 일했던 내부고발자도 등장했다. 그는 메타가 지난 대선 이후 허위 정보 등을 차단하는 공공 윤리(civic integrity) 부서를 해체하고 사용자들의 이용시간을 늘리기 위해 혐오조장 콘텐츠를 막지 않았다고 밝혔다. 메타는 알고리즘을 안전한 방식으로 바꾸면 사용자 시간이 줄어들고 이익이 줄어들 것임을 알고 있다며 '공익을 저버렸음'을 강조했다.

SNS 기업들의 책임성을 거론하기까지 무려 20여년의 시간이 걸렸고 수많은 이들이 위험성에 노출된 채 부작용에 시달리는 피해를 입었다. 확실히 소 잃고 외양간 고치는 형국이지만 지금이라도 고치려 드니 그나마 다행이다.

확산 속도가 빠르고 대중적 선호가 높은 기술일수록 잠재적 위험성도 클 수 있다. SNS가 등장하고 얼마 지나지 않아 그 위험성에 대한 경고가 있었지만 귀 기울이지 않았다. 경험해보지 못한 SNS의 재미와 자극에 현혹당했기 때문이다.

지금 우리는 다시 한번 SNS 등장기와 유사한 시기를 맞았다. 생성형AI가 뚝딱 만들어내는 문장, 이미지, 영상의 놀라운 생산성과 유용함에 압도당해 훤히 내다 보이는 위험성조차 간과하고 있다.

AI를 형상화한 이미지 [자료=블룸버그]

대표적인 것이 딥 페이크다. 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크는 AI기술로 만들어진 진짜와 구분하기 어려울 정도로 정교한 사진과 영상을 말한다. 전 세계 정치, 사회, 산업, 예술 등 거의 모든 분야에서 가짜 뉴스와 허위 정보에 이용되며 혼란을 일으키고 있다. 기술 자체를 유해하다 보기 어렵지만 워낙 악용의 우려가 크고 심각한 폐해를 일으키는 만큼 사용에 대한 지침이 필수적으로 규정되어야 하며 강력한 규제와 처벌 또한 신속하게 정해져야 할 상황이다.

불완전한 AI 역시 위험하다. 얼마 전 구글 제미나이가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로 그려 질타를 받았다. 이후 메타의 이미지 생성기 역시 교황 이미지를 흑인으로 바꿔 그리는 오류가 확인됐다. 전문가들은 프롬프트 예측성과 결과물 통제성의 부족, AI편향 조정방법 등이 맞물린 AI 업계 모두가 해결하지 못하고 있는 생성형 AI의 공통된 문제로 진단했다.

MS의 이미지 생성기 '코파일럿 디자이너'에 대한 내부고발도 나왔다. 사내에서 기술을 테스트하고 문제를 점검하는 레드팀의 일원이었던 셰인 존스는 '코파일럿 디자이너'가 선정적이고 위험한 이미지가 여과없이 생성되는 '안전하지 않은' 모델임을 MS에 알리고 이용 등급 변경, 시판 연기를 제안했지만 회사는 일체 거절했다고 밝혔다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

업과 일상에 스며들고 있지만 여전히 불안정한 기술이다. 아직은 전적으로 신뢰하거나 의존하기 어려우며 개발과정에 사람의 검토와 개입이 요구된다.

무엇보다 중요한 건 AI기술이 진정으로 영향력을 미치려면 AI에 대한 대중적인 이해가 필요하다는 점이다. 향후 등장할 다양한 AI기술들은 '무엇을 위해' 만들어졌으며 '어떻게 사용되어야' 하는지 남용이나 오용이 되면 '어떤 위험성과 부작용'이 생길 수 있는지 충분히 이해하는 것이 필요하다. 강력하고 혁신적이면서도 낯선 기술은 사용법을 충분히 익히기 전까지 안심하긴 어렵기 때문이다.

재미와 편의 앞에서 우리는 취약해지기 쉽다. 우리 사회에 등장한 AI를 단순히 흥미로운 도구로 여기지 않아야 한다. 내러티브를 형성하고 결정에 영향을 미치고 사회 전반에 거친 인식을 만들어내는 시스템으로 명확히 인식해야 한다. 강력하고 효율적인 것 이상의 '책임감'을 요구해야 한다.

그리고 그 책임감은 AI의 안전성과 AI기업의 투명성에 대한 확인을 게을리하지 않으며 꾸준히 요구해야 할 우리의 권리기도 하다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
명동성당 프란치스코 교황 애도 물결 [서울=뉴스핌] 양진영 기자 = 프란치스코 교황이 21일(현지시간) 선종한 가운데, 국내 명동대성당에 공식 조문을 위한 분향소가 마련됐다. 조문을 하러 온 천주교 신자들은 애통한 마음을 감추지 못하며 명복을 빌었다.  22일 명동대성당 지하성당에 프란치스코 교황 빈소가 마련됐으며 이날 오후 3시부터 일반 조문이 진행됐다. 여기에는 한덕수 대통령 권한대행 국무총리, 유인촌 문화체육관광부 장관 등이 조문을 다녀갔다. [서울=뉴스핌] 윤창빈 기자 = 22일 오후 지난 21일(현지시간) 선종한 프란치스코 교황의 빈소가 마련된 서울 중구 명동대성당 지하성당에서 조문객들이 추모를 하고 있다. 2025.04.22 pangbin@newspim.com 이날 공식 분향소에는 염수정 추기경, 정순택 대주교, 구요비 주교, 이경상 주교를 비롯한 주교단 조문 이후 일반인들의 조문이 시작됐다.  한덕수 대통령 권한대행 국무총리는 공식 분향소를 찾아 분향하고 "제266대 故프란치스코 교황은 천주교회와 전 세계 신자들에게 깊은 영적 가르침과 믿음의 유산을 남기셨다"면서 "늘 겸손하고 소탈하신 모습으로 가난한 이들과 사회적 약자에 대한 사랑을 실천하신 故프란치스코 교황께 깊은 감사와 애도를 표한다"고 밝혔다. 천주교 신자인 유인촌 장관도 오후 3시 20분께 조문했다.  [서울=뉴스핌] 사진공동취재단 = 염수정 추기경, 정순택 대주교 등 서울대교구 주교단이 22일 서울 명동대성당 지하성당에 마련된 프란치스코 교황 빈소를 찾아 조문하고 있다. 2025.04.22 photo@newspim.com 적지 않은 비가 내리는 평일 낮 시간임에도 공식 분향소에는 천주교 신자들의 조문이 조용히 이어졌다. 번잡하거나 사람이 북적이지는 않았지만, 차분한 표정으로 분향소를 향하는 조문객들의 발걸음이 분주했다. 검은 복장으로 공식 분향소를 찾은 박 씨(70대, 여)는 "(교황의) 선종 소식을 듣고 마음이 아팠다. 좋은 곳으로 가셔서 이제는 평안하시길 빈다"고 애도했다. 신앙을 함께하는 이들과 동행한 그는 "예수님을 먼저 뵙고 조문하려고 한다"면서 예배당으로 들어갔다. [서울=뉴스핌] 윤창빈 기자 = 22일 오후 지난 21일(현지시간) 선종한 프란치스코 교황의 빈소가 마련된 서울 중구 명동대성당에서 조문객들이 추모를 위해 줄을 서고 있다. 2025.04.22 pangbin@newspim.com [서울=뉴스핌] 양윤모 기자 = 제266대 프란치스코 교황이 선종한 가운데, 22일 서울 중구 명동성당 영성센터 건물 외벽에 교황의 사진이 걸려있다. 2025.04.22 yym58@newspim.com 또 다른 천주교 신자 김 씨(60대, 여)는 "이렇게 빨리 가실 지 몰랐다. 제겐 비보로 다가왔다. 불과 며칠 전에 공식석상에서 말씀하셨던 모습을 기억한다"면서 "그분 말씀을 하니 마음이 또 뭉클하다. 항상 가난한 이들을 돌보셨던 훌륭한 분이다. 부활절 다음날 돌아가신 게 분명 좋은 곳으로 가시리라 믿는다"고 말했다.  서울대교구 측에 따르면 이날부터 언제까지 조문을 받을 지는 결정되지 않았다. 향후 교황청에서 장례 일정을 정하면 그에 따라 조문 절차를 운영할 예정이다.  jyyang@newspim.com 2025-04-22 16:49
사진
中, 3조 미국산 쇠고기 타국산 대체중 [베이징=뉴스핌] 조용성 특파원 = 미·중 관세 전쟁으로 인해 중국 내 스테이크 레스토랑들이 미국산 쇠고기 대신 호주산 혹은 자국산으로 대체하고 있는 것으로 나타났다. 미·중 양국의 관세 분쟁으로 인해 미국산 쇠고기 가격이 급등할 것을 전망하는 중국 내 레스토랑 업체들이 미국산 쇠고기 사용을 중단하고 있다고 중국 관영 환구시보가 22일 전했다. 이들 레스토랑은 호주산 쇠고기로 공급선을 전환하고 있다. 현재 미국은 중국에 145%의 관세를 부과하고 있으며, 중국은 맞불 관세 125%를 미국산 제품에 부과하고 있다. 중국 내 미국산 쇠고기 재고는 바닥을 드러내고 있다. 수입되는 미국산 쇠고기 가격은 같은 등급의 호주산에 비해 50% 이상 비싸다. 미국산 쇠고기를 사용하던 중국 레스토랑들은 속속 미국산 사용을 포기하고 있다. 베이징의 유명 스테이크 체인인 번레이(本垒)는 "미국산 쇠고기를 사용해왔지만 이제는 호주산을 사용할 방침"이라며 "다음 달부터는 호주산 쇠고기와 소시지를 원자재로 구매해 사용할 예정이며, 돼지갈비의 경우도 마찬가지로 미국산을 사용하지 않고 캐나다산을 사용할 방침"이라고 소개했다. 중국의 대형 마트 역시 미국산 소고기 판매를 감소시키고 있다. 기존의 재고가 소진되면 미국산 소고기를 더이상 판매하지 않을 것이라는 관측이 나온다.  지난해 미국 쇠고기의 대중국 수출액은 20억 달러(2조 8500억 원)였다. 미국산 쇠고기는 중국 내에서 주로 호텔, 고급 레스토랑 등에서 사용되어 왔으며, 높은 단가의 메뉴에 사용되어 왔다. 미국 쇠고기 수입분은 호주산, 중국산 제품으로 전량 대체될 것으로 전망되고 있다. 특히 브라질산 쇠고기의 수입도 증가할 것이라는 분석이 나온다. 미국 워싱턴 이스턴 마킷 소고기 판매 매장 [서울=뉴스핌]박공식 기자 = 2025.03.28 kongsikpark@newspim.com ys1744@newspim.com 2025-04-22 10:04
안다쇼핑
Top으로 이동