[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

패스틀리 ② 월가 목표가 상향 '잠재력 과소평가된 AI 수혜주'

패스틀리 ① AI 트래픽 급증 힘입어 주가 72% 폭등

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

황대헌 "결승서 플랜B 급변경" [서울=뉴스핌] 박상욱 기자 = 한국 남자 쇼트트랙 선수로는 처음으로 3개 대회 연속 메달을 따낸 황대헌(강원도청)은 "이 자리에 오기까지 너무 많은 시련과 역경이 있었다. 너무 소중한 메달"이라고 말했다. 황대헌은 "월드투어 시리즈를 치르면서 많은 실패와 도전을 했고, 그런 부분을 제가 많이 연구하고 공부해서 좋은 결과로 이어졌다"고도 했다. 황대헌은 15일(한국시간) 2026 밀라노·코르티나담페초 동계 올림픽 쇼트트랙 남자 1500m 결승에서 옌스 판트 바우트(네덜란드)에 이어 2위로 은메달을 거머쥐었다. 그는 2018 평창 대회 남자 500m 은메달을 시작으로 2022 베이징 대회에서 남자 1500m 금메달과 남자 5000m 계주 은메달을 땄다. [밀라노 로이터=뉴스핌] 박상욱 기자= 황대헌이 15일(한국시간) 2026 밀라노·코르티나담페초 동계올림픽 쇼트트랙 남자 1500m 시상식에 오르며 주먹을 불끈 쥐고 있다. 2026.02.15 psoq1337@newspim.com 황대헌에게 이번 올림픽은 출발부터 쉽지 않았다. 지난해 11월 네덜란드 도르드레흐트에서 열린 2025-2026 국제빙상경기연맹(ISU) 쇼트트랙 월드투어 4차 대회에서 왼쪽 무릎을 다쳤다. 부상 치료가 완전히 끝나지 않은 상태에서 올림픽을 준비했다. 이날 결승은 9명이 함께 뛰었다. 황대헌은 "2022년 베이징 대회 때는 결승에서 10명이 뛰었다. 그리 놀라운 상황은 아니었다"며 "쇼트트랙 레이스의 흐름이 많이 바뀌어서 공부도 많이 했고, 계획했던 대로 경기를 풀어갈 수 있었다"고 설명했다. 이어 "경기 운영엔 다양한 전략이 있었다. 순간적으로 플랜B로 바꿨다"며 "자세한 내용은 제가 많이 연구한 결과라 소스를 공개할 수는 없다"며 미소를 보였다. psoq1337@newspim.com 2026-02-15 09:10

사진

최가온이 전한 긴박했던 순간 [서울=뉴스핌] 장환수 스포츠전문기자= "들것에 실려 나가면 그대로 끝이었어요." 2026 밀라노·코르티나담페초 동계올림픽 스노보드 여자 하프파이프에서 한국 설상 종목 사상 첫 금메달을 따낸 최가온(세화여고)이 가장 아찔했던 순간을 돌아봤다. 최가온. [사진=대한체육회] 최가온은 14일(한국시간) 이탈리아 밀라노 코리아하우스에서 열린 대한체육회 공식 기자회견에서 전날 결선 1차 시기를 떠올렸다. 그는 리비뇨 스노파크에서 열린 결선 1차 시기에서 크게 넘어지며 한동안 일어나지 못했다. 의료진이 내려와 상태를 확인했고, 들것이 대기한 긴박한 상황이었다. 최가온은 "들것에 실려 나가면 병원으로 가야 했고, 그러면 대회를 포기해야 하는 상황이었다"며 "포기하면 평생 후회할 것 같았다. 다음 선수가 기다리고 있어 시간이 많지 않았는데 잠시만 시간을 달라고 하고 발가락부터 힘을 주며 움직이려 했다"고 말했다. 다행히 걸을 수는 있었지만 코치는 기권을 권유했다. 최가온은 "나는 무조건 뛰겠다고 했지만 코치님은 걸을 수 없는 상태로 보셨다"며 "이를 악물고 계속 걸어보려 했고, 다리 상태가 조금씩 나아져 2차 시기 직전 기권을 철회했다"고 설명했다. [리비뇨 로이터=뉴스핌] 장환수 스포츠전문기자= 최가온이 13일 스노보드 여자 하프파이프 결선 1차 시기에서 넘어지자 의료진이 달려와 상태를 살펴보고 있다. 2026.02.13 zangpabo@newspim.com 1, 2차 시기 연속 실수로 벼랑 끝에 몰렸지만 3차 시기에서 반전이 일어났다. 최가온은 "긴장감이 오히려 사라졌다. 기술 생각만 하면서 출발했다. 내 연기를 완성하겠다는 생각뿐이었다"고 돌아봤다. 그리고 900도와 720도 회전을 안정적으로 연결하며 90.25점을 받아 극적인 역전 우승을 완성했다. 은메달을 차지한 교포 선수 클로이 김(미국)과 관계도 화제가 됐다. 최가온은 "클로이 언니가 안아줬는데 정말 행복했다. 그 순간 '내가 언니를 넘어섰구나' 하는 감정이 몰려왔고 눈물이 터졌다"고 했다. 이어 "경기 전에는 언니가 금메달을 땄으면 좋겠다는 생각이 들 정도로 마음이 복잡했다. 존경하는 선수라 기쁨과 서운함이 동시에 들었다"고 솔직하게 털어놨다. 부상 직후 재도전에 대한 두려움은 없었을까. 그는 "어릴 때부터 겁이 없었다. 언니, 오빠들과 함께 타며 자연스럽게 생긴 승부욕이 두려움을 이겨낸 것 같다"며 웃었다. [리비뇨=로이터뉴스핌] 밀라노-코르티나 2026 동계올림픽 스노보드 여자 하프파이프에서 금메달을 획득한 최가온 선수가 지난 12일 이탈리아 리비뇨 스노파크에서 열린 시상식에서 태극기를 들어 보이고 있다. 2026.02.13 photo@newspim.com 많은 눈이 내린 경기 환경에 대해서도 담담했다. "첫 엑스게임 때 눈이 정말 많이 왔는데 그때에 비하면 괜찮았다. 경기장에 들어갔을 때 함박눈이 내려 오히려 예쁘다고 느꼈다. 시상대에서도 눈이 내려 클로이 언니와 '이렇게 눈이 내리니 좋다'고 이야기했다"고 전했다. 몸 상태는 완전하지 않았다. 그는 "무릎이 아주 아팠지만 많이 좋아졌다"며 "올림픽을 앞두고 훈련 중 다친 왼쪽 손목은 귀국 후 점검해야 한다"고 밝혔다. 이어 "이번 올림픽에서 최고의 경기력을 보여드리지는 못했다. 기술 완성도를 더 높이고 긴장감을 다스리는 법도 보완하고 싶다"며 "먼 미래보다 당장 지금의 나보다 더 나은 선수가 되는 게 목표"라고 말했다. 최가온. [사진=올댓스포츠] 가족에 대한 고마움도 전했다. 최가온은 "아버지가 내가 어릴 때 일을 그만두고 이 길을 함께 걸었다. 많이 싸우기도 했지만 끝까지 포기하지 않고 함께해줘 지금 이 자리에 있는 것 같다"며 고개를 숙였다. 귀국 후 계획을 묻자 "할머니가 해주는 밥을 먹고 싶다. 친구들과는 파자마 파티를 하기로 했다"며 수줍게 웃었다. 금메달과 함께 포상금과 고급 시계를 받게 된 데 대해서는 "과분한 것들을 받게 돼 영광이다. 시계는 잘 차겠다"고 말했다. 스노보드 꿈나무들에게는 "하프파이프는 즐기면서 타는 게 가장 중요하다. 다치지 말고 즐기면서 탔으면 좋겠다"고 조언했다. 들것 앞에서 멈추지 않았던 17세의 선택은 결국 한국 설상 종목의 새 역사가 됐다. zangpabo@newspim.com 2026-02-14 22:35