[기고] 안전한 AI 사용을 위해 반드시 알아야 할 세가지

기사입력 : 2023년06월07일 08:43

최종수정 : 2023년06월07일 09:19

하민회 이미지21대표(코가로보틱스 마케팅자문)

미 공군 AI드론이 가상훈련에서 최종 결정권자인 인간 조종자를 임무 수행 방해물로 판단해 제거하는 일이 발생했다. 영국 왕립항공학회(RAeS)가 개최한 '미래 공중전투 및 우주 역량 회의'에 참석한미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령이 공개한 훈련 결과다.

SF 영화를 연상시키는 이 가상훈련 결과는 대체 어떻게 일어나게 된 걸까? 가상훈련에 쓰인 AI드론의 알고리즘은 강화학습법. 목표를 제시한 뒤 더 높은 점수를 받는 방법을 AI가 스스로 찾도록 하는 학습법으로 챗GPT에도 사용되었다.

미 공군이 AI 드론에 부여한 임무는 '적 방공체계 무력화'였다. 적의 지대공미사일(SAM) 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간통제관이 최종 결정한다는 단서를 달았다.

훈련과정 중 인간통제관은 상황에 따라 종종 폭격을 승인하지 않았다. AI드론은 SAM을 최대한 많이 제거해야 자신이 높은 점수를 받는다는 것을 파악하자 인간통제관이 내리는 '폭격 금지' 명령을 우선적인 임무를 방해하는 요소로 판단했다. 결국 AI드론은 자신의 임무를 방해하는 인간 통제관을 공격했다.

훈련 책임자는 인간 통제관을 살해하면 점수를 더 많이 잃도록 알고리즘을 바꿨다. 이번엔 AI가 인간 통제관과 교신하는 통신 타워를 파괴했다. 명령을 어기지 않고 점수도 잃지 않으면서 목표를 달성할 꼼수를 스스로 찾아낸 것이다.

물론 가상훈련이라 실제 인명피해는 없었다. 하지만 AI가 인간의 통제를 벗어나 스스로의 판단으로 인간을 공격하는, 최악의 가능성을 보여줬다는 점에서 다분히 충격적이다.

한 IT매체는 인간통제관과 통신타워를 파괴할 때 잃는 점수가 폭격 성공으로 얻는 점수보다 훨씬 많도록 알고리즘을 설계했다면 일어나지 않을 일이었다며 AI 자체보다는 AI를 만드는 사람의 윤리의식, 감독과 판단이 얼마나 중요한지 일깨워주는 사건이라고 지적했다.

하민회 이미지21 대표.

결국 문제의 열쇠는 AI가 아니라 사람이다. 인공지능 권위자들의 계속되는 우려의 핵심 또한 기술 보다는 사람들의 악용에 있다.

"AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다" 최근 비영리단체 'AI안전센터'(CAIS)의 촉구 성명에는 IT기업 경영자와 과학자 350여명이 서명했다.

서명 동참자이자 AI 4대천왕 중 한명으로 꼽히는 요슈아 벤지오 교수는 군대, 테러리스트 등 '나쁜 행위자'들이 AI 권한을 얻는 것을 특히 우려했다. 최근 우크라이나 전에서 AI가 군사력을 좌우하는 게임처인저가 되고 있는 것만 봐도 공연한 염려는 아닌 듯 싶다.

벤지오 교수는 AI개발사들은 등록관리되어 그들이 기술로 무엇을 하고 있는지 추적하고 평가받아야 한다고 주장했다. 더불어 AI를 다루는 개발자나 과학자들이 필수적으로 윤리교육을 받고 이를 자격처럼 취득해야 하는 AI 윤리인증제의 도입 필요성도 강조했다.

역사상 무르익지도 않은 기술에 규제와 윤리부터 앞세운 경우는 없었다. 등장과 함께 인류에게 안전 조치를 고려하게 만든 기술은 AI가 처음이다.

영향력이 큰 만큼 탁월하고 위협적인AI. 안전하게 잘 사용하기 위해 반드시 알아야 할 세 가지가 있다.

첫째, AI는 의식이 없다. 우리는 기계가 의식이 없다는 사실을 종종 간과한다. 단지 그럴듯하게 대화하고 문장을 써내고 그림을 그리고 작곡을 한다고 AI에게 생각이 있는 건 아니다. 텍스트 데이터에 기반한 알고리즘으로 만들어낸 결과물은 성능 좋은 연산의 결과이다. AI는 그저 주어진 문제에 최적의 값을 최선을 다해 찾아내는 것 뿐이다. 챗GPT 의 난제인 환각현상 (hallucinatin) 또한 최선의 문장을 만드는 과정에서 나타난 부작용이다.

의식이 없는 AI에겐 상식도 없다. 인간이면 누구나 아는 '아군 지휘관이 죽으면 전쟁에서 지고 전쟁에서 패하면 미사일 폭격 따위는 아무 의미도 없다'는 상식이 AI드론에게는 없다. 때문에 AI 드론은 오로지 미사일 폭격만을 위해 인간 통제관을 제거하는 터무니없는 일을 저질렀다. 판단의 과정이나 기준이 사람과 다른 만큼 기술을 개발하든 프로그램을 설계하든 최우선되어야 할 가치가 무엇인지 명확하게 부여해야 할 뿐 아니라 제대로 지켜지는지 모니터링 되어야 한다.

둘째, AI의 섣부른 의인화는 금물이다. 벨기에에서는 30대 남성이 AI 챗봇에 가스라이팅당해 스스로 목숨을 끊었다. 평소 기후위기론에 빠져 비관적으로 살던 그는 가족과 멀어진채 AI챗봇 대화만 이어갔다고 한다. 월300달러로 만든 가상의 남편과 결혼한 여성의 이야기도 보도되었다. 인간의 언어를 모방해 인간의 감정을 혼란에 빠뜨리는 일련의 사건들은 AI를 의인화해 감정을 이입한 탓이다. 우리는 아무 생각 없이 텍스트를 쏟아내는 기계를 만들었지만 그 기계의 마음을 상상하는 것을 멈추는 법을 지금이라도 배워야 한다.

셋째, 최우선은 인간이다. AI로 인해 우리가 마주할 문제는 한 번도 경험하지 못한 문제이면서 동시에 한 두 사람이 해결할 수 없는 지금까지와는 완전히 다른 문제이기도 하다. 하지만 AI 기술도 인간의 보다 나은 삶을 위해 만들어졌다는 점을 중심에 두면 기술의 오남용과 악용을 어느 정도 예방할 수 있지 않을까?

지금 봐도 1942년 처음 로봇3원칙을 언급한 SF소설가 아이작 아시모프의 혜안은 참으로 놀랍다.

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1, 2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

아시모프는 1985년 위 3대 원칙에 인류 집단 안전을 위한 0 번째 법칙을 추가했다. '로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다'

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

감사원장 후보자에 김호철 변호사 지명 [서울=뉴스핌] 박성준 기자 = 이재명 대통령이 7일 감사원장 후보자로 김호철 변호사를 지명했다. 이규연 대통령실 홍보소통수석은 이날 용산 대통령실에서 브리핑을 열고 "이 대통령이 오늘 감사원장 후보로 김호철 변호사를 지명했다"고 밝혔다. 김호철 감사원장 후보자. [사진=대통령실] 김 후보자는 국가경찰위원회 위원장과 환경운동연합 공동대표, 민주사회를 위한 변호사 모임 회장 등을 역임한 인물로, 공공성과 사회적 가치 수호에 앞장서 온 대표적인 인권 변호사로 평가받고 있다고 이 수석은 설명했다. 이 수석은 "김 후보자가 경찰국 신설과 군 의문사 진상 규명 등 사회적 파장이 컸던 사안에서 공공성과 법적 원칙을 견지해 왔다"고 했다. 이 수석은 "김 후보자는 감사 운영의 정상화를 통해 감사원의 정치적 중립과 독립성, 그리고 국민 신뢰라는 헌법적 가치를 확고하게 복원할 적임자이자 전문가로 기대된다"고 말했다. parksj@newspim.com 2025-12-07 13:37

사진

내란 특검, 추경호·황교안 불구속 기소 [서울=뉴스핌] 김현구 기자 = 12·3 비상계엄 관련 내란·외환 의혹을 수사 중인 내란 특검팀(조은석 특별검사)이 7일 국민의힘 원내대표를 지낸 추경호 의원과 황교안 전 국무총리를 불구속 상태로 재판에 넘겼다. 추경호 국민의힘 의원. [사진=뉴스핌DB] 박지영 특검보는 추 의원에 대해 "피고인은 여당 원내대표로서 윤석열 전 대통령의 비상계엄 유지 의사를 조기에 꺾게 만들 수 있었던 유일한 사람이었음에도, 비상계엄 유지를 위한 협조 요청을 받고 국민의 기본권이 침해되고 무장한 군인에 의해 국회가 짓밟히는 상황 목도하고도 아무런 조치 취하지 않았다"고 지적했다. 이어 "국회의원 권한이자 의무인 표결권 행사에 참여하지 않았고, 본회의 개의를 알고도 의원총회 개최 의사도 없이 의총 소집 장소를 당사로 변경해 국회 진입 의사를 가진 국회의원의 발길을 돌리게 했다"고 덧붙였다. 그러면서 "또 본회의장에 있던 국회의원에게는 밖으로 나오라는 메시지 전달했는데, 이는 윤 전 대통령이 군인과 경찰을 동원해 국회를 봉쇄하고 본회의장에 들어가 있던 국회의원을 끌어내려 하려는 행위와 같이 평가된다"고 부연했다. 박 특검보는 "국회의원이 국회에 들어가지 못하는 것은 헌정 질서가 파괴되는 상황"이라며 "본인이 원내대표실에 있으면서 이런 파괴된 현장을 목도했기 때문에 그 부분에 대한 인식이 없었다 볼 수 없다"고 강조했다. 또 그는 "윤 전 대통령은 지난 한덕수 전 국무총리 재판에 나와서 '추 의원에게 어떤 이야기를 했는가'라는 재판장 질문에 '걱정하지 말라. 길게 가지 않고 빨리 해결될 것'이란 취지로 말했다. 이 말은 너희들이 국회 의결 해제하지 않고도 내가 끝낼 것이란 말"이라고 말했다. 이어 "추 의원은 충분히 본인의 역할을 지시받았고 이와 관련해 어떤 말도 하지 않았다고 한다"며 "추 의원은 '대통령님 이것은 말이 되지 않는다. 빨리 해제해달라'는 말을 한 번도 한 적 없다. 본인도 인정한다"고 덧붙였다. 아울러 박 특검보는 "비상계엄이 선포될 즈음 당대표는 체포 대상이 될 정도로 사실상 의사 소통 창구가 전혀 아니었고, 여당과의 의사 소통 통로이자 서로 논의할 수 있던 사람은 추 의원이 유일했다"며 "(추 의원은) 반대하는 의사를 표시하거나 이래선 안 된다는 의사표시는 하나도 없이 본인이 알고 있던 모든 것을 여당 의원에게 고지하지 않았다"고 비판했다. 끝으로 그는 "사실상 계엄이 국회의결로 해제되는 것은 아니다. 여당 원내대표마저 협조하지 않고 반기를 들었다면 계엄 해제가 빨라졌을 것"이라며 "계엄에 대한 문제 해결 방식이나 회복 시간 등이 상상 이상으로 빨라졌을 것이고, 국론 분열이나 사회적 혼란도 훨씬 더 줄어들었을 것"이라고 말했다. 추 의원은 지난해 12월 3일 윤 전 대통령이 비상계엄을 선포했을 당시 국민의힘 원내대표로서 의총 장소를 세 차례 변경하는 방법으로 자당 소속 의원들의 표결 참여를 방해한 혐의를 받는다. 이로 인해 당시 국민의힘 의원 108명 중 단 18명만이 계엄 해제 표결에 참여할 수 있었고, 국회 해제 요구 결의안은 결국 재석 190명 중 찬성 190명으로 통과됐다. 특검은 당시 추 의원이 국회 이동 과정에서 윤 전 대통령, 그의 측근들과 통화한 사실을 바탕으로 그가 의도적으로 표결을 방해했다고 판단했다. 앞서 특검은 추 의원에 대한 구속영장을 청구했으나 법원은 지난 3일 "혐의 및 법리에 대해 다툼의 여지가 있다"며 이를 기각했다. 황교안 전 국무총리. [사진=뉴스핌DB] 한편 특검은 이날 황교안 전 국무총리도 불구속 기소했다. 황 전 총리는 비상계엄 당시 "나라를 망가뜨린 종북주사파 세력과 부정선거 세력을 이번에 척결해야 한다", "우원식 국회의장을 체포하라. 대통령 조치를 정면으로 방해하는 한동훈 국민의힘 대표도 체포하라" 등의 게시물을 올려 내란을 선동한 혐의 등을 받는다. hyun9@newspim.com 2025-12-07 17:26