[김정호의 4차혁명 오딧세이] 설명 불가능한 인공지능 작동 원리의 비밀

기사입력 : 2019년01월07일 14:00

최종수정 : 2019년01월07일 14:00

인공지능은 암호 숫자 모음

인공지능의 알고리즘 중에서 최근 가장 많이 사용하는 알고리즘이 딥러닝(DNN, Deep Neural Network)이라고 한다. 인간의 뇌 신경망을 모방해서 수학적 모델을 세우고 컴퓨터 코딩으로 구현한다.

김정호 카이스트 교수

이 딥러닝 신경망은 여러 개의 층(Layer)으로 이루어져 있는데, 그 층 숫자가 증가할수록 성능과 정확성이 높아진다. 그래서 "깊다"라는 의미를 가진 '딥'(Deep)이라는 표현이 나온다. 다른 말로 딥러닝을 심층학습(深層學習)이라고 부르기도 한다. 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 추출해내는 기계학습(Machine Learning) 알고리즘의 일종이다.

기계학습은 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 분야라고 이야기할 수 있다. 이 딥러닝이 성공할 수 있었던 배경에는 컴퓨터와 반도체의 성능향상과 인터넷에 널린 빅데이터의 도움이 결정적이다.

2012년 스탠포드 대학의 앤드류 응 교수와 구글이 함께 한 딥 러닝 프로젝트에서는 1만6000개의 컴퓨터 프로세서와 10억 개 이상의 신경망과 딥러닝을 이용하여 유튜브에 업로드 되어 있는 천만 개 넘는 비디오 중 고양이 인식에 성공하였다.

이 딥러닝에는 입력층(Input layer)과 출력층(Output layer) 사이에 여러 개의 은닉층(Hidden layer)들로 이루어져 있다. 이 딥러닝은 복잡한 비선형 관계(Non-linear relationship)들을 모델링할 수 있다.

뇌의 동작은 비선형적이기 때문이다. 이 딥러닝 알고리즘에는 각 층에 설치된 수천 혹은 수천 만개의 신경세포(Node)가 서로 연결망의 선으로 연결되어 있다. 그리고 이 연결망을 통해서 각 층을 지나면서 출력이 전달될 때, 가중치(w, weight)가 곱해진다. 이때 각 신경세포(Node)에서 입력 값이 합해지게 되는데, 그 합이 일정 값이 넘으면 다음 단계로 출력으로 전달된다. 그래서 딥러닝 신경망에는 수많은 변수(Parameters)가 존재한다. 이러한 변수들은 인공지능이 빅데이터를 이용해 학습하면서 정해간다. 다름 아니라 이 변수들을 정해가는 과정을 학습이라고 한다.

이 학습과정에서 최종 출력 값인 결과와 미리 정해진 정답과 비교하면서 변수를 학습해 간다. 예를 들어 인공지능이 사진을 판독한다면, 입력이 사진이고 최종 출력이 판독이다. 사진을 넣어 주면서 결과를 뽑아 호랑이인지 고양이 인지 판정하게 되는데, 이 과정을 전진방향 전파 학습(Forward Propagation) 이라고 한다. 이 결과에 오차가 생겼을 때, 그 결과의 차이를 보고, 다시 꺼꾸로 변수를 정해가는 과정을 역방향 전파 학습(Back Propagation) 이라고 한다. 이처럼 결과 오류의 차이를 이용해 변수를 정해서 전해간다. 이렇게 답을 알려주면서 학습하는 방법을 지도학습(Supervised Learning) 이라 한다.

이렇게 인공지능에서 학습을 통해서 정해진 변수 값들을 행렬이나 테이블로 쭉 나열해 볼 수 있다. 그런데 놀랍게도 그 숫자들의 의미를 전혀 찾을 수가 없다. 인간에게 단순한 숫자의 나열에 불과하다. 그 숫자의 의미를 찾아 보려고 노력하지만 그 의미를 찾을 수 없다. 그래서 필자는 "설명 가능한 인공지능은 없다"고 말한다.

인공지능 신경망 딥러닝의 구조. 입력층(Input layer), 내부층(Hidden Layer), 그리고 출력층(Output layer)으로 연결망이 이루어져있다. [출처: KAIST]

인공지능 딥러닝 알고리즘에서 전진학습 과정(Forward Propagation)과 가중치 변수(w)들, [출처: KAIST]

인공지능 작동원리, 아직은 설명 가능하지 않아

미국 국방성 고급 연구기관인 DARPA(Defense Advanced Research Projects Agency)는 방위 고등 연구 계획국의 약자이며, 미국 국방성의 연구, 개발 부문을 담당하고 있다. 인터넷의 원형을 개발한 것으로 잘 알려져 있다. 이 DARPA에서 인공지능을 이해하고 설명해 보려는 프로젝트를 진행하고 있다.

인공지능이 인간을 대신해서 전쟁을 수행하고 공격한다면 인간에게 매우 위협적이다. 핵 무기보다 무섭다. 잘못하면 인류의 종말이 가까이 올 수 있다. 그래서 국방 무기에 인공지능을 적용할 때 많은 우려를 갖는다. 이러한 배경으로 미국 국방부에서는 인공지능을 충분히 신뢰하기 위해서는 인공지능 내부와 결정과정을 이해하고 설명할 수 있어야 한다고 보는 것이다. 그런데 필자는 성공할 수 없는 프로젝트라고 본다.

인공지능은 수많은 데이터로 학습한 이후, 호랑이와 고양이 사진을 구별할 수 있다. 그런데 왜 그런지 인공지능 내부를 설명할 수 없다. 그리고 미래 인공지능은 쌍둥이도 구별하고, 같은 사람이 나이 들어도 알 수 있다. 가족도 찾아 낸다. 화장하더라도 같은 사람을 찾아 낼 수 있다.

이러한 구분은 '인간 아기'가 2~3세만 되어도 호랑이와 고양이 사진을 구별해내는 것과 유사하다. 방향이 돌려지고, 조명이 바뀌어도 찾아 낸다. 그런데 아기가 설명할 수는 없다. 설명할 수 없는 직관으로 찾아 낸다. 그래서 인공지능 내부는 직관이자 블랙박스이다.

인공지능 강화학습(Reinforcement Learning)을 통해서 얻어진 숫자 4x6 행렬(Q 값), [출처: KAIST]

인공지능, 신의 언어일까? 외계인의 언어일까?

인공지능에서 충분한 데이터로 학습하면 내부는 모르지만 입력을 하면 정답이 나오고 최적 값이, 그리고 판정이 나온다. 그래서 필자는 ‘인공지능이 신의 언어 혹은 외계인 언어’일수도 있다고 본다.

당분간 이해하거나 설명하려는 인간의 노력은 무의미하다. 어쩌다 반도체와 컴퓨터가 성능이 발전하고, 데이터가 많아 지면서 알게 된 비밀일 것 같다. 인공지능은 인간과 외계인과의 대화 물꼬를 틀지도 모른다.

4차 산업혁명의 동력인 반도체가 양자역학 원리에 의해서 동작한다. 양자 역학도 불확실성에 기반하고 확률을 구하는 물리이다. 기존 인간의 확정적 경험 세계로는 절대 설명할 수 없다. 그냥 받아 들여야 한다.

양자적 불연속 에너지 현상, 존재의 불확실성, 배타성 (Exclusion Principle) 등은 인간의 실 생활에서 찾아 볼 수 없다. 원자 세계에서만 나타나는 현상이다. 그래서 양자역학과 인공지능 모두 미지의 세계이고 상상의 세계이다. 4차 산업혁명 개념과 실제도 그래서 어렵다. 그 물결을 받아 들이고 파도를 타야 한다.

외계인의 이미지. [출처: 허핑턴포스트코리아 ]

joungho@kaist.ac.kr

[김정호 카이스트 전기 및 전자공학과 교수]

사진

내란특검, 한덕수에 징역 15년 구형 [서울=뉴스핌] 백승은 기자 = "그날 밤, 대통령이 비상계엄을 하겠다는 순간 (중략) 기억도 맥락도 없고 분명하지 않습니다. (중략) 다만 비록 비상계엄을 막지 못했지만, 비상계엄을 찬성하거나 도우려 한 일은 결단코 없었습니다. 그것이 오늘 역사적인 법정에서 제가 드릴 가장 정직한 말입니다." 내란우두머리·내란 방조 혐의를 받는 한덕수 전 국무총리가 26일 서울중앙지법 형사합의33부(재판장 이진관) 심리로 열린 결심 공판에서 이같이 최후 변론했다. 1심 선고는 오는 1월 21일 오후 2시에 나온다. 내란 특별검사(특검)는 한 전 총리에게 징역 15년의 중형을 구형했다. 한 전 총리의 혐의는 내란중요임무종사·내란우두머리방조·허위공문서작성및허위작성공문서행사·대통령기록물관리에관한법률위반·위증이다. [서울=뉴스핌] 류기찬 기자 = 한덕수 전 국무총리가 26일 오후 서울 서초구 서울중앙지법에서 열린 내란 방조 및 내란 중요임무 종사 혐의 관련 결심공판을 마친 뒤 법원을 나서고 있다. 2025.11.26 ryuchan0925@newspim.com 이 재판은 내란우두머리방조로 기소됐지만, 지난 3차 공판에서 재판부가 특검에 내란중요임무종사 혐의를 '선택적 병합' 형태로 공소장 변경하라고 요청해 공소 사실이 추가됐다. 선택적 병합은 필수적 병합의 반대 개념으로, 두 개 혐의를 공소장에 추가하면 재판부가 한 가지를 선택해 판단할 수 있는 형태다. 특검 측은 한 전 총리가 내란 범행에 가담하기 위해 절차적 정당성을 확보하려는 목적으로 국무위원 정족수를 채우려고 시도하거나 허위 공문서를 작성했다고 본다. 또 진술을 수차례 번복해 비협조적인 태도로 일관하고 있고 개선의 여지가 없는 점도 양형으로 고려돼야 한다고 봤다. 위증과 관련해선 명백하게 밝혀진 바가 있고, 한 전 총리도 일부 혐의를 인정했다. 한 전 총리는 윤석열 전 대통령의 탄핵 심판에서 '계엄 선포문을 받은 적이 없다', '이상민 전 행정안전부 장관과 대화한 기억이 없다'라고 했지만, 이후 공개된 12·3 대통령실 대접견실 폐쇄회로(CC)TV에는 한 전 총리는 선포문을 받고 이 전 장관과 약 16분간 대화를 나누는 모습이 포착됐다. 이 CCTV에는 윤 전 대통령이 국무위원에게 비상계엄 사실을 알리자 한 전 총리가 고개를 끄덕이기도 했다. 또 한 전 총리는 당일 '국무위원에게 직접 전화하지 않았다'고 했지만, 송미령 농림축산식품부 장관에게 '빨리 오라'고 통화를 한 사실도 뒤늦게 드러났다. 이날 특검 측은 한 전 총리에 징역 15년을 구형하며, 12·3 비상계엄은 '민주주의에 대한 테러'라고 강하게 비판했다. 특검 측은 과거 내란 범죄가 권위주의에서 민주주의로 가는 기회를 박탈한 것이었다면, 12·3 비상계엄은 수십 년간 한국이 쌓은 민주화의 결실을 한 순간에 무너뜨려 더 막대하게 국격을 손상하고 국민에게 상실감을 줬다고 했다. 아울러 한 전 총리는 국가의 2인자로서 내란 사태를 막을 수 있는 사실상 유일한 사람이었음에도 내란 범행에 가담해 막대한 피해를 줬다고 지적했다. 특검 측은 "그간 대한민국 사법시스템 죄에 상응하는 책임 엄히 물었다. 강화된 양화기준 발전된 시대적 경제적 사회적 변화 고려할 필요가 있고, 나아가 피고인을 엄히 처벌해 다시는 대한민국에서 불행 역사 되풀이되지 않도록 해야 한다"라고 강조했다. 반면 한 전 총리 측은 비상계엄의 절차적 정당성을 위해 국무위원을 모은 게 아니라 대통령을 저지하기 위해 모은 것이라고 주장했다. 위증 역시 큰 충격을 받아 기억이 선명하지 않은 것뿐이라고 밝혔다. 한 전 총리는 최후진술에서 직접 준비한 종이 한 장을 들고 '존경하는 재판장님'이라며 말 문을 열었다. 그는 "작년 12월, 비상계엄 선포로 국민이 겪은 고통과 혼란을 가슴 깊이 죄송스럽게 생각한다"라고 했다. 이어 "1970년 경제 관료로 입문해 한평생 공직을 걸어 왔다. 경제 정책 최일선에서 일했다. 대한민국은 제게 많은 기회를 줬고, 전력을 다하는 게 그에 보답하는 길이라고 생각하며 살았다. 그 길의 끝에 비상계엄 선포 사태를 만나리라고는 꿈에도 예상치 못했다"라고 밝혔다. 한 전 총리는 "여기 계신 어떤 분보다 제가 스스로를 더 혹독하게 추궁했다. 그날 밤 혼란한 기억을 복기할수록 제가 부족한 사람이었다는 절망만 사무친다"라며 "저는 그 괴로움을 죽는 날까지 지고 가야 하는 사람"이라고 힘주어 말했다. 이날 한 총리는 재판을 마치고 '국민들 앞에서 한마디 하실 말씀 없냐', '헌법재판소 재판관을 임명하지 않은 것에 대해 후회하지 않느냐' 등 취재진의 질문에는 어떤 대답도 하지 않고 법정을 빠져나갔다. 100wins@newspim.com 2025-11-26 18:58

사진

"'자사주 1년내 소각 의무화' 연내 마무리" [서울=뉴스핌] 배정원 기자 = 더불어민주당은 자사주를 취득일로부터 1년 내 소각하도록 하는 내용의 3차 상법 개정안을 연내 마무리하겠다고 25일 밝혔다. 한정애 민주당 정책위의장은 이날 오전 국회에서 열린 원내대책회의에서 "더 건강한 자본 시장을 위해 3차 상법 개정안이 조속히 논의되고 시행될 수 있도록 최선을 다하겠다"며 이같이 밝혔다. 한정애 더불어민주당 정책위의장. [사진=뉴스핌DB] 한 정책위의장은 "주주 충실 의무 명문화, 집중투표제 의무화에 이은 자사주 소각 의무를 담은 3차 상법 개정안을 연내에 마무리하도록 하겠다"고 말했다. 그는 "그간 자사주가 특정 주주의 이익을 위해서 이용되는 나쁜 사례가 많았다"며 "상법 개정을 통해 자사주의 성격을 명확히 규정하고 자사주 마법을 우리 자본시장에서 퇴출하도록 하겠다"고 말했다. 3차 상법 개정안은 회사가 자기 주식을 취득하는 경우 취득일로부터 1년 내 소각하는 것을 원칙으로 하되, 임직원 보상 목적 등 일정 요건에 해당할 때는 '자기주식 보유·처분 계획'을 작성해 주주총회 승인을 통해 보유 또는 처분할 수 있도록 한다. 기존 자사주에 대해선 신규 취득 자사주와 동일한 의무를 부여하되 법 시행 후 6개월의 추가 유예 기간을 두기로 했다. 전날 민주당 코스피 5000 특위 위원장인 오기형 의원은 이 같은 내용을 골자로 하는 상법 개정안을 대표 발의했다. 한 정책위의장도 공동 발의자에 이름을 올렸다. jeongwon1026@newspim.com 2025-11-25 10:12