[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 : 2019년08월12일 08:00

최종수정 : 2019년08월16일 19:30

김정호 교수.

자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

사진

내란특검, 한덕수에 징역 15년 구형 [서울=뉴스핌] 백승은 기자 = "그날 밤, 대통령이 비상계엄을 하겠다는 순간 (중략) 기억도 맥락도 없고 분명하지 않습니다. (중략) 다만 비록 비상계엄을 막지 못했지만, 비상계엄을 찬성하거나 도우려 한 일은 결단코 없었습니다. 그것이 오늘 역사적인 법정에서 제가 드릴 가장 정직한 말입니다." 내란우두머리·내란 방조 혐의를 받는 한덕수 전 국무총리가 26일 서울중앙지법 형사합의33부(재판장 이진관) 심리로 열린 결심 공판에서 이같이 최후 변론했다. 1심 선고는 오는 1월 21일 오후 2시에 나온다. 내란 특별검사(특검)는 한 전 총리에게 징역 15년의 중형을 구형했다. 한 전 총리의 혐의는 내란중요임무종사·내란우두머리방조·허위공문서작성및허위작성공문서행사·대통령기록물관리에관한법률위반·위증이다. [서울=뉴스핌] 류기찬 기자 = 한덕수 전 국무총리가 26일 오후 서울 서초구 서울중앙지법에서 열린 내란 방조 및 내란 중요임무 종사 혐의 관련 결심공판을 마친 뒤 법원을 나서고 있다. 2025.11.26 ryuchan0925@newspim.com 이 재판은 내란우두머리방조로 기소됐지만, 지난 3차 공판에서 재판부가 특검에 내란중요임무종사 혐의를 '선택적 병합' 형태로 공소장 변경하라고 요청해 공소 사실이 추가됐다. 선택적 병합은 필수적 병합의 반대 개념으로, 두 개 혐의를 공소장에 추가하면 재판부가 한 가지를 선택해 판단할 수 있는 형태다. 특검 측은 한 전 총리가 내란 범행에 가담하기 위해 절차적 정당성을 확보하려는 목적으로 국무위원 정족수를 채우려고 시도하거나 허위 공문서를 작성했다고 본다. 또 진술을 수차례 번복해 비협조적인 태도로 일관하고 있고 개선의 여지가 없는 점도 양형으로 고려돼야 한다고 봤다. 위증과 관련해선 명백하게 밝혀진 바가 있고, 한 전 총리도 일부 혐의를 인정했다. 한 전 총리는 윤석열 전 대통령의 탄핵 심판에서 '계엄 선포문을 받은 적이 없다', '이상민 전 행정안전부 장관과 대화한 기억이 없다'라고 했지만, 이후 공개된 12·3 대통령실 대접견실 폐쇄회로(CC)TV에는 한 전 총리는 선포문을 받고 이 전 장관과 약 16분간 대화를 나누는 모습이 포착됐다. 이 CCTV에는 윤 전 대통령이 국무위원에게 비상계엄 사실을 알리자 한 전 총리가 고개를 끄덕이기도 했다. 또 한 전 총리는 당일 '국무위원에게 직접 전화하지 않았다'고 했지만, 송미령 농림축산식품부 장관에게 '빨리 오라'고 통화를 한 사실도 뒤늦게 드러났다. 이날 특검 측은 한 전 총리에 징역 15년을 구형하며, 12·3 비상계엄은 '민주주의에 대한 테러'라고 강하게 비판했다. 특검 측은 과거 내란 범죄가 권위주의에서 민주주의로 가는 기회를 박탈한 것이었다면, 12·3 비상계엄은 수십 년간 한국이 쌓은 민주화의 결실을 한 순간에 무너뜨려 더 막대하게 국격을 손상하고 국민에게 상실감을 줬다고 했다. 아울러 한 전 총리는 국가의 2인자로서 내란 사태를 막을 수 있는 사실상 유일한 사람이었음에도 내란 범행에 가담해 막대한 피해를 줬다고 지적했다. 특검 측은 "그간 대한민국 사법시스템 죄에 상응하는 책임 엄히 물었다. 강화된 양화기준 발전된 시대적 경제적 사회적 변화 고려할 필요가 있고, 나아가 피고인을 엄히 처벌해 다시는 대한민국에서 불행 역사 되풀이되지 않도록 해야 한다"라고 강조했다. 반면 한 전 총리 측은 비상계엄의 절차적 정당성을 위해 국무위원을 모은 게 아니라 대통령을 저지하기 위해 모은 것이라고 주장했다. 위증 역시 큰 충격을 받아 기억이 선명하지 않은 것뿐이라고 밝혔다. 한 전 총리는 최후진술에서 직접 준비한 종이 한 장을 들고 '존경하는 재판장님'이라며 말 문을 열었다. 그는 "작년 12월, 비상계엄 선포로 국민이 겪은 고통과 혼란을 가슴 깊이 죄송스럽게 생각한다"라고 했다. 이어 "1970년 경제 관료로 입문해 한평생 공직을 걸어 왔다. 경제 정책 최일선에서 일했다. 대한민국은 제게 많은 기회를 줬고, 전력을 다하는 게 그에 보답하는 길이라고 생각하며 살았다. 그 길의 끝에 비상계엄 선포 사태를 만나리라고는 꿈에도 예상치 못했다"라고 밝혔다. 한 전 총리는 "여기 계신 어떤 분보다 제가 스스로를 더 혹독하게 추궁했다. 그날 밤 혼란한 기억을 복기할수록 제가 부족한 사람이었다는 절망만 사무친다"라며 "저는 그 괴로움을 죽는 날까지 지고 가야 하는 사람"이라고 힘주어 말했다. 이날 한 총리는 재판을 마치고 '국민들 앞에서 한마디 하실 말씀 없냐', '헌법재판소 재판관을 임명하지 않은 것에 대해 후회하지 않느냐' 등 취재진의 질문에는 어떤 대답도 하지 않고 법정을 빠져나갔다. 100wins@newspim.com 2025-11-26 18:58

사진

"'자사주 1년내 소각 의무화' 연내 마무리" [서울=뉴스핌] 배정원 기자 = 더불어민주당은 자사주를 취득일로부터 1년 내 소각하도록 하는 내용의 3차 상법 개정안을 연내 마무리하겠다고 25일 밝혔다. 한정애 민주당 정책위의장은 이날 오전 국회에서 열린 원내대책회의에서 "더 건강한 자본 시장을 위해 3차 상법 개정안이 조속히 논의되고 시행될 수 있도록 최선을 다하겠다"며 이같이 밝혔다. 한정애 더불어민주당 정책위의장. [사진=뉴스핌DB] 한 정책위의장은 "주주 충실 의무 명문화, 집중투표제 의무화에 이은 자사주 소각 의무를 담은 3차 상법 개정안을 연내에 마무리하도록 하겠다"고 말했다. 그는 "그간 자사주가 특정 주주의 이익을 위해서 이용되는 나쁜 사례가 많았다"며 "상법 개정을 통해 자사주의 성격을 명확히 규정하고 자사주 마법을 우리 자본시장에서 퇴출하도록 하겠다"고 말했다. 3차 상법 개정안은 회사가 자기 주식을 취득하는 경우 취득일로부터 1년 내 소각하는 것을 원칙으로 하되, 임직원 보상 목적 등 일정 요건에 해당할 때는 '자기주식 보유·처분 계획'을 작성해 주주총회 승인을 통해 보유 또는 처분할 수 있도록 한다. 기존 자사주에 대해선 신규 취득 자사주와 동일한 의무를 부여하되 법 시행 후 6개월의 추가 유예 기간을 두기로 했다. 전날 민주당 코스피 5000 특위 위원장인 오기형 의원은 이 같은 내용을 골자로 하는 상법 개정안을 대표 발의했다. 한 정책위의장도 공동 발의자에 이름을 올렸다. jeongwon1026@newspim.com 2025-11-25 10:12