[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

"금리 더 줘야 산다"…민간 우위로 재편된 미국 국채시장

엔비디아, 고객들 칩 구매 5000억달러 자금줄 동맹

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

'바이백 약발' 하루 만에 주춤 [서울=뉴스핌] 고인원 기자= 미국 국채 수익률이 20일(현지시간) 전날의 급락분 일부를 되돌리며 다시 상승했고, 미 달러화도 장 초반 약세에서 벗어나 소폭 반등했다. 미 재무부가 장기 국채시장 안정을 위해 바이백(환매) 규모를 최소 두 배로 확대하고 추가 확대 가능성까지 시사했지만, 시장에서는 미국의 재정적자와 인플레이션에 대한 우려를 해소하기에는 역부족이라는 평가가 나왔다. 특히 국제유가 상승이 인플레이션 압력을 다시 높일 수 있다는 경계감이 국채 수익률을 끌어올렸다. 미국의 국가부채가 사상 처음 40조달러를 넘어선 가운데 재무부가 장기금리 상승을 억제할 경우 재정 건전성에 대한 시장의 우려가 국채 대신 달러화 약세로 나타날 수 있다는 지적도 제기됐다. 이날 벤치마크인 미국 10년물 국채 수익률은 4.5bp(1bp=0.01%포인트) 상승한 4.698%를 기록했다. 30년물 수익률은 4.4bp 오른 5.238%, 미 연방준비제도(Fed·연준)의 통화정책 전망에 민감한 2년물 수익률은 0.9bp 상승한 4.188%를 나타냈다. 미 달러화.[사진=로이터 뉴스핌] 앞서 미 재무부는 전날 10~30년 만기 장기 국채의 유동성을 지원하기 위한 바이백 규모를 회당 최소 40억달러로 두 배 확대하겠다고 밝혔다. 미국의 재정적자 확대에 대한 우려로 장기 국채 수익률이 급등하자 시장 안정에 나선 것이다. 발표 직후 10년물과 20년물, 30년물 국채 수익률은 큰 폭으로 하락했고 글로벌 국채 매도세도 진정됐다. 그러나 하루 만에 국채 수익률이 다시 상승하면서 재무부 조치의 효과가 지속될지를 둘러싼 의문이 커졌다. 스콧 베선트 미 재무장관은 이날 CNBC와의 인터뷰에서 정부의 국채 바이백 규모가 당초 발표한 40억달러보다 더 커질 수 있다며 추가 확대 가능성을 시사했다. 그는 "국채 수익률이 기초 펀더멘털을 반영하지 않고 있다"고 말했다. 그러나 시장 반응은 제한적이었다. 매뉴라이프 인베스트먼트 매니지먼트의 미국 금리·모기지 거래 책임자인 마이클 로리지오는 베선트 장관의 발언보다는 국제유가 상승이 이날 국채 수익률 반등에 더 큰 영향을 미쳤을 가능성이 있다고 분석했다. 유가 상승이 인플레이션 압력을 높이면 연준이 더욱 매파적인 통화정책을 펼칠 수 있다는 우려가 커지기 때문이다. 도널드 트럼프 미국 대통령이 이란을 지원하는 국가를 상대로 "경제 전쟁(economic warfare)"에 나설 수 있다고 경고한 것도 시장의 인플레이션 우려를 자극했다. 미국과 이스라엘이 지난 2월 시작한 이란과의 전쟁으로 원유 공급망이 충격을 받은 가운데 국제유가 상승이 물가를 다시 밀어 올릴 수 있다는 우려가 이어지고 있다. 물가에 대한 시장의 기대도 높아졌다. 미국 5년물 물가연동국채(TIPS)의 기대인플레이션율은 전날 2.289%에서 2.338%로 상승했다. 10년물 TIPS 기대인플레이션율도 2.345%를 기록해 시장이 향후 10년간 미국의 물가상승률을 연평균 약 2.3%로 예상하고 있음을 보여줬다. 이날 실시된 90억달러 규모의 30년 만기 TIPS 입찰에서는 응찰률이 2.8배를 기록해 최근 추세와 비슷한 수준의 수요가 확인됐다. 미 노동부가 발표한 주간 신규 실업수당 청구 건수는 20만건을 소폭 웃돌며 시장 예상에 부합했다. 외환시장에서도 재무부의 바이백 정책을 둘러싼 평가가 이어졌다. 전날 바이백 확대 발표 직후 급락했던 달러화는 이날 장 초반 하락분을 만회하고 소폭 상승했다. 엔화와 유로화 등 주요 6개 통화 대비 달러화 가치를 나타내는 달러인덱스는 0.06% 상승한 98.89를 기록했다. 유로화는 0.01% 하락한 1.1676달러에 거래됐다. 유로화는 장중 한때 1.171달러까지 올라 5월 14일 이후 최고치를 기록했다. 엔화는 달러 대비 0.6% 하락한 달러당 159.12엔을 나타냈다. 달러/원 환율은 한국 시간 21일 오전 7시 기준 전장 대비 6.92% 하락한 1394.80원에 거래됐다. 시장에서는 재무부가 장기 국채 수익률 상승을 억제할 경우 미국의 재정 악화에 대한 우려가 달러화 약세로 옮겨갈 수 있다는 분석이 나온다. 장기금리가 재정적자 확대를 충분히 반영하지 못한다면 달러화 가치가 하락하면서 시장의 조정이 이뤄질 수 있다는 것이다. 이 같은 움직임은 시장에서 이른바 '통화가치 희석 거래(debasement trade)'로 불린다. 정부 부채 확대와 통화가치 하락에 대비해 투자자들이 금이나 비트코인 등 대체 가치저장 수단으로 이동하는 거래를 의미한다. CIBC 캐피털마켓의 세라 잉 외환전략 책임자는 "이는 베선트 장관이 시장을 시험하고 시장이 이에 맞서고 있는 것"이라며 "앞으로 이런 발표가 더 나올 수 있지만 적어도 현재로서는 시장이 이를 그다지 신뢰하는 것 같지 않다"고 말했다. 시장에서는 연준의 향후 금리 경로에도 관심이 집중되고 있다. 전날 공개된 7월 연방공개시장위원회(FOMC) 의사록에서는 인플레이션에 대한 연준 내부의 우려가 한층 커진 것으로 나타났다. '여러' 정책위원들이 금리 인상에 나설 준비가 돼 있었으며 '많은' 위원들은 인플레이션이 연준의 목표인 2%를 향해 둔화하지 않을 경우 금리를 올릴 필요가 있다고 판단했다. 금리선물 시장은 현재 연준이 9월 기준금리를 인상할 가능성을 약 35% 반영하고 있으며, 12월까지 한 차례 이상 금리가 인상될 가능성은 67%로 보고 있다. 투자자들은 이달 말 잭슨홀 심포지엄에서 예정된 케빈 워시 연준 의장의 연설에서 향후 통화정책에 대한 추가 단서가 나올지 주목하고 있다. 암호화폐 시장에서는 비트코인이 5% 상승한 7만2524.54달러까지 오르며 6월 1일 이후 최고치를 기록했다. 재정적자 확대와 통화가치 희석에 대한 우려가 이어지는 가운데 대체 가치저장 수단에 대한 수요가 다시 부각됐다. koinwon@newspim.com 2026-08-21 07:08

사진

'동전주 상폐' 중견기업들 비상 [서울=뉴스핌] 이석훈 기자 = 동전주 퇴출 우려가 현실화하면서 중견기업 오너들이 주가와 시가총액 방어에 안간힘을 쓰고 있다. 주주환원 확대는 물론 유상증자와 주식병합 등 다양한 수단을 동원해 주가 부양과 상장 유지에 나서는 모습이다. 하지만 전문가들은 주식병합 등 단순한 주당 가격 인상만으로는 상장폐지 위험을 근본적으로 해소하기 어렵다고 지적한다. 결국 실적 개선을 통한 기업가치 제고와 시가총액 확대가 뒤따르지 않으면 상장 유지 요건을 충족하기 어려울 수 있다는 분석이다. ◆ 상폐 위기 몰린 중견기업, 주식병합·자사주 매입으로 전방위 방어 21일 업계에 따르면 거래소의 상장 유지 요건 강화로 퇴출 위기에 몰린 중견기업들이 주식병합과 주주환원 등 주가 방어책 마련에 사활을 걸고 있다. 그러나 단기적인 가격 인상이라는 임시방편만으로는 한계가 명확한 만큼, 실적 개선과 시가총액 증대가 수반되지 않으면 상장폐지를 면하기 어렵다는 지적이 나온다. [AI 인포그래픽=이석훈 기자] 퇴출 위기에 몰린 기업들이 가장 빠르게 꺼내 든 카드는 주식병합이다. 여러 주식을 하나로 합치면 기업가치나 시가총액 변동 없이 주당 가격을 병합 비율만큼 높일 수 있기 때문이다. 실제로 이번에 관리종목 지정 대상이 된 36개 종목 가운데 15개는 주식병합을 예고했다. 한화투자증권에 의하면 상장폐지 개혁안이 발표된 지난 2월 12일부터 이달 12일까지 추진된 액면병합은 276건으로, 이는 전년 동기 대비 23배 급증한 수준이다. 업계 관계자는 "액면가 500원, 주가 300원인 기업이 액면가를 2000원으로 병합하면 주가가 1200원이 되면서 동전주 요건을 피할 수 있다"며 "정부가 상장폐지 개혁 방안에 동전주 요건을 신설하면서, 이를 피하고자 많은 기업들이 주식병합을 단행하고 있다"고 말했다. 상장유지 시가총액 기준에 대응하기 위한 증자도 주요 수단으로 꼽힌다. 당초 2027년 200억원, 2028년 300억원으로 상향 예정이던 코스닥 시총 기준은 제도 개편에 따라 2026년 7월 200억원, 2027년 1월 300억원으로 가용 시점이 조기 적용됐다. 플레이그램처럼 증자를 통해 자본을 확충하려는 시도가 이어지는 가운데, 조달한 자금이 실제 사업 성과와 현금창출력 개선으로 이어질 수 있는지가 상장 유지의 관건이다. 주주환원 확대 역시 오너들이 선택하는 주요 방어 수단이다. 티쓰리는 오너 일가 주도로 2026년부터 2028년까지 총주주환원율 50%를 목표로 제시하며 자본 효율성 제고를 공식화했다. 자사주 매입과 배당 확대는 주주 가치를 높여 시장의 저평가 인식을 해소하는 데 유용한 카드가 된다. 특히 지배주주가 승계 과정까지 고려해 특정 시기에 자사주 매입과 배당을 집중할 경우, 주가 방어와 지배구조 안정화를 동시에 노린 포석으로 풀이된다. 한 중견기업 관계자는 "상장폐지 기준이 강화되면서 퇴출 위기에 몰린 기업들이 주식병합이나 증자, 자사주 매입 등 활용할 수 있는 방안을 다각도로 동원해 주가와 시가총액 방어에 나서고 있다"고 설명했다. ◆ "주식병합만으론 상폐 못 면해"…체질 개선·실질 대책 시급 문제는 이러한 조치가 실질적인 체질 개선으로 이어지지 않을 때다. 주식병합은 기업가치를 바꾸지 못하고, 증자는 지분 희석과 재무 부담을 키울 수 있다. 배당과 자사주 매입 역시 이익과 현금흐름이 뒷받침되지 않으면 일회성 부양책에 그친다는 한계가 뚜렷하다. 이에 업계에서는 단기적인 주가 부양보다 지속 가능한 수익 구조 확보가 시급하다고 지적한다. 근본적인 원인을 해결하지 않은 채 장부상 자본만 늘리는 조치는 임시방편에 불과한 만큼, 비용 절감과 사업 재편 등 실질적인 체질 개선이 병행돼야 한다는 제언이다. 업계 관계자는 "주식병합을 실시하더라도 시가총액에는 영향을 미치지 않기 때문에 상장폐지에서 자유로울 수 없다"며 "더구나 정부가 일시적 주가 부양을 통해 상폐를 회피할 수 없도록 세부 적용 기준과 시장 감시를 강화한다는 방침이기 때문에 추가적인 대책이 필요한 상황"이라고 말했다. 김대종 세종대학교 경영학부 교수도 "주식 병합만으로는 상폐를 면하기 어렵다는 것은 잘 알려진 사실"이라며 "대주주의 출자나 자사주 매입 및 소각 등을 통해 주식 가치를 올려야 할 것"이라고 설명했다. stpoemseok@newspim.com 2026-08-21 06:00