[서울 = 뉴스핌] 김범주 기자 = 인공지능(AI)이 디지털 세상을 주도하고 있다. 시공간의 제약업이 정보통신망에 접속해 쇼핑하고, 게임도 하고, 사람도 만난다. 오프라인으로만 살아온 인간은 디지털이라는 새로운 공간을 찾아 분주히 움직인다.

AI와 조우한 디지털은 '혁명'이라고 불릴 만큼 위세를 확장하고 있다. 스마트폰으로 촬영한 사진을 네트워크를 통해 가족 또는 PC로 전달할 수 있다. 모든 일상이 네트워크가 된 세상을 살고 있다. AI는 생활 속에 깊숙히 침투해가고 있다.

그렇다면 AI가 주도하는 세상을 '선'이라고 부를 수 있을까. <디지털 생활자>를 집필한 이상직 변호사는 "그렇지 않을 수 있다"고 지적한다.

AI 기술을 악용해 전쟁을 일으키고, 인간의 생명과 신체를 해치고, 범죄에 악용하고, 산업과 시장을 교란하고, 자유와 권리 등 인간의 존엄을 해칠 수 있기 때문이다. 법과 윤리로 무장한 디지털 시대를 개척해야 하는 이유도 여기에 있다.

AI 알고리즘이 작동하는 블랙박스 구간은 작동 방식과 경로를 알기 어렵고, 예측할 수 없는 결과를 만들어내는 과정에서 어떤 위험이 도사릴지 모른다. 피해 복구가 어렵고, AI로 인한 피해인지도 파악하기 어렵다. 인공신경망으로 작동하는 AI를 통제하기는 어려운 구조라고 설명한다.

특히 오프라인이 '진짜' 세상이라면, 온라인 세상은 진짜를 베껴 놓은 '가짜' 세상이다. AI는 가짜 세상에서 진짜를 뛰어넘는 '가짜의 아우라'를 만드는 역할을 한다.

이 같은 과정에서 저자는 AI와 디지털 세상에 대한 정교한 기술적·사업적 접근이나 장밋빛 미래가 아니라 AI가 만들 디지털 세상을 풍요롭고 아름답게 가꾸기 위해 우리가 짚어야 할 것이 무엇인지를 되묻는다.

많은 일이 원격으로 이뤄지는 지금, 또 다른 해킹 경로가 될 수 있으며 이에 대한 '관리 권한' 조정의 필요성도 강조한다. 침해 기술도 진화할 것이므로, 처음부터 사이버 보안 인프라를 처음부터 탄탄하게 구축해야 한다는 '대응의 필요성'을 살펴보자.

이상직 지음| 발행일 2024년 3월 22일 | 페이지 256쪽| 값 2만1000원 | 출판사 드레북스

▶이상직 변호사 : 과학기술과 삶을 디지털로 잇는 디지털 인문학을 연구하고 있다. 사법시험을 합격하고 정보통신부 공무원, KT 윤리경영실 법무센터장을 거쳐 현재 법무법인 태평양 변호사로 있다. 국가지식재산위원회 AI 지식재산특별전문위원장, 과학기술정보통신부 AI 법제정비단 위원을 맡았다. '나는 인공지능을 변호한다' '혁신과 공존의 신세계, 디지털'을 썼다.

wideopen@newspim.com