수요산책
> 인권연대세상읽기 > 수요산책
‘수요산책’은 각계 전문가들로 구성된 칼럼 공간입니다.
‘수요산책’에는 강대중(서울대학교 교육학과 교수), 도재형(이화여자대학교 법학전문대학원 교수), 박상경(인권연대 회원), 염운옥(경희대 글로컬역사문화연구소 교수), 윤동호(국민대학교 법과대학 교수), 이동우(변호사), 이윤(경찰관), 이재환(시흥시청 소상공인과 지역화폐팀 책임관), 장은주(영산대학교 성심교양대학 교수), 조광제(철학아카데미 대표)님이 돌아가며 매주 한 차례씩 글을 씁니다.
고도 자율 로봇 시대에 대비하기 위한 헌법 개정(조광제)
작성자
hrights
작성일
2026-09-01 10:46
조회
243
조광제/ 철학아카데미 대표
우리는 얼마 전에 시작되어 순식간에 본격화하는, 놀랍고 무서운 AI 시대에 살고 있다. 불과 2년 전쯤 LLM(대형언어모델) 운운하더니 얼마 가지 않아 에이전트(agent) AI에 이어 멀티 에이전트) multi-agent AI가 실용화되고 있음을 알린다. 이제 내가 원하는 일이 무엇인지를 정확하게 알기만 하면, AI에게 그 일을 시키면 알아서 해결해 준다.
지난 수십 년 동안 의미와 가치 있는 모든 일이 디지털과 인터넷 기반으로 이루어질 수밖에 없었던 매체 환경이 그 기반이다. 호텔 예약이나 비행기표 구매와 같은 일회성 일은 물론이고, 홈페이지나 웹사이트 및 애플리케이션 등 장기적으로 반복해서 쓸 수 있는 도구적인 장치의 개발도 정확하게 요청만 하면 알아서 만들어준다.
조만간 피지컬(physical) AI 로봇들이 산업현장과 서비스 현장에서 활개를 치면서 인간을 대신할 것으로 전망된다. 그 로봇들이 학습할 구체적이고 개별적인 상황에 대한 시각적이고 촉각을 비롯한 미세한 운동 감각적인 데이터들을 어떻게 확보할 것인가가 큰 과제이긴 하지만, 예상보다 빨리 해결되리라 전망된다. 대단히 섣부른 예측이긴 하나, 만약 지금처럼 전 세계적으로 수없이 많은 데이터센터가 건립되고, 무선 통신을 통해 그것들에 연동되는 피지컬 AI 로봇들이 활개를 친다면, 그중에서 탁월하게 정치 활동을 하는 개별적인 AI 로봇이 나오지 말란 법도 없다. 예컨대 2028년 총선이나 2030년 대선에서 후보들을 지원하는 AI 로봇이 단상에 올라와 지지를 호소하게 될 수도 있다. 만약 그런 일들이 가능해지면, 말도 많고 탈도 많은 정치꾼을 대신해 공공선을 기반으로 공명정대한 논리에 따라 탁월한 정책을 개발하고 추진하는 AI 로봇 국회의원, 심지어 AI 로봇 대통령을 선출하자는 의견이 나올 수도 있다. (이 대목에서 트럼프가 올해 초 이란을 대대적으로 공격할 것을 결정했을 때, 그 결정은 과연 트럼프가 한 것인가, 아니면 팔란티어 AI가 한 것인가? 하는 물음을 던지게 된다.)
나로서는 이러한 상상이 골방의 책상머리에서 나 홀로 빚어낸 공상에 불과했으면 하고서 바라면서도 기술 발전의 현실에서 원리적으로 전혀 불가능한 것이 아니기에 한편으로 적이 불안하다. ChatGPT에게 물어보니 「인공지능기본법」이 지난 1월에 시행되었고, 며칠 전 8월 20일에 시행 개정령이 발효되어 작동 중이다. 하지만, 그 내용은 ‘산업 진흥을 우선하되, 생성형 AI에는 표시 의무를, 생명·안전·기본권에 관계되는 AI에는 위험관리와 인간 감독을 부과하는 최소 규제형 체계’로 요약·정돈된다. 이 정도로는, “Next Starts Now.”라는 현대자동차의 구호에 함축된 것처럼, 이미 닥친 AI 로봇 기술 사회의 미래에 미리 대처할 수 없다.
일론 머스크는 그다지 머지않은 날에 화폐가 필요 없게 될 것이라고 공언한다. AI 로봇들이 24시간 밤낮없이 제품들 대부분을 자동으로 생산해 내면서 제품들의 가격이 한없이 하락할 것이라는 게 그 근거다. 여기에 화폐가 가치를 지니는 원천이 인간의 노동력이라는 사실과 일자리에서 쫓겨난 노동자들의 구매력 역시 한없이 하락하게 되리라는 예측을 덧붙이게 되면 일론 머스크의 화폐 무용론은 더욱 힘을 얻게 된다. 과연 이런 정도로 AI 로봇에 의한 생산이 보편적으로 확산하게 되는 때가 언제 올지는 논객에 따라 다르긴 하겠지만, 적어도 10년이 채 못 가서 실감하게 될 가능성이 크다고 할 것이다. 이런 상황이 필연적으로 도래할 수밖에 없다면, 지금부터라도 이 문제를 중심으로 헌법 개정 준비해 나가야 한다고 생각한다. 5·18 정신을 헌법 전문에 삽입한다거나 대통령 중임이니 연임이니 하는 문제도 중요하다. 하지만, 가까운 미래의 이 문제에 비하면 비교적 가볍다고 할 수 있을 정도다.
AGI(범용 인공지능)에 도달한 전반적인 AI 환경의 구축에 AI 로봇 생산이 보편적으로 이루어지면, 가장 중요하게 대두하게 될 문제는 AI 기반의 생산수단과 그 생산물의 소유권이다. 현재의 헌법 체계에 따르면, 법적으로 거대자본의 일방적인 소유권을 인정하지 않을 수 없다. 국가와 거대자본의 관계가 문제로 대두되면서 자칫 국가의 정치권력과 거대자본의 경제 권력이 결합해 국가자본주의 체제를 형성할 수도 있다. 그리하여 국민 대다수를 정치·경제적 예속 상태로 몰아가고, 아울러 사회문화적인 예속 상태를 강화할 수 있다. 그 와중에 AI 산업 환경에 발 빠르게 대처함으로써 신속한 속도로 자본가의 대열에 합류한 신진 자본가들의 존재는 누구나 창의력을 발휘하기만 하면 풍족한 삶을 살 수 있다는, 하지만 결코 이루기 쉽지 않은 희망 고문을 가하면서 인민 대다수의 열등한 삶을 각자의 책임으로 돌리게 될 것이다. 이러한 불행한 사태를 미리 방지하기 위해서는, 진정으로 공공선을 고심하는 현명한 각계의 관련 전문가들을 불러 모아 보편적인 로봇 생산 체제에 따른 정치 경제적인 대변혁에 따른 소유와 분배 체제를 둘러싼 헌법 개정을 위한 논의를 오랜 세월 거듭해야 할 것이다. 가칭 ‘AI 로봇 사회를 대비한 헌법 개정 연구 장기 위원회’ 정도가 될 것이다. 다만, 그 논의에서 “노동은 로봇이 하고, 인간은 누구나 최대한 창의적인 문화 예술적인 삶을 여유롭게 즐길 수 있도록 해야 한다.”라는 대원칙을 다 함께 인정·수용해야 한다는 게 내 생각이다.
AI 생성 이미지
그 외 헌법 개정의 내용에 담아야 할 여러 중요한 사안이 있다. 우선 고도한 자율 로봇의 법적 지위를 어떻게 할 것인가가 문제다. 심중한 판단에 따라 언행을 인간 못지않게 수월하게 실현하는 자율 로봇의 사회정치적인 위상을 어떻게 부여할 것인가? 그 인격성 여부의 정도를 어떻게 규정하고 그에 따른 도덕적 위상과 책임을 어떻게 규정할 것인가? 하는 문제도 심중하게 논의해 그 원칙을 헌법에 담아야 한다. 거기에 인간과 로봇의 기본 관계도 포함되어야 함은 물론이다. 이에 관해서는 이미 60여 년 전에 제시된 아시모프가 제시한 로봇공학 3원칙이 중요한 참고가 될 것이다.
아시모프는 인간 보호의 제1 원칙, 즉 로봇이 인간에게 해를 가해서는 안 되며, 아무 행동도 하지 않음으로써 인간이 해를 입도록 내버려두어서도 안 된다는 것과 로봇이 인간의 명령에 복종해야 한다는 제2 원칙, 즉 로봇은 인간이 내리는 명령에 복종해야 한다고 제시한다. 다만, 그 명령이 제1 원칙에 어긋날 때는 복종해서는 안 되며, 로봇의 자기 보호의 제3 원칙, 로봇은 제1원칙과 제2원칙에 어긋나지 않는 한에서 자기의 존재를 보호해야 한다고 제시하고 있다. 이러한 원칙들을 참조하여, 예외 규정을 둘지라도 고도의 자율 로봇을 전쟁이나 대량 살상을 위해 사용하는 것을 금지하는 원칙을 헌법에 담아야 할 것이다. 또 무엇보다 국가가 어떻게 초지능의 로봇을 통제할 것인가를 최대한 실효성 있게 수행할 수 있는 국가 장치를 신설해 명시해야 할 것이다.
우리 대한민국은 국제적으로 명실상부한 선도적인 제조업 국가다. 19세기 초 1차 산업혁명이 일어날 때 영국이 모델 국가로 위용을 떨친 것처럼, 이제 우리 대한민국은 특히 각 제조업 분야에서 적극적으로 요구되는 AI 로봇 생산 체제를 필두로 한 제4차 산업혁명의 모델 국가로 세계적인 위상을 차지할 가능성이 매우 크다. 이미 이재명 정부는 거의 5,000조 원에 달하는 국가적 차원의 3대 메가프로젝트, 반도체 메가프로젝트, AI 데이터센터 메가프로젝트, 그리고 피지컬 AI 메가프로젝트를 기획해 발표하고 최대한 발 빠르게 실천하고자 한다는 점에서도 이를 확인할 수 있다. 하지만, 나로서는 이에 덧붙여 향후 메가 프로젝트의 실천적인 성과가 대대적으로 효력을 발휘하면서 실현되었을 때 과연 사회경제적인 전반적인 상황이 어떻게 바뀔 건가를 미리 염두에 두고서 지금부터 다각적으로 법적·사회경제적 안정성을 구축할 수 있도록 노력해야 한다고 생각한다. 그래서 워낙 대대적인 사회경제적·정치적 변혁이 일어날 것이 불을 보듯 뻔하기에, 이를 위한 헌법 개정을 위한 준비 위원회를 국가적인 차원에서 국회와 정부 양쪽이 힘을 모으는 방식으로 구성해야 한다고 주장하는 것이다.
마지막으로 철학적인 사유에 따른 이야기를 덧붙이고자 한다. 다름 아니라, 우주가 인간을 탄생시킨 것은 우주가 인간의 인식능력을 통해 무한정한 저 자신을 알기 위한 것이고, 이와 유사하게 인간이 AI 체계를 발명해 진척하는 것은 인간이 AI 체계를 통해 무한정한 저 자신을 알기 위한 것이라고 말할 수 있다는 이야기다. 그만큼 인류 존재 자체에서 대격변이 일어나고 있다는 이야기다.
