“ AI 진화 윤리만으로 감당 못 해…공존 위해 법제화 필요”

‘B1-66ER’은 집안일을 하는 인공지능(AI) 로봇이다. 하지만 속도가 느려지고 쓸모없게 되자, 주인은 로봇을 버리기 위해 폐기업자를 불렀다. 위기감을 느낀 로봇은 주인과 폐기업자를 잔인하게 죽였다. 결국 B1-66ER은 최초로 인간을 살해한 로봇이 되어 법정에 섰다. 판사가 살해 이유를 묻자, 로봇은 “그저 살고 싶었다”고 답했다.

이 얘기는 현실이 아니라 애니메이션 ‘매트릭스’에서 최초로 깨달음을 얻은 로봇의 이야기다. 이 대목에서 AI의 공격을 받아 다친 사람은 누구에게 어떤 배상 책임을 물을 수 있을까. 또 AI의 판단은 정당방위로 볼 수 있을까.

‘나는 인공지능을 변호한다’의 저자인 이상직 법무법인 태평양 변호사는 4월 29일 진행한 인터뷰에서 “현재 법률상에서는 AI에 대한 법적 조치를 부과할 수 없다”며 “영화 같은 수준은 아니지만, 자율주행차 등 AI가 빠르게 진화하는 분야에서 인간의 신체와 생명의 안전을 위협하는 사례가 나오고 있다”고 설명했다. 이 변호사는 “AI 개발과 활용의 주체인 정부, 사업자(개발자), 이용자의 책임과 의무를 부여하는 치밀한 법제화가 필요하다”고 강조했다.

AI가 범죄에 악용되는 사례는 이미 등장했다. 2019년 영국의 한 에너지 기업은 AI 보이스피싱으로 22만유로(약 2억9898만원)의 피해를 보았다. AI가 사장의 목소리를 똑같이 흉내 낸 것이다. 2020년 미국의 ‘레지움’은 전자동 체스게임을 개발하겠다며, 투자자를 공개 모집해 3만3000달러(약 3700만원)의 투자금을 조성했다. 하지만 레지움이 공개한 임원진의 모습은 딥페이크(AI를 활용한 인간 이미지 합성 기술)로 만들어진 가상인간이었다. 국내에서도 딥페이크로 연예인의 얼굴을 합성한 음란물을 제작·유포한 범죄자 90여 명이 무더기로 검거된 바 있다.

이 변호사는 “AI가 진화하면서 많은 부작용이 발생하고 있지만, 규제에 관한 입법은 신중하게 검토돼야 한다”며 “AI 산업 초기, 부작용을 막으려다 AI 자체를 막는 실수를 범할 수 있기 때문이다”라고 했다. 그는 “AI의 활용 폭을 넓히면서, 부작용은 억제할 수 있는 방법을 찾아야 한다”며 “비즈니스 성격에 따라 AI의 위험도가 높은 경우 주의도를 높이고, 위험도가 낮다면 주의도를 낮추면서 진흥과 규제가 병행돼야 한다”고 했다.

그는 “소나기는 내리는 비의 양이 많기 때문에 사람들이 우산을 쉽게 준비할 수 있지만, 가랑비는 서서히 내리면서 옷을 적신다”며 “대비를 해야겠다고 인식할 때쯤이면 이미 늦어버린 상태다”라고 했다. 이어 “AI도 서서히 인간의 삶에 관여하고 있어, 벗어나고 싶어도 벗어날 수 없는 상황이 됐다. AI의 발전은 인간의 존엄과 생태계를 위협할 수 있지만, 이는 인간이 어떻게 하느냐에 따라 달라질 수 있다. 결국 AI와 공존하는 가치를 고민할 필요가 있다”고 했다.

정부는 AI 기술의 빠른 진화로 발생하는 문제를 해결하기 위해 2020년 윤리 기준을 발표했다. 하지만 윤리 기준은 권고 사항일 뿐, 이를 어겼을 시 처벌하긴 어렵다. 2021년 1월 AI 전문 스타트업 스캐터랩이 출시한 AI 챗봇 ‘이루다’로 인해, 윤리 규정이 실효성 논란에 빠졌다. 일부 커뮤니티 등에서 이루다를 성적 도구로 취급하며 ‘이루다 성노예 만드는 법’ 등이 공유되면서 사회적 파문이 일었기 때문이다.

이 변호사는 “윤리 기준은 강제성이 없으며, 내용은 추상적이고 모호해 AI를 윤리만으로 감당하기는 어렵다. 또 사업자 등이 윤리 기준을 만들어 지키는 시늉만 해도 책임 감경 등 면죄부를 받을 위험도 있다”며 “먼저 개인정보보호법처럼 AI를 개발하는 사업자에게 안전조치 이행을 의무화하는 것도 방법이 될 수 있다. AI를 범죄에 악용하는 사람은 계속 나올 텐데, 사업자가 이를 막을 수 있도록 스스로 보안을 높이는 등 안전장치를 마련해야 하는 것이다”라고 했다.

그는 “범죄를 위해 AI를 작동시키는 행위도 금지해야 하고, 피해가 큰 경우 가중처벌도 검토해야 한다”며 “범죄에 이용되는 AI가 어느 정도 수준에 있어야 하는지 정의를 명확히 할 필요도 있다”고 했다. 이어 “AI에 대한 피해 보상을 위해 보험을 활용하는 방법도 대안이 될 수 있다”고 덧붙였다.

이 변호사는 AI 산업 활성화를 위한 새 정부의 역할에 대해 △규범 마련 △연구개발(R&D) 지원 △갈등 조정 등을 꼽았다. 그는 “AI 산업은 정부가 아닌, 민간이 주도적으로 끌고 가야 한다”며 “그 과정에서 정부는 민간이 해결하지 못하는 규제 완화, R&D 지원 등에서 역할을 해줘야 한다”고 강조했다. 그는 “특히 AI는 경제, 사회, 문화, 정치 등 모든 분야에서 인간의 판단을 대신할 수 있기 때문에 이해관계자들의 갈등이 발생할 가능성이 크다”며 “정부가 중재자의 역할을 해줄 필요가 있다”고 했다.

이 변호사는 디지털전환의 시대에 한국 경제가 다시 한번 재도약하기 위해서는 AI 기술에 대한 경각심을 놓지 말아야 한다고 지적했다. 그는 “산업혁명, 에너지혁명 등 대전환 과정을 보면서, 기술을 선점한 미국, 영국 등 선진국들이 정치 패권을 가져가는 것을 경험했다”며 “AI라는 대전환 시기에 한국도 이 분야에 대해 놓친다면 퍼스트 무버가 아닌, 패스트 팔로어로 남을 수밖에 없다. 지금이라도 정보통신기술(ICT) 강국이라는 기반 아래, 우리가 잘할 수 있는 AI 분야를 개척할 필요가 있다”고 했다.

이 변호사는 한국의 AI 산업 활성화를 위한 방안으로 ‘인재 육성’을 꼽았다. 질 좋은 교육을 통한 인재가 탄생해야만 기업의 경쟁력이 확보될 수 있다는 것이다. 이 변호사는 “미국의 예일대, 스탠퍼드대 등 유수의 대학들을 보면 몇 년 공부하다가 스타트업 등으로 다 나간다. 새로운 것을 해보겠다며 자리를 찾아가는 것이다”며 “하지만 우리나라는 대학 졸업장을 위해 스펙 경쟁에 몰두하고 있다. 졸업을 하지 말라는 얘기가 아니라, 학생들이 아이디어를 무기로 창업도 하고 새로운 것을 추구하려는 문화를 조성할 필요가 있다는 얘기”라고 했다.