겨우 20여 일 남은 21대 국회에 AI법안 처리를 요구하는 정부와 업계의 압박이 거세다. 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안은 지난해 2월 14일 국회 상임위원회인 과학기술정보방송통신위원회 소위원회에서 통과된 것으로 알려졌으며, 그 구체적인 내용은 아직도 일반에 공개돼 있지 않다. 그러나 ‘우선 허용 사후규제’ 원칙은 물론 고위험 인공지능에 대해 아무런 금지나 처벌 조항이 없다는 사실이 알려져 시민사회의 비판은 물론 국가인권위원회로부터 개선 의견을 받은 상황이다.
AI시대 국민의 안전과 인권에 아랑곳없이 산업 진흥에 치우친 AI법안 졸속 통과를 압박하는 정부의 행태를 규탄한다.
그럼에도 지난 8일 취임 2주기를 맞은 이종호 과학기술정보통신부 장관은 기자간담회를 갖고 AI법안 통과를 국회에 요구했다.
2일 한덕수 국무총리가 이번 회기 내 AI법안 처리를 요청한 데 이어 또다시 정부가 막바지 21대 국회에 AI법안 통과를 주문한 것이다.
한덕수 총리는 현재 국회에 계류 중인 AI법안이 이용자 보호를 위한 ‘규제’와 ‘의무’를 담고 있다고 주장했으며, 이종호 장관은 시민사회가 우려했던 “우선허용 사후규제” 조항이 수정안에서 삭제돼 시민사회가 요구하는 내용이 수용됐으며, 이 법이 제정돼야 “AI 범죄 처벌이 가능”하다고 주장했다.
그러나 우리 단체들이 알고 있는 사실은 한덕수 총리와 이종호 장관의 주장과 다르다.
시민사회와 국가인권위원회가 지적한 이 법안의 문제점은, 노골적인 “우선허용 사후규제” 조항에 그치지 않는다.
법안은 AI의 위험성에 대해 실효성 없는 규정을 몇 개 두었을 뿐, 모든 AI 위험 대책을 기업 자율에 맡겨두고 있다.
즉, 고위험 인공지능을 제공하거나 사용하는 사업자를 규제하거나, 너무 위험하여 우리 사회가 허용할 수 없는 인공지능에 대해서 금지하지 않았으며, 위반 시 처벌하는 규정도 두지 않았다.
또한, 이 법안은 최근 인공지능 동향이나 국제 기준을 반영하고 있지 않다.
예를 들어 챗GPT 등장 이후 주요 국가들에서 크게 신경을 써서 마련한 범용 인공지능에 대한 적대적 테스트 의무 등 최신 내용도 반영돼 있지 않다.
무엇보다 소위안 등 국회에서 검토 중이던 법안에서는 어떠한 처벌조항도 발견할 수 없다.
따라서 AI법안이 통과되지 않아 딥페이크 등 AI 범죄를 처벌하지 못한다는 언급은 전혀 사실이 아니다.
더불어 이종호 장관은 “처벌 규정을 시행령에 담을 수 있다”고 주장했으나 법률에서 위임하지 않은 처벌조항을 행정부에서 시행령으로 규정한다는 것 자체가 위헌이고 위법이다.
장관은 어떤 근거로 그와 같이 주장하였는지 명확히 밝혀야 할 것이다.
이번 정부 들어 유독 횡행하던 시행령 정치가 아니라면 시행령으로 처벌하는 일이 헌법적으로 가능하지 않기 때문이다.
복잡한 인공지능의 위험성과 규제의 규모를 생각한다면 22대 국회가 AI법을 국민 앞에서 투명하고 신중하게 검토해야 마땅하다.
왜 정부와 업계는 굳이 며칠 남지 않은 21대 국회에서 충분한 숙의 없이 AI법안을 통과시켜야 한다고 주장하는가?
기존에 AI 산업을 지원하는 지능정보화기본법이 시행 중임에도 AI법이 또 추진되었던 것은, 이 법이 고위험 인공지능에 대한 실효적인 규제나 금지조항을 두지 않아 국내 토종 AI 기업에 이익이 되었기 때문이었다.
현재 국제사회는 고위험 인공지능을 규제하거나 금지하기 위한 제도적 대책을 마련하고 있으나, 우리 정부는 시민의 안전과 인권을 도외시하고 AI 산업을 위한 규제 완화에만 매달려 있었다.
더 나아가 최근 정부는 “우선허용 사후규제” 조항을 삭제하면서까지 국회에 시급한 처리를 요구하고 있다.
이는 여러 언론이 업계와 정치권을 인용하며 연이어 보도한 대로 5월 21일부터 시작되는 ‘AI 서울 정상회의’에서 한국도 AI법을 제정했다는 보여주기식 성과를 내세우기 위한 목적이 다분하다.
중요한 한국의 AI 산업지침이 정부의 국제행사 개최를 위한 체면치레를 위하여 졸속 처리되어서는 안될 말이다.
우리가 부끄러워 해야 할 것은 회의 주재국이 AI법을 서두르지 못했다는 체면이 아니라, 시민들이 영향을 받게 될 위험에 대비하여 적절한 규제를 마련 중인 국제 동향을 반영하지 못한 일이다.
AI법은 토종 AI 기업 육성이라는 미명 하에 시민의 안전과 인권을 희생하는 규제 완화여서도 과기부의 체면치레용이어서도 안 된다.
유럽연합과 미국 등 주요 국가들이 최근 마련하고 있는 AI 법제도의 핵심 내용은 인공지능이 시민의 안전과 인권에 미치는 위험을 규제하기 위해 그 제공자와 활용자에 대하여 높은 책임과 의무를 부과하는 것이다.
지난해 영국에서 개최됐던 첫 AI 정상회의의 기조 또한 인공지능의 안전 위험을 규제해야 한다는 것이었다.
안전과 인권에 영향을 미치는 위험을 평가하고 방지해야 하는 의무를 준수하고 그 사실을 입증한 인공지능은 그 제공과 활용이 당연히 허용될 것이다.
특히 유럽연합의 AI법은 사람의 잠재의식을 조작하거나 노인과 장애인 등의 취약성을 악용하거나, 정치적 의견 등 민감정보를 유추하는 생체인식 분류, 개인적 특성을 기반으로 사람을 분류하고 차별하는 인공지능, 공공장소의 실시간 원격 생체인식 감시, 예측 치안, 직장과 학교의 감정인식을 원칙적으로 금지했다.
또, 교통, 직장, 학교, 경찰, 재판 등에서 쓰이는 고위험 인공지능의 경우 제공자 및 활용자에 대해 위험평가, 데이터평가 및 인권 영향 평가, 기술 문서화, 투명성 의무, 인적 감독, 모니터링 시스템 구축 등 강한 의무를 부과했다.
더불어 금지된 인공지능이나 고위험 인공지능에 부과된 의무를 위반하는 사업자에게는 전 세계 매출액의 3~7%를 과징금으로 부과한다.
미국 또한 2023년 10월 바이든 대통령이 AI행정명령으로 연방정부에서 조달하는 인공지능에 대한 의무를 규정했다.
특히 채용, 주택, 금융 서비스 등에서 차별을 금지하고 시민권을 존중하며 소비자를 보호하도록 의무화했으며, 데이터 품질과 차별 등에 대한 다양한 사전·사후 평가 제도를 검토하도록 하였다.
무엇보다 이들 AI 규제 거버넌스는 산업부처나 과기부처가 아니라 소비자 안전 또는 소비자 보호 부처, 나아가 신규 부처가 주무하도록 했다.
따라서 우리 22대 국회 역시 인공지능 규제 거버넌스 구조에 대하여 과학기술정보통신부 중심이 아니라 국회 여러 상임위원회가 협력하여 종합적으로 검토해야 할 필요성이 크다.
안타깝게도 지금까지 우리 21대 국회와 정부의 AI법안에 대한 추진 경과는 이러한 국제사회의 흐름과 크게 대조적이다.
미래 사회에서 시민의 안전과 인권에 중대한 영향을 미칠 법안의 내용조차 공개하지 않고 있으며, 이 기술로부터 영향을 받을 국민들과 사회적으로 폭넓게 토론하기는커녕 산업 부처 주도로 이른바 ‘토종’ AI 업계의 이해관계 득실만을 따질 뿐이었다.
시민사회 역시 AI법 제정을 희망한다.
다만, 우리 시민사회가 지지하는 AI법은 최근의 국제기준 수준에 부합하며 AI 위험으로부터 영향을 받게 될 시민의 안전과 인권을 강력하게 보호할 수 있는 견고한 법이다.
고위험 인공지능의 위험성을 규제할 수 있는 법이 필요하다.
너무나 위험해 허용될 수 없는 인공지능은 금지해야 하며, 이를 위반하여 인공지능을 제공하거나 활용하는 사업자 등을 처벌할 수 있어야 AI법이 실질적 규범으로 작동할 수 있음은 물론이다.
이것이 미래 사회 안전과 인권을 담보하는 AI법일 것이다. 22대 국회가 제대로 그 입법적 역할을 해 줄 것을 간곡히 바란다.
*외부 전문가 혹은 단체가 기고한 글입니다. 외부기고는 본지의 편집방향과 다를 수 있습니다.
보건의료단체연합 medifonews@medifonews.com
< 저작권자 © Medifonews , 무단전재 및 재배포금지 >
- 본 기사내용의 모든 저작권은 메디포뉴스에 있습니다.
