“AI 규제 완화는 ‘국민의 생명’ 침해…AI법 전면 재검토해야”

전진한 국장 “사람 목숨 걸렸다…철저한 검증이뤄져야”

“국제 인권규범, 국가인권위 인공지능 가이드라인 무시하는 인공지능법 제정 반대한다!”

“과방위는 인공지능산업 육성에만 치중한 인공지능 법안 전면 재검토하라!”

“안전과 인권보장이 우선이다! 우선허용ㆍ사후규제 원칙 폐기하라!”

건강권 실현을 위한 보건의료단체연합이 9일 국회 앞에서 다른 시민단체들과 함께 이 같이 외치며, 인공지능 법안 반대 및 전면 재검토를 촉구했다.

먼저 보건의료단체연합 전진한 정책국장은 “인공지능산업육성법은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있다”고 설명했다.

특히, 의료 인공지능으로 잘 알려진 IBM에서 개발한 환자 데이터를 입력하면 치료방법을 제시하는 프로그램 ‘왓슨’을 예시로 인공지능의 위험성을 경고했다.

구체적으로 전 국장은 “IBM에서 ‘암 치료의 혁명’이라고 홍보한 왓슨은 연구단계인 기술임은 물론, 정확도가 ▲폐암 18% ▲위암·유방암 40% 등에 불과함에도 불구하고 판매가 이뤄졌고, 안전하지 하고 부정확한 치료법을 환자에게 추천하는 일이 발생했다”라고 설명했다.

이어 “그럼에도 불구하고 많은 병원들이 과장된 홍보로 암 환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있어 왓슨을 도입하는 일이 벌어졌다”라면서 “기업들의 이익을 위해 규제되지 않은 인공지능으로 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든 대표적인 사례”라고 성토했다.

이를 근거로 전 국장은 최근에 인공지능으로 병원시스템 전체를 개조하려는 움직임에 대해서도 우려의 목소리를 제기했다.

전 국장은 “인공지능으로 환자와 의료진에게 음성명령을 내려서 병실을 관리하는 것을 ‘스마트병원’이라고 부르는데, 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있으므로 철저한 검증이 이뤄져야만 한다”라고 주장했다.

무엇보다 병원은 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에, 인공지능 검증을 생략하는 것은 ‘쓰레기 강매’에 불과함을 강조하면서 의료 인공지능은 고위험 기술이라고 분류하면서도 제한을 두지 않는다는 것은 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것과 다를 바가 없다고 비판했다.

그러면서 전 국장은 새로운 디지털 기술은 기존 규제의 적용을 받는게 부적절하다면서 규제완화를 정당화하는 것에 대해 ‘넌센스’라면서 인공지능 같은 새로운 디지털 기술은 우리가 잘 알지 못하기 때문에 오히려 기존 기술보다 더 엄격히 통제돼야 한다는 견해를 밝혔다.

더불어 인공지능의 알고리즘이 불투명하고 의사결정을 내리는 과정과 기준을 알 수 없다는 점을 고려해서라도 더욱 철저하게 검증되고 제한적으로 적용돼야 하며, 윤리적 기준을 엄격히 적용하고, 개인정보 보호에 대한 보호와 규제는 필수라고 제언했다.

끝으로 전 국장은 “보건의료 부문은 물론이고 전 사회 영역의 인공지능 규제완화는 국민의 생명 안전 인권을 심각하게 침해할 것”이라면서 “말도 안되는 악법이 통과되는 일은 없어야 한다”라고 주장했다.