글로벌 인공지능 규제를 선도하려는 유럽연합
(Economist)
세계 각국은 자국의 상황에 맞춰 법률을 제정합니다. 그러나 디지털 영역은 예외입니다. 유럽연합이 디지털 분야에서 새로운 기술 규제를 도입한다면, 이 규제는 전 세계로 빠르게 확산할 수 있습니다. 글로벌 기업들은 유럽 시장에서 규제를 피하고자 제품과 시장에 대한 엄격한 규정을 채택할 것입니다. 각국 정부는 공정한 경쟁 환경을 조성하기 위해 유럽연합과 유사한 규제를 시행할 것입니다. 2018년 시행된 EU의 개인정보보호법(GDPR, General Data Protection Regulation)은 유럽연합의 규제가 전 세계 표준으로 자리 잡는 “브뤼셀 효과”를 잘 보여주는 사례입니다.
이러한 배경 때문에 지난 4월 21일 유럽연합 집행위원회가 발표한 인공지능 규제 법안에 전 세계의 이목이 쏠렸습니다. 이번 규제안은 인공지능에 대한 광범위한 규정을 마련하는 첫 번째 시도였습니다. 과연 이 규정이 개인정보보호법처럼 전 세계에 널리 채택될까요?
최근 몇 년간 인공지능 알고리듬을 활용한 타깃 광고가 늘어나면서 AI에 대한 윤리 규정도 증가하고 있습니다. 인공지능이 경제 성장에 기여하리라는 희망을 품는 사람도 많지만, 일각에서는 알고리듬이 특정 그룹을 차별해 사회에 해를 끼칠 수 있다고 우려합니다. 최소 175개에 달하는 국가, 기업, 조직이 인공지능에 대한 윤리 규정을 마련했습니다. 그러나 에인트호번 공과대학(Eindhoven University of Technology)의 샬럿 스틱스(Charlotte Stix) 박사의 비판처럼, 대부분의 경우 “강력한”, “투명한” 규제가 실제로 어떻게 집행될지에 대한 디테일이 부족하며, 윤리 규정을 뒷받침하는 법제화 계획도 없습니다.
인공지능에 대한 기존의 규제 입법 사례가 거의 없었기 때문에, EU 집행위원회는 상향식 접근 방식을 택했습니다. 52명으로 구성된 ‘고위급 전문가 그룹’이 규제 초안을 작성하고, 이해 관계자들이 참여하는 “AI 얼라이언스”에서 초안에 대한 의견을 수렴했습니다. 그리고 온라인 의견수렴을 포함한 백서도 발간했습니다. 이번 규제안 작성 과정에 모두 1,250개의 그룹과 개인들이 참여했습니다. 결과물은 100장이 넘는 규제 법안입니다. AI의 잠재적인 위험을 낮추고 기회를 극대화하기 위한 85개의 조항과 9개 이상의 부속 문서가 포함됐습니다.
유럽연합의 규제안은 포괄적인 인공지능 규제보다는 가장 위험한 분야에 집중했습니다. 인간의 잠재의식에 영향을 미쳐 행동을 조작하는 인공지능은 전면 금지됩니다. AI를 이용한 얼굴 인식, 신용평가는 고위험 기술로 분류되어 투명성과 데이터 이용에 엄격한 제한을 받습니다. 개인정보보호법과 마찬가지로 위반하면 높은 벌금을 물어야 합니다. 금지 기술, 고위험 기술 규정을 위반하면 3천만 유로(410억 원) 또는 글로벌 매출액의 6% 중 더 많은 쪽을 벌금으로 내야 합니다.
그러나 항상 악마는 디테일에 있습니다. 공공장소에서 법 집행을 위한 안면인식은 감시와 사찰 목적으로 악용할 수 있기 때문에 금지되지만, 미아 찾기 등 공익 목적이 큰 경우 인공지능의 실시간 안면인식이 허용됩니다. 모든 고위험 AI 서비스는 법적 적합성 테스트를 거쳐야 하지만, 특정한 경우에는 서비스를 제공하는 기업이 스스로 테스트를 수행할 수 있습니다. 그뿐만 아니라, EU 회원국 정부가 신기술에 대한 “규제 샌드박스”를 만들어야 한다는 제안도 나옵니다. 샌드박스는 기업들이 규제와 벌칙의 우려 없이 새로운 서비스를 시도할 수 있는 규제 특구입니다.
아니나 다를까, 많은 이해관계자가 이번 규제안을 비판하고 나섰습니다. 인권 단체는 모호한 규정과 제도의 허점을 비판합니다. 유럽 디지털 권리(European Digital Rights)의 사라 챈더(Sarah Chander)의 평가입니다.
“이번 규제안이 충분히 강한지에 대해 실질적인 의문이 있다.”
반면, 기업 단체들은 규제의 부담이 지나치다고 주장합니다. 테크 기업의 지원을 받는 싱크탱크인 데이터혁신센터(Center for Data Innovation)의 벤저민 뮬러(Benjamin Mueller)의 말입니다.
“이번 규제는 현실적으로 인공지능의 활용을 크게 제한할 것입니다.”
개인정보보호법이 제안에서 채택까지 4년이나 걸린 것처럼, 이번 인공지능 규제안도 EU 회원국의 투표와 승인을 거쳐 최종적으로 채택될 때까지 많은 변화가 있을 것입니다. 그러나 이 과정이 신속하게 진행되더라도 유럽연합의 규제안을 글로벌 표준으로 만들거나, 전 세계적으로 인공지능에 대한 엄격한 규제를 확산하는 것은 만만치 않은 과제가 될 것입니다. 브뤼셀 효과에 대한 책을 집필한 컬럼비아 법대의 아누 브래드포드(Anu Bradford) 교수의 전망입니다. 많은 데이터를 입력할 필요가 없는 인공지능 서비스의 경우 기업들은 규제안이 발효된 유럽에서만 제공하는 특별판을 만드는 것이 이익이 될 수 있습니다. 그리고 과거 개인정보보호법 제정에 충격을 받은 기업들은 유럽연합에서 기업의 목소리를 대변하기 위해 로비 활동을 강화할 것입니다.
그러나 인공지능 규제법안(Artificial Intelligence Act)의 운명은 결국 미국이 결정할지도 모릅니다. 유럽연합의 개인정보보호법이 전 세계 표준처럼 확산할 수 있었던 이유 중 하나는 미국이 자체 데이터 보호 규정을 마련하지 못했기 때문입니다. 또한, 데이터 규제를 위한 미국과 유럽연합 의원들의 협력도 없었습니다. 바이든 행정부는 기술 규제에서 진전을 바라고 있지만, 아직 인공지능과 기술 규제를 둘러싼 미국과 유럽의 관계 회복은 더디기만 합니다. 미국과 유럽이 힘을 합쳐야 기술 패권을 차지하려는 중국의 야망을 물리치고 디지털 권위주의를 저지할 수 있을 것입니다.