정부는 AI기본법 시행령을 통해 AI 산업 진흥과 안전 신뢰 확보의 ‘균형’을 이루고, 특히 진흥에 방점을 찍으면서 유연하고 최소한의 규제를 도입하려 의도했습니다.
하지만, 현장의 의견을 검색한 결과, 정부의 ‘최소 규제’ 의도는 시민사회 측에서는 ‘사실상 무규제’로 해석되어 국민의 기본권 보호에 미흡할 수 있다는 쟁점을 낳고 있으며, 산업계에서도 ‘고영향 AI’ 기준 등 세부 규정의 불확실성에 대한 우려가 남아있는 상황입니다.
따라서, 정부의 의도와 현장의 평가는 규제의 범위와 강도를 중심으로 뚜렷한 시각차를 보이고 있으며, 이러한 쟁점은 입법예고 기간(~12월 22일) 동안 추가적인 의견 수렴과정을 거치며 조정될 것으로 예상됩니다.
정부가 AI의 위험을 바라보는 시각의 편향성
가장 핵심적인 쟁점인 ‘고영향 AI’ 정의의 협소성은 법을 만드는 주체, 즉 정부가 AI의 위험을 바라보는 시각의 편향성에서 비롯되었습니다.
정부는 AI 규제 도입 시, 산업계의 위축을 최소화하고 기술의 자유로운 발전을 우선시하려는 ‘진흥 중심의 초기 법제화’ 기조를 강하게 가져갔습니다.
규제를 최소화하기 위해, 안전 관리 의무를 부과하는 ‘고영향 AI’의 범위를 좁게 설정해야 했습니다. 그 결과, 생명, 신체 안전과 같이 물리적이고 명확한 위험에 초점을 맞추는 데 치중했습니다.
이로 인해 AI 채용, 대출 심사, 감시 시스템 등 데이터 편향성이나 알고리즘적 차별을 통해 개인의 사회적 기본권을 침해하는 ‘비물리적 위험’에 대해서는 규제 대상에서 사실상 배제되는 사각지대가 발생했습니다. 이는 AI가 가진 사회 윤리적 위험보다 물리-기술적 위험을 더 중시하는 관점에서 출발한 한계입니다.
이용 사업자 책무 부재 및 책임 주체의 불명확성
AI 서비스의 실제 이용 단계에서 발생하는 문제에 대한 법적 책임 소재의 불분명함은, 기술과 법의 발전 속도 차이 그리고 기존 법체계와의 충돌 우려에서 기인합니다.
AI 개발사, 제공사뿐만 아니라 이를 실제 운영하는 ‘이용 사업자’에게까지 책임을 확대하는 것은 기존의 제조물 책임법이나 일반적인 기업 법규와 충돌하거나, 새로운 복잡한 규제 체계를 만들어야 하는 부담이 있습니다.
정부는 초기 법안의 현장 안착을 위해 최소한의 규제 주체만을 설정하려는 ‘소극적 접근 방식’을 채택했습니다.
또한, AI 기술의 작동 방식 자체가 분산적이고 비결정론적이기에, 사고 발생 시 책임의 원인(개발 단계의 오류인지, 운영 단계의 오용인지)을 명확히 구분하기 어렵다는 기술적 난제를 법적 책임으로 연결하기를 주저했습니다.
결국, AI 서비스가 병원, 은행, 회사 등 최종 이용 환경에서 오용되거나 불공정하게 작동할 때, 피해자가 명확한 책임을 물을 대상이 사라지는 법적 공백이 발생하게 되었습니다.
투명성 고지 및 생성형 AI 기준의 모호성
‘AI가 만들었다는 것을 고지하라‘는 투명성 의무의 실효성이 떨어진다는 비판은 기술의 급변성과 규제의 포괄적 수립 필요성 사이의 딜레마에서 비롯됩니다.
생성형 AI 기술은 하루가 다르게 발전하며, 결과물의 품질과 인간과의 구분 경계가 매우 빠르게 모호해지고 있습니다.
정부는 기술 변화 속도를 따라잡기 위해 구체적이고 경직된 기준 대신 ‘실제와 구분하기 어려운 결과물’과 같은 포괄적이고 유연한 문구를 사용할 수밖에 없었습니다. 이는 법이 제정되자마자 구닥다리가 되는 것을 막기 위한 불가피한 선택이었을 수 있습니다.
하지만 이러한 유연한 문구는 역설적으로 현장의 혼란을 야기합니다. 사업자 입장에서는 어디까지가 고지 의무 대상인지 판단하기 어렵고, 법 집행자 입장에서도 객관적인 제재 기준을 적용하기 어려운 ‘규제의 불확실성’ 문제가 발생합니다.
규제 이행 부담과 행정 역량 문제
새로운 기술 규제가 도입될 때마다, 법적 의무를 이행할 인력과 자원이 부족한 중소기업과 대기업 사이에 ‘규제 이행 역량의 격차’가 필연적으로 발생합니다.
정부는 이를 완화하기 위해 계도기간 운영과 안내센터 설립을 약속했지만, 근본적으로 복잡한 영향평가나 투명성 확보 절차는 초기 기업에게 큰 비용 부담으로 작용합니다.
또한, AI 안전과 같은 첨단 영역의 행정 업무를 맡을 정책 지원 기관은 설립 초기, 민간 전문가 수준의 독립된 전문성을 확보하는 데 시간이 걸릴 수밖에 없습니다.
결국, AI 기본법의 시행이 대기업에게는 순조로운 진흥의 기회로, 중소기업에게는 성장의 족쇄로 작용하는 ‘규제 양극화’ 현상이 초래될 수 있다는 우려를 낳게 됩니다.
