요즘 AI 관련 논의 보면서 드는 생각이 하나 있다.
다 떠들기만 하고 아무도 정리를 안 한다.
정부는 육성이라 했다가 규제라 하고, 학계는 윤리를 말하고, 기업은 투자 유치용 키워드로 AI를 쓰고, 시민단체는 일자리 걱정하고.
전부 AI라는 같은 단어를 쓰는데 각자 완전히 다른 이야기를 하고 있다.
회의실에 열 명이 앉아있는데 열 명이 다른 안건을 논의하는 꼴이다. 이러면 결론이 나올 수가 없다.
근데 나는 사업하는 사람이니까 솔직히 윤리 담론 자체에는 관심이 크지 않다.
내 관심사는 딱 세 가지다.
이거 때문에 뭐가 막히는지, 뭐가 불안한지, 그리고 어디서 돈이 되는지.
규제 방향이 안 보이는데 사업을 어떻게 하라는 건지
규제의 방향이 안 보인다는 거다. 이게 사업하는 입장에서 제일 치명적이다.
AI 서비스 하나 만들어서 시장에 내놓으려고 하면, 지금 한국은 기준이 없다. 없는 게 자유로운 거 아니냐고? 천만에.
기준이 없으면 “나중에 갑자기 생긴다”는 뜻이다. 내가 1년 동안 개발비 쏟아부어서 런칭했는데, 6개월 뒤에 갑자기 가이드라인이 나오면서 “이건 안 됩니다” 하면?
그 매몰비용은 누가 책임지나. EU는 이미 2019년부터 프레임을 잡고 AI Act까지 왔다.
아직도 “신뢰성이 뭔지”부터 합의가 안 된 상태다.
그리고 솔직히 말하면, 지금 정부 쪽에서 나오는 AI 관련 정책들 보면 “일단 뭐라도 하고 있다”는 포즈에 가깝다.
구체적인 거버넌스 체계가 아니라 선언적 문구 위주다.
사업자 입장에서는 선언 100개보다 실행 가능한 체크리스트 하나가 훨씬 낫다.
대기업은 알아서 하고, 중소기업은 알아서 죽는 구조
대기업은 괜찮다.
자체 법무팀, 컴플라이언스팀 있고, 글로벌 기준 맞춰서 알아서 한다. 문제는 중소기업이랑 스타트업이다.
AI 기반으로 서비스 만드는 중소 규모 회사들이 지금 가장 위험한 위치에 있다.
EU AI Act 같은 게 사실상 글로벌 스탠다드가 되어가고 있는데, 한국 중소기업 중에 이걸 제대로 이해하고 대응할 역량 가진 곳이 몇이나 되겠나.
유럽 시장에 진출은커녕, 나중에 한국이 EU 기준을 참고해서 규제를 만들어도 대응 못 할 가능성이 높다.
그리고 더 현실적인 걱정은, “신뢰성”이라는 말이 대기업들의 시장 진입장벽 도구로 쓰일 수 있다는 거다.
대기업이 자기들 기준으로 “우리는 신뢰할 수 있는 AI입니다” 마케팅을 치고, 정부가 그 프레임을 가져다 쓰면?
중소기업은 그 기준 맞추려고 비용만 쏟다가 체력이 빠진다.
이건 과거에 다른 산업에서도 수없이 반복된 패턴이다.
인증 제도가 기술 보호가 아니라 기득권 보호 장치로 작동하는 거.
혼란이 곧 시장이다. 돈 되는 자리는 이미 보인다
위에 불만이랑 걱정을 쭉 썼는데, 사업하는 사람은 불만과 걱정 속에서 기회를 봐야 한다.
그리고 이 AI 신뢰성 영역은 솔직히 말하면 돈 냄새가 꽤 진하게 난다.
핵심은 이거다.
신뢰성은 감정이 아니라 거버넌스 구조의 문제고, 한 번의 인증이 아니라 지속적 관리의 문제다.
이 두 가지를 합치면 답이 나온다.
“지속적 AI 거버넌스 관리 서비스”가 시장이 된다는 뜻이다.
구체적으로 보면 이렇다.
부동산 비유를 그대로 가져오면 명확하다.
등기부등본이 있고, 공인중개사 자격이 있고, 법적 보호 장치가 있다.
AI 쪽에도 이런 인프라가 필요한데 아직 거의 없다. 이건 빈 시장이다.
첫 번째, AI 제품 서비스 대상 지속적 모니터링 및 감사(Audit) 플랫폼.
한 번 인증 찍어주는 게 아니라, AI 모델의 성능 변화, 편향성 추이, 데이터 드리프트 같은 걸 실시간으로 추적해서 리포트 해주는 SaaS 모델.
구독형이니까 매출이 반복적으로 발생한다.
지금 글로벌로 봐도 이 영역은 초기 시장이다.
두 번째, 중소기업 대상 AI 거버넌스 컨설팅.
위에서 말한 것처럼 중소기업은 역량이 부족하다.
그런데 규제는 온다.
이 갭이 컨설팅 시장이다.
EU AI Act 대응, 국내 규제 대응, 리스크 평가 프레임워크 구축.
ISO 42001 같은 AI 관리체계 인증 컨설팅도 포함된다.
이미 정보보안 쪽에서 ISMS 컨설팅이 큰 시장을 만든 선례가 있다. AI 쪽도 똑같이 간다.
세 번째, 좀 더 크게 보면 AI 신뢰성 인프라 자체를 만드는 것.
등기부등본에 해당하는 AI 모델 이력 관리 시스템, 학습 데이터의 출처와 라이선스를 추적하는 데이터 프로비넌스 솔루션, 배포 후 사고 발생 시 원인 추적이 가능한 로깅 시스템.
이런 것들이 결국 제도가 정비되면 필수가 된다.
법이 만들어지기 전에 도구를 만들어 놓으면, 법이 생길 때 그 도구가 사실상 표준이 된다.
그리고 하나 더. 지금 한국에서 AI 신뢰성 관련 전문 인력이 거의 없다.
기술 개발자는 많은데, 거버넌스를 이해하면서 기술도 아는 사람은 드물다.
이 분야 전문 교육 프로그램이나 자격 과정을 먼저 세팅하는 것도 괜찮은 사업이다.
공인중개사 시험이 생기기 전에 학원부터 차린 사람들 생각해보면 된다.
감정 장사 끝나고 구조 장사 시작되는 타이밍
AI 신뢰성 논의가 감정적 “믿어줘”에서 구조적 “증명해봐”로 넘어가는 전환점에 있다.
이건 산업화된다는 신호다.
불만은, 한국의 논의가 아직 너무 추상적이고 정책 방향이 불투명하다는 것.
걱정은, 이 혼란 속에서 중소기업이 리스크 관리 없이 달리다가 규제 벽에 부딪힐 가능성이 높다는 것.
기회는, 바로 그 혼란과 부재 자체가 시장을 만든다는 것.
결국 모든 산업에서 반복되는 패턴이다.
혼란 → 규제 → 인증 → 인증 인프라 산업화.
AI도 예외가 아니다. 지금은 혼란 단계고, 규제가 오고 있다. 인증 인프라를 먼저 깔아놓는 쪽이 이긴다.
교통정리가 시작되기 전에, 차선 페인트 파는 사업을 준비해야 할 때다.
