AI 기본법 시대, 고영향 AI의 법적 의무와 선제적 대응 전략

지난 22일 AI(인공지능) 산업의 법적 근간이 될 'AI 기본법'이 본격 시행됐다. 이번 법안에는 사람의 생명이나 기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'에 대한 규율을 핵심으로 담고 있다. 그간 자율규제 영역에 머물러 있던 AI 기술의 안전성과 신뢰성이 이제는 명문상의 규정에 따른 책임을 요구받는 단계로 접어든 것이다. 이러한 변화는 AI 사업자들에게 기술 경쟁력을 넘어 체계적인 준법·리스크 관리 역량을 요구하며, 업계 전반의 운영 패러다임을 근본적으로 재편할 것으로 보인다.

우선 AI의 개입 여부를 이용자가 명확히 인식할 수 있도록 '투명성'을 확보해야 한다. 이는 AI 생성 정보가 인간의 결과물과 혼재되는 상황을 방지하고 출처를 투명하게 함으로써 이용자의 신뢰를 쌓는 기초 작업이다. 이에 따라 고영향 AI나 생성형 AI 사업자는 서비스 제공 전 약관 등을 통해 AI 활용 사실을 고지하고, 결과물에는 워터마크 등 식별 가능한 표식을 부착해 AI 산출물임을 명시해야 한다.

아울러 초대형 AI 모델을 보유한 기업은 선제적인 안전성 검증 체계를 갖춰야 한다. 법안은 학습에 사용된 누적 연산량이 10의 26승 FLOPs 이상인 AI를 핵심 관리 대상으로 규정했다. 이는 유럽연합(EU) AI Act의 기준인 10의 25승 FLOPs보다 한 단계 상향된 것으로, 현존하는 모델을 넘어 향후 등장할 차세대 초거대 AI까지 아우르는 선제적 위험 관리 체계를 구축하겠다는 의지로 풀이된다. 현재 국내 주요 기업의 LLM은 이 기준에 미치지 않아 당장 '고영향 AI'로 분류될 가능성은 낮으나, 미래 기술 환경을 대비한 거버넌스 구축은 피할 수 없는 과제가 되었다.

또한 AI의 불투명한 의사결정 구조인 '블랙박스' 문제를 보완하기 위해 '사람 중심의 관리 체계'를 정착시켜야 한다. 결과에 대한 책임 소재를 명확히 하기 위해 사업자는 알고리즘의 판단 기준과 데이터 개요를 설명할 수 있는 체계를 갖추고, 시스템 오류 시 사람이 즉시 개입해 통제할 수 있는 구체적인 절차를 수립해야 한다.

결국 복잡해지는 법적 요구사항을 효율적으로 이행하기 위해서는 기업의 가치사슬(Value Chain) 전반을 관통하는 통합적 대응 전략이 필수적이다. 비록 법령은 이미 시행됐으나, 정부가 제도 안착을 위해 설정한 '1년간의 과태료 부과 계도기간'은 기업들에게 매우 소중한 골든타임이다. 이 기간은 단순히 처벌을 피하는 유예기간이 아니라, 실질적인 법적 안정성을 확보하고 내부 시스템을 정비하는 최적의 준비기로 활용돼야 한다.

다행히 AI 기본법은 '이행 간주' 제도를 통해 사업자의 중복 규제 부담을 실질적으로 완화하고 있다. AI 개발 사업자가 이미 일정한 조치를 마쳤다면 이를 활용하는 이용 사업자도 해당 의무를 이행한 것으로 간주하거나, 디지털의료제품법이나 신용정보법 등 개별법상의 의무를 충실히 준수했을 경우 본 법상의 책무를 다한 것으로 인정해주는 방식이다.

따라서 기업들은 주어진 계도기간을 자사 서비스가 고영향 AI 범주에 속하는지 면밀히 검토하는 진단기로 삼아야 한다. 동시에 타 법령과의 정합성을 따져 중복 대응의 낭비를 줄이는 '산업별 맞춤형 이행 전략'을 수립해야 할 것이다. 규제라는 거센 파도 앞에서도 혁신이라는 돛을 펼쳐 나아가기 위한 동력은 결국 기업이 얼마나 정교하게 법적 리스크를 관리하고 있는가에 달려있다.

중소기업팀

[기사전문보기]
AI 기본법 시대, 고영향 AI의 법적 의무와 선제적 대응 전략 (바로가기)