AI基本法

当該法は、大統領を議長とする国家人工知能戦略委員会を設置し、3年ごとに人工知能基本計画を策定するよう規定することで、国家レベルの人工知能政策と規制基準を統合的に管理する構造を設けた。

これは 省庁ごとに分散していた政策と規制を一つの体系にまとめ、一貫性を確保しようとする趣旨である。

企業の立場からは、確かな基準が示されると同時に、その基準を遵守すべき法的責任が公式化されたという意味を持つ。

当該法は無条件の規制を志向せず、 研究開発(R&D)支援、実証基盤の造成、学習用データの構築など産業振興政策を並行する均衡モデルを採択している。

これに伴い企業は、政策的支援を活用できる機会を得る一方で、安全性と信頼性を確保できていない人工知能の活用については法的責任を負うことになる。

企業実務に直接的な影響を及ぼす中核的な規律は、「人工知能基本法」が 明示した透明性確保義務、安全性確保義務、高影響人工知能事業者の責務で構成される。

これは下位法令とガイドラインを通じて段階的に具体化される構造であるため、条文体系に合わせた先制的な準備が重要である。

人工知能の透明性確保義務 (第31条)

人工知能の安全性確保義務 (第32条)

高影響人工知能事業者の責務 (第34条)

人工知能基本法は、高影響人工知能を次のように規定している。

高影響人工知能とは? (「人工知能基本法」 第2条)

これに伴い、自社のAI機能が当該領域の中核的な意思決定の流れに「実質的影響」を及ぼすかまで併せて検討しなければならない。

とりわけ 採用・人事管理、金融サービス、保健医療、エネルギーなど主要な産業分野で、自動化された評価・分類・意思決定が行われる場合には、特に注意が必要である。

人工知能が人の介入なしに最終決定を下す構造であるか、または人間がこれを検討・修正・中止できる構造であるかによって、適用される義務の範囲が異なることがある。

したがって企業は、人工知能システムの設計段階から、人間による統制の可能性を前提とした業務プロセスを構築する必要がある。

高影響人工知能を運営する企業は、人工知能の全周期に対する危険管理体系を構築し、人工知能の活用事実と判断根拠を利用者に明確に告知しなければならない。

また、アルゴリズムの偏向防止、被害救済手続の整備、人間による監督および緊急中止体系の確保など具体的な保護措置を設け、その内容を安全・信頼に関する文書として作成・保管しなければならない。

人工知能基本法は、刑罰よりも調査に基づく違反行為の中止・是正措置など、行政的な統制方式に重きを置くと説明されている。

とりわけ高影響人工知能または生成型人工知能の活用事実を告知せず、または法が要求する管理義務を履行しなかった場合、是正命令、事実調査、行政的制裁が行われることがある。

主な義務違反の類型と過料の水準

また、処分そのものだけでなく、事実関係の整理、資料の提出、内部プロセス改善命令の履行などを誠実に履行しなければならず、調査・是正への対応費用がそのまま企業の経営リスクへと転換され得ることを意味する。

人工知能の偏った判断や誤りによって利用者の基本権が侵害され、または個人情報保護義務が違反された場合、企業は 損害賠償請求訴訟に直面することがある。

また、人工知能基本法の遵守の可否は企業の過失判断において重要な基準として作用することとなり、倫理的な論争が生じた場合には 企業の信頼度とブランド価値に長期的な打撃を与えることがある。

とりわけ人工知能は、ただ一度の事故でも「倫理・差別・安全」の問題が結合した対外的リスクが噴出しやすい。

そこで利用者への告知、説明可能性、被害救済、人間による監督などの信頼装置を、製品・サービスの経験と運営方針に内在化する戦略が必要である。

自社システムや外部ソリューションに人工知能が含まれているかを把握できていない企業は、社内AIインベントリを構築し、人工知能の活用状況を優先的に把握する必要がある。

この段階では、人工知能が企業の意思決定構造や顧客の権利・機会にどのような影響を及ぼすかを識別することが核心となる。

人工知能の導入を拡大し、または新規サービスの提供開始を控えた企業は、法務、IT、人事、セキュリティの各部署が協力し、全社的なコンプライアンス体制を設計する必要がある。

高影響人工知能への該当有無を事前に検討し、生成型人工知能の生成物の管理、データ活用の基準、人間の介入手続などを社内規程として整備しておくとよい。

すでに人工知能に関する苦情や事故の発生、監督機関による調査の可能性が生じている場合には、規制の猶予の適用可能性や、安全性確保の努力を文書化しているかを点検し、制裁の程度を最小化する戦略的な対応が必要となる。

長期的には一回限りの対応にとどまらず、倫理教育の定例化、モデルの性能低下のモニタリング、法令・ガイドラインの改正への対応体制を通じて、持続可能な人工知能ガバナンスを構築する必要がある。

法務法人大輪は、企業の人工知能システムが高影響人工知能に該当するか否かを診断し、法的リスクを最小化できるよう、構造設計の段階から助言を提供する。

監督機関の事実調査、是正命令、行政制裁の可能性に備え、 企業の義務履行の有無を体系的に整理し、調査対応戦略および法的な防御の論理を構築する。

短期的な規制対応にとどまらず、人工知能の倫理基準の内在化、リスク管理体制の高度化、立法・ガイドラインの変化に対する継続的なモニタリングを通じて、企業の安定的な成長を支援する。

法務法人大輪は、AI・データインテリジェンスグループを新設し、▲AIコンプライアンス部 ▲バーティカルAI戦略部 ▲サイバーセキュリティ&危機対応部 ▲デジタルフォレンジック&e-ディスカバリー部で構成される4つの部署体制を通じて、人工知能に関する法的リスクに総合的に対応している。

各部署は、人工知能の導入・運用過程におけるコンプライアンス検討、産業別の特性を反映したAI戦略の設計、サイバーセキュリティ事故への対応、電子証拠の分析および大規模データの検討まで、有機的に連携した支援を提供する。

これにより、技術・データ・法律が結合した複合的な人工知能の紛争や規制環境に対し、企業が実質的に対応できるよう支援している。

AI基本法への対応は、準備された企業には機会となるが、準備のない企業には致命的なリスクとなり得る。

貴社の人工知能の活用構造に合わせた先制的な診断と、段階別の対応戦略を整えることを勧める。