AI/IT

AIは「Artificial Intelligence」の略語で、コンピュータが人のように思考し学習できるようにする人工知能技術を意味します。

機械学習、自然言語処理、音声認識、画像認識などさまざまな技術が含まれ、次第に多くの産業に影響を及ぼしています。

AIは、データを基に自ら学習し予測し、意思決定を下すことができます。

ITは「Information Technology」の略語で、コンピュータ、ソフトウェア、ネットワークに関連する技術全般を包括する概念であり、情報の収集、保存、伝送、処理などを支援する情報技術を意味します。

ITは、企業の運営効率を高め、顧客体験を改善し、さまざまな産業分野に革新を起こす中核的な要素として位置づけられています。

AIベースのサービスやシステムを開発・運営する企業は、AI倫理原則、説明可能性、差別禁止、透明性を確保しなければなりません。

2024年のEU AI Act、韓国のAI基本法(立法予告)、NIST AIリスク管理ガイドラインなども、AIの透明性、データの偏向性防止、アルゴリズムの説明可能性を必須基準として求めています。

したがって、AIモデルの開発時には① データセットの偏向性の事前点検、② AI説明可能性の確保文書の作成、③ AI倫理検証プロセスの導入、④ AI責任者の指定および倫理委員会の運営が必要です。

AIの開発・運営時に個人情報を収集・分析・活用する場合、個人情報保護法、情報通信網法などを必ず遵守しなければなりません。

特にAI学習用データとして個人識別情報、映像、位置情報などを収集する場合、同意要件と非識別措置の要件を満たさなければ、課徴金、刑事処罰の対象となります。

したがって、① AI学習用データセットに対する個人情報影響評価の実施、② 個人情報の収集および活用同意書の具体化、③ データの非識別化措置および適正性の検討、④ AIシステムへの個人情報保護設計(Privacy by Design)の導入が必須です。

AIサービスにおいて、意図しない人種、性別、年齢、出身地などによるアルゴリズムの差別が発生した場合、企業は社会的非難と法的制裁を受けることになります。

したがって、① AIによる意思決定結果の分析とバイアス検討プロセスの運用、② アルゴリズムの公正性点検基準の策定、③ バイアスリスクを緩和するデータセットの構築、④ 定期的なAI倫理監査の実施が必要です。

AI学習用データおよび生成型AIコンテンツの著作権帰属、権利侵害問題が頻繁に発生しています。

AIが作ったコンテンツの著作権保護可否、他人の著作物の無断学習可能性、AI結果物の権利帰属問題が主要な争点です。

このリスク防止のためには、① AI学習用データ収集時の権利検討およびライセンス管理、② AI生成物権利帰属契約の締結、③ AI学習データの著作権侵害可否の事前検討、④ AIコンテンツ利用約款内の権利帰属条項の明確化が必要です。

AIシステムおよびITサービスのハッキング、ランサムウェア、個人情報流出事故が発生した場合、情報通信網法、個人情報保護法に基づき、刑事処罰、損害賠償責任が発生します。

特にAIベースのSaaSサービス、クラウドインフラ、スマートファクトリー運営企業のサイバーセキュリティ対応は必須です。

このために、① 情報保護管理体系(ISMS)認証の取得、② AIシステムを対象とした脆弱性点検、③ AIセキュリティ脅威対応マニュアルの策定、④ 流出事故に備えた個人情報流出対応シナリオの構築が必要です。

プラットフォーム・IT企業は、出店業者・コンテンツ供給者に対する取引上の優越的地位の濫用、広告手数料・検索順位の操作、取引条件の一方的変更などが発生すれば、公正取引法上の課徴金、是正命令の対象となります。

特にAIアルゴリズムに基づく推薦・広告・価格設定システムの公正性の確保がイシューです。

これを解決するため、① アルゴリズムの透明性の確保、② 出店社との標準契約書の活用、③ プラットフォーム取引の不公正行為の事前点検、④ プラットフォーム公正取引の自律遵守プログラムの運営が必要です。

人工知能(AI)を活用するサービスは、「AI生成物」の法的帰属の問題、そして「AI倫理」規範の違反など、様々な法的リスクを伴います。

特にAIがユーザーに自動で意思決定を提供したり、契約の締結、融資審査、保険料率の算定、人事評価などに活用される場合、誤った決定により消費者被害が発生したとき、その法的責任が誰に帰属するのかが重要です。

国内ではまだ明確なAI法律が制定されていませんが、「個人情報保護法」、「公正取引法」、「著作権法」などの現行法を通じてAIサービスの責任の所在を問うことになります。

企業はAIアルゴリズムの意思決定構造、データの偏向性の有無、誤用・乱用の可能性などを点検し、AIサービス提供約款および告知手続きを整備して、法的責任の所在を最小化しなければなりません。

また、AI倫理委員会、AI影響評価報告書制度を導入することも、法的紛争の予防に有効な方法です。

AIサービスの性能を高めるため、個人情報および非識別化データを収集・利用する過程で、「個人情報保護法」、「情報通信網法」を必ず遵守しなければなりません。

特にAI学習データとして個人情報を活用する場合、情報主体の同意手続き、収集・利用目的の明確化、目的外利用の禁止、処理委託契約書の締結義務などが発生します。

企業はAI学習データおよびサービス運営データに対する「個人情報影響評価」の実施、「データ仮名化ガイドライン」の遵守、「AIデータ処理方針」の公開など、体系的なデータガバナンスを構築してはじめて、法的紛争を予防することができます。

AIベースの推薦サービス、自動決定システム、データベースの分析サービスなどのITサービスは、消費者に重要な影響を及ぼし得るため、サービス約款、利用者の同意手続き、サービスの限界の告知義務を負います。

特に、AIの推薦・決定が単なる参考情報なのか、法的・経済的義務を伴う決定なのかを明確に告知し、AIサービスの誤作動や誤りの可能性を案内することが必須です。

これを怠った場合、「電子商取引法」違反として、消費者被害の補償、損害賠償の責任が発生し得ます。

したがって、企業はAI/ITサービスの利用約款を整備し、法的免責条項およびサービスの限界事項を明確に含めることが望ましいです。

AIが生成したテキスト、画像、音源、映像などは、創作性の要件、著作者の帰属の問題、著作権保護の有無が法的論点です。

国内法上、AIは自然人ではないため創作者として認められず、生成物の権利はAIを運営した者または法人に帰属する可能性が高いです。

ただし、AIが第三者の著作物を学習し、これを変形・再加工したり、類似して再現する場合には、著作権侵害が発生し得ます。

企業は、AI学習データの適法性の検討、生成物の著作権登録の可能性、第三者の権利侵害の有無の点検、ライセンス検討の手続を必ず整えなければなりません。

AI生成コンテンツに対する免責約款やコンテンツの削除・修正要請の手続も、事前に設定することが必要です。

AI/ITサービスのグローバル化により、個人情報を海外のクラウドサーバーに保存したり、外国のサービス事業者とデータを共有する場合が増えています。

この場合、「個人情報保護法」に基づき、情報主体の同意、国外移転の目的および受託者情報の告知、適正性評価、保護措置計画の樹立など、煩雑な手続きを履行しなければなりません。

企業は、国外移転対象データの識別、移転契約書の締結、国外移転影響評価、データ保護措置計画の樹立を通じてリスクを統制し、海外クラウド事業者の保護措置の水準も定期的に点検しなければなりません。

AI推薦サービス、AIショッピングモール、アプリサービスなどは、オンライン上の広告・表示規定を必ず遵守しなければなりません。

虚偽・誇大・欺瞞広告、個人情報誤・濫用広告、AI自動推薦サービスの事実上の広告性コンテンツ表示違反は『表示広告の公正化に関する法律』違反として課徴金と刑事処罰の対象となります。

特にAI基盤広告ソリューションは、自動ターゲティング、個人オーダーメイド広告を進めるため、消費者の誤解を招く可能性が高く、広告であることを明確に告知し、利用者の同意を得なければなりません。

企業は広告文句、表示方法、AI推薦プロセスの透明性、広告対象消費者の範囲、AIアルゴリズム説明資料を整理し、違反リスクを事前に遮断する必要があります。

1. AIサービスの開発・運営に関する法的遵守事項

□AIサービス利用約款、個人情報処理方針内のAI自動決定機能および限界の告知の有無

□AI倫理規範、AI人権影響評価手続きの導入の有無

□AIアルゴリズムの開発・運営過程における差別、偏向、歪曲の有無の点検およびリスク管理体系の整備の有無

2. 個人情報保護およびデータ管理
□AI学習用データに個人情報が含まれるかの確認および同意書の確保の有無

□非識別措置、仮名処理、目的外利用の禁止手続きの遵守の有無

□個人情報処理委託契約書および受託者管理体系の構築の有無

3. AI生成物の法的保護および著作権リスク
□AI生成コンテンツの著作権の帰属関係の整理および社内ガイドラインの整備の有無

□AIが学習する原著作物の適法なライセンスの確保の有無

□AIコンテンツに対する利用者の削除要請、修正要請への対応手続きの整備の有無

□AI生成物に関する法的免責条項をサービス約款に明示したかの有無

4. AI/ITサービスの広告・表示の遵守
□AIベースの推薦、自動決定、広告サービスの広告性表示および告知の有無

□虚偽・誇張・欺瞞広告の有無、および利用者の誤認の恐れがある広告文言の事前点検の有無

□オーダーメイドのターゲティング広告の個人情報収集・利用同意書の確保の有無

5. AI/IT倫理経営体系の構築
□AI倫理規範および社内AI倫理委員会の運営の有無

□AIサービスの社会的影響、人権・差別リスクに対する定期的なリスク診断の有無

□AI倫理性の検討報告書の作成および対外公開の有無

6. 情報保護およびセキュリティ管理

□AI・ITシステムの定期的なセキュリティ脆弱性の点検およびリスク対応体系の運営の有無

□情報流出事故の発生時の対応マニュアルおよび非常対応チームの構成の有無