6月2日、内閣府の外局として設置されている個人情報保護委員会は、生成AIサービスの利用に関する注意喚起等に関する案を議論した。

本案では、ChatGPT等の生成AIサービスに関し、「個人情報の適正な取扱いによる個人の権利利益の確保の要請と、新たな技術に基づく公共的な利益（イノベーションの促進、生産性の向上、教育効果の向上、気候変動問題等の国際社会の課題の解決等を通じて、多様な社会的・経済的利益の増進に寄与する可能性）の要請とのバランスに留意しつつ、生成AIサービスの利用に関する注意喚起等を行うこととした」と明記。生成 AIサービスが普及していることを踏まえ、生成AIを促進しつつも、個人情報保護の観点からは取扱いには注意を喚起していくとした。

企業に対しては、以下の注意点が言及された。

• 個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること
• 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること

政府に対しては、同様に、以下の注意点が言及された。

• 行政機関等が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的のための必要最小限の利用又は提供であることを十分に確認すること
• 行政機関等が、生成AIサービスに保有個人情報を含むプロンプトを入力し、当該保有個人情報が当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該行政機関等は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該保有個人情報を機械学習に利用しないこと等を十分に確認すること

ユーザーに対しても、以下の留意点が求められている。

• 生成AIサービスでは、入力された個人情報が、生成AIの機械学習に利用されることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成AIサービスから出力されるリスクがある。そのため、生成AIサービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること
• 生成AIサービスでは、入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。例えば、生成AIサービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成AIサービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。
• 生成AIサービスの利用者においては、生成AIサービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AIサービスの利用について適切に判断すること

同委員会は、ChatGPTを開発・提供するOpenAI LLC.とOpenAI OpCoに対し、別途、個別に要配慮個人情報の取得及び利用目的の通知等についての注意喚起を行う予定。あらかじめ本人の同意を得ずに、要配慮個人情報を取得しないことや、個人情報の利用目的について日本語でも提供するよう求める内容を案に盛り込んだ。

本案は近日中に企業、政府、ユーザーに対し発信する予定である。

【参照ページ】
第245回個人情報保護委員会