イタリアSAがChatGPTへ停止命令、個人情報漏洩や年齢確認システムの欠陥が発端

3月31日、イタリアのデータ保護当局（SA）は、プラットフォームを開発・管理している米国のOpenAIによるChatGPTに、直ちに一時的な制限を課した。また、事実関係の調査も開始された。

ChatGPTのユーザーの会話やサービス加入者の支払いに関する情報に影響を与えるデータ侵害が3月20日に報告されていた。ChatGPTは、人間の会話をエミュレートして精巧に再現することができるリレーショナルAIプラットフォームの中で最も普及しているものである。

イタリアのSAは、本命令の中で、OpenAIによってデータが収集されるユーザーやデータ主体に情報が提供されていないことを強調している。さらに、プラットフォームが依拠するアルゴリズムを訓練するために個人データを大量に収集・処理することを裏付ける法的根拠がないように見えるとも指摘する。

これまで実施されたテストで確認されたように、ChatGPTが提供する情報は必ずしも事実と一致しないため、不正確な個人データが処理されることになる。

また、イタリアのSAは、OpenAIの利用規約では13歳以上のユーザーを対象としているにもかかわらず、年齢確認の仕組みがないため、子どもたちが年齢や意識に全くそぐわない回答を受ける可能性があることを、本命令の中で強調している。

本命令に従うために実施された措置について、20日以内にイタリアのSAに通知する必要があり、そうでない場合は、2000万ユーロ（約29億円）または全世界の年間総売上高の4％を上限とする罰金が課される場合がある。