9月12日、ジーナ・ライモンド米商務長官、ジェフ・ザイアンス・ホワイトハウス首席補佐官は、AI企業8社（Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI、Stability）から、AI技術の安全、安心、信頼できる開発を促進するための自主的なコミットメントの第2ラウンドを確保したことを発表した。バイデン大統領は7月、大手AI企業7社からコミットメントを確保しており、それに続くものになった。

これらのコミットメントは、政府の行動への重要な橋渡しとなるものであり、AIの有望性を捉え、リスクを管理するためのバイデン-ハリス政権の包括的なアプローチの一部である。同政権は大統領令を策定中であり、米国が責任あるAI開発を主導できるよう、引き続き超党派の法案を追求していくと述べた。

コミットメントの内容は以下の通り。

製品を世に送り出す前に、その安全性を確認する。

• 各社は、AIシステムのリリース前に社内外のセキュリティ・テストを実施する。本テストは、一部独立した専門家によって実施され、バイオセキュリティやサイバーセキュリティなど、AIのリスクの最も重要な原因や、より広範な社会的影響から保護する。
• 各社は、AIのリスク管理について、業界全体および政府、市民社会、学界と情報を共有することを約束する。これには、安全性に関するベストプラクティス、セーフガードを回避しようとする試みに関する情報、技術協力が含まれる。

セキュリティ第一のシステム構築

• 両社は、独自のモデルウェイトや未公開のモデルウェイトを保護するため、サイバーセキュリティとインサイダー脅威対策に投資することを約束する。これらのモデルウェイトはAIシステムの最も重要な部分であり、両社は、モデルウェイトは意図された場合にのみ、またセキュリティリスクを考慮した場合にのみ公開されることが極めて重要であることに同意する。
• 両社は、AIシステムの脆弱性を第三者が発見し、報告することを促進することを約束する。いくつかの問題は、AIシステムがリリースされた後も存続する可能性があり、強固な報告メカニズムにより、それらを迅速に発見し修正することが可能となる。

国民の信頼を得る

• 両社は、電子透かしシステムなど、コンテンツがAIによって生成されたものであることをユーザーが確実に認識できる強固な技術的メカニズムを開発することを約束する。この行動により、AIを用いた創造性と生産性が開花し、詐欺や欺瞞の危険性が減少する。
• 各社は、自社のAIシステムの能力、限界、適切な使用領域と不適切な使用領域を公に報告することを約束する。これらの報告書は、セキュリティリスクと、公平性や偏見への影響といった社会的リスクの両方をカバーする。
• 各社は、有害な偏見や差別の回避、プライバシーの保護など、AIシステムがもたらしうる社会的リスクに関する研究を優先することを約束する。AIの実績は、これらの危険の潜在的な大きさと蔓延を示しており、両社は、これらを軽減するAIを展開することを約束する。
• 各社は、社会が直面する最大の課題に対処するための高度なAIシステムを開発し、展開することを約束する。がんの予防から気候変動の緩和まで、そしてその間にある多くの問題に至るまで、AIは、適切に管理されれば、すべての人の繁栄、平等、安全保障に多大な貢献をすることができる。

自国内で本アジェンダを推進する一方で、政権はこれらの公約やAI政策について、同盟国やパートナーとの対話を続けている。これらの公約を策定するにあたり、政権はオーストラリア、ブラジル、カナダ、チリ、フランス、ドイツ、インド、イスラエル、イタリア、日本、ケニア、メキシコ、オランダ、ニュージーランド、ナイジェリア、フィリピン、シンガポール、韓国、アラブ首長国連邦、英国と協議した。これらのコミットメントは、G7広島プロセスにおける日本のリーダーシップ、AIの安全性に関する英国のサミット、AIに関するグローバル・パートナーシップの議長としてのインドのリーダーシップを補完するものである。

【参照ページ】
（原文）FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Eight Additional Artificial Intelligence Companies to Manage the Risks Posed by AI
（日本語参考訳）バイデン政権、AI企業8社から責任あるAI開発コミットメントを確保