おはようございます!マネジメントオフィスいまむらの今村敦剛です。
EUのAI規制法案である"EU AI Act"に関して、12/2時点での最新情報を、かいつまんでお伝えします。(情報源は、The EU AI Act Newsletter #69です)。
スポンサーリンク
「汎用AI行動規範」(第2版)に関するフィードバック
Leverhulme Centre for Future Intelligence(ケンブリッジ大の研究センター)の研究者たちは、「汎用AI行動規範」の第2版の草案を検討しています。初版からの大幅な改訂が行われるようです。
研究者は、汎用AIモデルのガバナンスを確立する上で、コミットメント、指標、KPI(重要業績評価指標)のバランスの取れたアプローチを高く評価しています。第2版に対して、研究者は、推論時の考慮事項への注目を強化、柔軟に対応可能な階層型義務体系の開発、より強力な外部評価要件、能力、傾向、文脈のフレームワークの洗練に焦点を当てて、提案をしています。また、リスク評価の方法論の改善、分類法の変更、リスク源のより徹底したAI評価、具体的な成果指標や脆弱性評価を含む能力ベースの補完的評価を提案しています。具体的な提案には、システムリスクや高レベル能力に関する用語の一貫性解決、リスク評価におけるフローチャートシステムの導入、モデル改変に関する義務の明確化が含まれます。さらに、トレーニング実行における通知要件や、リスク評価における能力、傾向、文脈の関係に関する提案も含まれているようです。
マイクロソフトがEU AI規制に沿った各種見直しを検討
マイクロソフトの責任あるAI担当最高責任者であるナターシャ・クランプトン氏は、顧客がAIを活用し、EUのAI法に準拠するのを支援するマイクロソフトの取り組みを明らかにしました。
マイクロソフトは、製品やサービスをEUの規制要件に適合させ、欧州の政策立案者と連携して効果的な実施手法を導入する予定です。また、マイクロソフトは、顧客が事業を展開するすべての管轄区域で規制遵守を契約上保証しています。
同社はAIによる影響評価や「レッドチーミング」など、さまざまなリスク管理手法を採用しており、特にリスクの高いモデルに対しては「センシティブユース」というプログラムを通じて実施をする予定です。リスク緩和策として「Azure AI Content Safety」などのシステム的な測定とツールが含まれる予定です。同社の「責任あるAI標準」は、EU AI規制の初期のドラフトを考慮して開発されていますが、部門横断的なチームが最終的な法律に合わせて内部基準を調整しているとのことです。
なお、禁止行為規定が2025年2月に施行される前に、マイクロソフトは既存システムの見直し、新しい使用制限ポリシーの作成、契約の更新を進めています。同社は、川下の顧客が、高リスクAIシステムの規制に準拠するのをサポートする必要性を高く認識しています。
ビッグテックが独自のAI基準を設定
Corporate Europe Observatory(欧州の非営利研究グループ)は、欧州のAI基準設定機関が、AI業界の代表的企業によって大きく支配されているとの懸念を発表しました。具体的には、Oracle、Microsoft、Amazon、Huawei、IBM、Googleなどの主要企業が、EU AI規制に必要な統一基準を開発する過程に、積極的に関与していることを示しています。
専門家へのインタビュー、ソーシャルメディア分析、公的文書に基づいてこの研究が発表されていますが、民間の基準設定組織が、法律的な地位を持つ規則を密室で作成していると主張しています。さらにこれらの業界主導のフォーラムが「信頼できるAI」の定義を事実上決めているとも主張しています。こうしたビックテック企業は、基準を決めることは純粋に技術的なプロセスなのだと述べていますが、Corporate Europe Observatoryの調査では、それがバイアス、公平性、基本的人権に関する重要な決定を伴う非常に政治的なプロセスであると論じています。
さらにこの調査報告書では、独立した専門家や市民社会組織が、ビッグテック企業に比べて大幅に少数で、リソースも不足しているという不均衡を強調しています。こうした不均衡が、テック業界に有利な基準の採用を招き、結果としてAI法の実行力を弱める可能性があることに懸念を示しています。
ザッカーバーグが米国のテック企業へのEU罰金停止をトランプ氏に要請
MetaのCEOであるマーク・ザッカーバーグ氏は、米国のテック企業が規制違反でEUから罰金を科されるのを防ぐよう、次期トランプ政権に要請しました。ザッカーバーグ氏は、ジョー・ローガンのポッドキャスト「The Joe Rogan Experience」に出演した際、米国の優勢なテック産業が戦略的な利点を提供しているとし、それを守るべきだと主張しました。ザッカーバーグ氏は、EU当局が過去20年間に米国のテック企業に対して300億ドル以上の罰金を課してきたことを指摘し、最近ではMetaが広告サービスに関連する反トラスト違反で7億9700万ユーロの罰金を科されたことを挙げました。また、EUが規則の適用を押し付けることは、まるで米国企業に対する関税のようだと批判しました。
ザッカーバーグ氏はさらに、バイデン政権のアプローチがこの状況に対処する効果的な措置を取らなかったことを非難しています。ザッカーバーグ氏によると、米国政府は通常、重要なアメリカ産業に干渉した国に圧力をかけるが、この場合、政府の行動が欧州連合が米国企業に対して無制限の行動を取ることを可能にしていると述べました。