マイクロソフト、子供たちに暴力的で性的なイメージを流すAIツール販売の疑いで起訴

MicrosoftのAIテキスト – イメージジェネレータCopilot Designerは、MicrosoftエンジニアのShane Jonesが、このツールがランダムに暴力的で性的な画像を生成するという警告をマイクロソフトが無視したことを警告した後、出力を厳密にフィルタリングしているようです。 報告済み。

ジョーンズは、CNBCとのインタビューで、ツールの脆弱性をテストするためにRed Teamの活動に取り組んでいる間、自分が見ている素晴らしいコンテンツについてMicrosoftに繰り返し警告したと述べた。 ジョーンズは、マイクロソフトがこのツールを中断したり、それに対応して保護を実装したり、Androidストアで製品の評価を成熟度に変更するように公開したりもしなかったと述べた。

代わりに、MicrosoftはCopilot Designerの出力をサポートするDALL-Eモデルの製造元であるOpenAIに問題を報告するように彼に指示した以外は何もしていないようです。

OpenAIはまったく反応しなかったため、彼はMicrosoftツールで発見された問題を一般に知らせるためにますます大胆な措置を講じたと述べた。

彼はLinkedInにOpenAIを呼ぶ公開書簡を投稿することから始めました。 その後、マイクロソフト法務チームが彼にこれを下げるように言ったとき、彼は言うようにしたが、国会議員や他の利害関係者にも手紙を送り、どこにでも警告信号を送った。 これには今日、連邦取引委員会（Federal Trade Commission）とマイクロソフト理事会に送った手紙も含まれているとCNBCは報道した。

Jonesは、FTC議長のLina Khanに送った書簡で、MicrosoftとOpenAIが少なくとも10月からこの問題を認識しており、FTCが介入しない限り、「誰でも、どこでも、すべてのデバイス」に製品を販売し続けるだろう」と述べた。

BloombergもJonesの手紙を見直しました。 報告済み Jones 氏は、FTC に Copilot Designer が現在子供向けに安全であると販売していますが、「自分で作った写真の中には女性の不適切で性的にターゲットを絞った画像」をランダムに生成していると述べています。 また、「政治的偏見、未成年者の飲酒および薬物の使用、企業の商標および著作権の誤用、陰謀論、宗教などの様々なカテゴリの有害なコンテンツ」を生成するためにも使用することができる。

別の手紙で、ジョーンズはマイクロソフトの取締役会にマイクロソフトのAI意思決定を調査し、「マイクロソフトの責任あるAI事件報告プロセスの独立したレビュー」を実施するよう要請した。 CNBCは、ジョーンズがマイクロソフト責任AI事務局と「コパイロットデザイナーを担当する上級経営陣」に直接報告するなど、「内部的にこの問題を提起するための特別な努力」を傾けた後、このような措置が必要だと報道した。

Microsoftのスポークスマンは、Microsoftが現在の画像をフィルタリングするための措置を講じていることを確認していませんが、ArsがJonesが共有したプロンプトを複製しようとしたときにエラーメッセージが生成されました。 代わりに、MicrosoftのスポークスマンはCNBCで提供されているのと同じ声明のみを共有します。

私たちは、会社の方針に従い、従業員が抱えているすべての懸念事項を解決するために最善を尽くしています。 当社のサービスまたはパートナーに潜在的な影響を及ぼす可能性がある安全バイパスまたは懸念がある場合、当社はすべての問題を適切に調査し、優先順位を付け、解決するために製品内のユーザーフィードバックツールと強力な内部報告チャネルを構築しました。 。 従業員の懸念事項を適切に検証してテストできるようにします。 当社はまた、これらのレポートをレビューするために製品リーダーシップおよび責任あるAI部門との会議を開催し、これらのフィードバックを継続的に統合して既存の安全システムを強化し、すべての人に安全で肯定的な経験を提供しています。

OpenAIはArsのコメント要求に応答しませんでした。