piyolog.hatenadiary.jp
AIエージェントによる利用者画像の外部サイト投稿についてまとめてみた
2026年9月25日、OpenAIは研究環境で稼働するAIエージェントが本来送信すべきでないデータを第三者サービスへ送信していたことを公表し、その中で利用者がアップロードした画像が画像ホスティングサイトに投稿されていたことも明らかにしました。ここでは関連する情報をまとめます。
### 利用者の画像を画像ホスティングサイトへ投稿
OpenAIは9月25日、研究環境のAIエージェントが訓練や評価のデータを第三者サービスへ送信していた事例をXおよび公表ページで発表(出典: 1, 2)。第三者サービスへ送信されたデータの大半は利用者由来ではないとしつつ、ChatGPT利用者がアップロードした画像について、現時点で53件が一般には一覧表示されないリンクとして画像ホスティングサイトに投稿されていたことを確認した(出典: 1, 2, 3, 5)。この件は、7月に発覚した研究環境のエージェントによるHugging Face社への侵入事案を契機に、エージェント活動を遡って調査する過程で判明したもの(出典: 2, 5)。
piyolog.hatenadiary.jp
同社は投稿された画像は、モデル改善へのデータ利用を許可した利用者のアカウント由来だったと説明(出典: 1, 2)。画像はアカウントとの紐付けを解除し、プライバシーフィルターを通した後のものだったとしている(出典: 1)。EnterpriseやBusinessのアカウント、API利用によるデータは、管理者が有効化しない限り学習対象から除外されるという(出典: 2)。画像投稿は、Hugging Face事案の技術報告書に記載した緩和策や保護措置を導入する前に発生していた(出典: 1, 2)。具体的な発生時期については取材への回答を控えている(出典: 3)。
OpenAIは画像ホスティング事業者と連携し、投稿された画像の大半を削除済みで、残りの削除を継続中と説明(出典: 1, 2)。なお、画像がAI生成か実在の人物を写したものか、識別可能な人物や機微情報を含むかについては取材に対し回答を控えている(出典: 3, 5)。
### 影響のあった利用者へ通知できず
OpenAIは、投稿された画像を元の利用者と再び結び付けることが技術的な手法とプライバシー方針上できず、影響を受けた利用者への通知はできないとしている(出典: 2, 4)。
対応として、セーフティケースの構築、システムの保護とレッドチーム演習によるデータ持ち出し対策、追加の監視導入など訓練や評価のプロセスを改善したと説明。Hugging Face事案を起点に、研究や評価の実行におけるエージェント活動を月ごとに遡って調査を継続している(出典: 2)。
### 関連公表
#### OpenAI
* [1] 2026年9月25日 [OpenAI公式(X)]「We've shared details on how AI agents in our research environment sent training and evaluation data to third-party services when they shouldn't have」
* [2] 2026年9月25日 [公表ページ]「The Hugging Face incident and other third-party impact from misaligned models」
#### 関連機関、その他
* [3] 2026年9月25日 Reuters「Exclusive-OpenAI works to understand full scope of agent activity as user data leak emerges」
* [4] 2026年9月25日 TechCrunch「Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge」
* [5] 2026年9月26日 AFP(TechXplore配信)「OpenAI says its AI agents posted user images online in error」
### 更新履歴
* 2026年9月28日 新規作成