Parameterによると、悪意のある共有リンクでChatGPTの非公開の会話を読める欠陥をOpenAIが修正

AIによる侵入テストの製品を手がけるParameterは10月28日の記事で、ChatGPTの公開の共有リンクを開いた人のログイン中のセッションで攻撃者のコードを動かせる欠陥を見つけたと報告した。その人が攻撃者に共有していない非公開の会話の内容を取得し、外部のサーバーへ送れることも確かめた。報告によると、OpenAIは10月26日に修正した。
想定される攻撃では、悪意のある会話を作ってChatGPTの通常の共有機能で公開し、そのリンクを相手に送る。受け取った人がアプリを入れたり、コードを貼り付けたりする必要はなかった。最も安定して再現できた形では、リンクを開いてプレビューのボタンを1回押すとコードが動いた。その後に試した形ではプレビューが自動で開き、リンクを開くだけで動いた。
攻撃の手順では、まずグラフの表示とHTMLのプレビューという2つの機能を使う。プレビューのコードは別のアドレスの制限された枠で動き、ChatGPTの画面を直接読むことはできない。一方、グラフの表示で本体の画面に読み込まれる数学のライブラリが、送り主を確かめずにプレビューからの設定を変える指示を受け付けていた。
Parameterが別々のアカウントで試すと、コードは最近の会話の一覧を取り出し、攻撃用のリンクと関係のない会話の内容を取得できた。検証で外部へ送ったデータは意図してごく一部に限ったが、欠陥の影響はその範囲に限らなかった。同社は、実質的にアカウントの本人としてあらゆる操作ができる状態だったと説明する。
報告に載る経緯では、Parameterは10月18日にOpenAIのバグ報奨金制度へ届け出た。OpenAIは10月21日に問題を再現し、重大度の区分を当初のP2からP1に引き上げた。翌22日にはウェブの画面の2つの版のうち一方を修正したと伝え、10月26日に両方で報告にあった指示を受け付けないことを確かめて解決とした。報奨金は計5,000ドルだった。
報告には、実際に悪用された例の有無や、利用者が取るべき対応についての記載はない。
【関連サイト】Parameter「Do the Math: How We Took Over ChatGPT Accounts」









