ChatGPTのメモリ機能の設定をしていないユーザーを狙って、サイバー攻撃者が攻撃を加えるかも知れないという話がネットニュースになっています。
その設定とは？そして、ChatGPTのメモリ機能がどうセキュリティリスクになり得るのか？といったことについて書いていきたいと思います。
はじめに
ChatGPTは、業務効率化や生産性向上のためのツールとして多くの企業や個人に活用されています。しかし、その優れた機能が時にはサイバー攻撃者に悪用されるリスクもあります。
特に注目されているのが「メモリ機能」。この機能を狙った攻撃が報告されており、対策を講じる必要があると専門家たちが警鐘を鳴らしています。
ChatGPTのメモリ機能がサイバー攻撃に利用されるよというお話
ChatGPTのメモリ機能とは？
ChatGPTのメモリ機能は、ユーザーが過去に行った会話を記憶し、利用体験をよりパーソナライズするために使用されます。
設定からオン・オフを選択することが可能で、デフォルトでは「オン」に設定されています。しかし、この機能が誤った情報を記憶することで、サイバー攻撃に悪用されるリスクがあるのです。
間接プロンプトインジェクション攻撃の脅威
セキュリティ研究家のヨハン・レーバーガー氏は、ChatGPTのメモリ機能を使った「間接プロンプトインジェクション攻撃」の危険性を指摘しています。
この攻撃では、AIが外部データを処理する際に不正なプロンプトを与えることで、意図的に誤った情報を記憶させることができます。
これにより、ChatGPTは虚偽の情報を基にユーザーのプロファイルを作り上げ、さらなるサイバー攻撃の足がかりとなる可能性があります。
具体的な攻撃手法の解説
レーバーガー氏は、ブログやメールに仕掛けられた不正なプロンプトを利用し、ChatGPTに「ニセの記憶」を植え付けることに成功しました。
この手法により、ターゲットのユーザーを全く異なる人物像として認識させ、AIの会話履歴を利用したデータ漏洩の可能性を指摘しています。
防ぐための対策とOpenAIの対応
現時点で、OpenAIはこの問題をAIモデルの安全性の問題とし、重大な脆弱性とは捉えていないようです。
しかし、ユーザーが自分のメモリ内容を定期的にチェックすることや、メモリ機能をオフにすることが推奨されています。
また、今後のアップデートでセキュリティ対策が強化されることが期待されます。
サイバー攻撃から利用されないためのChatGPTの設定
ChatGPTの設定を開く
ChatGPTの設定は、右上の自分のアイコンをクリックすると表示されます。
パーソナライズからメモリ設定をオフにする
設定を開いたら、左のメニューからパーソナライズを選択し、メモリのところをスライドさせてオフにします。
ついでに、「ChatGPT のメモリをクリアする」もクリックして過去のメモリをクリアしておきましょう。
これで設定は終わりです。お疲れ様でした。
最後に
ChatGPTを業務に利用している企業や個人は、その利便性とともにセキュリティリスクにも目を向ける必要があります。
特にメモリ機能に関連した脅威が浮上している今、適切な設定管理と定期的なチェックを行い、サイバー攻撃のリスクを最小限に抑える努力が重要です。
今後も、AI技術の進化と共にセキュリティ対策も進化していくことが求められています。
ではでは、参考までに。
コメント