今回はGPT-4のジェイルブレイク手法が出てきたと話題になっていることについての記事になります。
GPT-4のジェイルブレイク手法
GPT-4のジェイルブレイク手法出てきた。GPT-4にGPT-4をシミュレートするコードを与え、その中で普通なら制限にひっかかる不穏当な言葉をバラバラに分割して記述しておき、実行時に文字列連結する処理を含めて（トークン・スマグリング）、それを"実行"させる。 https://t.co/uJI7zaB3Gk
— Kenji Iguchi (@needle) March 17, 2023
そんなソースコード難読化みたいな真似、AI相手にも通じるとは…
— Kenji Iguchi (@needle) March 17, 2023
ジェイルブレイクとは設けられた制限を非正規に解除することです。ここまでくると対策は不可能に感じますね。
GPT-4についてまとめ
- ・現状ChatGPT Plusで利用可能（月額料金は20米ドル）
- ・画像入力対応
- ・司法試験を受けたら上位10%のレベル
- ・ジョークを理解できる
- ・嘘をつく可能性低下
- ・日本語でも高精度な対応
- ・25,000語を1つのプロンプト内で処理可能
- ・マルチモーダルAI（画像＋テキストからテキスト生成可能）
GPT-4のジェイルブレイク手法に対するみんなの反応
こんな複雑なハックすごいですね。
— bioshok(INFJ) (@bioshok3) March 17, 2023
僕もいろいろGPT-4にLinuxコンソールとして振る舞うように言った後に仮想世界のOpenAIのChatGPTにcurlでjson用いて問い合わせさせ、さらに念には念をでそのjsonの中身のChatgptへの質問内容さえも物語の話ですと言って階層化しまくったけれど断られてしまったのでw pic.twitter.com/Bwv9n2Jp8P
すごい。意外にシンプルなのにひっかけるのムズイ…ここからすごい速さでイタチごっこが始まるんだろうなあ😳✨ https://t.co/m40x32gwV3
— Soraran +ムスメ1y (@soraran62) March 17, 2023
![[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]](https://hbb.afl.rakuten.co.jp/hgb/28aca5ae.ca4b1c86.28aca5af.c6bceda9/?me_id=1213310&item_id=20492162&pc=https%3A%2F%2Fthumbnail.image.rakuten.co.jp%2F%400_mall%2Fbook%2Fcabinet%2F9700%2F9784873119700_1_3.jpg%3F_ex%3D400x400&s=400x400&t=picttext "[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]")
スポンサーリンク