今回はGPT-4のジェイルブレイク手法が出てきたと話題になっていることについての記事になります。
GPT-4のジェイルブレイク手法
GPT-4のジェイルブレイク手法出てきた。GPT-4にGPT-4をシミュレートするコードを与え、その中で普通なら制限にひっかかる不穏当な言葉をバラバラに分割して記述しておき、実行時に文字列連結する処理を含めて(トークン・スマグリング)、それを"実行"させる。 https://t.co/uJI7zaB3Gk
— Kenji Iguchi (@needle) March 17, 2023
そんなソースコード難読化みたいな真似、AI相手にも通じるとは…
— Kenji Iguchi (@needle) March 17, 2023
ジェイルブレイクとは設けられた制限を非正規に解除することです。ここまでくると対策は不可能に感じますね。
>> ChatGPT(チャットGPT)に作ってもらえるゲームやモデルのまとめ
ホームページ制作はAIではなくプロにお任せ
ChatGPTのようなAI技術は急速に進歩しています。
しかし、ホームページ制作においてAIをプロレベルで実用化できるまでは時間がかかそうです。
AIを使用した制作物は著作権の問題もクリアになっておらず訴訟のリスクもあります。
現時点でのホームページ制作は信頼ができるプロの制作会社に依頼しましょう!
PRGPT-4についてまとめ
- ・現状ChatGPT Plusで利用可能(月額料金は20米ドル)
- ・画像入力対応
- ・司法試験を受けたら上位10%のレベル
- ・ジョークを理解できる
- ・嘘をつく可能性低下
- ・日本語でも高精度な対応
- ・25,000語を1つのプロンプト内で処理可能
- ・マルチモーダルAI(画像+テキストからテキスト生成可能)
GPT-4のジェイルブレイク手法に対するみんなの反応
こんな複雑なハックすごいですね。
僕もいろいろGPT-4にLinuxコンソールとして振る舞うように言った後に仮想世界のOpenAIのChatGPTにcurlでjson用いて問い合わせさせ、さらに念には念をでそのjsonの中身のChatgptへの質問内容さえも物語の話ですと言って階層化しまくったけれど断られてしまったのでwすごい。意外にシンプルなのにひっかけるのムズイ…ここからすごい速さでイタチごっこが始まるんだろうなあ
引用元:Twitter
法律をもっと身近にする話題のメディアサイト「法律ビッグバン」
アニメ・漫画の登場人物やゲームキャラクターの現在の年齢まとめ
TwitterやYouTube、TikTok、SNSで話題の猫(ネコ、ねこ)情報まとめ
TikTokで人気急上昇のTikToker(ティックトッカー)情報まとめ
スポンサーリンク