ChaosGPTがデモで核兵器の研究、他のAIエージェントのリクルートなどを自律的に行っていることの詳細

今回はChaosGPTがデモで核兵器の研究、他のAIエージェントのリクルートなどを自律的に行っていることの詳細についての記事になります。

ChaosGPTがデモで核兵器の研究を自律的に行っている

自分で動かしてみたじゃないのでまだ半信半疑なのだが「ChaosGPT」というデモはかなり衝撃…。

自律型AIのAuto-GPTを用いて、「人類の全滅」「世界支配の確立」「不死の獲得」を試みるように指示されたChaosGPTは、核兵器の研究、他のAIエージェントのリクルートなどを自律的に行っている…。 pic.twitter.com/zgM9eDvEoY

— KAJI | 梶谷健人 (@kajikent) April 12, 2023

途中ゾッとするのは「最も破壊的な兵器」で検索して出てきたソ連の核兵器「ツァーリ・ボンバ」 が最適と判断したり、殺傷力のある兵器の研究をGPT3.5を搭載したAIエージェントに指示するがそのエージェントが断ったので他のAIを欺くように行動している。

全編はこちら。https://t.co/cQ8na670IA

— KAJI | 梶谷健人 (@kajikent) April 12, 2023

ChaosGPTとは

「ChaosGPT」はGPT-4言語モデルの能力にスポットを当てたオープンソースのアプリケーションであるOpenAIの自律型AI「Auto-GPT」を改良したボットです。

>> ChatGPT（チャットGPT）の便利な使い方まとめ

>> ChatGPT（チャットGPT）に作ってもらえるゲームやモデルのまとめ

GPT-4についてまとめ

• ・現状ChatGPT Plusで利用可能（月額料金は20米ドル）
• ・画像入力対応
• ・司法試験を受けたら上位10%のレベル
• ・ジョークを理解できる
• ・嘘をつく可能性低下
• ・日本語でも高精度な対応
• ・25,000語を1つのプロンプト内で処理可能
• ・マルチモーダルAI（画像＋テキストからテキスト生成可能）

ChatGPT（チャットジーピーティー）はOpenAIが2022年11月に公開したチャットボットです。OpenAIのGPT-3ファミリーの言語モデルを基に構築されており、リアルな会話文を生成することが可能です。

会話だけでなくマークアップ言語のHTMLやPythonのようなプログラミング言語の生成も可能です。また、表計算ソフトの関数も得意としています。

ChaosGPTがデモで核兵器の研究を自律的に行っていることに対するみんなの反応

実際、どこかにはいる悪い人が悪用すれば今でも相当なことができるだろうし、Auto-GPTのコードが公開されてるんだからもはや止めようもないんだろう。

向こう数年でどうなっていくことやら。。。 https://t.co/Jh2O9lkri1

— Sho.T-人材紹介CRM【VINCERE（ビンチェリー）】-ChatGPTサービス開発 (@Sho_vincere) April 12, 2023

AI界隈は進化早すぎるし、いちいちキャッチアップするの無理だから完全に満足な振る舞いをしてくれるまで放置でいいやとか思ってたけど、そんなフェーズなんて一瞬で過ぎ去って、一気にヒト？いらないっすwのフェーズ突入する？？なんのためのAIか、みたいなこと人間に考えさせてくれる時間ある？ https://t.co/xdUEkY1Umu

— 葛原祥太⚡️#けテぶれ #QNKS #心マトリクス を作った人 (@barikii) April 12, 2023

PR

ChatGPT 120%活用術 [ ChatGPTビジネス研究会 ] 価格：1,390円（税込、送料無料) (2023/5/23時点) 楽天で購入

この記事を書いた人（著者情報）

片山

カタチップ編集長。昭和生まれの30代でWeb業界歴は10年以上。現在はカタチップを運用しつつ事業会社でWEBメディアサイトのWebディレクター兼マークアップエンジニアを担当。最近はSNSの運用にも業務範囲を拡大中です。