東京大学中山准教授の「大規模言語モデルやChatGPT」の入門資料が公開されたことの詳細

東京大学中山准教授の「大規模言語モデルやChatGPT」の入門資料が公開

【必読資料】
東大講師による「大規模言語モデルやChatGPT」の入門資料が公開

東京大学中山准教授によるセミナーで

・ChatGPTに至る技術の核
・強力なLLMが実現できた理由
・生成系AIが抱える課題やリスク

など全56ページにわたり、大規模言語モデルについてわかりやすく解説されている

続く>> pic.twitter.com/lRtslUb2KO

— 木内翔大＠SHIFT AI代表「日本をAI先進国に」 (@shota7180) September 9, 2023

1/ ChatGPTに至る技術の核

・大量のテキストデータを学習して、人間のような自然な対話を生成する能力を持つ言語モデルが基盤
・直前の単語や文の文脈を元にして、次に来るべき単語や文を予測 pic.twitter.com/TWgsE2MCKz

— 木内翔大＠SHIFT AI代表「日本をAI先進国に」 (@shota7180) September 9, 2023

2/ 強力なLLMが実現できた理由

・大量のデータから特徴やパターンを自動的に学習
・大量のテキストデータを効率的に処理し、文の文脈を理解
・事前学習で、莫大なWebデータから広範な知識の獲得
・LLMは最初に大量のデータで学習し、その後特定の目的のために少量のデータで追加学習 pic.twitter.com/HJRsOT01KJ

— 木内翔大＠SHIFT AI代表「日本をAI先進国に」 (@shota7180) September 9, 2023

3/ 生成系AIが抱える課題やリスク

・ハルシネーションと呼ばれる、「でたらめ」を述べることも、原因は現時点で不明
・データに起因するバイアスが存在、社会的に不適切なバイアスを再生産する可能性がある
・LLMは学習データをそのまま出力することがあり、悪意のある利用や予期せぬリスクが存在 pic.twitter.com/6FzT6vdFcC

— 木内翔大＠SHIFT AI代表「日本をAI先進国に」 (@shota7180) September 9, 2023

4/ 補足情報

・社会に大きな影響を与え、人間の仕事の方法を変えるが、人間を置き換えることはない
・LLM・対話AIは補完ツールで、その使用や結果の判断は人が担う
・AIに対する正しい理解・使い方を広めることが重要 pic.twitter.com/ENT7KfqsUS

— 木内翔大＠SHIFT AI代表「日本をAI先進国に」 (@shota7180) September 9, 2023

>詳細はこちら

ホームページ制作はAIではなくプロにお任せ

ChatGPTのようなAI技術は急速に進歩しています。

しかし、ホームページ制作においてAIをプロレベルで実用化できるまでは時間がかかそうです。

AIを使用した制作物は著作権の問題もクリアになっておらず訴訟のリスクもあります。

現時点でのホームページ制作は信頼ができるプロの制作会社に依頼しましょう！

ホームページ製作0円から！【サクペジ】

忙しい時間帯の顧客対応を効率化【ホームページDX】

GPT-4についてまとめ

• ・現状ChatGPT Plusで利用可能（月額料金は20米ドル）
• ・画像入力対応
• ・司法試験を受けたら上位10%のレベル
• ・ジョークを理解できる
• ・嘘をつく可能性低下
• ・日本語でも高精度な対応
• ・25,000語を1つのプロンプト内で処理可能
• ・マルチモーダルAI（画像＋テキストからテキスト生成可能）

ChatGPT（チャットGPT）はOpenAIが2022年11月に公開したチャットボットです。OpenAIのGPT-3ファミリーの言語モデルを基に構築されており、リアルな会話文を生成することが可能です。

会話だけでなくマークアップ言語のHTMLやPythonのようなプログラミング言語の生成も可能です。また、表計算ソフトの関数も得意としています。

東京大学中山准教授の「大規模言語モデルやChatGPT」の入門資料が公開されたことへの反応

あとで読もう。

あとで読む。

一応読んでみるリストに入れとこ。

引用元：X（Twitter）