サイバーエージェントが国内最大級の日本語LLMを公開したことの詳細

今回はサイバーエージェントが国内最大級の日本語LLMを公開したことの詳細記事になります。

サイバーエージェントが国内最大級の日本語LLMを公開

【必読】

サイバーエージェントが国内最大級の日本語LLMを公開⚡️

✅要点
･日本語版Wikipediaとコモンクロールを学習
･要するに日本語データのみを学習したLLMだと国内最大級
･商用利用可能

国内のAI開発めちゃ加速しますね

他のモデルとの比較
国産LLMのの何が凄いのか

をスレッドで解説👀👇 pic.twitter.com/ziLKX4UOWu

— 木内翔大｜AI時代に乗り遅れない為の必見情報を毎日配信📣 (@shota7180) May 17, 2023

1. そもそもLLMとは

大量のテキストデータを使ってトレーニングされた自然言語処理のモデル

大量のデータを学習することで、そこから情報を抽出したり、文章を要約したり、新たにテキストを作れようになったモデルと理解しておきましょう

— 木内翔大｜AI時代に乗り遅れない為の必見情報を毎日配信📣 (@shota7180) May 17, 2023

2.性能比較

すでに自社内では130億パラメータまで開発完了で、
今回は、約半分の68億パラメータまでを公開

GPT-2：15億パラメータ
GPT-3：1750億パラメータ
GPT-3.5：3500億(非公開)
GPT-4：100兆(非公開)

単純にパラメータから考えると、GPT-2とGPT-3の間くらいの性能かなと思えます

— 木内翔大｜AI時代に乗り遅れない為の必見情報を毎日配信📣 (@shota7180) May 17, 2023

3.国産LLMのの何が凄いのか

✅日本語のデータに特化し、サーバーも国内にある
→海外にサーバーがあると導入できない会社もLLMを利用できるように(意外と、日系大手は海外のサーバーサービスを利用できないケースも多々)

→学習データを絞っているので、資金が少ない組織でもカスタマイズ出来る

— 木内翔大｜AI時代に乗り遅れない為の必見情報を毎日配信📣 (@shota7180) May 17, 2023

このニュースを発端に、国内のAI開発、AI活用がさらに促進されるといいすね！

今週中とかには面白い事例が出てくるんじゃないかな〜と思います

引き続き注目すね！

— 木内翔大｜AI時代に乗り遅れない為の必見情報を毎日配信📣 (@shota7180) May 17, 2023

>> ChatGPT（チャットGPT）の便利な使い方まとめ

>> ChatGPT（チャットGPT）に作ってもらえるゲームやモデルのまとめ

サイバーエージェントが国内最大級の日本語LLMを公開したことの反応

パラメータがWikipedia… https://t.co/gVG220kdy4

— masato.【Lv.23.1】(ENTP) (@management_mst) May 17, 2023

PR

ChatGPT 120%活用術 [ ChatGPTビジネス研究会 ] 価格：1,390円（税込、送料無料) (2023/5/23時点) 楽天で購入

この記事を書いた人（著者情報）

片山

カタチップ編集長。昭和生まれの30代でWeb業界歴は10年以上。現在はカタチップを運用しつつ事業会社でWEBメディアサイトのWebディレクター兼マークアップエンジニアを担当。最近はSNSの運用にも業務範囲を拡大中です。