【LLMの種類】
<OpenAI>
- GPT-1:2018年6月 パラメータ数: 117M(1億1700万)
- GPT-2:2019年2月 パラメータ数: 1.5B(15億)
- GPT-3:2020年6月 パラメータ数: 175B(1750億)
- GPT-3.5:2022年3月 パラメータ数: 355B(3550億)(推測。GPT-3とGPT-4の間の性能差を考慮)
- GPT-4:2023年3月 パラメータ数: 非公開(ただし、300B~1T(3000億~1兆)の間と推測される)
- GPT-4 Turbo:2023年11月 パラメータ数: 非公開(GPT-4と同等、または若干少ない可能性。推論速度に特化)
- GPT-4o:2024年予定(具体的な月は未発表)パラメータ数: 非公開(500B以上と推測、高性能な推論能力が強調)
- o1-preview:2024年(具体的な月は未発表)パラメータ数: 非公開(論理的思考や数学分野に特化しており、約1T(1兆)に達する可能性)
<Google>
- BERT (Bidirectional Encoder Representations from Transformers):2018年10月リリース。自然言語処理の多くのタスクで高い性能を発揮しました。
- T5 (Text-to-Text Transfer Transformer):2019年10月リリース。テキスト生成や翻訳など多くのタスクに対応するために設計されたモデルです。
- PaLM (Pathways Language Model):2022年4月リリース。より大規模なデータセットでトレーニングされ、自然言語処理の性能を向上させました。
- PaLM 2:2023年5月リリース。Bardなどのサービスに統合され、前バージョンよりも効率的で生成AIの機能を強化しています。
- Gemini 1.0:2023年12月リリース。マルチモーダルなAIとしてテキスト、画像、音声を理解する能力を持ちます。
- Gemini 1.5:2024年2月リリース。Gemini 1.0の性能をさらに向上させたモデルで、長いコンテキストウィンドウを持ち、さまざまな入力に対応しています。
- Gemini 1.5 Pro:2024年5月リリース。Gemini 1.5のプロフェッショナル版で、さらに高い性能を持ち、特にマルチモーダルなタスクにおいて優れた能力を発揮します。
- Gemini 1.5 Pro Experimental
- Gemini Experimental 1114:2024年11月14日リリース
- Gemini Experimental 1121:2024年11月21日リリース
- Gemma:2024年2月リリース。オープンな大規模言語モデルで、90億パラメータと270億パラメータの2種類が提供されています。
- Gemma 2(2B/9B/27B)
<claude>
- Claude 1 - 2023年3月 非公開
- Claude 2 - 2023年7月 非公開(約86Bと推定)
- Claude 2.1 - 2023年11月 非公開
- Claude 3 Opus 2024年3月 非公開(約200Bと推定)
- Claude 3 Sonnet 2024年3月 非公開
- Claude 3 Haiku 2024年3月 非公開
- Claude 3 Sonnet 2024年6月 非公開
- Claude 3 Haiku 2024年10月 非公開
<Meta>
- LLaMA 1:2023年2月 70億、130億、300億、650億
- LLaMA 2:2023年7月 70億、130億、700億
- LLaMA 3:2024年4月 80億、700億
- LLaMA 3.1:2024年7月 80億、700億、4,050億
- LLaMA 3.2:2024年9月 10億、30億、110億、900億