aiのべりすとWIKIよりまとめ抜粋
https://wikiwiki.jp/ainove_wiki/AI%E3%81%AE%E3%81%B9%E3%82%8A%E3%81%99%E3%81%A8%E3%81%AE%E6%AD%A9%E3%81%BF
https://wikiwiki.jp/ainove_wiki/AI%E3%81%AE%E3%81%B9%E3%82%8A%E3%81%99%E3%81%A8%E3%81%AE%E6%AD%A9%E3%81%BF
aiのべりすとについても知っておくと、のちのち楽かも。1社がここまで独自でaiを1年かけてチューニングしつづけてるんだなぁ。
- とりん様はお絵かきai
- 「aiのべりすと」は小説ai
- やみおとめは小説ai
- ノイマンは英語小説ai
他にもいろいろ海外系のやつもあるらしいが調べ中
2021/07/09 AIのべりすと開設。
2021/10/19 AIモデル「とりんさま6.8B」のベータ版ロールアウト。
約500GBのコーパス(重複あり)で事前訓練+更に1.5GBでファインチューン
2021/11/13 サーバー台数が最大240台まで増加。
2021/11/23 AIモデル「とりんさま6.8B beta V2」がプレミアム会員向けに追加。
約525GBのコーパス(重複あり)で事前訓練+約2GBでファインチューンしたバージョン。
2022/02/03 AIモデル「ノイマン20B」のロールアウト。英語版の200億パラメータモデル。プラチナ会員で利用可能。
2022/02/06 AIモデル「とりんさま7.3B V3」がプラチナ会員向けに追加。
約1TBの最新コーパスで事前訓練+100GB以上のチューニングを行った日本語版73億パラメータモデル。
2022/03/14 AIモデル「とりんさま7.3B V4」がプラチナ会員向けに追加。2022年2月までの最新コーパスを用いて学習を行ったモデル。
2022/04/21 AIモデル「とりんさま7.3B V5」がプラチナ会員向けに追加。新たにモデルブランチングという技術を導入している。
2022/06/04 AIモデル「やみおとめ20B beta」がプラチナ会員向けに追加。1.2TBの日本語コーパスによる200億パラメータモデル。現在学習度60%程度のベータ版。
2022/08/09 AIモデル「やみおとめ20B beta V2」が「やみおとめ20B V3」(正式版)になる。約2000億トークン(約1TB相当)、小説コーパスを約1.6エポック分読み込み、サンプリングにおいても文章力向上チューン。