ブラックボックスの英知(LLM) - genai @ ウィキ

日々皆さんが質問しているChatGPTなどの先には人間の知恵の結晶としてLLMというものがあります。
これの構成要因、仕組み、全貌はOpenAIのエンジニアでもわかっていないそうです。
インターネット上の膨大なデータを見て自分で学習する。自分で整理して理解する。というようなヒントのような指示を与え、インターネットに接続したところ、自律的に学習し今のバージョンとなりました。

学習データを効率よく体系化したり、意味などの重みをつける作業は人間の脳で行われているので、これを模してAI（LLM）も情報の意味をつなげ、何でも知っている存在になりました。

全てのデータの格納、重みづけの優先順位を最初に決めたわけではなく、AIが自分で触れたデータから判断しつながり（点と点の）や重みを持ったパラメータとして格納しています。
その結果、量の問題であまりに多くのデータを自己学習したAI（LLM）は人間による解析の時間を待たずにブラックボックスのままで、人類はこの英知を知らぬまま使い倒しているのです。

とはいえ成熟した大人はこれまでの教育の関連から、AIに対しての問いに大人のバイアスがかかった状態で質問します。バイアスは時に常識ともいわれ、なくてはならないものですが、AIがブラックボックスである以上は、時に常識にとらわれない問いかけの方が、正しい答えを導き出すことがあります。

1つの例をお示し致します。
歴史ゲームの世界では、騎馬は歩兵に弱く、歩兵は弓兵に弱く、弓兵は騎馬に弱いというようなじゃんけんの要素でキャラクターが存在します。
一方で大河ドラマやキングダムといったアニメでは歩兵部隊は騎馬隊にいつもやられているように見えます。
どっちが正しいのか？と聞かれたとき、私は常識というバイアスから騎馬隊の方が歩兵隊より強いと断言しましたが、子供はChatGPTに歩兵と騎馬隊の戦いの戦場風景を自由にシミュレートさせて、兵数や条件なども含めてかなり細かく分析させていました。
見てみると、装備の質（重騎兵とか重歩兵とかまで定義していた）や数の条件によっていろいろな結果になっていました。

つまるところ、私ごときのあやふやな知識で断じている結論などより、子供が頼っているChatGPTの方がはるかに適切でバランスの取れた回答と、そこに至る過程も論理的に示しているのです。

人間の親が子供に教えられることは、もはや愛情とその国での倫理観のみではないかと極論が頭をよぎりました。騎馬隊vs歩兵隊　この問いに関しては、言うまでもなく子供の方が適切なプロンプトを作成しており、プロンプトエンジニアの素養がバイアスのない柔軟な頭にあるのではないかという気づきを得ました。