LLM関連、RAGなど - ちょこっとメモ＠Wiki

大規模原語モデル

• 大規模言語モデルの基礎　https://qiita.com/iitachi_tdse/items/e92729a49039ac87200d
• 大規模言語モデルの開発　https://speakerdeck.com/chokkan/jsai2024-tutorial-llm?slide=66
• ChatGPTなどの大規模言語モデルはどんな理論で成立したのか？重要論文24個まとめ　https://gigazine.net/news/20230604-large-language-model-paper/
• GPTとは何か Transformerの視覚化 | Chapter 5, Deep Learning https://youtu.be/KlZ-QmPteqM?si=ut9A53le2rzK2X9Q
• GPTとは何か Transformerの視覚化 | Chapter 5, Deep Learning　https://www.youtube.com/watch?v=KlZ-QmPteqM
• 大規模言語モデル(NTT) https://speakerdeck.com/kyoun/llm-introduction-ses2023

音声や音響に関したLLM

• 【Qwen-Audio】音声だけで状況認識や多言語翻訳ができるアリババ産LLMを使ってみた　https://weel.co.jp/media/qwen-audio

ReAct

• LLMの回答精度を高める、ReActの論文を読んでみた　https://qiita.com/kzkymn/items/de4e3a17db6e5363705d

RAG

• ベクトル検索とはなにか？RAGの精度向上になぜ必須か？　https://digital-transformation-blog.com/about-vector-search/
• 容量削減　https://zenn.dev/knowledgesense/articles/346183afdf750e
• AzureでRAGをガンガン試行錯誤してみて得たナレッジを紹介します！　https://speakerdeck.com/jnymyk/azure-rag-knowledge-share

その他

• LLMを活用した大規模商品カテゴリ分類への取り組み | メルカリエンジニアリング https://engineering.mercari.com/blog/entry/20240411-large-scale-item-categoraization-using-llm/
• 【ollama / Phi-3】ニュースで話題のLLMをローカルPC上で動かしてみる　

https://zenn.dev/tanny/articles/705682d88e254e

• Is ChatGPT A Good Keyphrase Generator? A Preliminary Study　

https://arxiv.org/abs/2303.13001