fmn137.wiki
LM Studio
最終更新：
kemonowikii
-
view
概要
LM Studio（エルエム・スタジオ）**
とは、PC上で大規模言語モデル（LLM）をダウンロード・実行・管理できるデスクトップ向けAIソフトウェアである。
Llama、Qwen、Mistral、DeepSeek、Gemma、gpt-ossなど、さまざまなオープンウェイトモデルをローカルPC上で利用できる。
Windows、macOS、Linuxに対応しており、モデルを一度ダウンロードすれば、インターネットへ接続しなくてもローカル環境だけで文章生成やチャットを行うことができる。
LM Studioは単なるAIチャットソフトではなく、Hugging Faceからのモデル検索・ダウンロード、モデル管理、GPUオフロード、コンテキスト長設定、ローカルAPIサーバー、RAGによる文書参照などの機能を備えている。
また、OpenAI互換APIをローカル環境に構築できるため、外部アプリケーションや自作ソフトウェアからLM Studioで動作しているLLMへ接続することも可能である。
目次
LM Studioとは
LM Studioは、ローカルPCでLLMを比較的簡単に動作させるためのソフトウェアである。
通常、ローカルLLMを利用するには、モデルファイル、推論エンジン、GPU設定、コマンドライン操作などについて一定の知識が必要になる。
LM Studioでは、それらの作業の多くをGUIから操作できるようになっている。
基本的には、
モデルを検索
↓
モデルをダウンロード
↓
RAM・VRAMへロード
↓
チャット
↓
必要に応じてAPIとして利用
↓
モデルをダウンロード
↓
RAM・VRAMへロード
↓
チャット
↓
必要に応じてAPIとして利用
という流れで使用する。
対応OS
LM StudioはWindows、macOS、Linuxに対応している。
Windows
Windowsではx64およびARM64系システムに対応する。
x64版ではAVX2命令セットに対応したCPUが必要となる。
公式では最低限の目安として16GB以上のRAMと、4GB以上の専用VRAMを持つGPUを推奨している。
ただし、大規模なAIモデルを高速に動かす場合は、より多くのRAMとVRAMが必要になる。
macOS
macOSではApple Silicon搭載Macに対応している。
M1、M2、M3、M4系列などが対象となり、Intel Macは現在サポートされていない。
macOS 14以降が必要で、公式では16GB以上のメモリを推奨している。
Apple Siliconでは通常のllama.cppだけでなく、Appleの機械学習フレームワークを利用したMLX形式のモデルも利用できる。
Linux
Linuxではx64およびARM64に対応する。
公式版はAppImage形式で配布されている。
ローカルLLM
ローカルLLMとは、ChatGPTやGeminiのようにクラウド上のサーバーでAIを実行するのではなく、利用者自身のPCやサーバーでAIモデルを動作させる方式である。
LM Studioではモデルの重みをPCへ保存し、CPU、RAM、GPU、VRAMなどを使用して推論を行う。
モデルファイルをあらかじめダウンロードしておけば、LM Studio自体は完全オフライン環境でも動作させることができる。
そのため、
クラウドAI
↓
外部サーバーで推論
↓
外部サーバーで推論
に対して、
LM Studio
↓
自分のPCで推論
↓
自分のPCで推論
という違いがある。
対応AIモデル
LM Studioでは多数のLLMを利用できる。
代表的なモデル系列として以下が存在する。
Llama
Qwen
Mistral
Gemma
DeepSeek
Phi
gpt-oss
Qwen
Mistral
Gemma
DeepSeek
Phi
gpt-oss
モデルはLM Studio内部からHugging Faceを検索してダウンロードできる。
また、外部から取得した対応モデルをLM Studioへインポートすることも可能である。
GGUF
GGUFとは、llama.cppを中心として利用されているローカルLLM向けモデル形式である。
LM StudioではWindows、macOS、Linux上でllama.cppランタイムを利用してGGUFモデルを実行できる。
GGUFモデルでは量子化されたモデルが多数公開されている。
代表的な表記として、
Q2
Q3
Q4
Q5
Q6
Q8
Q3
Q4
Q5
Q6
Q8
などが存在する。
一般的に数字が大きくなるほど元モデルに近い精度を保ちやすくなる一方、モデルファイル容量や必要メモリも増える。
LM Studio公式では、PC性能に余裕がある場合は4bit以上の量子化モデルを選ぶことを推奨している。
量子化
量子化（Quantization）**
とは、AIモデルのパラメータをより少ないビット数で表現し、モデル容量と必要メモリを削減する技術である。
例えば同じモデルでも、
Q4_K_M
Q5_K_M
Q6_K
Q8_0
Q5_K_M
Q6_K
Q8_0
など複数の量子化版が公開される場合がある。
低い量子化では必要VRAMやRAMを減らせる一方で、モデルの品質が低下する可能性がある。
そのためローカルLLMでは、
モデル性能
↓↑
必要VRAM
↓↑
推論速度
↓↑
必要VRAM
↓↑
推論速度
のバランスを考えて量子化方式を選択する必要がある。
GPU
LM StudioではGPUを利用してAIモデルの推論を高速化できる。
GPUへモデルの一部または全部をオフロードすることで、CPUのみの場合より高速な文章生成が可能になる。
LM StudioではGPUオフロード率を変更できる。
例えば、
GPUオフロード 0%
↓
CPU中心
↓
CPU中心
GPUオフロード 100%
↓
可能な限りGPUへ配置
↓
可能な限りGPUへ配置
という設定が可能である。
GPUに十分なVRAMがある場合、モデルを大部分またはすべてGPUへ載せることで高速化できる。
VRAM
ローカルLLMではGPU性能だけでなく、VRAM容量が非常に重要である。
ゲームではGPUの演算性能が重要になる場合が多いが、LLMではモデル本体やKVキャッシュなどをGPUメモリへ保持するため、VRAM容量が使用可能なモデルサイズに直接影響する。
例えば高性能GPUであってもVRAMが少ない場合、大規模モデルをGPUだけに載せることができない。
その場合はモデルの一部をRAMへ配置するCPU/GPU混合推論を行う。
RAM
モデルがVRAMへ完全に収まらない場合、PCのシステムRAMも使用される。
そのためLM Studioを本格的に利用する場合、ゲーミングPCでもRAM容量は重要になる。
16GBは公式推奨ラインではあるが、ローカルLLM用途では32GB以上が扱いやすい。
大型モデルをCPUとGPUへ分割して動作させる場合には64GB以上が有利になる。
コンテキスト長
コンテキスト長（Context Length）**
とは、LLMが一度に参照できる文章量を示す値である。
一般的にはトークン数で表現され、
4K
8K
16K
32K
64K
128K
8K
16K
32K
64K
128K
などが使用される。
コンテキスト長を増やすと長文、会話履歴、大規模な資料などを一度に扱えるようになる。
一方、コンテキスト長を大きく設定するとメモリ使用量も増加する。
LM Studioではモデルロード時にコンテキスト長を変更できる。
KVキャッシュ
LLMでは過去のトークン情報を保存するためにKVキャッシュが使用される。
コンテキスト長が長くなるほどKVキャッシュに必要なメモリも増加する。
そのため同じモデルでも、
8Kコンテキスト
より、
64Kコンテキスト
のほうが多くのVRAMやRAMを使用する場合がある。
LM Studioではモデルサイズだけでなく、コンテキスト長やFlash Attention、Vision機能などを考慮して必要メモリを推定する機能が搭載されている。
モデル容量とPC性能
ローカルLLMでは「何Bモデルか」がPC性能の目安としてよく利用される。
BはBillion、すなわち10億個程度のパラメータを意味する。
例えば、
3B
7B
8B
14B
24B
32B
70B
120B
7B
8B
14B
24B
32B
70B
120B
などが存在する。
ただし実際の必要メモリはパラメータ数だけでは決まらない。
量子化方式、モデル構造、コンテキスト長、KVキャッシュ、Vision対応、GPUオフロード率などによって必要メモリは変化する。
ゲーミングPCでの利用
LM StudioはAI専用ワークステーションでなくても利用できる。
高性能なゲーミングPCはGPU、VRAM、CPU、RAMを搭載しているため、ローカルLLM用途との相性が良い。
特にNVIDIA GeForce RTXシリーズを搭載したゲーミングPCは、ゲームだけでなくローカルAI実行環境として利用されることがある。
推奨ゲーミングPC
LM Studioそのものの公式推奨条件はWindowsでRAM 16GB以上、専用VRAM 4GB以上である。
しかしこれはLM Studioを動作させるための基準に近く、大型LLMを快適に使用する基準とは異なる。
ローカルLLM用途では次のように考えることができる。
入門クラス
CPU：近年のCore i5 / Ryzen 5以上
GPU：VRAM 8GB前後
RAM：16GB～32GB
SSD：1TB以上
GPU：VRAM 8GB前後
RAM：16GB～32GB
SSD：1TB以上
7B～8B程度の量子化モデルを中心に利用する構成。
軽量モデルであれば十分実用的に利用できる。
標準クラス
CPU：Core i7 / Ryzen 7クラス
GPU：VRAM 12GB～16GB
RAM：32GB～64GB
SSD：2TB以上
GPU：VRAM 12GB～16GB
RAM：32GB～64GB
SSD：2TB以上
8B～14B級モデルを快適に利用しやすい。
一部の20B～30B級モデルも、量子化やCPUオフロードを利用することで動作可能になる。
ゲームとAIを一台のPCで兼用したい場合にも扱いやすい構成である。
上位クラス
CPU：Core i7～Core i9 / Ryzen 7～Ryzen 9
GPU：VRAM 16GB～24GB以上
RAM：64GB以上
SSD：2TB～4TB以上
GPU：VRAM 16GB～24GB以上
RAM：64GB以上
SSD：2TB～4TB以上
14B～32B級モデルを中心に利用する場合に適する。
24GB級VRAMを搭載したGPUでは、量子化された大型モデルをGPUへより多く配置できる。
ハイエンドAI兼ゲーミングPC
CPU：Ryzen 9 / Core Ultra 9など
GPU：VRAM 24GB～32GB以上
RAM：64GB～128GB
SSD：4TB以上
GPU：VRAM 24GB～32GB以上
RAM：64GB～128GB
SSD：4TB以上
大型モデル、長いコンテキスト、Visionモデル、複数モデルの利用などを想定した構成。
70B級モデルについても強い量子化やCPU/GPU混合推論を利用することで実行できる場合がある。
ただし70B級以上を高速に完全GPU推論する場合は、一般的なゲーミングPCよりAIワークステーションや複数GPU環境が適している。
GPUの選び方
LM Studio目的でGPUを選ぶ場合は、単純なゲーム性能だけではなくVRAM容量を見る必要がある。
例えばゲーム用途では高速なGPUでも、VRAM容量が少なければ大型LLMをGPUだけで実行しにくい。
ローカルLLM用途では、
GPU演算性能
VRAM容量
メモリ帯域
消費電力
PCケースと電源容量
VRAM容量
メモリ帯域
消費電力
PCケースと電源容量
などを総合して選ぶ必要がある。
特にモデルサイズを大きくしたい場合、VRAM容量の優先順位が高くなる。
8GB VRAM
8GB VRAMでは、小型から中型の量子化モデルが中心となる。
7B～8B級モデルとの相性が良い。
大型モデルでも一部をRAMへ逃がせば動かせる場合はあるが、速度は低下しやすい。
12GB～16GB VRAM
12GB～16GB程度になると、8Bモデルを余裕を持って利用できる。
14B前後の量子化モデルも扱いやすくなる。
ローカルLLMを試したいゲーミングPCとしてはバランスの良い容量である。
24GB VRAM
24GB VRAMでは、ローカルLLM用途の自由度が大きく上がる。
14B～32B級の量子化モデルをGPU中心で利用しやすくなり、長いコンテキストやVisionモデルにも余裕が生まれる。
そのため高性能ゲーミングPCをAI兼用機として使用する場合、24GB級VRAMは一つの大きな基準となる。
32GB以上のVRAM
32GB以上になると、さらに大型のモデルや高精度量子化、長大なコンテキストを扱いやすくなる。
ただし70B～120B級モデルでは、32GBでもモデル全体が収まらない場合が多い。
このクラスではCPU/RAMへのオフロードや複数GPU、ワークステーションGPUなどが選択肢になる。
AIモデル別の目安
必要VRAMはモデルごとに異なるため、以下は厳密な必要条件ではなく、おおよその目安である。
3B～4B
比較的軽量なモデル。
VRAM 4GB～8GB程度でも利用しやすい。
文章要約、簡単なチャット、分類などに向く。
7B～8B
ローカルLLMで代表的なサイズ。
Q4量子化モデルでは比較的少ないメモリで利用できる。
VRAM 8GB以上が一つの目安となる。
14B
7B～8Bより高い性能を期待できる中型モデル。
VRAM 12GB～16GB以上が扱いやすい。
量子化方式やコンテキスト長によってはさらに多く必要になる。
20B～32B
高性能ローカルLLMでよく利用されるサイズ帯。
VRAM 16GB～24GB以上が有利になる。
24GB級GPUでは量子化モデルをGPU中心で運用しやすい。
70B
非常に大型のモデル。
Q4量子化でもモデル本体だけで数十GB規模になるため、一般的な単一GPUへ完全に収めるのは難しい。
64GB以上のRAMとGPUオフロードを組み合わせて実行する方法がある。
高速な完全GPU推論を求める場合は複数GPUまたは大容量VRAM GPUが必要になる。
100B～120B級
一般的なゲーミングPCでは非常に重いモデルとなる。
LM Studio公式のメモリ推定例では、gpt-oss-120bを特定条件でロードした場合に約65.68GBのGPUメモリを必要とする例が示されている。
このクラスになると、大容量VRAMを搭載したAIワークステーションや複数GPU構成が現実的になる。
RTXシリーズとの相性
GeForce RTXシリーズを搭載したPCはLM Studio用途にも使用できる。
特にVRAM容量の多いRTX系GPUでは、大型モデルをGPUへオフロードしやすい。
ただし「RTXであれば何でも高速」というわけではない。
同じRTXシリーズでも、
VRAM 8GB
VRAM 12GB
VRAM 16GB
VRAM 24GB
VRAM 32GB
VRAM 12GB
VRAM 16GB
VRAM 24GB
VRAM 32GB
では利用可能なモデルサイズに大きな差が生じる。
ゲーム目的でGPUを選ぶ場合と、ローカルLLM目的でGPUを選ぶ場合では評価基準が異なる点に注意が必要である。
SSD
AIモデルは非常に大きなファイルになる。
モデル1個だけで数GBから数十GBになることも珍しくない。
複数量子化モデルや複数系列を保存すると、数百GB単位で容量を使用する。
そのためLM Studioを長期間利用する場合は、
1TB
2TB
4TB
2TB
4TB
など大容量SSDが便利である。
特にモデルを多数保存する場合は2TB以上のNVMe SSDが扱いやすい。
モデルのダウンロード
LM Studioにはモデル検索・ダウンロード機能が搭載されている。
Discover画面からLlama、Qwen、Mistralなどの名称を検索し、Hugging Face上の対応モデルをダウンロードできる。
同じモデルに複数の量子化版が存在する場合には、自分のPCのRAM・VRAM容量に合わせて選択する。
Hugging Face
Hugging FaceはAIモデルやデータセットなどを公開・共有できるサービスである。
LM StudioはHugging Face上の対応モデルを検索して直接ダウンロードする機能を備えている。
そのためLM Studioを利用することで、Hugging Faceからモデルファイルを個別に手動取得する手間を減らすことができる。
ローカルAPI
LM StudioにはローカルAPIサーバー機能が存在する。
OpenAI互換APIを利用できるため、OpenAI API形式に対応した一部のソフトウェアをLM Studioへ接続できる。
概念的には、
自作アプリ
↓
OpenAI互換API
↓
LM Studio
↓
ローカルLLM
↓
OpenAI互換API
↓
LM Studio
↓
ローカルLLM
という構成になる。
この機能を利用すると、LM StudioをAIチャットアプリとしてだけでなく、自作AIサービスの推論サーバーとして利用できる。
SearXNGとの組み合わせ
LM StudioとSearXNGを組み合わせることで、Web検索可能なローカルLLM環境を構築することもできる。
この方式ではLLMによる推論をローカルPCで行い、最新情報だけをSearXNG経由でインターネットから取得できる。
さらに検索結果を自動取得してLLMへ渡すプログラムを作成すれば、Google GeminiやAI検索エンジンに近い検索回答システムを構築することも可能である。
RAG
LM Studioではローカルファイルをチャットへ追加し、文書内容を参照しながら回答させることができる。
このような仕組みはRAG（Retrieval-Augmented Generation）と呼ばれる。
PDFや各種文書をAIに参照させることで、モデル内部の知識だけではなく、自分が用意した資料に基づいた回答を生成できる。
LM Studio公式では文書とのチャットを完全オフラインで行うことも可能としている。
完全オフライン利用
LM Studioはモデルファイルをあらかじめ取得しておけば、インターネット接続なしでも利用できる。
そのため、
PC
↓
LM Studio
↓
ローカルモデル
↓
回答
↓
LM Studio
↓
ローカルモデル
↓
回答
という完全ローカル構成を作ることができる。
ただしSearXNG、DuckDuckGo、Hugging Faceなどオンラインサービスを利用する機能については当然インターネット接続が必要になる。
メリット
LM Studioは専門的なコマンドライン操作を行わなくてもローカルLLMを利用しやすい。
モデル検索、ダウンロード、ロード、チャット、GPUオフロード、APIサーバーなどを一つのアプリケーションから扱える。
また、モデルをPCへ保存するため、クラウドAIサービスが終了してもモデルファイルと対応ランタイムが存在する限り利用を継続できる場合がある。
注意点
LM Studioをインストールするだけで高性能AIになるわけではない。
回答性能は利用するモデルによって大きく異なる。
また、必要なPC性能もモデルによって異なる。
小型モデルなら一般的なPCでも動作するが、70B以上の大型モデルや長大なコンテキストを高速に利用する場合は大量のRAMやVRAMが必要となる。
モデルごとにライセンスも異なるため、商用利用や再配布を行う場合は各モデルのライセンスを確認する必要がある。
関連項目
[Amazon商品]
