AIエージェント関係 - ちょこっとメモ＠Wiki【9/18更新】

Hermes Agent

• 「Hermes Agent」を試す ①Getting Started　https://zenn.dev/kun432/scraps/8b231b40b0a15f
• Hermes Agent HP　https://hermes-agent.org/ja/
• Hermes Agent入門 — 永続メモリと自動スキル生成で成長するOSSエージェント　https://qiita.com/kai_kou/items/c4ba4c6dfd0342634a78

更新

# バックアップ
hermes update --backup

# 更新
hermes update

# 確認
hermes doctor hermes --version

設定ファイル

# Linuxのconfigファイルの編集
nano ~/.hermes/config.yaml

# Windowsのconfigファイルの編集
notepad $env:LOCALAPPDATA\hermes\config.yaml

コンテキストを極大拡張したLLM作成

Linux

cat << 'EOF' > Modelfile-qwen2.5
FROM qwen2.5:7b

# Ollamaのコンテキスト限界を64K（約5〜6万文字分）に強制拡張！
# （もしPCのメモリが16GB以上で余裕があれば 131072 にしてもOKです）
PARAMETER num_ctx 65536

# 念のため温度調整
PARAMETER temperature 0.7
EOF

# コンテキスト拡張版モデル「qwen2.5-bigctx」を作成
ollama create qwen2.5-bigctx -f ./Modelfile-qwen2.5

Windows

# Modelfileのパラメータを書き換える
@"
FROM qwen2.5:7b
PARAMETER num_ctx 65536
PARAMETER temperature 0.7
"@ | Out-File -Encoding utf8 Modelfile-qwen2.5

# モデルを再作成
ollama create qwen2.5-bigctx -f Modelfile-qwen2.5

Hermes modelの設定

API base URL [e.g. https://api.example.com/v1]: http://localhost:11434/v1

起動時にメモリを食わせないための「環境変数ハック」

Ollamaは PARAMETER で 65K と指定しても、実際にその容量を使い切るまでは物理メモリを確保しない。しかし、起動時にOS側の環境変数で制限をかけると、Hermesはその「OSの制限」をOllamaの最大スペックだと誤認してエラーを吐く。
なので、Hermesを起動するターミナルでは、あえて OLLAMA_NUM_CTX の環境変数を外して（あるいは 65536 にして）実行。

# PowerShell
# 以前設定した環境変数を削除（または現在のセッションを一度閉じる）
Remove-Item Env:\OLLAMA_NUM_CTX

Remove-Item Env:\OLLAMA_FLASH_ATTENTION

# この状態でHermesを起動

hermes chat