ハウツー

AMD GPUでllama.cppを動かすならLinux一択。Ubuntu 24.04のインストールからVulkan導入、llama-serverの起動までを解説。ROCmのおま環に悩まされない、一番簡単なローカルLLM環境の構築手順。

-m <path/to/model>読み込むモデルを指定します。--host 0.0.0.0 --port 11434ホストするアドレスとポートです。127.0.0.1にするとローカルエリアには公開されません。-ngl <整数>モデルの重み...

ローカルLLMはVRAMが全て。q4量子化GGUFを前提に、MoEモデルの特性をふまえながら12GB・16GB・24GB別のおすすめモデルを解説。Qwen3.6-27BでのエージェンティックコーディングからGemma4-31Bのロールプレイ性能まで、実運用ベースで比較します。

AIネイティブブラウザ「BrowserOS」をローカルLLM（Qwen3.6-27B）で動かしてみた。できること・遅さ・ハルシネーション・CAPTCHAの実態・プロンプトインジェクションのリスクまで正直にレビュー。

Claude Codeの制限・従量課金に疲れたなら、ローカルLLMという選択肢があります。Qwen3.6とLM Studio、OpenCodeを組み合わせてコーディングエージェントを自前で動かすセットアップ手順を解説します。

GGUF量子化の最適解を探る。8bit以下の劣化傾向、K-quants/I-quants/UDの技術的違い、小規模モデルの量子化リスク、実用的なモデル選定基準をまとめました。