ローカルLLM

ローカルLLM

Nemotron-v2 transformerとmamba2のハイブリッドモデル

なぜ革新的なLLM技術は実装されないのか?その定説を覆す、NVIDIAのTransformer×Mamba-2ハイブリッドモデル「Nemotron v2」が登場。計算量とメモリの壁を突破し、ローカルAIを加速させる次世代アーキテクチャを解説します。
ローカルLLM

Qwen: Qwen3.5 397B A17Bが登場

いやでっか…… 誰がこんなのPCに載せられんねん……Qwen3.5はマルチモーダルReasoningモデルです。公式ページではThinkingと非Thinking両方の性能がグラフに載っているようですが、現在モデルはひとつしか公開されていま...
ローカルLLM

ローカルLLMに備えろ

プロプライエタリモデルとローカルモデルのメリットとデメリットを比較し、ローカルLLMの性能が今後向上していくことを見込んで、ローカルLLMを推しています。