Ollamaのnum_ctxを4096から32768まで4段階で変えて、RX 9070 XT 16GBでVRAMと速度を実測した。生成速度は変わらず、落ちるのは読み込み速度。VRAMの増え方はモデルで全く違い、Qwen3 14Bは+4.7GB、Gemma 4 12Bは+0.4GBだった。16GBで長文を扱うための設定と、足りないときの逃げ道まで。

ローカルLLM・画像生成・動画生成のためにPCを買うなら、GPUはRadeonとGeForceのどちらか。RX 9070 XT 16GBを1年・14本の記事で実測してきた筆者が、用途別に「Radeonで足りる場面」と「NVIDIAにすべき場面」を正直に切り分ける。価格差と、その差額で何が買えるかまで。

以前、RadeonでComfyUIを速くする4つの設定という記事を書いた。環境変数が2つ、起動オプションが1つ、そしてComfyUI本体のソースを書き換えるものが2つ。書き換えについては「ComfyUIをアップデートすると消える」と注意も書...

前回、ROCm 10 を Windows の RX 9070 XT に入れた。FLUX.1 が3倍速くなったので、次に気になるのは当然これである。16GBのRadeonで、動画生成は動くのか。当ブログのRadeon記事は、画像生成とローカル...

前回の記事で、ROCm 10 は「Windows対応と書いてあるが、配布物がまだ無い」と書いた。そして「配布されたら測って追記する」とも書いた。その前提が間違っていた。配布は既に始まっていた。探す場所が変わっていただけである。この記事では、...

前回、このM4 MacBook Air 24GBでローカルLLMを動かし、ファンレスは熱で3割落ちるという結果を出した。では画像生成はどうか。落ちる。ただし落ち方が実装でまるで違った。冷えた状態から30枚連続で生成すると、Draw Thin...

「メモリ24GBのMacなら、VRAM 16GBのグラボより大きいモデルが動くはずだ」そう思ってGemma 4を5サイズ全部試したところ、いちばん期待していた26Bが起動すらしなかった。しかもエラーを返さず、4分待たせて0トークン。原因を追...

2026年8月26日、ROCm 10.0.0 がリリースされた。7.14 から一気に10.0である。公式の互換性マトリクスを開くと、RX 9070 XT（gfx1201）がWindows対応と書いてある。ところが実際にWindowsへ入れよ...