AMD RX 9070でローカルAIを動かす！ROCmの壁をVulkanで超えた話

IT関連

2026.06.10

みなさんこんにちは。
KOMUSO WORKSのきょむ僧です。

今回は、AMD Radeon RX 9070を使ってローカルAIを動かすまでの話をしていこうと思います。

わたしが「ローカルAI」を試したくなった理由

最近、AIを使う機会がどんどん増えてきましたよね。
仕事でも、ちょっとした調べ物でも、気づけばAIに聞いている⋯という方も多いんじゃないかなっと思います。

ただ、クラウドのAIサービスをずっと使い続けていると、ふとこんな疑問が頭をよぎるんです。

「このやり取り、どこかのサーバーに残ってたりしないよね？」
「月額料金、じわじわ上がってきてるな⋯」

そういう理由から「ローカルAI」——つまり、自分のPC上で動かすAI——に興味を持ちはじめました。幸い、手元にはAMD Radeon RX 9070がある。「これで動かせるんじゃないか？」と思ったのがことの始まりです。

結論から言うと、紆余曲折はあったけど、ちゃんと動きました。Linuxなんて触ったことがなかったわたしでも。

最初の壁：最新GPU「RX 9070」でOllama（ROCm）が動かない

ローカルAIを動かすツールとして「Ollama」を選びました。
セットアップが比較的簡単で、日本語の情報もそこそこあるかなっということで。

問題は、AMD製GPUでOllamaを動かすには「ROCm」というAMD公式のフレームワークが必要だということ。

きょむ僧

「ROCm」、難しそうな名前ですが、要するに「AMDのGPUをAI計算に使うための仕組み」だと思っていただければOKです。

ところが、AMD Radeon RX 9070はかなり新しいGPUで、GPUの内部コード（gfx1200）がROCmにまだ正式対応していなかった。いくつかの方法を試してみましたが、どれもうまく動かなかったり、途中でフリーズしたりと⋯散々な結果でした。

「新しいGPUを買ったのに、ローカルAIが動かせないのか⋯」と正直かなり凹みましたね。

解決策：Vulkanバックエンド×WSL2でOllamaを動かす

詰まりながらいろいろ調べていくうちに、別のアプローチにたどり着きました。
Vulkanというものを使う方法です。

Vulkanというのは、もともとゲームのグラフィック処理に使われる仕組みで、AMD・NVIDIA・Intelを問わずほぼすべてのGPUに対応しています。ROCmがAMD専用の「特急ルート」だとすれば、Vulkanは「どのGPUでも使える一般道」みたいなイメージかなっと。

速度は若干落ちますが、動く。コレが大事です！

Windows版での失敗と、あえて「WSL2」を選んだ理由

まずWindows版のOllamaでVulkanを試みたのですが、GPU認識がうまくいかず行き詰まってしまいました。さらに調べていくうちに「WSL2（Windows Subsystem for Linux）を使えば安定する」という情報にたどり着いた、という経緯です。

Linux未経験のわたしでも、AIを相棒にしたらなんとかなりました

WSL2というのは、Windowsの中にLinuxの小部屋を作る仕組みです。「Linux？聞いたことはあるけど触ったことない⋯」という状態でしたが、AIに手順を聞きながら一つひとつ進めていったら、思ったよりなんとかなりました。WSL2の中にUbuntuを入れ、そこにOllamaをインストールして、Vulkanバックエンドを指定して起動する——という構成です。

起動した瞬間、AIが返答してきた。ローカルで。自分のPCの中だけで。その瞬間はちょっと感動しましたね。

きょむ僧

ちなみにUbuntuとは…無料のパソコン用OS（基本ソフト）です。

RX 9070でローカルAI（7Bモデル）を実際に使ってみてどうだった？

動かしたモデルはいくつか試しましたが、7B（70億パラメータ、ビジネス用途や日常会話で標準的に使われる軽量なモデル）クラスであれば日常的な用途には十分使える速度で動きました。

クラウドのAIと比べると若干もっさり感はありますが、「ローカルで動いてる」という安心感があるのでそこは許容範囲かなっと思います。

正直な話、まだ完全に安定しているとは言えない部分もあります。モデルや設定によってはうまく動かないこともあったし、日本語の精度はモデルによってかなりばらつきがあります。ただ、「自分のデータを外に出さずにAIを使える」という点の価値は、想像以上に大きかったかなっと感じています。

きょむ僧

GeminiやChatGPT、ClaudeなどクラウドAIに比べると遅いのは確かですが、スピードを必要としない作業（ファイルやObsidianの整理やクロール作業）に関しては全く不満なく使えています。

まとめ：同じようにROCmで詰まっているAMD勢のみなさんへ

AMD Radeon RX 9070は2025年に登場したGPUですが、ローカルAI用途での情報（特にROCmの対応状況）は、現時点でもまだ決して多いとは言えない状況です。「ROCmが動かなくて詰まった」という方も多いんじゃないかなっと思いますが、Vulkanという別ルートがあるということは知っておいてほしいなっと。

そして、Linuxを全く知らなかったわたしでも、AIと一緒に調べながら少しずつ進めていったら、最終的にはちゃんと動かせました。「難しそうだから」と諦める前に、まず試してみる価値は十分にあると思います。

ローカルAIの世界、思っていたよりずっと面白いですよ。

ということで今回はここまで。
KOMUSO WORKSのきょむ僧でした。

※本記事は実際の構築体験をもとに書いています。環境や時期によって状況が変わる場合があります。

※具体的なWSL2の構築コマンドや環境設定については、長くなるため今回は割愛します。もし需要があれば、要望に合わせて別記事でまとめようと思います。