ローカルLLM 個人でファインチューニングする方法——Ajax事例が示すオンデバイスAIの現実

公開日：2026年10月5日文：クリスタルメソッド編集部監修：河合継（代表取締役）

PewDiePieのAjax公開——ローカルLLM個人ファインチューニングの到達点として何が起きたか

2026年10月3日、YouTuberのFelix Kjellberg（PewDiePie）が、Alibaba製オープンウェイトモデル「Qwen 3.5-9B」をベースにファインチューニングしたローカルLLM「Ajax」を公開した（tech.yahoo.com、hypefresh.com）。Ajaxはユーザー自身のハードウェア上でローカル実行され、ウェブ検索・メール・カレンダー管理といったエージェント的タスクに対応する。ファインチューニングにはOdysseus向けツールが使用されたとされている（affiversemedia.com）。

この事例が持つ意味は技術的な性能よりも、機械学習の専業研究者ではない個人が、商用LLMサービスへの依存なしにローカル環境で独自モデルを完成・公開したという実証にある。Kjellbergは開発中にOpenAIのアカウントを2度停止されたと動画内で主張し、停止理由の一つとして「distillation」に関するメールを提示した（tech.yahoo.com、hypefresh.com）。OpenAIはこの個別ケースへの公式コメントを出していない（ground.news）。クラウドLLMへの依存が開発継続リスクを内包することを、この経緯は改めて示した。

以下では、Ajax事例を参照軸として、ローカルLLMを個人でファインチューニングする方法の実際——前提要件・手順・制約——を整理する。

ローカルLLM個人ファインチューニング方法の前提——ハードウェアとソフトウェア要件

方法の理解に先立ち、リソース要件を正確に把握する必要がある。AjaxのベースモデルであるQwen 3.5-9Bを例にとると、推論時のVRAM目安はBF16精度で約22GB、FP8精度で約11GBとされている（popularai.org）。ファインチューニング時はオプティマイザの状態・勾配・アクティベーションが加わるため、推論時よりも多くのメモリを要する点に注意が必要だ。

9Bクラスのモデルを個人で訓練する環境の選択肢を比較すると、以下のようになる。

9Bパラメータ級モデルのファインチューニング環境比較（2026年時点の一般的な目安）
環境	VRAM/メモリ目安	現実的な手法	費用感の目安	主な制約
コンシューマGPU（RTX 4090クラス）	24GB VRAM	QLoRA（4bit量子化）	初期投資20〜25万円程度	フルファインチューニングは困難。大規模データ処理に時間を要する
ワークステーション（複数GPU構成）	48GB以上	LoRA／フルFT	50万円〜	設置・電力・冷却コストが発生する
Apple Silicon Mac（M3 Ultra等）	ユニファイドメモリ最大192GB	QLoRA／mlx-lm	60〜80万円程度	CUDA非対応。Linux比で対応ライブラリが少ない
クラウドGPUインスタンス（短時間利用）	A100／H100相当	LoRA／フルFT	従量制（時間単価1〜10ドル程度）	データをクラウドに送出する必要があり、ローカル性が失われる

VRAM制約を実用的に解消する方法がQLoRA（Quantized Low-Rank Adaptation）だ。4bit量子化でベースモデルを圧縮したうえで、低ランクの追加重み（LoRAアダプタ）のみを訓練するため、フルファインチューニングの数分の一のVRAMで9Bクラスのモデルを訓練できる。Hugging Faceが提供するtransformers・peft・trlライブラリが現時点での標準的な実装経路となっている。

ローカルLLMの技術的な背景についてはディープラーニングの仕組みと応用を、自然言語処理の基礎を押さえたい場合はBERTとNLPの基礎ガイドを参照されたい。

次に読む

VOICEVOX 使い方｜インストールから音声生成まで【2026】

ローカルLLM個人ファインチューニングの方法——データ準備から評価まで5工程

具体的な手順は以下の5工程に分解できる。工程ごとの要点と見落としやすい落とし穴を示す。

ローカルLLM個人ファインチューニングの標準的な5工程。データ収集・整形から始まり、ベースモデル選定、QLoRA訓練、アダプタ統合・GGUF量子化出力、最終的な評価・安全性確認で完結する。⑤の安全性確認は公開・業務利用を想定する場合には省略できない工程だ。

①データ収集・整形
ファインチューニングの品質はほぼ訓練データの質で決まる。標準的な形式は「instruction-response」ペアのJSONLファイルだ。Ajaxではウェブ検索・メール・カレンダー管理向けのOdysseus用ツール使用データが訓練に使われたとされている（affiversemedia.com）。個人が取り組む場合は、自分のユースケースに特化した数百〜数千件のペアから始めるのが現実的だ。著作権・個人情報・ライセンス条件の確認は、データ収集の段階で完了させる必要がある。

②ベースモデル選定・量子化
オープンウェイトモデルとして選択肢に上がるのはQwen 3.5-9B、Llama 3系、Mistral系などだ。各モデルのライセンス（商用利用可否・再配布条件・ファインチューニング制限）はモデルカードで確認する。量子化形式はGGUF（llama.cpp対応）、AWQ、GPTQなどがあり、推論環境に合わせて選ぶ。

③QLoRA訓練実行
trlライブラリのSFTTrainerとpeftを組み合わせるのが現時点での標準的な方法だ。主要なハイパーパラメータはLoRAランク（r）・アルファ（lora_alpha）・ドロップアウト・対象モジュールの4点となる。検証ロスを監視しながらearly stoppingを設定することで、過学習による性能劣化を防ぎやすくなる。

④アダプタ統合・量子化出力
訓練後のLoRAアダプタをベースモデルにmerge_and_unloadで統合し、llama.cppでGGUF量子化することで、OllamaなどのローカルLLM推論ツールで動かせる形式になる。

⑤評価・安全性確認
Ajax公開時点では独立ベンチマークが公表されておらず、性能の客観的な評価が難しい状態とされている（popularai.org）。個人訓練モデルを他者や業務に供する場合、安全性評価は省略できない工程となる。Kjellberg自身が「危険なアクションを可能にするためのモデルではない」と明言している（tech.yahoo.com）ように、開発者としての責任は公開の前提となる。

また、AjaxではHereticツールによるauto abliterationが適用されており、モデルの拒否挙動を低減する後処理が含まれている（tech.yahoo.com、popularai.org）。こうした後処理は倫理・安全性への影響を十分に評価したうえで採否を判断する必要がある。

強化学習がファインチューニングにどう応用されるかは強化学習の基礎と応用で、テキストデータの前処理についてはテキストマイニングの手法解説で整理されている。

日本の個人・組織にとって何を意味するか——メリットと現実的な制約

Ajax事例が提示したクラウド非依存のローカルLLM訓練という方向性は、日本のユーザーにとっても無縁ではない。

メリット：データ主権とカスタマイズの自由度
ローカルLLMの個人ファインチューニング方法を習得することで、機密性の高いデータをクラウドに送出せず、特定の業務・語彙・ドメイン知識に特化したモデルを構築できる可能性がある。Kjellbergがアカウント停止により開発を一時中断したように、外部サービスへの依存は利用規約変更・停止リスクを内包する。自前のモデルを持つことは、こうした外部要因からの独立性を高める選択肢の一つとなり得る。

制約：ハードウェアコストと品質保証の難しさ
Qwen 3.5-9BをBF16精度で動かすにはVRAM約22GBが目安となる（popularai.org）。コンシューマGPU上限クラスのRTX 4090でギリギリ対応できる水準であり、個人が投資するには相応の初期費用を要する。QLoRAで圧縮しても、9Bクラスの訓練には数時間から数十時間の計算時間が発生し得る。

加えて、Ajax公開時点では公式ライセンス・モデルカード・量子化版の詳細が未確認であり（popularai.org）、独立ベンチマークも公表されていない。個人訓練モデルを業務に採用するには、品質保証と安全性評価の体制を別途整える必要がある。

日本固有の制約として、個人情報保護法や不正競争防止法の観点から訓練データの取り扱いへの注意が求められる。著作権法における「情報解析目的」の適用範囲についても、生成AIに関する法整備の動向を継続的に確認することが望ましい。

機械学習全般の基礎を体系的に押さえたい場合は機械学習の基礎解説、マルチモーダルモデルへの展開についてはマルチモーダルAIの解説、生成モデルの理論的背景についてはGANと生成モデルの解説を参照されたい。効率的なモデル設計に関心があればスパースモデリングの解説も参考になる。

参考文献

Yahoo Tech: PewDiePie unveils Ajax, a locally trained AI model based on Qwen 3.5-9B — tech.yahoo.com
HypeFresh: PewDiePie’s Ajax AI Model Release — hypefresh.com
PopularAI: Ajax model specifications — popularai.org
AffiVerse Media: Ajax and Odysseus tooling details — affiversemedia.com
Ground News: OpenAI account suspension reporting — ground.news
画像電子学会年次大会予稿集（J-STAGE） — https://www.jstage.jst.go.jp/browse/aiieej/51/0/_contents/-char/ja
JST研究プロジェクトデータベース実施状況報告書 — projectdb.jst.go.jp

監修

河合継（クリスタルメソッド株式会社代表取締役）

AI・ディープラーニングに関する特許16件の発明者。過去、国立がん研究センターとの共同研究や、テレビ番組でのAI解説実績を持つAI研究者として、AIの研究開発を主導している。
運営会社について｜編集方針