16GBのノートPCを「小さなスパコン」に変えた話:仮想HPCクラスタでAIを動かす
AI要約
16GBノートPCでも、Hyper-VとUbuntu ServerでVMクラスタを構築すれば、llama.cppの分散推論でメモリ不足を突破できます。OOM Killerとの格闘、メモリ枯渇時の挙動観察など、実装の泥臭い部分を含めた全記録です。分散コンピューティングの原理を低スペック環境で体感できます。
AI要約
16GBノートPCでも、Hyper-VとUbuntu ServerでVMクラスタを構築すれば、llama.cppの分散推論でメモリ不足を突破できます。OOM Killerとの格闘、メモリ枯渇時の挙動観察など、実装の泥臭い部分を含めた全記録です。分散コンピューティングの原理を低スペック環境で体感できます。
Cursor や Claude Code などのAIエージェントをチームで使うと、コミットルールが崩れやすくなります。これを防ぐには「禁止事項・手順・メッセージ形式」の3点を明文化し、.cursor/rules や CLAUDE.md に記述することが重要です。チケット番号を先頭に入れる、git add .を禁止するなど、具体的なルール設定で追跡性が大幅に向上します。

