⚡Zenn3月27日· 1分で読める中級🔥 注目16GBのノートPCを「小さなスパコン」に変えた話:仮想HPCクラスタでAIを動かす16GBノートPCでも、Hyper-VとUbuntu ServerでVMクラスタを構築すれば、llama.cppの分散推論でメモリ不足を突破できます。OOM Killerとの格闘、メモリ枯渇時の挙動観察など、実装の泥臭い部分を含めた全記録です。分散コンピューティングの原理を低スペック環境で体感できます。#AI駆動開発#llama.cpp#分散システム♡0👎☆ 保存記事を読む →