#translategemma

ローカルLLMで日韓翻訳Discord Botを自作した話

ローカルLLM（Ollama + translategemma:12b）を使ったDiscord日韓翻訳Botの実装例です。Unicode文字範囲で言語を自動判定し、Modelfileでシステムプロンプトを注入してモデルをカスタマイズ。4B vs 12Bの速度・精度トレードオフを実測で比較し、GTX 1070×2での完全ローカル動作で約3秒応答を実現しています。実装コード付きの実践的なガイドです。