Zenn· 2分で読める上級🔥 注目
# 青空文庫11冊でLLMをゼロから作ったら、意外と日本語を喋った話
青空文庫11冊(約104万文字)でLLMを実装したら、5時間で動く日本語生成モデルが完成しました。Transformerアーキテクチャ・数百万パラメータという超ミニチュア版でも、意味は不完全でも文法的に正しい日本語を生成します。Claude Codeを活用した実装過程と、Self-Attention・Position Embeddingなど必須コンポーネントの仕組みをコード付きで解説。「次の文字を予測し続けるシステム」という本質を体感できます。