🧠Zenn3月7日· 1分で読める上級🔥 注目LLM Paper ReadingLLMの最新研究を6つのテーマで深掘りする無料技術書です。LoRA vs Full Fine-tuning、Tensor Programs V、ドメイン特化スケーリング則、Megatron-LMなど、実装に直結する論文知識を習得できます。東大松尾研発スタートアップによる、医療・製薬LLM開発の現場で必要とされる知見がまとまっています。#ファインチューニング#LLM#分散学習♡0👎☆ 保存記事を読む →
🧠DeepMind10月23日· 2分で読める上級🔥 注目VaultGemma: The world's most capable differentially private LLMGoogleが差分プライバシー適用時のスケーリング則を解明し、VaultGemmaという10億パラメータの最大規模モデルを開発しました。従来のスケーリング則とは異なり、プライバシーノイズがモデル学習に与える影響を定量化。計算予算・プライバシー予算・データ予算から最適な訓練設定を導き出せる理論的フレームワークにより、プライバシーとユーティリティのトレードオフを初めて体系的に理解できます。#モデル・基盤#差分プライバシー#スケーリング則♡0👎☆ 保存記事を読む →