カスタマイズされた微調整の技術的実現への道筋
MedGemmaは、インクリメンタル・トレーニング、効率的なパラメータ微調整、ドメイン適応という3種類のコア・テクノロジーにより、正確なローカライゼーションを実現する完全なモデル適応ソリューションを医療機関に提供します。病院は民間の医療データセットを使用して、基礎となるモデル知識を維持しながら、LoRAのような軽量なファインチューニング手法により0.1%のパラメータのみをトレーニングすることで、ローカルの用語体系や治療仕様を適応させることができる。
専門病院の特別なニーズ(眼科OCT画像解析など)には、レイヤーの微調整戦略を使用することができます:ビジュアルコーダーの基礎パラメータを凍結し、高レベルの特徴融合モジュールの調整に焦点を当てます。実践によると、注釈付きの特殊な画像データを200~300ケース使用することで、この専門分野でのモデルの認識精度を15~20ポイント向上させることができる。
Googleが提供するモデル蒸留ツールは、27Bモデルの知識をカスタマイズされた軽量バージョンに転送し、院内ワークステーションのようなエッジデバイスでの効率的な推論を可能にする。これらの機能により、MedGemmaは、最もグラウンドアップ可能なヘルスケアAI開発プラットフォームとなっている。
この答えは記事から得たものである。MedGemma: 医療テキストと画像理解のためのオープンソースAIモデル集について