🧵チュートリアル: テキストから絵文字へのモデルをカスタマイズし、デバイスにデプロイしてブラウザーで直接実行する方法を数分で無料で⚡️ ステップス: 1. Colabでモデルを微調整する 2. モデルを300MBまで量子化する 3. モデルをオフラインで実行できるアプリケーションをデプロイして共有する
モデルのカスタマイズ/微調整 1. データセットを構築する (この場合はテキストと絵文字のペア) 2. 微調整します。Gemma 3 270Mは、QLoRAを使用して、無料のT4 Colabで数分で微調整できます 2.1. QLoRA アダプターのマージ ノートパソコン:
モデルの量子化と変換 1️⃣ 推論ライブラリに応じて、GGUF、ONNX などの異なるファイル タイプを使用します 2️⃣ 量子化を使用すると、重みの精度を縮小できます (例: 16 ビットから 4 ビットに) MediaPipe の例
8.04K