Fine-tuning Phi-3 cu QLoRA
Fine-tuning modelului de limbaj Phi-3 Mini de la Microsoft folosind QLoRA (Quantum Low-Rank Adaptation).
QLoRA va ajuta la îmbunătățirea înțelegerii conversaționale și generării răspunsurilor.
Pentru a încărca modelele în 4 biți cu transformers și bitsandbytes, trebuie să instalezi accelerate și transformers din sursă și să te asiguri că ai cea mai recentă versiune a bibliotecii bitsandbytes.
Exemple
- Află mai multe cu acest notebook exemplu
- Exemplu de FineTuning în Python
- Exemplu de Fine Tuning pe Hugging Face Hub cu LORA
- Exemplu de Fine Tuning pe Hugging Face Hub cu QLORA
Declinare de responsabilitate:
Acest document a fost tradus folosind serviciul de traducere AI Co-op Translator. Deși ne străduim pentru acuratețe, vă rugăm să rețineți că traducerile automate pot conține erori sau inexactități. Documentul original în limba sa nativă trebuie considerat sursa autorizată. Pentru informații critice, se recomandă traducerea profesională realizată de un specialist uman. Nu ne asumăm răspunderea pentru eventualele neînțelegeri sau interpretări greșite rezultate din utilizarea acestei traduceri.