 |
Balanced LoRA: Removing Parameter Invariance to Accelerate Convergence
1 : Département de Mathématiques et Applications - ENS-PSL (UMR8553)
École normale supérieure - Paris, Centre National de la Recherche Scientifique
2 : Département d'informatique - ENS-PSL
École normale supérieure - Paris, Institut National de Recherche en Informatique et en Automatique, Centre National de la Recherche Scientifique
3 : Apple Inc
Apple Research
4 : Département de Mathématiques et Applications - ENS Paris
-
Website
Centre National de la Recherche Scientifique : UMR8553, École normale supérieure - Paris
| Subject : | : | Poster |
| Topics | : | Poster Session 1 + Coffee |
| Keywords | : | Fine ; tuning ; LoRA ; Transformers ; invariance |
| PDF version | : |  PDF version |
