Update modeling_internvl_chat.py

modeling_internvl_chat.py

@@ -242,10 +242,10 @@ class InternVLChatModel(PreTrainedModel):
         self.img_context_token_id = None
 
         if config.use_backbone_lora:
-            self.wrap_backbone_lora(r=config.use_backbone_lora)
+            self.wrap_backbone_lora(r=config.use_backbone_lora, lora_alpha=2 * config.use_backbone_lora)
 
         if config.use_llm_lora:
-            self.wrap_llm_lora(r=config.use_llm_lora)
+            self.wrap_llm_lora(r=config.use_llm_lora, lora_alpha=2 * config.use_llm_lora)
 
     def wrap_backbone_lora(self, r=128, lora_alpha=256, lora_dropout=0.05):
         lora_config = LoraConfig(