Update chain_setup.py

chain_setup.py

@@ -1,3 +1,4 @@
+import os
 from huggingface_hub import hf_hub_download
 from langchain.llms import LlamaCpp
 from langchain.chains import ConversationalRetrievalChain
@@ -53,8 +54,8 @@ def load_llm():
         f16_kv=True,
         n_parts=-1,
         seed=-1,
-        verbose=True
-        
+        verbose=True,
+        client=None
     )
 
     return llm