Update README.md

README.md

@@ -115,31 +115,41 @@ This model serves as a foundational model for medical assistance systems, chatbo
 This section provides a step-by-step guide to loading and using the model for generating medical responses in Thai.
 
 
-### 1. Install the Required Packages
+# Qwen 2.5 32B Thai Medical Model
+
+## Installation Requirements
 
 ```python
-#Import necessary libraries for working with the model
-from peft import PeftModel, PeftConfig
-from transformers import AutoModelForCausalLM, AutoTokenizer
+# Install required libraries if not already installed
+pip install transformers torch peft
 ```
 
-### 2. Load Model and Tokenizer
+## Import Libraries
+
+```python
+import os
+from transformers import AutoModelForCausalLM, AutoTokenizer
 ```
-#Set the model to amornpan/V3_qwen2.5-32b-med-thai-optimized
-base_model_name = "amornpan/V3_qwen2.5-32b-med-thai-optimized"
 
-# Load the model and tokenizer
+## Load Model with Disk Offloading
+
+```python
+# Create a directory for offloading model weights
+os.makedirs("offload_dir", exist_ok=True)
+
+base_model_name = "amornpan/V3_qwen2.5-32b-med-thai-optimized"
 model = AutoModelForCausalLM.from_pretrained(
     base_model_name,
     device_map="auto",
-    trust_remote_code=True
+    trust_remote_code=True,
+    offload_folder="offload_dir"  # Specify the offload directory
 )
 tokenizer = AutoTokenizer.from_pretrained(base_model_name, trust_remote_code=True)
 ```
 
-### 3. Define Test Function
-```
-# Function for testing the model
+## Define Test Function
+
+```python
 def test_model(prompt, max_new_tokens=256):
     system_prompt = "You are a question answering assistant. Answer the question as truthful and helpful as possible. คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด"
     full_prompt = f"<s><|im_start|>system\n{system_prompt}<|im_end|>\n<|im_start|>user\n{prompt}<|im_end|>\n<|im_start|>assistant\n"
@@ -156,24 +166,32 @@ def test_model(prompt, max_new_tokens=256):
     )
     
     response = tokenizer.decode(generated_ids[0], skip_special_tokens=False)
-    # Extract only the assistant's response
+    
     assistant_response = response.split("<|im_start|>assistant\n")[-1].split("<|im_end|>")[0]
     
     return assistant_response
 ```
 
-### 4. Test with an Example Question
-# Show an example question
-```
-# Show an example question
+## Test the Model
+
+```python
+# ทดสอบโมเดล
 example_question = "อาการของโรคเบาหวานมีอะไรบ้าง"
 print(f"\nคำถาม: {example_question}")
 response = test_model(example_question)
 print(f"คำตอบ: {response}")
 ```
 
-### 5. Output
+## Output
 ```python
+คำถาม: อาการของโรคเบาหวานมีอะไรบ้าง
+คำตอบ: สวัสดี โรคเบาหวานเป็นโรคทางระบบเมตาบอลิซึม โดยเกิดจากภาวะการผลิตฮอร์โมนอินซูลินไม่เพียงพอ
+หรือร่างกายไม่สามารถใช้อินซูลินได้อย่างมีประสิทธิภาพ ทำให้ระดับน้ำตาลในเลือดสูงขึ้น ซึ่งอาจนำไปสู่ความเสียหายของอวัยวะต่างๆ
+ในร่างกายได้ โดยเฉพาะหัวใจ เลือด เยื่อบุตา และไต เมื่อระดับน้ำตาลในเลือดสูงขึ้นมากขึ้นเรื่อยๆ จะมีอาการทางคลินิก เช่น
+1. มีปัสสาวะบ่อย ปัสสาวะมาก เนื่องจากต้องขับน้ำตาลออกทางปัสสาวะ
+2. กระหายน้ำมาก เนื่องจากมีปัสสาวะมาก
+3. อ่อนแรง หมดแรง
+
 คำถาม: การรักษาโรคความดันโลหิตสูงทำอย่างไร
 คำตอบ: สวัสดี ความดันโลหิตสูงสามารถรักษาได้โดยการใช้ยาหลายชนิด เช่น เบนโซเพอรีซิน, อะโมโลนิด, ลิโซโปรตาซอล, อีลาฟอร์เท็ต,
 อัลฟูราลิท, อะเซติซิลดิโพราเมต, อาราคานา, อาเนอโรนิก, อาเซติซิลสัมพันธ์, อาเนอโรนิก, อะเซติซิลสัมพันธ์ เป็นต้น