Update README.md

README.md

@@ -38,10 +38,8 @@ ikedachin/llm-jp-3-13b-october-news-e1-all-3-5
 
 # 実行方法
 ## ライブラリインストール
-**エラーが発生した場合は再実行し、エラーがないことを確認すること**
 ```
-!pip install transformers
-!pip install datasets
+pip install transformers
 ```
 
 ## 実行コード
@@ -50,13 +48,9 @@ ikedachin/llm-jp-3-13b-october-news-e1-all-3-5
 ```Python
 # import libraries
 import tqdm
-import datasets
 import torch
 from datasets import load_dataset
-from transformers import (
-    AutoModelForCausalLM, 
-    AutoTokenizer, 
-)
+from transformers import AutoModelForCausalLM, AutoTokenizer
 
 # config
 model_id = "ikedachin/llm-jp-3-13b-october-news-250128-1-merged-sft-1-bf16_merged"
@@ -76,10 +70,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_id, token=HF_TOKEN)
 
 # define inference function
 def generate_from_model(input):
-    prompt =  f"""### 指示
-{input}
-### 回答
-"""
+    prompt =  f"""### 指示\n{input}\n### 回答\n"""
     input = tokenizer(prompt, return_tensors='pt', add_special_tokens=True).to(model.device)
     input.pop('token_type_ids')
     output = model.generate(**input, max_new_tokens = 1000, use_cache = False, do_sample=False, repetition_penalty=1.2)