transformers safetensors llama text-generation medical healthcare conversational en ko base_model:meta-llama/Llama-3.2-3B-Instruct base_model:finetune:meta-llama/Llama-3.2-3B-Instruct license:mit autotrain_compatible text-generation-inference endpoints_compatible region:us
---
base_model:
- meta-llama/Llama-3.2-3B-Instruct
language:
- en
- ko
library_name: transformers
license: mit
metrics:
- accuracy
tags:
- medical
- healthcare
---
# LLaMA 3.2 3B Instruct - Healthcare Fine-tuned Model
This is a model that fine-tuned the Llama-3.2-3B-Instruct model from Unidocs using Healthcare data.<br>
유니닥스(주)에서 Llama-3.2-3B-Instruct 모델을 Healthcare 데이터로 미세조정한 모델임 <br>

## Model Description
sLLM model used in Unidoc's ezMyAIDoctor, released on December 10, 2024 as a result of the AIDC-HPC project <br>
of the Artificial Intelligence Industry Convergence Business Group (AICA) <br>
meta-llama/Llama-3.2-3B-Instruct wiki, kowiki, super-large AI healthcare question-answer data, <br>
A model that has been pretrained (Full Finetuning) by referring to the super-large AI corpus with improved Korean performance, <br>
and the medical and legal professional book corpus.

유니닥스(주)의 ezMyAIDoctor에서 사용되는 sLLM 모델로 인공지능산업융합사업단(AICA)의 AIDC-HPC 사업의 결과로 2024년 12월 10일 공개함<br>
meta-llama/Llama-3.2-3B-Instruct에 wiki, kowiki, AIHub(aihub.or.kr)의 (초거대AI 헬스케어 질의응답데이터, 
한국어 성능이 개선된 초거대 AI 말뭉치, 의료/법률 전문서적 말뭉치)를 참고하여 Pretrain(Full Finetuning)된 모델임

## Intended Uses & Limitations
The model is designed to assist with healthcare-related queries and tasks. <br>
However, it should not be used as a substitute for professional medical advice, diagnosis, or treatment.<br>
Always consult with a qualified healthcare provider for medical concerns.

이 모델은 Healthcare 관련 질의 및 작업을 지원하도록 설계되었습니다. <br>
그러나 전문적인 의학적 조언, 진단 또는 치료를 대체하는 데 사용되어서는 안 됩니다. <br>
의료 관련 문제는 항상 자격을 갖춘 의료 서비스 제공자와 상의하십시오.

## Training Data
The model was fine-tuned on a proprietary healthcare dataset. <br>
Due to privacy concerns, details of the dataset cannot be disclosed.<br>

wiki, kowiki 데이터 이외<br>
과학기술정보통신부, 한국지능정보사회진흥원에서 관리하고 있는 AIHub의 <br>
- 초거대AI 헬스케어 질의응답데이터
- 한국어 성능이 개선된 초거대 AI 말뭉치
- 의료, 법률 전문서적 말뭉치
<br> 등을 활용함

## Training Procedure
Full fine-tuning was performed on the base LLaMA 3.2 3B Instruct model using the healthcare dataset.<br>
Healthcare 데이터 세트를 사용하여 기본 LLaMA 3.2 3B Instruct 모델에서 전체 미세 조정을 수행했습니다.

## Evaluation  Results

Accuracy by category of mmlu benchmark<br>

|category| Accuracy|
|-------------------|--------------|
|anatomy            | 0.54 (73/135)|
|clinical_knowledge | 0.59 (156/265)|
|college_medicine | 0.57 (99/173)|
|medical_genetics | 0.64 (64/100)|
|professional_medicine | 0.60 (162/272)|

All Accuracy Mean value: 0.59


### Use with transformers

Starting with `transformers >= 4.43.1` onward, you can run conversational inference using the Transformers `pipeline` abstraction or by leveraging the Auto classes with the `generate()` function.

Make sure to update your transformers installation via `pip install --upgrade transformers`.

```python
import transformers
import torch

model_id = "unidocs/llama-3.2-3b-komedic-instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "당신은 의료전문가입니다. 질병의 정의, 원인, 증상, 검진, 진단, 치료, 약물, 식이, 생활 측면에서 답변해 주세요"},
    {"role": "user", "content": "공복혈당이 120이상인 경우 제1형 당뇨와 제2형 당뇨 환자는 각각 어떻게 치료를 받아야 하나요?"},
]

outputs = pipeline(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])
```

Note: You can also find detailed recipes on how to use the model locally, with `torch.compile()`, assisted generations, quantised and more at [`huggingface-llama-recipes`](https://github.com/huggingface/huggingface-llama-recipes)


## Limitations and Bias
- This model may produce biased or inaccurate results. It should not be solely relied upon for critical healthcare decisions.
- The model's knowledge is limited to its training data and cut-off date.
- It may exhibit biases present in the training data.
- The model may occasionally produce incorrect or inconsistent information.
  
- 모델의 지식은 훈련 데이터와 마감일로 제한됩니다.
- 훈련 데이터에 편향이 있을 수 있습니다.
- 모델은 가끔 잘못되거나 일관되지 않은 정보를 생성할 수 있습니다.
- 이 모델은 편향되거나 부정확한 결과를 생성할 수 있습니다. 중요한 의료 결정에 이 모델에만 의존해서는 안 됩니다.

## Legal Disclaimer
The model developers and distributors bear no legal responsibility for any consequences arising from the use of this model. <br>
This includes any direct, indirect, incidental, special, punitive, or consequential damages resulting from the model's output.<br>
By using this model, users assume all risks that may arise, and the responsibility for verifying and appropriately using the model's output lies solely with the user.<br>
This model cannot substitute for medical advice, diagnosis, or treatment, and qualified healthcare professionals should always be consulted for medical decisions.<br>
This disclaimer applies to the maximum extent permitted by applicable law.


## 법적 책임 면책 조항
본 모델의 사용으로 인해 발생하는 모든 결과에 대해 모델 개발자 및 배포자는 어떠한 법적 책임도 지지 않습니다. <br>
이는 모델의 출력으로 인한 직접적, 간접적, 우발적, 특수한, 징벌적 또는 결과적 손해를 포함합니다.<br>
사용자는 본 모델을 사용함으로써 발생할 수 있는 모든 위험을 감수하며, 모델의 출력에 대한 검증 및 적절한 사용에 대한 책임은 전적으로 사용자에게 있습니다.<br>
본 모델은 의학적 조언, 진단, 또는 치료를 대체할 수 없으며, 의료 관련 결정을 내릴 때는 반드시 자격을 갖춘 의료 전문가와 상담해야 합니다.<br>
이 면책 조항은 관련 법률이 허용하는 최대 범위 내에서 적용됩니다.

## Model Card Contact
유석 (tobewiseys@unidocs.co.kr), 김진실(kimjs@unidocs.co.kr), <br> 김종완(jongwankim@unidocs.co.kr)

## Additional Information
For more details about the base model, please refer to the original LLaMA 3.2 documentation.
