CPU Intel(R) Core(TM) Ultra 5 125H
Stuck in this position for a very long time, while AMD CPUs do not have this problem
[W507 10:35:37.271735423 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
......
[W507 10:58:13.514898085 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.

(HyperCLOVAX-ENV) root@localhost:~/python-env/HyperCLOVAX-SEED# time python inference-cpu-video.py
Loading checkpoint shards: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 3/3 [00:00<00:00, 3.40it/s]

LLM EXAMPLE
<|im_start|>tool_list
<|im_end|>
<|im_start|>system
you are helpful assistant!<|im_end|>
<|im_start|>user
Hello, how are you?<|im_end|>
<|im_start|>assistant
I'm doing great. How can I help you today?<|im_end|>
<|im_start|>user
I'd like to show off how chat templating works!<|im_end|>
<|im_start|>assistant
That sounds like a fun challenge! Could you please provide me with a template or a specific scenario you'd like to use for this?<|im_end|><|endofturn|>

[W507 10:35:37.271735423 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.352405555 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.352571399 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.355612444 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.355713095 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.358524999 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.358617126 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.392999394 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.393152638 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.396100613 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.396202324 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.398952920 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.399049226 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.431564983 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.431703382 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.434603799 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.434705406 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.437470139 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.437561321 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.470303770 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.470438145 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.473359414 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.473459275 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.476218227 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.476305466 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.508890316 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.509038118 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.511954097 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.512058691 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.514809526 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
[W507 10:58:13.514898085 NNPACK.cpp:57] Could not initialize NNPACK! Reason: Unsupported hardware.
Both max_new_tokens (=8192) and max_length(=196) seem to have been set. max_new_tokens will take precedence. Please refer to the documentation for more information. (https://huggingface.co/docs/transformers/main/en/main_classes/text_generation)
이 영상은 맑고 푸른 하늘 아래 푸른 바다 위에 떠 있는 여러 개의 장엄한 바위 기둥을 보여줍니다. 바위 기둥들은 수중에서 솟아오르며 해변으로 이어져 있고, 해변은 모래사장과 바위 형성물로 둘러싸여 있습니다. 전경에는 작은 보트가 바위 기둥 근처에 정박해 있으며, 보트 주변에는 여러 척의 작은 보트와 사람들이 수영하고 있는 모습이 보입니다. 이 장면은 평온하고 아름다운 해안 풍경을 강조하며, 자연의 웅장함과 해변의 고요함을 보여줍니다. 영상은 바위 기둥과 해변의 아름다운 풍경을 계속 강조하며, 작은 보트와 사람들이 여전히 보이며 해변과 바다의 평온한 분위기를 유지합니다. 영상은 맑고 푸른 하늘 아래 푸른 바다 위에 떠 있는 여러 개의 장엄한 바위 기둥을 보여줍니다. 바위 기둥들은 수중에서 솟아오르며 해변으로 이어져 있고, 해변은 모래사장과 바위 형성물로 둘러싸여 있습니다. 전경에는 작은 보트가 바위 기둥 근처에 정박해 있으며, 보트 주변에는 여러 척의 작은 보트와 사람들이 수영하고 있는 모습이 보입니다. 이 장면은 평온하고 아름다운 해안 풍경을 강조하며, 자연의 웅장함과 해변의 고요함을 보여줍니다. 영상은 바위 기둥과 해변의 아름다운 풍경을 계속 강조하며, 작은 보트와 사람들이 여전히 보이며 해변과 바다의 평온한 분위기를 유지합니다. 영상은 맑고 푸른 하늘 아래 푸른 바다 위에 떠 있는 여러 개의 장엄한 바위 기둥을 보여줍니다. 바위 기둥들은 수중에서 솟아오르며 해변으로 이어져 있고, 해변은 모래사장과 바위 형성물로 둘러싸여 있습니다. 전경에는 작은 보트가 바위 기둥 근처에 정박해 있으며, 보트 주변에는 여러 척의 작은 보트와 사람들이 수영하고 있는 모습이 보입니다. 이 장면은 평온하고 아름다운 해안 풍경을 강조하며, 자연의 웅장함과 해변의 고요함을 보여줍니다. 영상은 바위 기둥과 해변의 아름다운 풍경을 계속 강조하며, 작은 보트와 사람들이 여전히 보이며 해변과 바다의 평온한 분위기를 유지합니다.<|im_end|><|endofturn|>

real 26m15.373s
user 133m21.383s
sys 1m27.401s