궁금해서 쓰는 PHI4
GPT/클로드쓰면서 같은거 넣고 출력문 차이나 VRAM 용량에따른 속도차이 보기
https://github.com/ollama/ollama
GitHub - ollama/ollama: Get up and running with Llama 3.3, Phi 4, Gemma 2, and other large language models.
Get up and running with Llama 3.3, Phi 4, Gemma 2, and other large language models. - ollama/ollama
github.com
여기에서 본인 OS 맞춰서 다운 후
파워쉘에서
ollama run phi4
Windows PowerShell
Copyright (C) Microsoft Corporation. All rights reserved.
새로운 기능 및 개선 사항에 대 한 최신 PowerShell을 설치 하세요! https://aka.ms/PSWindows
PS C:\Users\유저명> ollama run
Error: requires at least 1 arg(s), only received 0
PS C:\Users\유저명> ollama run phi4
pulling manifest
pulling fd7b6731c33c... 100% ▕████████████████████████████████████████████████████████████████████▏ 9.1 GB
pulling 32695b892af8... 100% ▕████████████████████████████████████████████████████████████████████▏ 275 B
pulling fa8235e5b48f... 100% ▕████████████████████████████████████████████████████████████████████▏ 1.1 KB
pulling 45a1c652dddc... 100% ▕████████████████████████████████████████████████████████████████████▏ 82 B
pulling f5d6f49c6477... 100% ▕████████████████████████████████████████████████████████████████████▏ 486 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)
'LLM' 카테고리의 다른 글
| 구형 노트북 서빙머신 구축-1 (0) | 2026.05.27 |
|---|---|
| 경험삼아 mlx기반 QLoRA 해보기-2부 (0) | 2025.11.07 |
| 경험삼아 mlx기반 QLoRA 해보기-1부 (0) | 2025.11.07 |
| DeepSeek 깔아보기 (0) | 2025.01.29 |