빠른 실행¶
vAi를 빌드하고 MNIST 분류기 예제를 돌려봅니다.
MNIST 분류기는 모델 정의부터 가중치 로딩, 실행까지 examples/mnist/main.cpp 한 파일에 들어 있습니다. 체크포인트는 data/ckpts/mnist/jroot/에, 입력 이미지는 data/images/에 있습니다.
1. 설치¶
1.1 요구사항¶
| GPU | Vulkan conformant (NVIDIA / AMD / Intel / Qualcomm) |
| Vulkan SDK | 1.3 이상, glslc 포함 |
| CMake | 3.20 이상 |
| 컴파일러 | C++23 (gcc 14 이상) |
1.2 클론¶
eva(Vulkan 래퍼)가 서브모듈이므로 함께 받아야 합니다.
git clone --recursive https://github.com/vaistrata/vAi.git
cd vAi
git submodule update --init --recursive
1.3 빌드¶
빌드 옵션:
| 옵션 | 기본 | 내용 |
|---|---|---|
VAI_BUILD_MODEL_DEMO |
ON |
모델별 데모 (demo-gpt2, demo-yolox 등) |
VAI_BUILD_EXAMPLES |
OFF |
모델 밖의 예제 (demo-mnist, chat-llama3, chat-gemma3) |
VAI_BUILD_BENCH |
OFF |
다른 추론 프레임워크와 비교하는 벤치 |
VAI_BUILD_PYTHON |
OFF |
Python 바인딩 |
1.4 실행¶
1.5 결과¶
출력 예시는 다음과 같습니다. 입력이 0.png이므로 10개 로짓 중 0번 클래스의 값이 가장 큰지 확인합니다.