FuriosaAI SDK와 NPU를 사용해서 YOLOv5s 모델을 실행하는 예제를 Github에서 확인할 수 있습니다.
ONNX 모델 생성하기 - 예제 코드
학습이 완료된 Pytorch 모델을 ONNX로 변환하여 줍니다.
Furiosa Quantizer - 예제 코드
FuriosaAI SDK가 제공하는 양자화 도구를 이용하여 생성한 ONNX 모델을 8bit 정수형 모델
…
안녕하세요 Furiosa SDK 사용하다 문제가 발생한 경우에 아래 두가지 커맨드를 실행해서 결과를 보내주시면 감사하겠습니다.
apt list --installed | grep furiosa
pip list | grep furiosa
설치된 패키지를 확인할 수 있으면 문제를 해결하는데 큰 도움이 됩니다.
(base) ubuntu@host-172-30-3-139:~$ apt list --…
Warboy Target Models
Warboy는 추론 (inference)만 지원합니다. 학습 (training)은 지원하지 않습니다.
INT8 연산만을 지원하기에 모델 양자화 (quantization)는 필수입니다.
모델마다 다르지만 입력 크기가 512x512 ~ 768x768 일때 효율성이 높습니다. 더 큰 입력 사이즈는 타일링 (큰 입력 사이즈의 입력은 보다 작은 입력 사이즈로 쪼…
