이런 에러를 뱉어내는데, integer값?에 관한 건지 버전문제인지 이유를 모르겠습니다.
자체모델이고 litmus로 돌려보았을 때 문제가없었습니다.
github furiosa-ai/yolov7의 furiosa_eval.py 로 돌려보았을 때의 상황입니다.
( https://github.com/furiosa-ai/yolov7/blob/main/furiosa_eval.py )
아래는 설치된 버전입니다.
1 Like
안녕하세요, 현재 yolov7 레포지토리가 SDK 0.9.1 버전을 기준으로 작성되어 있어 0.10.0 환경에서 실행할 경우 에러를 발생시키게 됩니다.
0.9.1 버전을 기준으로 다운그레이드 후에 테스트 진행해보시면 해결 될 것으로 예상됩니다.
- 컴파일러 패키지 및 파이선 패키지 다운그레이드
sudo apt install libonnxruntime=1.13.1-2
sudo apt install furiosa-libcompiler=0.9.1-2
sudo apt install furiosa-libnux=0.9.1-2
pip install "furiosa-sdk[full]"==0.9.1
레포지토리는 최신버전으로 최대한 빠르게 업데이트 하겠습니다.
1 Like
감사합니다. 다운그레이드하니 돌아가는 것 확인했습니다.
yolov7을 양자화할때 yolov5s 모델과 유사하게 양자화 이후 정확도 문제로 모델의 일부를 잘라내는 과정이 필요하고, 잘라낸 부분은 따로 코드를 작성하여야 합니다 (참조)
안녕하세요
혹시 detect, bounding box 등의 과정도
with furiosa.runtime.session.create(dfg_path) as session 의 내부에 포함해야하는걸까요?
추론속도 외의 파이썬 실행속도가 너무 느린 것 같아 문의드립니다.
아니면 session을 열고 닫는 동안의 시간이 오래걸리는걸까요?
Npu추론 레이턴시는 30~40ms 정도입니다.
bounding box의 과정도 with furiosa.runtime.session.create 의 내부에 코드를 작성해주셔야 반복적으로 세션을 열고 닫는 작업이 발생하지 않습니다.
2 Likes