Furiosa-sdk 설치문제 - NPU가 확인되지 않습니다

[kykang]

$ sudo apt update
$ sudo apt install -y ca-certificates apt-transport-https gnupg

$ sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-key 5F03AFA423A751913F249259814F888B20B09A7E

$ sudo tee -a /etc/apt/auth.conf.d/furiosa.conf > /dev/null <<EOT

machine archive.furiosa.ai
login {메일로받은Access Key}
password {메일로받은Secret Access Key}
EOT
$ sudo chmod 400 /etc/apt/auth.conf.d/furiosa.conf`

$ sudo tee -a /etc/apt/sources.list.d/furiosa.list <<EOT

deb [arch=amd64] https://archive.furiosa.ai/ubuntu focal restricted
EOT

$ sudo apt-get update && sudo apt-get install -y furiosa-driver-warboy furiosa-libnux

$ sudo usermod -aG furiosa $USER
$ sudo apt-mark hold furiosa-driver-warboy furiosa-libhal-warboy furiosa-libnux libonnxruntime

$ sudo apt-get install furiosa-firmware-tools furiosa-firmware-image=1.7.3

$ sudo apt install -y python3 python3-pip python-is-python3
$ pip install --upgrade pip setuptools wheel

$ pip install furiosa-sdk
$ pip install ‘furiosa-sdk[server, litmus]’

---

위와 같이 소프트웨어 설치를 진행했는데요
$ furiosactl info으로 설치확인을 하려고 했을때 NPU 확인이 안됩니다.

[dreameye98]

안녕하세요 FuriosaAI 정영범입니다.
NPU 카드를 장착하셨나요? 아니면 카카오 iCloud에서 인스턴스를 할당 받으신 걸까요?

[kykang]

Warboy 없이 Furiosa SDK 설치만으로도 모델이 Warboy에서 구동되는지 미리 확인해보실 수 있다고 안내를 받아서요. 가이드에 따라 위 글에 적힌 내용들만 실행한 상태입니다.
NPU 카드가 없으면 카카오 iCloud에서 인스턴스를 할당 받아야 하나요? 어떻게 진행하면 될까요?

[jongwook.kim]

안녕하세요 FuriosaAI 김종욱입니다.

Furiosa SDK만으로 모델이 Warboy에서 구동되는지 미리 확인해보시기 위해서는 furiosa litmus 명령을 통해 가능합니다. 사용 방법은 furiosa litmus를 참조해주시길 바랍니다.

[dreameye98]

넵 furiosactl info 실제 장착된 Warboy 상태를 보는 명령어라 없다고 나오는게 맞습니다.

[kykang]

furiosa litmus로 구동여부를 확인해 보려고 하니
자체모델과 다운받은 resnet 모델 모두 첫번째 캡쳐와 같은 형태의 에러가 발생하여
–skip-quantization을 추가하여 실행하였는데 디바이스를 찾을 수 없다는 에러가 뜹니다(두번째캡쳐)

그리고 자체 모델은 그 이전에 에러가 발생하는데 변환 시 신경써야 할 부분이 무엇이 있을까요?

[dreameye98]

furiosa litmus 마지막 단계에서 inference를 실제로 해보는데 Warboy 카드가 없어서 에러가 나는 것입니다. 컴파일 단계까지 통과하면 대부분 Warboy에서 수행할 수 있으니 litmus를 통과하셨다고 보셔도 무방합니다. 혹시 어떤 회사에서 근무하시는지 알려주실 수 있을까요? 혹여 공개가 어려우시면 dreameye98@furiosa.ai 로 메일 주셔도 좋겠습니다.