파이썬에서 파이토치 이용시 cpu, gpu 대신 npu 쓰려면 어떻게 해야하는지
안녕하세요 주영님 FuriosaAI 정영범입니다.
아래 예제를 참고해주시면 감사하겠습니다.
https://furiosa-ai.github.io/docs/latest/ko/software/tutorials.html
안녕하세요 안내해주신대로 들어가보았으나
pytorch 로 만들어진 모델을불러오거나 pytorch로 만든 모델을
npu에 돌리는 방법이 보이질 않습니다
페이지 보면 퓨리오사 ai에서 만들어둔 이미지 모델을 쓰는 거 외엔 방법이 없어보이는데
제가 이해한게 맞을까요?
넵 현재는 Pytorch에서 직접 돌릴 수는 없습니다. 해당 기능은 올해 말에 예정되어 있습니다.
현재는 Pytorch로 작성한 모델을 onnx로 export 하고 양자화를 해야만 npu에서 돌릴 수 있습니다.
이 과정은 아래 예제를 참고하시길 바랍니다.