태그 보관물: tensorflow

OpenVINO python을 이용한 inference 예제

댓글 남기기

OpenVINO를 이용해서 TensorFlow(Keras)로 training한 모델로 추론(inference)을 수행하는 간단한 예제를 작성해 보았다. TensorFlow model을 freeze하기 Training된 모델을 model optimizer에 넣기 전에 freeze시켜야 하는데, output_node_names를 입력하라는 오류 메세지가 계속 뜬다면 제대로 freezing을 수행했는지 확인해 보는게 좋다. 알아보기 쉽게 하기 위해 입출력 layer에 ‘name=’ parameter로 다음과 같이 이름을 지정해 주었다. 그러면 layer의 이름들을 출력할 때 다음과 같이 나온다. […]

TensorFlow에서 CUBLAS_STATUS_NOT_INITIALIZED 오류 문제

댓글 남기기

failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZED 이 문제는 TensorFlow의 GPU memory growth 설정과 관련이 있다. 이 경우 GPU의 allow_grouth option을 True로 설정하면 문제를 해결할 수 있는데, Use a GPU 페이지에 따르면 tf.config.experimental.set_memory_growth()를 통해 True로 설정하거나 혹은 환경변수 TF_FORCE_GPU_ALLOW_GROWTH를 설정해서 해결 할 수 있다. 코드에 다음과 같이 환경 변수를 설정해 줄 수도 있지만, 실행 환경에 따라 […]