问题:
在服务器上跑pytorch服务,cpu核心全部占用,影响其他服务的性能
解决方法:
pytorch默认是能用多少线程就用多少的,可通过一下方法设置线程
修改环境变量
export OMP_NUM_THREADS=1
在代码里面设置线程数
torch.set_num_threads(int thread)
通过减少线程数,可以减少cpu占用,同时也会使得服务的qps有所下降
在服务器上跑pytorch服务,cpu核心全部占用,影响其他服务的性能
pytorch默认是能用多少线程就用多少的,可通过一下方法设置线程
修改环境变量
export OMP_NUM_THREADS=1
在代码里面设置线程数
torch.set_num_threads(int thread)
通过减少线程数,可以减少cpu占用,同时也会使得服务的qps有所下降