TensorFlow:使用Python确定tensorRT功耗

cbeh67ev  于 2023-01-17  发布在  Python
关注(0)|答案(2)|浏览(215)

我正在计算Python中编写的tensorRT脚本的功耗。CUDA中有nvprof cuda_script,但我的Python脚本中找不到类似的值。
Python也有类似的东西吗?人们是如何计算p100/v100的功耗的?
类似于Nvidia GPU的How to profile CPU usage of a Python script?

cu6pst1q

cu6pst1q1#

事实证明,在一个python文件中以线程方式运行这个进程是非常复杂的。解决方案是与bash同时运行它们,然后让power脚本检查另一个进程是否正在运行。示例代码如下:

def measurePower():

    tmp = os.popen("ps -Af").read()
    process_name = "PROCESSTOBEMEASURED.PY"
    power_measurement = []

    '''One checks if the other process is still running, if yes it measures power again.'''
    while(process_name in tmp[:]):
        measurementPower = os.popen("nvidia-smi -i 0 -q").read()
        tmp = os.popen("ps -Af").read()
        power_measurement.append(nvidiaSmiParser(measurementPower, ["Power Draw"],num))

    return power_measurement
nfg76nw0

nfg76nw02#

您可以使用eco2AI库来估计功耗。https://github.com/sb-ai-lab/Eco2AI
它被设计用于跟踪ML模型训练期间的二氧化碳排放量,但它也分别测量GPU、CPU和RAM的功耗。

相关问题