AI Benchmark Alpha是一个开源的python库,用于评估各种硬件平台的AI性能,包括cpu, gpu和tpu。该基准依赖于TensorFlow机器学习库,并为评估关键深度学习模型的推理和训练速度提供了一个轻量级和准确的解决方案。
我们来看下如何使用
pip install tensorflow-gpu pip install ai-benchmark
需要安装上述两个包,安装完成以后我们需要,给ai-benchmark执行权限
chmod + /usr/local/bin/ai-benchmark
我们可以直接ai-benchmark
来启动测试程序
ai-benchmark
也可以编写python脚本来进行测试,内容如下
from ai_benchmark import AIBenchmark benchmark = AIBenchmark() results = benchmark.run() #benchmark.run_inference() 或者 benchmark.run_training()
如果是单独测试推理或者训练的话,可以使用benchmark.run_inference()
或者 benchmark.run_training()
该测试框架共有42项测试,19个章节
MobileNet-V2 [classification] Inception-V3 [classification] Inception-V4 [classification] Inception-ResNet-V2 [classification] ResNet-V2-50 [classification] ResNet-V2-152 [classification] VGG-16 [classification] SRCNN 9-5-5 [image-to-image mapping] VGG-19 [image-to-image mapping] ResNet-SRGAN [image-to-image mapping] ResNet-DPED [image-to-image mapping] U-Net [image-to-image mapping] Nvidia-SPADE [image-to-image mapping] ICNet [image segmentation] PSPNet [image segmentation] DeepLab [image segmentation] Pixel-RNN [inpainting] LSTM [sentence sentiment analysis] GNMT [text translation]