Gunicorn的优化需要结合当前硬件资源以及WEB业务的场景来进行优化配置，例如CPU密集型和IO密集型两种场景他们对进程数和是否要开启异步的需求是不一样的，下面我就来介绍一下针对这些场景的优化方案...
NCCL Tests是一个开源的测试套件，由NVIDIA开发并维护，目的是为了帮助开发者更好地理解和利用NCCL的功能。它提供了多种并发和消息传递模式的基准测试，以评估多GPU间的通信效率，并且支持各...
NCCL（NVIDIA Collective Communications Library）是由 NVIDIA 开发的一种高性能的多 GPU 通信库，用于在多个 NVIDIA GPU 之间实现快速的数...
之前我们在centos/ubuntu上安装过nvidia-container-runtime，配置也都是在docker中配置的，那么我们最近本地环境整体从docker换成了containerd，那么今...
由于k8s高版本后面不支持docker，所以需要使用containerd替代docker，下面是部署过程，整个部署基本和原来记录的差距不大，但是还是有些注意事项首先关闭防火墙systemctl sto...
AI Benchmark Alpha是一个开源的python库，用于评估各种硬件平台的AI性能，包括cpu, gpu和tpu。该基准依赖于TensorFlow机器学习库，并为评估关键深度学习模型的推理...
asyncio库是python实现异步任务的库，在python3.4引入，在3.5和3.7分别都有一些改进和用法的改变协程本质就是一种用户态的上下文切换技术，我们创建事件循环，然后将我们的任务丢入到这...
CRI（Container Runtime Interface，容器运行时接口）是kubernetes定义的接口，定义了如何操作容器和镜像的统一规范，它主要包含ImageService和Contain...
GPU开启了持久模式以后，即使没有活动的客户端，NVIDIA驱动程序也会保持加载状态，这样可以很大程度减少与运行依赖程序的加载时间，适用于所有的CUDA产品。Persistence-M (Persis...
Horovod 是一套支持TensorFlow, Keras, PyTorch, and Apache MXNet 的分布式训练框架，由 Uber 构建并开源的第三方库，在分布式训练中性能优于原生像T...
最近遇到了在使用opencv读取图片的时候报错报错libpng error: Read Error然后我将图片下载下来，直接双击打开发现该图片已经损坏，那么我尝试在我的代码中添加try...excep...
经常需要远程登陆ubuntu服务器上打开浏览器查看一些信息，有时发现VNC登陆上去打不开浏览器执行firefox直接报错Running Firefox as root in a regular use...
functools工具函数在一般业务中用到的不太多，我们日常基本只用到三个函数，其中一个reduce之前有过一个笔记，详情可以查看https://sulao.cn/post/680，另外两个函数我们今...
我们在制作网页的时候通常有很多公共地方可以单独写入一个文件，然后在其他文件中引用，那么flask中对这种需要反复引用文件的方法有多种多中方案，其中有include，extends这两种1.includ...
sqlalchemy使用vscode报错Instance of 'SQLAlchemy' has no 'Table' member (no-member)但是代码正常运行，在stackoverflo...
通常在Python中我们进行并发编程一般都是使用多线程或者多进程来实现的，对于计算型任务由于GIL的存在我们通常使用多进程来实现，而对与IO型任务我们可以通过线程调度来让线程在执行IO任务时让出GIL...
先来上干货代码，再来讲解模块使用方法先要pip安装两个模块，一个是opencv-python，另一个是pywin32#!/usr/bin/python3 #coding:utf-8 import cv...
netcat是网络工具中的瑞士军刀，它能通过TCP和UDP在网络中读写数据。通过与其他工具结合和重定向，你可以在脚本中以多种方式使用它。使用netcat命令所能完成的事情令人惊讶。netcat所做的就...