通常一个项目中有很多固定的配置需要全局进行使用，或者一个全局很多地方都能用到的函数，如果在每个组件中都重新定义赋值给一个变量，或者重复定义一样的函数，那么这就是一个重复的工作，所以这个时候我们可以定义...
刚部署完rust在vscode中进行调试就报错，错误代码如下这个错误由于使用了错误的工具链导致，我们需要安装stable-x86_64-pc-windows-msvc这个工具链，然后进行切换。查看当前...
由于rust需要C语言环境，我们需要安装VisualStudio来提供本地的C语言环境，但是VisualStudio比较大，安装时间较长，所以我们这里选择另一种方式，就是部署mingw64来搭建C语言...
之前在centos上编译过，目前基本都转到ubuntu22.04了，所以在这个版本上进行编译部署并记录下来。首先我们更新系统apt包，并安装编译时需要的依赖包sudo apt update sudo ...
flask中我们想把日志按天来分割出来，实现这个效果可以使用很多方法，但是logging模块中有一个TimedRotatingFileHandler方法可以直接来轮转日志，我们很多年前实际也有一个笔记...
多实例GPU（MIG）功能允许将GPU安全地划分为多个独立的GPU实例，供CUDA应用程序使用。英伟达高端GPU卡都可以开启MIG，一般MIG实例最多可分配7个。MIG主要针对于那些未充分利用GPU资...
对于k8s一中间件的数据进行一键备份，可以在做临时变更或者定期备份的场景下使用，备份mongodb主要使用了mongodump命令，etcd使用snapshot命令，prometheus是添加了--w...
Supervisor 是用 Python 开发的一套通用的进程管理程序，能监控进程的状态，在进程异常退出时能自动重启，supervisor依赖python，因为我们是python项目，所以环境里面已经...
flask分页有好几个插件可以用，例如flask_paginate，还有sqlalchemy带的分页函数。那么我们没有使用sqlalchemy这个ORM库，使用的是peewee，我们对分页也有一些自己...
Flask-Caching 是Flask的一个扩展，为任何 Flask 应用程序添加了对各种后端的缓存支持。它基于 cachelib 运行，并通过统一的 API 支持 werkzeug 的所有原始缓存...
之前实际写过一篇flask_login库的用法，是使用的sqlalchemy，可以查看我之前的笔记：https://sulao.cn/post/669，这次换成peewee以后，就再记录下使用的方法，...
Gunicorn的优化需要结合当前硬件资源以及WEB业务的场景来进行优化配置，例如CPU密集型和IO密集型两种场景他们对进程数和是否要开启异步的需求是不一样的，下面我就来介绍一下针对这些场景的优化方案...
使用nginx代理发布flask应用以后基本都会遇到这两个问题，以下就是解决方法，记录以后方便使用1.web前端无法加载静态资源图片这个需要在nginx中添加静态资源访问的别名地址location /...
通常在一个集群会有一个统一的API入口，一般都是使用nginx来做统一的入口代理，然后到后端再转发到对应的服务API上。今天就整合之前的一些代理的配置，方便后续使用。1.nginx代理http/htt...
日常在一些程序中进行GPU调用，这些cuda程序异常崩溃的时候，有时会遇到掉卡掉驱动、没有进程但是显存被占用的情况，这个时候我们可以通过以下命令来尝试进行处理。如果是掉卡的话可以使用lspci查看下主...
MIG通过虚拟地将单个物理GPU划分为更小的独立实例，这项技术涉及GPU虚拟化，GPU的资源，包括CUDA内核和内存，被分配到不同的实例。这些实例彼此隔离，确保在一个实例上运行的任务不会干扰其他实例。...
我们在k8s使用英伟达GPU时想让POD自动挂载我们需要部署nvidia-device-plugin组件，如何部署使用可以查看我之前的笔记：https://sulao.cn/post/975英伟达的d...
目前市面上有很多GPU共享技术，在GPU共享的模式下，在用户态共享和内核态进行共享是不一样的，根据以下视图，越往底层，共享对用户的影响越小，安全性也能对应提升。下面我就来简单介绍下目前GPU共享的一些...
在 vGPU 模式下，GPU 上的内存是静态分区的，但计算能力在共享 GPU 的 VM 之间分时共享。在这种模式下，当虚拟机在 GPU 上运行时，它“拥有” GPU 的所有计算能力，但只能访问其共享的...
k8s已经支持GPU设备的调度和POD容器挂载，需要做以下配置1.首先我们需要再宿主机安装驱动2.需要安装nvidia-container-runtime3.GPU节点打标签并部署k8s-device...