模型内部的结构和组成因类型而异，但以常见的深度学习模型（如神经网络）为例，其核心组成部分和机制可以总结如下：1.基本结构组件输入层（Input Layer）：接收原始数据（如文本、图像、数值），并将其...
大模型通常指的大语言模型，这个大主要体现在规模上，一般指的参数规模和包含更复杂的神经网络架构，目前模型主要有包括Transformer、卷积神经网络（CNN）和循环神经网络（RNN）这几种模型架构。一...
MIG通过虚拟地将单个物理GPU划分为更小的独立实例，这项技术涉及GPU虚拟化，GPU的资源，包括CUDA内核和内存，被分配到不同的实例。这些实例彼此隔离，确保在一个实例上运行的任务不会干扰其他实例。...
我们在k8s使用英伟达GPU时想让POD自动挂载我们需要部署nvidia-device-plugin组件，如何部署使用可以查看我之前的笔记：https://sulao.cn/post/975英伟达的d...
目前市面上有很多GPU共享技术，在GPU共享的模式下，在用户态共享和内核态进行共享是不一样的，根据以下视图，越往底层，共享对用户的影响越小，安全性也能对应提升。下面我就来简单介绍下目前GPU共享的一些...
在 vGPU 模式下，GPU 上的内存是静态分区的，但计算能力在共享 GPU 的 VM 之间分时共享。在这种模式下，当虚拟机在 GPU 上运行时，它“拥有” GPU 的所有计算能力，但只能访问其共享的...
神经网络的训练梯度下降法学习率： 步长更大= 学习率更高误差函数不断减小。如果训练数据过多， 无法一次性将所有数据送入计算。现将数据分成几个部分： batch分多个 batch , 逐一送入计算训练E...
静态库和动态库最本质的区别就是：该库是否被编译进目标（程序）内部。静态（函数）库一般扩展名为（.a或.lib）,这类的函数库通常扩展名为libxxx.a或xxx.lib 。这类库在编译的时候会直接整合...
服务注册中心本质上是为了解耦服务提供者和服务消费者。对于任何一个微服务，原则上都应存在或者支持多个提供者，这是由微服务的分布式属性决定的。更进一步，为了支持弹性扩缩容特性，一个微服务的提供者的数量和分...
微服务会将应用程序分解为多个较小的服务组件。与传统的一体化（Monolithic）架构相比，微服务架构将每个微服务视为独立的实体与模块，从根本上有助于简化代码和相关基础架构的维护。应用程序的每个微服务...
由于经常要用，记录下windows原版下载地址和安装过程，还有序列号windows商业版下载地址：ed2k://|file|cn_windows_10_business_editions_versio...
集群联邦 Federation 的目的是实现单一集群统一管理多个kubernetes集群的机制。这些集群可以是跨地域的，跨云厂商的或者是用户内部自建集群。一旦集群建立联邦后，就可以使用集群 Fed...
k8s发布应用几本有以下6个过程1.制作镜像2.控制器管理podDeployment：无状态部署，例如Web，微服务，API StatefulSet：有状态部署，例如数据库，ZK，ETCD Daemo...
NAT（Network Address Translation，网络地址转换）是将IP 数据包头中的IP 地址转换为另一个IP 地址的过程。在实际应用中，NAT 主要用于实现私有网络访问公共网络的功能...
YML文件格式是YAML (YAML Aint Markup Language)编写的文件格式，YAML是一种直观的能够被电脑识别的的数据数据序列化格式，他并且容易被人类阅读，容易和脚本语言交互的，可...
1. 两者分别是什么？ Apache Hive是一个构建在Hadoop基础设施之上的数据仓库。通过Hive可以使用HQL语言查询存放在HDFS上的数据。HQL是一种类SQL语言，这种语言最终被转化为...
我们在使用阿里云的时候经常遇到明明端口监听了，也开放了防火墙，从外网依然无法访问服务端口，这是应该阿里云的安全组限制了这个端口的对外开放，在这里我们做了一个安全组开放端口的教程首先找到阿里云ECS里面...
一般来说，主流的Web服务软件，通常都基于两种基础密码库：OpenSSL和Java。Tomcat、Weblogic、JBoss等，使用Java提供的密码库。通过Java的Keytool工具，生成Jav...
许多阿里云用户购买了云市场的镜像后不知道如何使用，这里做个教程供大家参考下。首先登录自己的阿里云管理控制台，云服务器->ECS，停止实例等实例停止后，还是点击更多里面的更换系统盘在弹出的窗口点击确定更...