大模型训练为什么用A100不用4090
大模型训练为什么用A100不用4090_a100相当于几张4090算力-CSDN博客 这是一个好问题… 继续阅读 大模型训练为什么用A100不用4090
- 发表于：
-
作者：
tingyuxinsheng@gmail.com
- 分类： AI infra
- 发表评论: 大模型训练为什么用A100不用4090
tingyuxinsheng@gmail.com 的帖子
云服务器产品和战略
云服务器： 目前，如果单从云服务器单个产品来讲，云服务器的产品已经是一个成熟的产品了。但是云服务这种… 继续阅读 云服务器产品和战略
- 发表于：
-
作者：
- 分类： 商业, 运维
- 发表评论: 云服务器产品和战略
GPU 进阶笔记（一）：高性能 GPU 服务器硬件拓扑与集群组网（2023）
记录一些平时接触到的 GPU 知识。由于是笔记而非教程，因此内容不求连贯，有基础的同学可作查漏补缺之… 继续阅读 GPU 进阶笔记（一）：高性能 GPU 服务器硬件拓扑与集群组网（2023）
数据中心网络 CLOS网络
数据中心网络 - 简书 (jianshu.com) 在传统的大型数据中心，网络通常是三… 继续阅读 数据中心网络 CLOS网络
- 发表于：
-
作者：
- 分类： 运维
- 发表评论: 数据中心网络 CLOS网络
VGPU: 共享4090显卡
1、exsi Vgpu 专业显卡 专业级 显卡 需要 搭建 liense 服务端 需要 vgpu的许… 继续阅读 VGPU: 共享4090显卡
- 发表于：
-
作者：
- 分类： 运维
- 发表评论: VGPU: 共享4090显卡
openstack GPU服务器
OpenStack GPU直通服务器-CSDN博客
- 发表于：
-
作者：
- 分类： 运维
- 发表评论: openstack GPU服务器
提高 Kubernetes 的 GPU 利用率
By Kevin Klues, Kyrylo Perelygin and Pramod Ramara… 继续阅读 提高 Kubernetes 的 GPU 利用率
- 发表于：
-
作者：
- 分类： 运维
- 发表评论: 提高 Kubernetes 的 GPU 利用率
AI infra：从零起步到万卡AI集群数据中心。
作者 时间 王飞龙 2024年9月17日星期二（创建） 自谷歌的大佬们发布 Transformer … 继续阅读 AI infra：从零起步到万卡AI集群数据中心。
AI集群网络技术
NVLink：通常是GPU与GPU之间的通信，也可以用于CPU与GPU之间的通信。NVIDIA推出了… 继续阅读 AI集群网络技术
- 发表于：
-
作者：
- 分类： 网络
- 发表评论: AI集群网络技术
RoCE、IB和TCP等网络的基本知识及差异对比
RoCE、IB和TCP等网络的基本知识及差异对比 在分布式存储网络中，我们使用的协议有RoCE、In… 继续阅读 RoCE、IB和TCP等网络的基本知识及差异对比
- 发表于：
-
作者：
- 分类： 网络
- 发表评论: RoCE、IB和TCP等网络的基本知识及差异对比