I am a Technical Support Engineer based in mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.
I am a Technical Support Engineer based in mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.
HAMi 是一个用于管理 Kubernetes 集群中异构 AI 计算设备的开源平台。其前身为 k8s-vGPU-scheduler,可在多个容器和工作负载之间实现设备共享。
Volcano 是基于 Kubernetes 的容器批量计算平台,主要用于高性能计算场景。
本文结合两者的能力进行实践,参考资料:https://project-hami.io/zh/tutorials/labs/volcano-vgpu-gang-queue
RKE/RKE2 节点配置 NVIDIA Container Runtime
Read moreNVIDIA GeForce RTX 3060 内核驱动安装
NVIDIA 提供了多种驱动安装方式,此处记录 NVIDIA GeForce RTX 3060 驱动的安装方法。
以下安装方式任选其一,不要混合使用。切换安装方式前,需要先卸载通过其他方式安装的 NVIDIA 驱动。
基于 RKE2 与 NVIDIA Tesla P4 的 HAMi 使用实践
HAMi 是一个用于管理 Kubernetes 集群中异构 AI 计算设备的开源平台。其前身为 k8s-vGPU-scheduler,可在多个容器和工作负载之间实现设备共享。
本文基于 RKE2 和 NVIDIA Tesla P4 进行测试,同时使用 GPU Operator 在 GPU 节点上自动安装驱动和 NVIDIA Container Toolkit。