I am a Cloud Natice Support Engineer based in Mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.

Longhorn 是一款专为 Kubernetes 设计的云原生分布式存储系统，提供简单易用、高可靠性的持久化存储能力。

本文基于 Longhorn v1 Data Engine 进行实践。

在使用以下配置组合时，不同 RKE2 版本可能会遇到不同问题，本文对已知问题进行总结：

• RKE2 使用 Cilium CNI
• Cilium 启用 kubeProxyReplacement
• 使用 RKE2 CoreDNS 的 nodelocal.enabled 配置开启 NodeLocalDNS
• 使用 RKE2 CoreDNS 的 nodelocal.use_cilium_lrp 配置创建 Cilium LocalRedirectPolicy（LRP），将集群 DNS 的流量重定向至本节点的 node-local-dns Pod

在 Cilium 完全替代 kube-proxy 后，ClusterIP 流量由 eBPF 在进入 Pod 网络栈前处理，传统 NodeLocalDNS 依赖的 iptables 截获方式不再适用，因此需要使用 LRP。

KServe 是一个开源的云原生模型服务平台，能够快速在 Kubernetes 上部署和运行机器学习模型，支持多种机器学习框架，并具备弹性扩容能力。

本文记录在 RTX 3060 12 GiB 上部署和调优 SGLang 的过程，包括 Python 与 Docker 启动方式，以及通过 HAMi 在 Kubernetes 中共享单张 GPU。本文参数以功能验证和调优起点为主，不代表所有模型和负载下的最佳配置。