I am a Technical Support Engineer based in mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.
I am a Technical Support Engineer based in mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.
SGLang 和 vLLM 都是高性能 LLM 推理框架;SGLang 最有代表性的设计是利用 RadixAttention,更主动地复用不同请求之间相同前缀的 KV Cache。
通过 ManagedOSImage 升级 Rancher Elemental 节点
ManagedOSImage 资源用于定义需要应用到一组目标集群中各节点的操作系统镜像或镜像版本。
可以使用其来对 Elemental 节点进行 OS 升级,以及升级过程中新配置的下发。
VMware 使用 Rancher Elemental RAW 介质
Rancher Elemental 支持构建 ISO 和 RAW 两种类型的介质。本文测试在 VMware 环境中使用 RAW 介质。
Rancher Monitoring Node Exporter with Kube RBAC Proxy
通过 Rancher Monitoring 部署的 Node Exporter,默认会监听节点的 9796 端口。
通常情况下,任何能够访问节点 9796 端口的客户端,都可能读取 Node Exporter 暴露的指标数据,这在很多环境中不符合安全要求。
可以通过启用 Kube RBAC Proxy,将 Node Exporter 收口到 127.0.0.1:8100,对外的 9796 端口使用 HTTPS,并通过 Kubernetes TokenReview 和 SubjectAccessReview 进行身份验证与 RBAC 授权。