I am a Technical Support Engineer based in mainland China, dedicated to helping users and teams efficiently resolve complex technical issues.

通过 Rancher Monitoring 部署的 Node Exporter，默认会监听节点的 9796 端口。

通常情况下，任何能够访问节点 9796 端口的客户端，都可能读取 Node Exporter 暴露的指标数据，这在很多环境中不符合安全要求。

可以通过启用 Kube RBAC Proxy，将 Node Exporter 收口到 127.0.0.1:8100，对外的 9796 端口使用 HTTPS，并通过 Kubernetes TokenReview 和 SubjectAccessReview 进行身份验证与 RBAC 授权。

Rancher 通过匿名导入 Go 标准库 net/http/pprof，并使用默认 HTTP mux 监听 127.0.0.1:6060。

Profile 文件可用于性能分析。当 Rancher 出现性能问题时，例如 CPU 使用率异常高、内存持续上涨、Goroutine 数量异常增加等，可以通过以下方式收集 Profile 文件进行分析。

Token 是大语言模型处理文本时使用的基本单位。它不一定等于一个字、一个词或一个字符，而是由模型的分词器决定。

本文记录在 RTX 3060 12 GiB 上部署和调优 vLLM 的过程，包括 Python 与 Docker 启动方式、请求级采样参数、服务级显存与并发配置，以及通过 HAMi 在 Kubernetes 中共享单张 GPU。本文参数以功能验证和调优起点为主，不代表所有模型和负载下的最佳配置。