有网关/数据面相关经验:Envoy / Traefik / Higress 等的落地、二次开发、插件机制(如 ext_proc/wasm)、性能调优经验 2. 熟悉大模型推理服务、流量特性和观测指标:理解长上下文、流式输出、批处理/排队、KV Cache/Prefix Cache 等对路由与限流策略的影响
有 vLLM / SGLang / Dynamo / TensorRT-LLM 等实践更佳 3. 熟悉/参与过相关开源项目或架构:aibrix、llm-d、sgl-router 等(或同类推理流量编排/路由/调度项目),能快速阅读源码并推动工程落地 4. 有调度/路由算法实践(大模型场景):基于延迟/负载/成本的动态路由、优先级队列、多级限流配额、cache-aware、virtual token counter、PD分离、拥塞控制与 SLO 驱动调度等 5. 有大规模线上稳定性建设经验:容量评估、压测体系、故障演练、多活容灾、灰度与回滚体系 6. 有MaaS平台开发与运维相关经验