从 0 到 1 的架构决策
从 1 到 N 的规模化

招聘背景

平台已具备稳定的模型供给与价格优势，需要专职销售把产能转化为持续的商业消耗。目标客户：AI 原生应用与 Agent 厂商、SaaS / 软件公司、互联网中大型客户、出海企业、系统集成商。

工作职责

• 01负责主流大模型 Token 的 B 端销售全流程
• 02建设客户地图与销售漏斗
• 03深入理解客户业务场景（对话、RAG、Agent、批处理、多模态等）
• 04报价与商务条款设计
• 05维护渠道与生态合作
• 06持续反馈市场动态，影响产品与定价策略

基本要求

• —本科及以上学历，3 年以上 ToB 销售经验，有云计算 / API / 算力类产品销售案例
• —能与 CTO / 架构师 / 算法负责人进行实质性技术对话
• —具备独立开拓新客户能力，结果导向，抗压能力强

加分项

招聘背景

分发平台是公司核心资产，对标 OpenRouter / LiteLLM 类系统。需要 3 名工程师覆盖三个核心方向：网关与路由、计量计费与账务、控制台与开发者体验。

工作职责

• 01高并发低延迟模型 API 网关设计与实现
• 02多供应商聚合与智能路由策略
• 03计量配额与计费体系建设
• 04开发者控制台与 API Key 管理系统
• 05可观测性体系与风控策略
• 06容量规划与全链路压测

基本要求

• —本科及以上，计算机相关专业，3 年以上后端研发经验
• —精通 Go / Rust / Python 其中至少一门
• —熟悉 HTTP/2、SSE、限流、缓存等网关核心技术
• —熟悉 K8s / Redis / Kafka / PostgreSQL / ClickHouse
• —理解 Token 计费模型与 API 产品设计

加分项

招聘背景

Token 单位成本直接决定毛利空间。岗位覆盖推理引擎、算子、集群三个层次，目标是持续降低单位 Token 成本，这是公司最核心的竞争力之一。

工作职责

• 01主流开源模型（Llama / Qwen / DeepSeek 等）生产部署调优
• 02推理平台优化：vLLM / SGLang / TRT-LLM，PD 分离、KV Cache、投机解码、量化
• 03算子优化：CUDA / Triton / CUTLASS 层级性能调优
• 04集群优化：TP / PP / EP / DP 并行策略，NCCL / RDMA 通信优化
• 05压测与评测体系建设，成本与 SLO 持续跟踪
• 06国产 GPU / NPU 适配（昇腾 / 寒武纪 / 摩尔线程等）

基本要求

• —本科及以上，计算机 / 微电子 / 数学相关专业，3 年以上 HPC 或深度学习系统经验
• —熟练 Python + C++，具备 CUDA 编程能力
• —对 Transformer 推理原理有深入理解（注意力机制、KV Cache、量化）
• —有 vLLM / SGLang / TRT-LLM 实际使用或开发经验
• —具备系统性能分析与 profiling 能力

加分项

招聘背景

Agent 是 Token 消耗的主要增长引擎。我们正在构建多 Agent 协作的运行时与编排体系，这是平台层最靠近业务价值的工程方向。

工作职责

• 01Agent Runtime 研发：上下文管理、记忆系统、沙箱隔离、生命周期控制
• 02模型与工具协同：MCP / tool calling / RAG / 模型路由策略
• 03任务编排：多 Agent / DAG 工作流、断点续跑、HITL 人工介入
• 04可观测与评测：Trace、Span、Agent 行为评估体系
• 05与推理平台端到端联合优化，降低 Agent 场景 Token 成本
• 06Agent 互联协议探索与实现（A2A 等新兴标准）

基本要求

• —本科及以上，计算机相关专业，3 年以上后端或平台研发经验
• —精通 Python 或 Go，具备扎实的分布式系统工程能力
• —有 Agent / LLM 应用落地经验，理解 prompt engineering 与上下文管理
• —熟悉主流 Agent 框架（LangGraph / AutoGen / CrewAI / Temporal 等）

加分项