推理优化工程师
Inference Engineer
在质量、延迟、吞吐和成本之间优化模型服务，让能力真正可规模化使用。
岗位概览
以下内容来自公开招聘样本与官网资料归纳；不同公司、城市、经验和用工性质会显著改变实际要求。
- 可复核样本
- 采集中
- 最后更新
- 2026-09-20
岗位在解决什么
- 让模型服务在有限硬件上更快、更稳、更省，并满足真实业务并发和延迟要求。
- 常涉及批处理、缓存、并行、量化、调度和运行时观测等系统性权衡。
JD 要求：待样本核验
- 正在区分服务端推理、GPU 性能、模型压缩和部署平台等相邻岗位。
- 样本未完成前，不把某个框架或某类芯片经验当作全部职位的统一要求。
面试准备方向
- 准备一个性能优化案例，完整交代基线、瓶颈、改动、质量损失和最终成本收益。
- 能解释吞吐、首 token 延迟、尾延迟、显存和稳定性之间的取舍。