职责描述
岗位职责:
多模态模型 API 接入与测试 verification:协助对新接入的 LLM(大语言模型)、图像生成、视频生成模型 API 进行测试验证,覆盖协议兼容性、参数/输出格式校验、异常场景模拟及长尾表现,确保新渠道平稳上线。
模型供应商健康度日常监控:参与维护主流供应商(如 OpenAI、Anthropic、GCP Vertex AI、AWS Bedrock、阿里云百炼、火山引擎等)的可用性、延迟与质量基线监控,及时协助定位模型退化、限流与协议变更问题。
新模型快速评估与验证:在导师指导下,对市场新发布的模型或供应商进行短周期(1-3天)接入可行性测试,输出评估结论与测试报告。
性能基准与自动化压测协助:参与跨模态性能基线(TTFT、并发上限、吞吐量等)测试,协助编写压测脚本并分析延迟与成本表现。
测试脚本与工具链维护:编写自动化脚本调测 API、解析响应,参与搭建和扩展自动化评测框架。
任职要求:
AI 模型基础认知:熟悉主流大模型/多模态模型(文本/图像/视频)的 API 调用机制,了解常见 API 协议差异(如鉴权、流式/非流式、错误码)以及基本性能指标(如 TTFT、Token 吞吐、生成耗时等)。
云厂商与模型服务了解:对国内外主流模型平台(如 OpenAI、Azure OpenAI、AWS Bedrock、GCP Vertex AI、阿里云百炼、火山方舟等)的产品形态与调用方式有基本概念。
编程与脚本能力:具备良好的代码编写能力,能独立编写脚本调用 API、处理 HTTP/WebSocket 请求及数据解析(精通 Go 或 TypeScript 中至少一门者优先)。
AI 工具链使用:熟练使用 Claude Code 或同类 AI 辅助编程工具,能够将 AI 效率工具融入日常开发、调试与自动化脚本编写中。
出色的协作与语言能力:具有流畅的英文技术文档读写能力,能够撰写清晰的技术总结;具备良好的团队沟通与问题追踪能力,能配合跨时区协同。
实习时间:每周可实习 5 天以上,能够连续实习 3-6 个月以上(接受轮值/On-Call 支持者优先)。
加分项:
有多模态模型评测、网关开发或开源 AI SDK 贡献经验者优先;
了解 Function Calling、MCP 等新模型标准与演进趋势;
附带个人技术博客、GitHub 开源项目或个人作品集者优先。