← 全部项目

AI Infrastructure · 平台建设与团队交付

AI 调用平台与翻译评测

统一多模型调用、任务分级、fallback 与费用记录,并为翻译质量建立可重复的评测流程。

我的职责建设统一 AI 调用入口;带领组内同事研发 AI 客服与 AI 风控反欺诈等能力。平台调用层、翻译评测及其他团队交付分别如下。

Python模型适配CeleryLLM-as-Judge质量评测

执行流程 / WORKFLOW

  1. 01业务请求
  2. 02模型家族与档次
  3. 03执行 / fallback
  4. 04用量与费用记录
  5. 05离线样本评测

生产调用层

Python LLM 层将模型家族、能力档次与平台选择解耦,统一同步、异步及流式入口,处理响应校验和备用模型切换。以 Usage Ledger 记录实际调用和费用,业务任务保留状态、模型、耗时及用量,支撑翻译、资讯分析和研报等场景。

翻译质量评测

团队工具链使用独立评估模型,对翻译样本按准确性、流畅性、术语一致性、文化适应性、内容纯净度等维度评分并输出意见。结果按语言回写工作簿,支持失败行重评、汇总和报告重建,便于比较模型与提示词调整。LLM-as-Judge 结果用于辅助筛选,仍需人工校准。

团队交付与个人项目

团队交付 15 种语言翻译,以及内容审核、RAGFlow 客服、本地模型 KYC 预审和传统机器学习反欺诈等能力。另有个人开源 Go LLM Gateway 实践项目,用于研究流式代理、并发背压、持久化任务和令牌桶;该项目的能力边界以自身文档为准。

← 全部项目下一项 · Dsh-Alpha 多机 Agent 编排 →