它是什么
它是能力目录：记录组织有哪些模型、知识服务、工具、连接器和评测集，谁负责、哪个版本、数据去向和服务边界是什么。
它是开发与运营控制面：统一身份、路由、配额、版本、评测、发布、告警、成本和审计，但不将所有数据和执行都集中到一个超级服务。
它是组织运营机制：通过内部产品负责人、平台服务级别、开发者体验、故障责任、使用成本和退出契约让共性能力可持续使用。
01 / DEFINITION
定义、边界与选型前提
AI中台是组织级AI共享能力、工程标准和治理机制的产品化集合。它将经常重复的模型调用、身份与权限、知识接入、工具注册、评测、观测、成本和风险管理做成可被各业务团队消费的服务，业务任务和产品体验仍归各场景团队。
它不是什么
- 不是将所有业务项目合并成一个庞大应用。
- 不是只有模型API转发和账单统计的“模型中台”。
- 不是未有第一个真实场景就从零建设全量微服务和编排集群。
- 不是用统一平台抹平行业术语、证据等级、规则和人工责任。
- 不是把模型、知识、向量库或云厂商永久锁定；中台应定义替换、迁移和退出契约。
| 相邻概念 | 核心差别 | 何时选择 |
|---|---|---|
| AIOS | AI中台为多项目提供共性能力；AIOS将能力进一步组织为特定行业业务闭环 | 重复建设和治理为主问题选中台，业务运行闭环为主选AIOS |
| MLOps/LLMOps | 运维体系关注模型与生成应用生命周期；AI中台还包含能力目录、知识、工具、产品自助与组织治理 | 单一团队管模型可先用LLMOps，多团队消费共享服务时考虑中台 |
| 数据中台 | 数据中台主管数据集成、指标和服务；AI中台增加模型、提示、知识、工具、评测与风险管理 | 两者需明确数据产品、权限、血缘和责任边界 |
| API网关 | API网关处理路由、认证、限流等通用问题；AI中台还理解模型能力、数据外发、评测、版本和单任务成本 | 网关是组件，不等于完整中台 |
02 / PROBLEMS
客户问题不是“缺一个聊天框”
中台应在有真实内部客户和重复问题时建设。如果只有一个项目、一个团队和一条轻量链路，先做好项目契约、评测和观测，往往比过早建平台更有价值。
P01
模型接入重复且不透明
每个团队自己管密钥、重试、限流、备用模型和成本，无法知道哪些数据发给了哪个供应商。
P02
评测标准不一致
项目各自使用几道演示题选模型，缺少统一红线、版本、行业黄金集和发布证据。
P03
知识和工具无目录
团队重复建词典、解析器、向量索引和连接器，不知道责任人、版本、权限和停用状态。
P04
成本只有总账单
无法按项目、租户、用户、任务和模型识别成本，也无法区分有效业务任务与无收益循环。
P05
审计与责任链断裂
日志不能串联用户、数据、模型、提示、知识、工具、审批与最终业务结果。
P06
中台自身变成瓶颈
没有内部产品负责人、自助文档、变更通知、服务边界和退出契约，所有业务团队都需排队等平台团队。
03 / ARCHITECTURE
六个共享服务面，一个治理控制面
平台不必将所有能力运行在同一技术栈。关键是统一资产身份、契约、版本、策略、观测和责任，同时允许有数据驻留要求的能力分区部署。
- 01
开发者门户与能力目录
提供能力说明、责任人、输入输出、权限、数据去向、版本、使用示例、限额、已知限制和停用日期。
- 02
模型网关与路由
统一身份、任务分类、数据外发策略、配额、备用与成本；保存供应商、模型、参数、提示和结果版本。
- 03
知识与数据服务
统一来源登记、解析、状态、许可、索引、检索与证据快照契约，但客户私有域和行业证据等级保持隔离。
- 04
工具与连接器注册表
统一Schema、身份、权限、副作用、超时、重试、幂等、审批、审计、变更和紧急停用。
- 05
评测与发布管理
提供评测集版本、指标、零容忍门槛、影子比较、灰度、回滚和变更证据，不用全局平均分抵消行业红线。
- 06
观测、成本与运营
统一trace_id串联请求、知识、工具、模型、审批和反馈；从用户、项目、租户、能力与业务任务观察成本和故障。
- 07
治理策略与责任面
把数据驻留、模型外发、使用许可、人工审核、风险等级、保留期和供应商退出转化为可执行策略与审计事件。
04 / DELIVERY
从场景判断到可持续运营
中台建设应从两个以上真实项目的重复痛点抽取共性，而不是先建一个空平台等业务来接。每个模块都需要可衡量的采用、质量、维护与退出指标。
- 01
G0：建立AI项目与资产台账
盘点团队、场景、模型、数据、知识、工具、供应商、账号、成本、审计与故障，标记重复和断点。
- 02
M0：优先统一最高风险或最重复能力
可能是模型外发与密钥、评测门槛、日志追踪或知识来源契约，优先级由证据决定。
- 03
M1：做成内部产品
定义产品负责人、内部用户、接入流程、服务边界、变更通知、支持渠道、可用性、审计、成本和退出条件。
- 04
M2：将第二个项目接入作为复用验收
证明契约可跨项目使用，同时保留行业权限、证据和评测差异；记录接入时间、修改量与重复减少。
- 05
M3：建立组织级治理与持续优化
维护能力目录、评测标准、成本与故障视图，定期下线无人使用、维护成本过高或可被更好通用服务替代的能力。
最低可核验交付物
| 交付域 | 必须交付 | 验收关注 |
|---|---|---|
| AI资产台账 | 项目、模型、数据、知识、工具、供应商、账号、责任人、成本与风险 | 可识别重复、无主资产与审计断点 |
| 能力产品目录 | 契约、版本、权限、数据去向、使用示例、服务边界、支持与停用计划 | 新团队可自助判断是否适用并完成测试接入 |
| 统一工程契约 | 模型、知识、工具、评测、事件、错误码、身份、时区和trace_id | 不同项目可重用观测与治理工具 |
| 评测与发布门禁 | 通用红线、行业题库接口、版本对比、影子测试、灰度、回滚与审批 | 平均指标不抵消零容忍红线 |
| 观测与成本地图 | 任务、租户、项目、能力、模型、知识、工具的性能、质量、错误和成本 | 可区分业务增长、异常循环和供应商变化 |
| 平台运营模型 | 产品负责人、内部客户、服务目标、变更管理、故障责任、安全应急和退出机制 | 中台本身的采用、可用性、成本和用户满意可观测 |
05 / EVALUATION
评测业务结果，不只看模型语感
AI中台既要评价共享能力的技术质量，也要评价它是否真正减少了项目重复。如果业务团队为接入平台而付出更多改造和等待，中台也可能成为负资产。
| 评测面 | 建议信号 | 失败时如何处理 |
|---|---|---|
| 复用效果 | 重复代码、接入工期、重复评测和平台特例量的变化 | 若特例大量增加，重新定义共性契约与边界 |
| 开发者体验 | 首次成功接入时间、文档完整性、自助成功率、支持工单与变更认知 | 把高频手工支持转为可验证示例、自助工具和契约测试 |
| 模型与评测治理 | 路由正确、数据外发合规、版本可追踪、红线通过和回滚有效 | 阻止发布并使用前一已验证版本或降级能力 |
| 成本与容量 | 单任务成本、闲置能力、异常增长、配额命中与供应商差异 | 路由、缓存、预算闸、限流、下线或重新采购 |
| 安全与审计 | 身份、越权、数据外发、密钥、日志、供应链和变更的覆盖 | 停用受影响能力，扫描下游项目与历史结果 |
| 内部产品价值 | 活跃项目、留存、业务团队满意、故障影响、等待和总拥有成本 | 合并、简化或下线无真实内部客户的能力 |
| 可移植与退出 | 模型、检索、工具和云资源的替换演练，配置、评测与必要运行数据可导出 | 补齐标准契约、适配层和数据交接，避免把单一供应商特性写进通用内核 |
不可被平均分抵消的红线
- 业务项目越权访问其他租户数据为零。
- 禁止外发的数据被路由到外部模型为零。
- 未通过行业红线的模型或策略升为生产为零。
- 无审计的高权限工具或密钥共享为零。
- 商业优先级改变专业检索和确定性结论为零。
- 中台故障导致下游系统自动放宽权限或跳过审批为零。
06 / SAFETY
安全、权限与人的责任
AI中台位于多项目和多供应商之间，会放大正确治理，也会放大配置错误。因此要将租户隔离、数据外发、密钥、能力供应链、变更与应急做成平台内核。
H1
策略即代码
数据驻留、模型外发、租户权限、费用与审批要求转为可测试策略，不只写在制度中。
H2
密钥与供应商管理
密钥归属、最小权限、轮换、停用、账单异常和供应商保留/训练边界可查。
H3
共享但不混权
共享代码、契约和评测基础设施，但客户数据、私有知识、索引、密钥和日志按威胁模型隔离。
H4
供应链可见
记录模型、开源组件、工具服务器、数据来源与版本，重大变更扫描下游影响。
H5
故障隔离与降级
某个模型、知识、工具或连接器故障不应拖垮全平台，不同风险场景使用不同降级。
H6
中台退出契约
业务团队可导出配置、评测和必要运行数据，能力停用有替代路径、通知周期和数据交接。
07 / INTERACTIVE TOOL
AI中台平台化压力评估
评估组织当前AI项目组合，不是评估单个项目。平台化压力高只表示需要统一治理，不表示必须立刻建设大而全的平台。
方法说明：该压力分数是筛查信号：团队、系统、模型、数据风险和口径分散越高，统一治理越迫切。实施前应用台账数据证明重复建设、风险或成本，再选最小可服务化模块。
08 / SCENARIOS
中台能力而非行业案例的方案样板
AI中台的消费者是内部AI应用团队。以下样板展示可复用能力，不代替各行业项目的专业知识、规则、产品与验收。
以下为中台模块方案样板，不是已交付客户案例。
MODULE 01
统一模型网关
按任务、数据外发边界、质量、时延和成本路由模型，实施配额、备用、追踪和异常熔断。
MODULE 02
评测与发布服务
提供通用评测格式、行业题库接口、红线门槛、影子版本比较、灰度与回滚记录。
MODULE 03
知识工程服务
统一来源、解析、知识对象、状态、许可、索引、引用和撤回契约，不强制客户私有数据集中。
MODULE 04
工具与连接器市场
为经审核工具提供能力、权限、版本、副作用、审批、审计、停用和回退信息。
MODULE 05
AI观测与成本治理
将用户任务与模型、检索、工具、审批、质量、错误和成本串联，为业务价值和故障定位提供证据。
09 / FAQ
常见问题
什么时候有必要建AI中台？
当多团队已在重复建模型接入、评测、知识、工具或观测，且口径差异造成安全、成本或质量问题时，平台化才有充分证据。
只有一个AI项目可以先建中台吗？
通常不建议。先把该项目的模型契约、评测、追踪、成本和权限做好，第二个真实项目出现后再抽取共性，可避免为假设设计。
中台是否应该统一所有模型？
应统一能力目录、身份、外发策略、评测、版本和成本口径，但不必强制所有场景使用同一模型。选型应根据任务质量、数据外发、成本和时延。
中台会不会成为单点故障？
如果所有能力强耦合且没有降级会成为单点。应按能力隔离故障，为模型、检索、工具和观测分别设定备用、缓存、降级或局部停用。
行业题库应由中台团队维护吗？
中台可提供评测格式、工具和发布门禁，但行业专业题、标准答案、风险与最新知识应由专业负责人维护。
如何避免中台锁定供应商？
定义统一能力契约，保存影子版本、比较评测、灰度和回滚能力，并在采购和技术决策中明确数据导出、配置迁移和服务终止路径。
怎么证明中台有价值？
比较新项目接入时间、重复代码和评测减少、安全与审计覆盖、故障定位时间、单任务成本和业务团队满意。平台活跃调用量不等于业务价值。
AI中台和AIOS可以组合吗？
可以。中台可提供模型、知识、工具、评测和治理等共性服务，行业AIOS将这些能力与行业配置、客户数据和真实业务流程组成闭环。
10 / SOURCES
参考来源与阅读路径
以下均为官方网站、标准发布页或原始论文；链接可见且可访问。本页于2026年8月10日整理，项目实施前仍应核对最新版本及适用范围。
- ISO/IEC 42001:2023 AI management systems为组织建立、实施、维护与持续改进AI管理体系提供标准要求。https://www.iso.org/standard/42001
- NIST AI Resource Center支持AI RMF落地与AI测试、评估、验证和确认的官方资源中心。https://airc.nist.gov/
- NIST AI RMF Playbook围绕Govern、Map、Measure和Manage提供实施建议。https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook
- OECD对AI系统定义的解释备忘录从人类定义的目标、推断、输出、自主性和适应性说明AI系统边界。https://oecd.ai/en/wonk/definition
- OWASP Top 10 for Large Language Model Applications作为组织级生成式AI应用的安全风险和工程检查参考。https://owasp.org/www-project-top-10-for-large-language-model-applications/
GCPI / CAPABILITY
用真实重复证据决定中台边界
绿色碳汇规划院可从AI项目与资产台账入手，识别组织当前在模型、知识、工具、评测、权限、观测和成本上的重复与高风险断点。
实施优先做成一个有真实内部客户的最小中台能力，再用第二个项目验证复用，不一开始锁定固定模型、向量库、工作流引擎或云厂商。
本站是工具原型与方案样板，不代表GCPI已为未具名客户交付通用AI中台。具体模块、成本、工期、性能和服务等级应根据客户现状确认。