9月12日中国电信研究院发布了《智能体时代AI基础设施发展研究报告2026》。据央视新闻和《证券时报》报道报告的核心判断是中国 AI 产业发展的重心正在从大模型和算力竞争转向智能体的规模落地和应用变现。同一天披露的数据里有几个数字挺值得开发者留意。报告里的几个关键数字预计 2026 年中国 Token词元年消耗量将达到 10 亿亿到 2030 年超过 3500 亿亿年复合增长率接近 12 倍从需求结构看推理算力需求将远超训练算力预计 2029 年中国推理算力市场占比将达到 80%智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。以上数据均来自报告及相关报道此处为转述。这几个数字放在一起看其实讲的是同一件事AI 的消耗方式变了。从大模型到智能体到底变了什么前两年行业的叙事是造模型——谁的参数大、谁的榜单高、谁拿到的算力多。这套逻辑里算力的大头花在训练上一次训练投入巨大然后上线一个模型用户一问一答。问答本身消耗的算力是有限的因为一次请求就是一次前向推理。智能体不一样。它不是问一句答一句而是把一个目标拆成若干步骤中间要调工具、读文件、查数据库、看结果再决定下一步失败了还要重试。一个任务从一次模型调用变成了十几次甚至几十次模型调用 一堆工具调用。这带来两个直接后果Token 消耗被放大。同样一件事智能体要反复把上下文喂给模型消耗量会明显高于问答模式。所以报告里年复合增长接近 12 倍这个量级并不突兀。算力结构从训练转向推理。推理需求超过训练需求、2029 年推理占比到八成本质是模型已经够多接下来是把模型用起来。换个说法行业从造发动机进入跑里程阶段问题从能不能做出来变成跑一趟要花多少钱、跑得稳不稳。对普通开发和职场人意味着什么对开发者的影响比较具体。以前接入 AI 的门槛是会调 API现在门槛变成了会设计流程。同样是把 AI 用起来工作内容的差别大概是问答时代写一段 prompt调一次模型把结果返回给用户。智能体时代定义任务步骤、挑选工具、设计状态怎么存、出错怎么重试、上下文什么时候裁、成本怎么控。你会发现后者的工程含量明显更高而且大部分问题不是模型不够聪明而是编排和上下文管理没做好。这也是当下不少看起来能跑、上线就翻车的 Agent 项目的真实原因。对偏产品、运营的岗位其实也一样。以前提需求是给我加个 AI 按钮现在更实际的问题变成哪一段流程可以交给智能体自动跑完人只做审核。定义工作流的能力比会写 prompt 更值钱。想动手的话从最小闭环开始别一上来就搭复杂框架。一个最小智能体本质就是模型 工具 循环用模型原生支持的函数调用就能写出来importjson,osfromopenaiimportOpenAI clientOpenAI(api_keyos.environ[API_KEY],base_urlos.environ[BASE_URL])# 1) 用 JSON Schema 声明工具tools[{type:function,function:{name:get_order_status,description:根据订单号查询订单状态,parameters:{type:object,properties:{order_id:{type:string,description:订单号}},required:[order_id],},},}]defget_order_status(order_id:str)-str:# 这里替换成你真实的查询逻辑returnjson.dumps({order_id:order_id,status:已发货})messages[{role:user,content:帮我查一下订单 A10086 到哪了}]# 2) 循环模型决定调工具 - 执行 - 把结果喂回去直到模型给出最终答案for_inrange(5):# 加步数上限防止死循环respclient.chat.completions.create(modelos.environ[MODEL],messagesmessages,toolstools,tool_choiceauto,)msgresp.choices[0].message messages.append(msg)ifnotmsg.tool_calls:print(msg.content)breakforcallinmsg.tool_calls:argsjson.loads(call.function.arguments)resultget_order_status(**args)messages.append({role:tool,tool_call_id:call.id,content:result,}) 这段代码里有两个生产级才需要的细节**循环必须有步数上限**否则模型一旦绕不出来就是无限烧钱**工具返回的内容要可控**别把整张表塞进去。## 几个坑-**成本失控。**智能体的成本不是线性的一个多轮重试就能把费用翻几倍。上线前一定要设 token、步数、金额三重上限并做监控。--**可评测性差。**问答模式对错好判断智能体是跑完一个流程中间任何一步错都可能让结果全错。需要先把关键节点拆出来单独测。--**权限和安全。**智能体会真的去调接口、写数据库。给它多大权限就等于把多大风险交出去。最小权限、高风险动作人工确认这两条别省。--**别为了智能体而智能体。**能用一次模型调用解决的确定性任务就别上 Agent稳定性和成本都更划算。## 收尾这份报告真正值得记住的不是某个数字而是判断的方向**AI 的价值兑现正在从模型有多强转到应用能不能稳定跑起来、成本能不能覆盖住。**这既是机会也是对工程能力的新要求。你现在的项目是在用模型还是已经在编排模型了评论区聊聊。
AI 重心转向智能体：报告称 2029 年推理算力占比将达八成
9月12日中国电信研究院发布了《智能体时代AI基础设施发展研究报告2026》。据央视新闻和《证券时报》报道报告的核心判断是中国 AI 产业发展的重心正在从大模型和算力竞争转向智能体的规模落地和应用变现。同一天披露的数据里有几个数字挺值得开发者留意。报告里的几个关键数字预计 2026 年中国 Token词元年消耗量将达到 10 亿亿到 2030 年超过 3500 亿亿年复合增长率接近 12 倍从需求结构看推理算力需求将远超训练算力预计 2029 年中国推理算力市场占比将达到 80%智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。以上数据均来自报告及相关报道此处为转述。这几个数字放在一起看其实讲的是同一件事AI 的消耗方式变了。从大模型到智能体到底变了什么前两年行业的叙事是造模型——谁的参数大、谁的榜单高、谁拿到的算力多。这套逻辑里算力的大头花在训练上一次训练投入巨大然后上线一个模型用户一问一答。问答本身消耗的算力是有限的因为一次请求就是一次前向推理。智能体不一样。它不是问一句答一句而是把一个目标拆成若干步骤中间要调工具、读文件、查数据库、看结果再决定下一步失败了还要重试。一个任务从一次模型调用变成了十几次甚至几十次模型调用 一堆工具调用。这带来两个直接后果Token 消耗被放大。同样一件事智能体要反复把上下文喂给模型消耗量会明显高于问答模式。所以报告里年复合增长接近 12 倍这个量级并不突兀。算力结构从训练转向推理。推理需求超过训练需求、2029 年推理占比到八成本质是模型已经够多接下来是把模型用起来。换个说法行业从造发动机进入跑里程阶段问题从能不能做出来变成跑一趟要花多少钱、跑得稳不稳。对普通开发和职场人意味着什么对开发者的影响比较具体。以前接入 AI 的门槛是会调 API现在门槛变成了会设计流程。同样是把 AI 用起来工作内容的差别大概是问答时代写一段 prompt调一次模型把结果返回给用户。智能体时代定义任务步骤、挑选工具、设计状态怎么存、出错怎么重试、上下文什么时候裁、成本怎么控。你会发现后者的工程含量明显更高而且大部分问题不是模型不够聪明而是编排和上下文管理没做好。这也是当下不少看起来能跑、上线就翻车的 Agent 项目的真实原因。对偏产品、运营的岗位其实也一样。以前提需求是给我加个 AI 按钮现在更实际的问题变成哪一段流程可以交给智能体自动跑完人只做审核。定义工作流的能力比会写 prompt 更值钱。想动手的话从最小闭环开始别一上来就搭复杂框架。一个最小智能体本质就是模型 工具 循环用模型原生支持的函数调用就能写出来importjson,osfromopenaiimportOpenAI clientOpenAI(api_keyos.environ[API_KEY],base_urlos.environ[BASE_URL])# 1) 用 JSON Schema 声明工具tools[{type:function,function:{name:get_order_status,description:根据订单号查询订单状态,parameters:{type:object,properties:{order_id:{type:string,description:订单号}},required:[order_id],},},}]defget_order_status(order_id:str)-str:# 这里替换成你真实的查询逻辑returnjson.dumps({order_id:order_id,status:已发货})messages[{role:user,content:帮我查一下订单 A10086 到哪了}]# 2) 循环模型决定调工具 - 执行 - 把结果喂回去直到模型给出最终答案for_inrange(5):# 加步数上限防止死循环respclient.chat.completions.create(modelos.environ[MODEL],messagesmessages,toolstools,tool_choiceauto,)msgresp.choices[0].message messages.append(msg)ifnotmsg.tool_calls:print(msg.content)breakforcallinmsg.tool_calls:argsjson.loads(call.function.arguments)resultget_order_status(**args)messages.append({role:tool,tool_call_id:call.id,content:result,}) 这段代码里有两个生产级才需要的细节**循环必须有步数上限**否则模型一旦绕不出来就是无限烧钱**工具返回的内容要可控**别把整张表塞进去。## 几个坑-**成本失控。**智能体的成本不是线性的一个多轮重试就能把费用翻几倍。上线前一定要设 token、步数、金额三重上限并做监控。--**可评测性差。**问答模式对错好判断智能体是跑完一个流程中间任何一步错都可能让结果全错。需要先把关键节点拆出来单独测。--**权限和安全。**智能体会真的去调接口、写数据库。给它多大权限就等于把多大风险交出去。最小权限、高风险动作人工确认这两条别省。--**别为了智能体而智能体。**能用一次模型调用解决的确定性任务就别上 Agent稳定性和成本都更划算。## 收尾这份报告真正值得记住的不是某个数字而是判断的方向**AI 的价值兑现正在从模型有多强转到应用能不能稳定跑起来、成本能不能覆盖住。**这既是机会也是对工程能力的新要求。你现在的项目是在用模型还是已经在编排模型了评论区聊聊。
