千帆大模型平台 SDK 开源发布！Python 代码快速接入实现 LLMOps 全流程

? 千帆 SDK 的核心功能与优势

支持多模型与 MCP 协议

降低推理成本与性能优化

丰富的工具链与低代码开发

? 快速接入教程：Python 代码实现

准备工作

1. 获取 API 密钥：登录百度智能云控制台，在 “安全认证” 页面获取 Access Key 与 Secret Key，并在千帆控制台创建应用，选择需要启用的服务。
2. 安装 SDK：使用 pip 安装千帆 Python SDK：
   bash

   pip install @baiducloud/qianfan
   
   
   

基本调用示例

1. 非流式输出：
   python

   from qianfan import ChatCompletion
   
   client = ChatCompletion(access_key="your_access_key", secret_key="your_secret_key")
   response = client.chat(messages=[{"role": "user", "content": "你好！"}], model="ernie-4.0-8k")
   print(response)
   
   
   
2. 流式输出：
   python

   async def main():
       stream = await client.chat(messages=[{"role": "user", "content": "你好！"}], stream=True)
       async for chunk in stream:
           print(chunk)
   
   
   

复杂场景应用

1. 结合 MCP 协议：
   python

   from appbuilder.modelcontextprotocol.server import MCPComponentServer
   from appbuilder.core.components.v2 import Translation
   
   os.environ['APPBUILDER_TOKEN'] = 'your_APPBUILDER_TOKEN'
   server = MCPComponentServer(name="AB Component Server")
   translation = Translation()
   server.add_component(translation)
   server.run()
   
   
   
2. 智能体开发：
   python

   from appbuilder import AppBuilderClient
   
   client = AppBuilderClient(app_id="your_app_id")
   agent = client.create_agent(prompt="根据用户的问题查询今天的新闻，并获取其中一个最相关的新闻 url")
   agent.run(query="今日科技新闻")
   
   
   

? LLMOps 全流程支持

模型训练与微调

部署与运维

监控与优化

? 性能与案例

性能数据

• 推理成本：降低 50%，模型体积压缩至 25%-50%。
• 训练效率：百舸平台万卡集群有效训练时长占比超过 98.8%，每年为企业节约智算成本可达 50 亿元以上。
• 推理速度：针对 DeepSeek R1 满血版，百舸 + 昆仑芯方案单卡吞吐性能高出 90%，大规模高并发场景下推理速度提升 40% 以上。

行业案例

1. 政务领域：中华全国总工会联合百度智能云打造 AI 法律咨询助手，交付周期从 3-6 个月缩短至 1 个月，为劳动者提供精准法律解答和案情评估。
2. 交通领域：贵阳市通过千帆平台优化交通模型，工作日车均延误时长下降 15%，全国城市拥堵排名从第 4 位降至第 20 位。
3. 化工领域：中化信息基于千帆 AppBuilder 打造 “化小易” 知识助手，分子检索效率提升 5 倍以上，显著提高研发效率。

? 社区与生态

开发者支持

未来计划