在企业级大模型开发的浪潮中，高昂的算力成本和复杂的异构算力管理成为众多企业难以跨越的鸿沟。不过，无问芯穹推出的异构算力方案，正在为这个行业难题提供突破性的解决方案。
? 千卡规模异构芯片混训平台：打破算力孤岛
传统的大模型训练往往依赖单一类型的芯片，这不仅导致算力资源浪费，还增加了企业的成本负担。无问芯穹在 2024 年世界人工智能大会上发布的全球首个千卡规模异构芯片混训平台，彻底改变了这一局面。该平台支持包括 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA 六种异构芯片在内的大模型混合训练，千卡异构混合训练集群算力利用率最高达到了 97.6%。
这种突破性的技术，让企业不再受限于单一芯片的性能和供应。通过整合多种异构芯片的算力，企业可以根据不同的训练任务灵活调配资源，大大提高了算力的使用效率。例如，在训练过程中，某些任务可能更适合使用 GPU 进行并行计算，而另一些任务则可以利用 FPGA 的低功耗和高灵活性优势。无问芯穹的混训平台能够智能地将这些任务分配到最合适的芯片上，实现算力的最优配置。
? HETHUB 混合训练框架：降低 40% 训练成本
为了进一步优化异构算力的使用，无问芯穹与清华、上交的联合研究团队发布了 HETHUB，这是一个用于大规模模型的异构分布式混合训练系统。HETHUB 首次实现了六种不同品牌芯片间的交叉混合训练，并且工程化完成度高。通过动态任务调度和通信优化，HETHUB 解决了异构芯片间的兼容性与效率问题，使训练成本降低了 40%。
具体来说，HETHUB 通过以下几个方面实现了成本的降低：
- 高效资源调度：根据不同芯片的性能特点，动态分配训练任务，避免资源闲置。
- 通信优化：减少芯片间的数据传输延迟，提高训练效率。
- 兼容性支持：支持多种芯片的混合训练，企业无需为不同芯片单独搭建训练环境。
? Infini-AI 云平台：一站式算力解决方案
无问芯穹的 Infini-AI 云平台是其异构算力方案的核心载体。该平台集成了大模型异构千卡混训能力，是全球首个可进行单任务千卡规模异构芯片混合训练的平台，具备万卡扩展性。通过 Infini-AI 云平台，企业可以一键发起 700 亿参数规模的大模型训练，大大简化了训练流程。
Infini-AI 云平台还提供了一站式的 AI 开发工具链，包括数据托管、代码开发、模型训练、模型部署等全生命周期服务。这意味着企业无需再为不同的开发环节寻找不同的工具，降低了技术门槛和开发成本。此外，平台还支持多模型与多芯片之间的软硬件联合优化和统一部署，目前已支持 Qwen2、GLM4、Llama3 等 30 多个模型，以及 10 余种计算卡。
? 实际应用案例：从理论到实践
无问芯穹的异构算力方案已经在多个实际案例中得到验证。例如，摩尔线程联合无问芯穹在国产全功能 GPU 千卡集群上完成了 3B 规模大模型 “MT-infini-3B” 的实训，训练总用时 13.2 天，集群训练稳定性达到 100%，千卡训练和单机相比扩展效率超过 90%。这一案例不仅验证了夸娥千卡智算集群在大模型训练场景下的可靠性，也为国产大语言模型与国产 GPU 千卡智算集群的深度合作提供了新范式。
在推理方面，无问芯穹的全栈式推理加速技术也表现出色。例如，FlashDecoding++ 加速引擎在 AMD MI210 芯片上运行 Llama-2 模型时，单芯片推理速度可达 100+ token/s，接近英伟达 A100 水平。此外，无问芯穹还通过端模型优化技术，将百亿参数模型压缩至 1/10 体积，同时保持 90% 以上精度，降低了端侧部署门槛。
? 成本降低的核心逻辑
无问芯穹能够降低企业级大模型开发成本的核心逻辑在于 “芯片算力 × 优化系数 × 集群规模” 的公式。通过软硬件协同优化技术，无问芯穹提升了芯片算力在大模型任务中的利用率；通过多元异构算力适配技术，扩大了集群算力规模。这两个方面的结合，使得企业能够以更低的成本获得更高的算力支持。
具体来说，无问芯穹的优化系数体现在以下几个方面：
- 算力利用率提升：通过异构芯片混训和动态任务调度，将算力利用率提高到 97.6%，相比传统方案提升了 30%。
- 成本节省：训练成本降低 40%，推理成本、微调成本、人力成本均有望降低 10 倍以上。
- 资源整合：激活全国各地沉睡的异构算力，避免了资源浪费。
? 未来展望：让算力像水电煤一样普及
无问芯穹的目标是让大模型的落地成本降低 10000 倍，成为行业触手可及的新质生产力。为了实现这一目标，无问芯穹正在积极推进与产业链上下游的合作，构建 “MxN” 中间层的生态格局。目前，Infini-AI 云平台已运营的算力覆盖全国 15 座城市，服务了智谱 AI、月之暗面、生数科技等头部客户。
未来，无问芯穹还将继续突破异构算力优化与集群系统设计的技术上限，推出更多创新的解决方案。例如，其端侧大模型推理处理器 LPU 计划明年以 IP 形式与合作伙伴联合发布，进一步推动大模型在智能汽车、手机等端侧场景的应用。
企业级大模型开发的成本难题，正在被无问芯穹的异构算力方案逐步破解。通过整合异构算力、优化训练流程、提供一站式解决方案，无问芯穹不仅降低了企业的开发成本，还为行业的发展注入了新的活力。随着技术的不断进步和生态的不断完善，我们有理由相信，无问芯穹将在大模型时代扮演越来越重要的角色，推动人工智能技术的普及和应用。
该文章由dudu123.com嘟嘟 AI 导航整理，嘟嘟 AI 导航汇集全网优质网址资源和最新优质 AI 工具。
