腾讯云TI
腾讯云TI平台是腾讯云旗下的全栈AI开发平台,基于高性能计算集群HCC与自研星脉计算网络架构,提供覆盖大模型精调全生命周期的企业级解决方案。平台内置20+开源大模型(Llama、ChatGLM、Bloom等)及自研混元大模型(7B/13B/70B/超千亿参数),支持鲲鹏、飞腾、海光等信创芯片算力调度。2026年WAIC期间,腾讯云宣布HCC集群已全面支持10万卡规模AI大模型训练,NVIDIA H200 GPU全面上线(H100已下线),自研第六代紫霄2.0芯片训练性能提升4倍、推理吞吐提升3倍。平台提供TI-DataTruth数据标注、TI-ONE训练平台、TI-Matrix推理服务三大工具链,自研Angel训练框架在Bloom7B上加速比达2.14,是政企客户国产化转型的优质选择。
工具介绍
一、平台定位腾讯云TI平台是腾讯云旗下的全栈AI开发平台,定位为覆盖大模型精调全生命周期的企业级解决方案。平台基于高性能计算集群HCC与自研星脉计算网络架构提供算力支撑,由TI-DataTruth数据标注平台、TI-ONE训练平台、TI-Matrix推理服务平台三大工具链构成,配套自研太极Angel加速组件。底层支持公有云HCC高性能服务器与私有化服务器,兼容鲲鹏、飞腾、海光等信创芯片算力调度。2026年WAIC世界人工智能大会期间,腾讯云宣布HCC集群已全面支持10万卡规模AI大模型训练,是目前国内最大规模的智算集群,可支持万亿级参数规模的大模型训练,是面向AGI时代的全栈AI基础设施。二、核心能力10万卡HCC集群:高性能智算集群HCC已全面支持10万卡规模AI大模型训练,国内最大规模H200全面上线:NVIDIA H200 Tensor Core GPU全地域可用区全面上线,推理性能比H100提升60-80%,H100已下线紫霄2.0自研芯片:第六代自研AI芯片,训练性能相比上一代提升4倍,推理吞吐提升3倍星脉网络架构:自研交换机多轨道网络架构,3.2 Tbps RDMA网...
功能特点
- HCC高性能智算集群已升级支持10万卡规模AI大模型训练,国内最大规模
- NVIDIA H200 GPU全地域可用区全面上线,H100已正式下线,推理性能提升60-80%
- 自研第六代紫霄2.0芯片,训练性能提升4倍,推理吞吐提升3倍
- 星脉网络3.2 Tbps RDMA,AllReduce负载率达90%+,分钟级故障自动定位与集群自愈
- 内置20+开源大模型及自研混元大模型(7B/13B/70B/超千亿参数),2万亿token语料优化
- 自研Angel训练框架:AngelPTM训练速度提升1倍,AngelHCF推理速度提升1.3倍
- 全栈国产化认证:麒麟NeoCertify、海光CPU、飞腾、鲲鹏多项兼容性认证
- 3TB checkpoint写入时间从10分钟缩短至10秒,模型训练提效200%
- 支持0.1-1.0卡虚拟GPU调度,Binpack和Gang策略提升多卡任务启动成功率
- 覆盖12大类100+ LLM应用场景,预置100万+条自研精调配比数据
标签:AI开发平台 大模型精调 腾讯云 信创适配