在科技界的竞争中，马斯克的一步抢先成为了焦点，国产AI大模子如同过江之鲫，纷繁踏上了十万卡的征程。看来，国内的十万卡时期似乎的确近在目下。近日，百度率先发难，推出了全面升级的百舸AI异构策动平台4.0，百度智能云业绩群的总裁沈抖示意，这一版块专为部署十万卡大畛域集群而联想。而几天前，阿里云也秘书了其灵骏单网罗集群膨大至10万卡级别。腾讯雷同出头出头，发布了因循十万卡集群的星脉网罗2.0。

十万卡集群本来只是个驴年马月的梦思，非凡是在9月初，马斯克的不测秘书让全球刮目相看。他示意，在短短122天里，他已搭建起10万张英伟达H100显卡的Colossus集群，这一豪举预示着其算力粗犷已超越OpenAI。显卡的畛域径直决定了大模子的性能，因此在业界，这已策划被视为至关广博。大批以为，确立1万枚英伟达A100芯片是构建AI大模子的基本门槛。而要建成万卡集群，光是在GPU的采购上就要参加数十亿，这也使得国内仅有阿里、百度等历历的企业具备这么的材干。若要打造十万卡集群，其资金参加可思而知。

除了资金，十万卡集群的本事难题雷同令东说念主头疼。沈抖提到，GPU关于各式环境变化相称明锐，哪怕是一天内温度的波动齐可能导致故障，而况集群畛域越大，故障的几率也随之飞腾。比如，Meta在查验llama3时，接管了1.6万张GPU卡的集群，平均每三小时就会出现一例故障。此外，与传统CPU集群的串行策动不同，大模子查验需要统统显卡一齐并走运算，这对网罗传输的材干也提议了更高条目。

更难办的是，中国的大模子企业在这场竞争中面对异常难题，无法像马斯克那样全齐依赖英伟达的决策，它们需要勾通国产GPU等异构芯片。这使得即便数目疏通，国内企业在算力畛域上也难与好意思国敌手抗衡。

尽管碰到重重贫窭，国内大模子企业的跨越已不言而谕。沈抖夸耀，百舸4.0在万卡集群上的灵验查验时长达到了99.5%以上，行业当先，且通过集群联想、任务转机、并行战略和显存优化等翻新，权贵进步了模子查验的恶果，举座性能比行业平均水平更是提高了高达30%。阿里云的CTO周靖东说念主也公开示意，阿里云的万卡算力集群可结束卓绝99%的流畅查验灵验时长，模子算力愚弄率提高了20%以上。

跟着性能的进步，大模子的资本问题却更加较着。沈抖夸耀，十万卡集群每天的电力蹧跶约为300万千瓦时，十分于北京市东城区一天的住户用电。开发者对此指出，诚然畴前一年中大模子厂商价钱有所下落，但这主如果平台对开发者的补贴，非根人性惩办之说念。针对这个问题，阿里云强调，AI的推崇仍在早期阶段，需依靠降价来推动应用的普及，阿里云所作念的AI基础标准开导并不单是局限于当前的利益。

总的来看，国产大模子行将迎来十万卡的挑战，诚然贫窭重重赌钱赚钱app，但跨越的速率令东说念主刮目相看，将来在AI畛域的拼搏将更为精彩。