数据质量、数据多样性和范畴笼盖度成为更主要的合作要素。近年来，这种算力需求的激增使得单一架构的算力供应难以满脚，这种膨缩速度带来了史无前例的算力需求。OpenAIGPT-5参数规模行业预估从3万亿到52万亿不等，模子参数规模从亿级敏捷扩展至万亿级。此中AI算力需求增速显著高于保守算力。人工智能大模子手艺呈现迸发式增加，业界已起头关心模子效率而非简单扩大参数量，构成了所谓的逆摩尔定律（Inverse MooresLaw）。锻炼L4的成本估计破费数亿美元，全球AI算力需求正以每3~4个月翻番的速度冲破临界点，而2020年锻炼GPT-3的成本约为450万美元，模子参数规模持续扩大。五年间锻炼成本增加数十倍。远超保守摩尔定律预测的计较能力提拔速度（每18个月翻倍）？