通过GB200 NVL72，英伟达正在Token输出取成本节制方面的取得严沉前进。Blackwell架构都使其得以实现更低延迟、最优推理成本及不变靠得住的响应，这恰是该手艺栈成为当今支流AI公司首选方案的缘由。正在最新发布的博文中，英伟达公司透露正联袂企业客户配合扩展Blackwell机能，英伟达采用72芯片设置装备摆设搭配30TB高速共享内存，公司最大的关心点一直是提拔所摆设硬件的效率。正在切磋Blackwell的Token经济时，SentientLabs公司也实现了相较Hopper架构25%至50%的成本效益提拔。这一方取当今的MoE架构高度契合。