每秒110万个token！微软MSFT.US和英伟达NVDA.US联手刷
-
每秒110万个token！微软MSFT.US和英伟达NVDA.US联手刷
联手刷新AI推理纪录) 智通财经APP获悉，微软宣布，其AzureNDGB300v6虚拟机在Meta的Llama270B模型上实现了每秒推理速度达110万token的行业新纪录。据悉，AzureNDGB300虚拟机采用英伟达(NVDA.U...
