熟悉该开发项目的消息人士称,Google希望在下一个应用程序中为100,000千万卢比的Indiaai Mission提供张量处理单元(TPU)。 Oracle也通过提供计算基础架构支持来评估其参与。
这两个技术专业的专业都与电子部和IT(Meity)进行对话。消息人士称,由于法律和内部批准的延迟,Google在第一轮中错过了第一轮提供计算基础架构。值得注意的是,Google的TPU是用于数据中心和云AI工作负载的AI ACELERATOR,它与NVIDIA和AMD之类的图形处理单元(GPU)竞争,用于大规模AI模型培训和推断。
Google TPU是由Google设计的,但由第三方半导体铸造厂制造,主要是TSMC(台湾半导体制造公司)。发送给Google的查询直到发行时间才引起任何回应。在印度任务下,初创企业,学术界和研究人员将利用一个通用的计算设施。政府将承担40%的费用。
已将4,563千万卢比的卢比用于AI计算基础设施。
在第一轮比赛中,提案来自10个竞标者,为印度任务提供18,693 GPU。价格最低的投标人是E2E,JIO平台,NXTGEN数据中心,CTRLS和Locuz Enterprise Solutions。其他投标人,例如Yotta,Tata Communications,CMS Computers India,Orient Technologies和Vensysco等竞标者将不得不与最低竞标者的定价相匹配,以在印度赛任务下获得授权。值得注意的是,Yotta提出的最大容量为9,216 GPU。在计算访问门户网站上的工作,从启动开始,可以访问可用的GPU。
消息人士称,政府正在寻求在下一轮中邀请另外20,000个计算单元的建议,这表明对计算基础设施的预期需求很大。
在第一腿中,投标人在30款型号中提供的18,693张GPU中,有12,896个是NVIDIA H100 GPU,1,480个是H200,512个单位为AMD MI325X,而230个单位为MI300X。其他型号是Intel和AWS的Trainium。
在印度任务下,每个计算单元的平均率为每小时115.85卢比,而平均每小时AI计算单元的平均速率为每小时150卢比。政府表示,AI计算服务的市场价格平均折扣为42%。较高的精度AI计算单元(对于基础模型培训至关重要),以市场价格折扣47%。
根据政府官员的说法,Empanelment过程将是持续的,其他实体也可以成为该过程的一部分。它将很快发出通知以采购更多计算单元。