AI新闻采访了Ampere Computing的AI主管Victor Jakubiuk,Ampere Computing是一家提供云原生处理器的半导体公司。我们讨论了他们如何推动面向可持续云的高性能、可扩展和节能解决方案的发展。
在当今的商业环境中,人工智能(AI)已成为不可否认的游戏改变者,推动各行各业的创新和竞争力。然而,随着公司迅速转向云原生流程,最近出现了一个关键障碍:服务器严重短缺和运营成本上升。
随着对计算能力的需求飙升,可能会对AI驱动的项目的无缝集成构成风险,企业现在面临着寻找创新、经济实惠且更可持续的解决方案来解决这一短缺的紧迫任务-这一短缺只会继续存在。
环境影响也是一个问题。一项新的研究显示,到2027年,AI行业的能源消耗量可能与阿根廷、荷兰或瑞典等国家相当。由于能源密集型图形处理单元(GPU)是AI工作负载的常用选择,这种计算能力导致能源消耗和碳足迹达到了前所未有的高度。
随着企业扩大其数字足迹,可持续性的必要性变得越来越重要。能源密集型硬件对环境的影响构成了道义和实际的挑战,要求在性能和负责任的资源使用之间找到解决方案。
Jakubiuk解释说:“效率是未来计算的关键。虽然计算和数据的宇宙呈指数增长,但对单个工作负载的能源效率的关注显著增加。”
他说:“从历史上看,由于其计算能力,GPU是AI模型训练的首选。然而,它们耗电量大,对于生产来说效率低下。将GPU用于推理会带来这些低效性,加剧了功耗、成本和操作复杂性。”
他警告说,随着流程的扩展,这一点变得更加明显。虽然AI训练需要大量的计算量,但随着AI使用的规模增加,AI推理可能需要多达10倍的总计算量,这在规模化AI使用增加时会带来更大的问题。
Ampere Computing致力于提供满足这些需求的解决方案。Jakubiuk说:“我们专注于在不那么耗能的中央处理器(CPU)上进行高效的AI推理,为云端提供无与伦比的效率和成本效益。”他说:“我们的软件和硬件解决方案提供了无缝过渡,无需对现有框架进行全面改写,这使我们与闭源替代方案区别开来。”
“我们的软件与所有开源框架兼容,可以实现有意识的计算,无需进行广泛的重写,不同于专有系统,”他说,并指出Ampere Cloud Native Processors可在Oracle Cloud、Google Cloud、Microsoft Azure等主要云提供商以及Scaleway等欧洲CSP上使用。
今天的AI工作负载分为四类:计算机视觉、自然语言处理(NLP)、推荐引擎和生成式AI。Ampere Computing的软件和硬件组合可以无缝地适用于所有这些工作负载,以实现可持续的大规模AI部署。
“作为一种横向技术,AI在各个行业都具有兼容性,从金融等保守行业到自动驾驶汽车等创新领域。Ampere解决方案的多功能性适用于各种基于云的应用。”
Ampere还是最近成立的AI平台联盟的创始成员之一,该联盟旨在在AI领域促进更好的合作和开放,这不仅对技术行业,而且对整个世界都具有关键意义。
由于实施AI解决方案可能很复杂,AI平台联盟将共同努力验证联合AI解决方案,提供比基于GPU的现状更好的替代方案。
通过作为一个社区开发这些解决方案,该组织将通过使AI平台更加开放和透明,提高AI解决现实世界问题的效率,并提供可持续的大规模基础设施,以环保和社会责任为导向,加快AI创新的步伐。
Jakubiuk展望未来,他设想了一个效率至上的未来。“计算的未来在于更高的能源效率。我们的不懈追求是推动各种工作负载的效率,推动世界朝着更高的效能发展,”他断言。随着公司继续努力实现可持续云的目标,未来充满希望。
你可以在这里了解更多关于Ampere的可扩展解决方案。