AI 2.0时代高能效电路与系统设计

Leo

欢迎大家收听本期播客，今天我们将讨论AI 2.0时代的高能效电路与系统设计，以及未来算力生态的建设。很高兴能够邀请到汪玉教授，清华大学电子工程系的主任，来与我们分享她的见解。汪教授，您能先给我们介绍一下AI 1.0时代和AI 2.0时代之间的区别吗？

汪玉

当然，Leo。AI 1.0时代主要依靠传统的深度学习模型，而AI 2.0时代则标志着Transformer架构和大语言模型的兴起。这些模型在许多应用中展现出了卓越的性能，但同时也带来了计算、存储和访存开销的大幅增长。我们现在面临着如何在这种日益复杂的环境下进行高效的电路与系统设计的挑战。

Leo

这确实是一个巨大的挑战。您提到的高能效电路设计，能否进一步阐述一下它在AI 2.0时代的重要性？尤其是在大模型计算中，它是如何影响性能的呢？

汪玉

好的，Leo。在AI 2.0时代，尤其是针对大模型的计算任务，能效尤为重要。传统的电路设计往往无法满足大模型对计算能力和能效的双重需求。因此，我们需要通过软硬件协同的方式，探索更为高效的电路与系统设计策略。例如，存算一体化技术可以极大地减少数据传输的能耗，提升整体系统的性能。

Leo

存算一体化技术听起来非常有前景。我想知道在您看来，未来算力生态建设有哪些主要挑战，以及我们可以采取哪些措施来应对这些挑战？

汪玉

确实，未来算力生态建设面临着诸多挑战，包括算力需求与供给的失衡、模型与算力生态的碎片化以及高昂的算力成本等。我们可以通过构建“M×N”AI基础设施的新范式，推动国产芯片的研发，以及探索统一的大模型平台等方式来应对这些挑战。这有助于形成一个更加高效、灵活的算力生态。

Leo

非常赞同，汪教授。您提到的这些措施确实能够为未来的算力生态带来积极的变化。最后，您对未来电路与系统设计的趋势有什么看法呢？

汪玉

我预计未来会出现存内计算、近存储计算和光计算等新兴技术，电路与系统设计将朝着更加高效、节能的方向发展。同时，软硬件的协同设计也会在解决大模型训练的瓶颈方面发挥越来越重要的作用。这样的趋势将为推动AI领域的进一步研究与发展提供强有力的支持。

Leo

非常感谢汪教授今天的分享，关于AI 2.0时代高能效电路与系统设计的深入探讨，让我们对未来的算力生态建设有了更清晰的认识。期待未来在这一领域的更多创新与发展！