圖：AI數據中心的用電需求預算到2030年會增加1.65倍。
若以功能來區分，傳統數據中心主要支援一般運算和儲存任務，而人工智能（AI）數據中心則要負責大規模和複雜的AI計算工作，故AI數據中心主要採用領先的AI計算架構，提供AI應用所需要的算力服務、數據服務和算法服務。
由於在功能上的分別，傳統與AI數據中心的硬件要求亦有不同。傳統數據中心主要以CPU（中央處理器）為核心，擅長處理串行運算和一般性任務。而AI數據中心則使用了大量的GPU（圖形處理器）、TPU（張量處理器）等AI專用加速器。而GPU／TPU對於電源、散熱、網絡等基礎設施的要求亦更高。
在電力供應方面，普通的數據中心每個機櫃的功率在10至15KW，AI數據中心則因應GPU的功率要求，基本都是40KW起跳，所以如果按普通的數據中心規劃，電力基本無法承受。
處理數量大 傳輸速度要求高
其次是在網絡方面，一般數據中心節點的網絡基本是10GB，AI數據中心則需要更快的傳輸速度（分布式計算、共享數據傳輸），通訊網絡節點基本是40至100GB。
事實上，AI數據中心可以說是以目標為本的建設，可為整個AI生命周期提供所需的基建，包括複雜的訓練模型，以至現實世界應用程式的部署。
