با ادامه گسترش کاربردهای هوش مصنوعی (AI)، هزینه های عملیاتی مراکز داده نیز در حال افزایش است. بر اساس گزارش وال استریت ژورنال، برخی از مراکز داده در ایالات متحده مجبور شده اند برای مقابله با هزینه های اضافی ناشی از هوش مصنوعی، قیمت ها را برای مشتریان خود افزایش دهند. در همین حال، داده ها نشان می دهد که تقاضا برای مراکز داده در مقیاس بزرگ و مراکز داده میزبانی شده به سرعت در حال افزایش است، در حالی که تقاضای ظرفیت برای مراکز داده ساخته شده توسط شرکت ها نسبتاً کاهش می یابد.
مراکز داده نه تنها به دلیل مصرف انرژی، بلکه به دلیل ظرفیت پردازش، تراشه‌های پیشرفته، چالش‌های زنجیره تامین و فناوری هوش مصنوعی نیز با فشارهای هزینه مواجه هستند. وال استریت ژورنال گزارش می دهد، "برنامه های هوش مصنوعی انرژی بیشتری نسبت به نرم افزارهای سنتی مصرف می کنند، زیرا نیاز به پردازش داده های بیشتری دارند. در عرض چند روز، یک مدل هوش مصنوعی می تواند ده ها هزار کیلووات ساعت برق مصرف کند. مدل های هوش مصنوعی مولد، مانند فناوری مورد استفاده در چت ربات ChatGPT OpenAI، 100 برابر بیشتر از ابزارهای استاندارد هوش مصنوعی مصرف می کند." علاوه بر این، هزینه های ساخت و ساز، نیروی کار، و خدمات آب و برق به طور مداوم در حال افزایش است.
مربوط به افزایش هزینه های مرکز داده، گسترش سریع بازار خدمات ابری است. بر اساس داده‌های گروه تحقیقاتی Synergy، هزینه‌های سازمانی برای خدمات ابری با نرخ سالانه تقریباً 42 درصد در دهه گذشته افزایش یافته است که از 10 میلیارد دلار در سال 2012 به 227 میلیارد دلار در سال 2022 افزایش یافته است. در مقابل، هزینه‌های مربوط به سخت‌افزار و نرم‌افزار مرکز داده توسط شرکت ها سالانه تنها حدود 2 درصد رشد داشته است.
گروه تحقیقاتی سینرژی همچنین داده های توزیع را در مورد استفاده از ظرفیت مرکز داده جهانی ارائه می دهد. در سال 2022، مراکز داده در مقیاس بزرگ، 37 درصد از کل ظرفیت مرکز داده جهانی را به خود اختصاص دادند، در مقایسه با تنها 17 درصد در سال 2017. مراکز داده در مقیاس بزرگ به امکانات بزرگی اطلاق می شود که توسط غول های خدمات ابری مانند آمازون، مایکروسافت، اداره یا اجاره شده اند. و گوگل نیمی از این مراکز داده متعلق به خود و نیمی دیگر مراکز داده اجاره ای هستند. تسهیلات میزبانی غیر بزرگ 23 درصد از سهم را به خود اختصاص داده است. در همین حال، مراکز داده ساخته شده توسط شرکت ها در سال 2022 سهم 40 درصدی را داشتند که نسبت به 60 درصد در سال 2017 کاهش قابل توجهی داشت.
گروه تحقیقاتی سینرژی پیش بینی می کند که طی پنج سال آینده، "در حالی که نسبت مراکز داده ساخته شده توسط شرکت ها در ظرفیت کل هر سال بیش از دو درصد کاهش می یابد، ظرفیت واقعی آنها فقط اندکی کاهش می یابد. نسبت امکانات میزبانی شده در کل. ظرفیت نسبتاً ثابت باقی خواهد ماند." این شرکت همچنین پیش بینی می کند که تا سال 2027، مراکز داده در مقیاس بزرگ بیش از 50 درصد از سهم ظرفیت را به خود اختصاص دهند، در حالی که مراکز داده ساخته شده توسط شرکت ها به کمتر از 30 درصد کاهش می یابد.