En août 2024, les grandes entreprises technologiques augmentent considérablement leurs investissements dans les centres de données IA pour répondre à la demande croissante de puissance de calcul.
Microsoft est en tête de l'industrie avec une dépense totale de 46 milliards de dollars en coûts d'exploitation et d'investissement dans l'IA, avec 300 centres de données. Amazon suit avec environ 215 installations.
En septembre, Microsoft et BlackRock ont annoncé une initiative de 100 milliards de dollars par le biais du Partenariat mondial pour l'infrastructure de l'intelligence artificielle (GAIIP) visant à développer des centres de données axés sur l'IA et leur infrastructure énergétique de soutien.
Google et Amazon dépensent également plus de deux fois plus pour former des modèles d'IA par rapport aux coûts associés à leur utilisation finale. La formation de modèles d'IA majeurs est devenue de plus en plus coûteuse en raison de la nécessité de jeux de données étendus et de ressources de calcul substantielles.
Cette tendance indique qu'à mesure que les déploiements de modèles d'IA se développent, les coûts globaux d'inférence pourraient bientôt dépasser les dépenses initiales de formation, un scénario déjà observé avec ChatGPT d'OpenAI.