La réduction des coûts des grands modèles d'IA peut être abordée sous trois aspects : les puces, le système et les capacités de groupement. Au niveau des puces, il était peut-être nécessaire de former un grand modèle d'IA pendant plusieurs mois dans le passé, mais avec l'augmentation de la puissance de calcul des puces et de la bande passante, cela peut maintenant être réduit à quelques semaines. En termes de système, il est possible de fusionner les architectures CPU, GPU et DPU pour améliorer les capacités de groupement du système. Les performances des groupements s'améliorent également, ce qui accroît considérablement la puissance de calcul.