OpenAI réduit les coûts d'inférence de ChatGPT de moitié
OpenAI a réduit les coûts d'inférence pour les utilisateurs invités de ChatGPT de plus de moitié, selon une source interne. Le nombre de GPU Nvidia nécessaires est passé à quelques centaines, bien que les techniques utilisées restent inconnues.