CEO OpenAI Sam Altman mengatakan kesopanan sederhana seperti mengucapkan tolong dan terima kasih ke bot ChatGPT memakan biaya yang sangat mahal, lantaran membebani biaya listrik yang cukup besar. Altman mengungkapkan hal tersebut ketika seorang pengguna di platform media sosial X bertanya tentang dampak finansial dari kesopanan terhadap biaya operasional OpenAI. Altman menjawab dengan mengatakan biayanya puluhan juta dolar amerika. Chatbot seperti ChatGPT berjalan pada model bahasa besar LLM, yang mengandalkan infrastruktur komputasi luas yang dihosting di pusat data. Model ini membutuhkan ribuan GPU berperforma tinggi. GPU melakukan pemrosesan paralel dalam jumlah besar untuk menginterpretasikan perintah dan menghasilkan respons real time. Memberi daya pada pusat data ini butuh listrik yang sangat besar. ( tbu )




