ChatGPT habiskan biaya Rp10 miliar per hari untuk beroperasi

Menjalankan model machine learning skala besar seperti ChatGPT di server bisa memakan biaya tinggi karena sumber daya komputasi yang signifikan diperlukan untuk melatih dan memelihara model ini. Selain itu, biayanya dapat bervariasi tergantung pada faktor seperti ukuran dan kompleksitas model, jumlah data yang diproses, dan tingkat permintaan pengguna.

Meskipun demikian, organisasi yang menggunakan model bahasa kecerdasan buatan (AI) dapat mempertimbangkan manfaat dari kemampuan mereka sebanding dengan biaya menjalankannya di server. ChatGPT adalah model bahasa paling populer di dunia saat ini, dan menurut laporan terbaru, biaya untuk menjalankannya cukup besar.

Model bahasa OpenAI, ChatGPT, yang menyediakan layanan natural language processing (NLP), memerlukan daya komputasi yang signifikan dan dapat menghabiskan biaya hingga $700.000 (Rp10,5 miliar) untuk menjalankannya. Dilansir dari Gizmochina (25/4), biaya tinggi ini terutama berasal dari server mahal yang diperlukan untuk memberikan feedback berdasarkan input pengguna, termasuk menulis surat pengantar, membuat rencana pengajaran, dan mengoptimalkan data pribadi.

Selain itu, sementara Dylan Patel, Kepala Analis di SemiAnalysis, memperkirakan harga model GPT-3, ChatGPT sekarang bisa menjadi lebih mahal setelah mengadopsi model GPT-4 terbaru.

Biaya penalaran AI jauh melebihi biaya pelatihan, dan biaya inferensi ChatGPT melebihi biaya pelatihan. Microsoft sedang mengembangkan chip kecerdasan buatan, dengan nama kode Athena, untuk mengurangi biaya operasional model kecerdasan buatan generatif, tetapi chip tersebut akan dirilis hanya untuk penggunaan internal oleh Microsoft dan OpenAI pada awal tahun depan.