Yapay zekâ araçları her ne kadar parmağımızın ucundaymış gibi görünse de bu araçların ardındaki şirketler, hizmet verebilmek için büyük miktarlarda masrafları göze almak zorunda oluyorlar. Bu şirketlerin illa küçük olmasına da gerek yok. Zira OpenAI gibi sektörün en gözde isimlerinden biri bile masrafları aşağı çekmenin yollarını arıyor.
Bu noktada ise en büyük problem, muhtemelen artık duymaktan sıkıldığınız çip kıtlığı. Yapay zekânın açtığı boşluklar hızla doldurulurken şirketler, çok sayıda çipi aynı anda satın alıyor ve bu da sektörde büyük bir kıtlığın doğmasına sebep oluyor. Bu da Meta ve Microsoft gibi devasa şirketleri bile kendi çiplerini üretmenin yolunu aramaya itiyor.
ChatGPT’nin günlük masrafı 700 bin dolar olarak hesaplanmıştı.
Bu devasa miktar, ChatGPT yaygınlaştıkça daha da artacak. Tam da bu yüzden OpenAI, şirketin planlarına aşina olan kişilerin söylediğine göre kendi yapay zekâ çiplerini üretmenin yolunu arıyor. Hatta bunun için belli başlı şirketleri de gözüne kestirmiş. Buna yönelik henüz somut bir adım atılmamış fakat şirket, geçtiğimiz yıldan beri pahalı çiplere bir çözüm yolu arıyor.
Bu yollardan biri de hem Nvidia ile hem de Nvidia haricinde farklı tedarikçilerle çalışmak. Daha önce CEO Sam Altman, -diğer şirketlerin de yaptığı gibi- çok sayıda çip satın almanın, şirketin önceliği olduğunu açıklamış ve GPU bulunamamasına yönelik sitemlerde bulunmuştu. Bu pazar da yüzde 80’den yüksek bir oranla Nvidia’nın elinde.
OpenAI’ın ortaya koyduğu teknolojiler, Microsoft tarafından oluşturulan bir süper-bilgisayarla yapıldı. Bu bilgisayarda ise 10.000 Nvidia GPU’su kullanıldığı belirtiliyor.
ChatGPT, OpenAI için yüksek maliyetleri olan bir girişim olarak karşımıza çıkıyor. Yapılan analizlere göre, ChatGPT’de yapılan her bir sorgu 4 cent. Bu sorgular Google aramalarının sadece onda biri oranına kadar bile yükselirse, sistemin çalışır durumda kalması için yaklaşık 48,1 milyar dolar değerinde GPU ve yılda yaklaşık 16 milyar dolar değerinde çip gerekecek. Bu da şirket için devasa paralar demek.
Şimdilik şirketin bu konuda somut adımlar atıp atmayacağı bilinmiyor. OpenAI her ne kadar Microsoft’un geliştirdiği çipleri test etse de şirketin kendi çipini üretmesi, hem uzun süre alacak hem de devasa miktarda yatırım gerektirecek. Bu girişimin de başarılı olacağı kesin değil. Siz bu konuda ne düşünüyorsunuz?
