Altman: Yapay zekâ iki şekilde kontrolden çıkabilir, geri dönüşü olmaz

Altman'a göre yapay zekâ iki şekilde kontrolden çıkabilir

Figuring Out With Raj Shamani podcast'inde konuşan Altman, birbirine zıt iki başarısızlık senaryosu çizdi.

Altman, "Birincisi, yapay zekâ üzerindeki kontrolü kaybetmek. İsteyerek ya da kazara geleceğin kontrolünü bizden çok daha yetenekli sistemlere devrediyoruz ve geri alamıyoruz" dedi. "İkincisi ise bir kişinin, şirketin veya ülkenin diğer herkese göre çok fazla güçlenmesi."

İlk senaryo, Hollywood filmlerindeki robot ayaklanması değil. Yavaş bir devir teslim: insanlar, kolaylarına geldiği ya da sistemler daha iyi karar verdiği için yapay zekânın daha fazla karar almasına izin veriyor ve bir noktadan sonra kontrolü geri almak gerçekçi olmaktan çıkıyor. İkincisi ise daha tanıdık bir alan: yapay zekâda belirleyici bir avantaja sahip tek bir aktör, geri kalan herkesin bu durumla yaşamak zorunda kaldığı bir güç dengesi yaratıyor.

İyimser bir isim neden uyarıyor?

Altman kamusal konuşmalarının çoğunda yapay zekânın dünyayı daha iyiye dönüştüreceğini savunuyor. Bu da felaket senaryolarını daha az değil, daha ilginç kılıyor.

OpenAI'nin CEO'su olarak Altman, yapay zekâ patlamasının en tanınan yüzü denebilir. Teknolojinin "gerçekten kötüye gidebileceğini" söylemesi, bir eleştirmenin aynı şeyi söylemesinden daha ağır bir ifade. Pazarlama malzemesi diye geçiştirmek de zor.

Sözleri, sektörün kendi söylemindeki bir değişimle de örtüşüyor. Yapay zekâ sistemleri artık soru yanıtlamaktan eyleme geçmeye başladı: ajanlar web sitelerinde gezinebiliyor, form doldurabiliyor ve çok adımlı görevleri daha az insan gözetimiyle tamamlayabiliyor. Bu sistemler daha fazla sorumluluk aldıkça, kontrol kaybı senaryosu da spekülasyon olmaktan çıkıyor.

Altman bu uyarıyı yapan tek isim değil. Sık sık yapay zekânın vaftiz babası olarak anılan Geoffrey Hinton daha ileri giderek, teknolojiyi hiç geliştirmeseydik daha iyi olabileceğini söyledi. Fark şu: Altman hâlâ geliştirmeye devam ediyor.

Güç yoğunlaşması sorunu zaten görünür durumda

İkinci senaryo, yani bir şirketin veya ülkenin aşırı güçlenmesi, bugünün yapay zekâ yarışında ilkinden daha kolay gözlemleniyor.

Sınır teknolojiler geliştiren yapay zekâ laboratuvarları, çoğu ABD ve Çin'de olmak üzere birkaç elde toplanmış durumda ve arkalarında tarihin en büyük bilançolarından bazıları var. Hesaplama gücü, veri ve yetenek eşit dağılmıyor; önde gelen laboratuvarlarla geri kalanlar arasındaki fark kapanmıyor, açılıyor.

Bu yüzden ABD ve AB'deki düzenleyiciler güvenlik kadar rekabete de odaklanmış durumda. Endişe sadece yapay zekânın insan kontrolünden çıkması değil; kontrolün baştan hiç paylaşılmaması.

Türkiye'de durum ne?

Altman'ın uyarıları bir ürün lansmanı ya da fiyat etiketiyle gelmiyor; Türkiye'deki okuyucular için doğrudan bir satın alma kararına dönüşmüyor. Yine de iki senaryo da Türkiye'nin yapay zekâ düzenlemesi tartışmalarını yakından ilgilendiriyor. Türkiye'de henüz kapsamlı bir yapay zekâ yasası yok; düzenleme çalışmaları sürüyor ve AB'nin Yapay Zekâ Yasası gibi modellerin şeffaflığını ve denetimini öne çıkaran yaklaşımlar referans alınıyor.

Günlük kullanımda ise risk, ani bir devralmadan çok fark edilmeden devredilen kararlarda: toplantı planlamasından alışverişe, iş e-postalarının yazılmasına kadar. Türkiye'de ChatGPT ve benzeri araçları kullananlar için asıl soru, bu araçların hangi kararları ne kadar gözetimle aldığı.

Altman'ın ikili uyarısı, yapay zekâ riskinin tek bir sorun değil, en az iki sorun olduğunu ve bu iki sorunun zıt yönlere çektiğini hatırlatıyor. Kontrol kaybına karşı önlem almak yavaşlamayı ve denetim mekanizmaları kurmayı gerektiriyor; güç yoğunlaşmasına karşı önlem almak ise erişimi ve gücü yaymayı. İkisini aynı anda yapmak zor ve kimsenin elinde net bir plan yok.