(The Turkish Post) – Yapay zekâ sektörünün önde gelen şirketlerinden Anthropic’te görev yapan araştırmacı Jacob Coxon, şirketten istifa ettiğini duyururken yapay zekânın geleceğine ilişkin çarpıcı uyarılarda bulundu. Coxon, hem Anthropic’i hem de eski işvereni OpenAI’ı, “kendini geliştirebilen süper zekâya doğru yarışmakla” suçlayarak, “Hayatlarımızla kumar oynuyorlar” ifadelerini kullandı.
Coxon, yapay zekâ sistemlerinin kontrol edilemez hale gelmesi durumunda bu on yılın sonuna kadar insanlık açısından ölümcül sonuçlar ortaya çıkabileceğini savundu. Anthropic’te yapay zekâ güvenliği ve uyum çalışmaları yapan Evan Hubinger de benzer endişeler taşıdığını belirterek, önümüzdeki 10 yıl içinde yapay zekânın insanlığın yok oluşuna yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü söyledi.
“Bu teknolojinin gücünü hafife almayın”
Coxon, istifasını duyurduğu yedi paylaşımlık mesaj dizisinde yapay zekânın yalnızca daha gelişmiş sohbet robotlarından ibaret olmayacağını savundu.
Gelecekteki sistemlerin siber saldırılarda insanları geride bırakabileceğini, bilimsel ilerlemeyi hızlandırabileceğini ve gerçek dünyada kaynak ve güç elde edebilecek kapasiteye ulaşabileceğini öne sürdü.
Araştırmacı, teknoloji şirketlerinde çalışanlara da “Bu teknolojinin gücünü hafife almayın” çağrısında bulundu.
“İnsanlığı öldürebileceğine inananlar var”
Coxon’un en dikkat çekici iddiası, yapay zekâ laboratuvarlarındaki risk algısına ilişkin oldu.
Bazı yapay zekâ araştırmacılarının, kontrol edilemeyen sistemlerin bu on yılın sonuna kadar insanlık için ölümcül sonuçlar doğurabileceğine gerçekten inandığını öne süren Coxon, kamuoyu önünde daha temkinli konuşan bazı üst düzey isimlerin özel görüşmelerde çok daha kaygılı olduğunu iddia etti.
Anthropic araştırmacısı Evan Hubinger’in Coxon’un paylaşımına verdiği yanıt da dikkat çekti. Hubinger, kişisel değerlendirmesine göre yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok oluşuna yol açma ihtimalini yüzde 10’un üzerinde gördüğünü açıkladı.
“Böyle bir karar şirketin Slack kanalından çıkmamalı”
Coxon, mevcut yapay zekâ yarışını “kibirli bir kumar” olarak nitelendirdi.
Kendini geliştirebilen süper zekânın ortaya çıkarılması gibi insanlığın tamamını ilgilendiren bir kararın birkaç özel şirketin yöneticileri ve araştırmacıları tarafından alınmaması gerektiğini savundu.
Araştırmacıya göre böylesine büyük sonuçlar doğurabilecek bir karar, “özel bir şirketin Slack kanalından” çıkmamalı.
Yapay zekâ yarışına fren çağrısı
Coxon, yapay zekâ geliştirme yarışının yavaşlatılması gerektiğini savundu. Büyük yapay zekâ laboratuvarları arasında modellerin geliştirilme hızını sınırlayacak anlaşmalar yapılmasını öneren araştırmacı, gerektiğinde daha güçlü modellerin geliştirilmesine geçici yasak getirilebileceğini de dile getirdi.
Coxon ayrıca sektördeki araştırmacılara, “nasıl olsa biri yapacak” anlayışıyla hareket etmek yerine güvenlik mekanizmalarının güçlendirilmesi ve daha güçlü sistemlerin nasıl çalıştığı tam olarak anlaşılmadan yeni eğitim süreçlerinin başlatılmaması çağrısında bulundu.
