Vitalik Buterin'den Yapay Zeka Yönetimine Eleştiri

Ethereum'un kurucu ortağı Vitalik Buterin, yapay zekâ ile yönetim fikrinin ciddi güvenlik açıkları barındırdığına dikkat çekti. Buterin, sosyal medya hesabından yaptığı paylaşımda "AI governance" yani yapay zekâna yönetişim görevleri yüklemenin istismar edilmeye açık bir yaklaşım olduğunu belirtti.

Özellikle fon dağıtımı gibi kritik süreçlerde yapay zekânın jailbreak komutlarıyla manipüle edilebileceği ve kaynakların yanlış yönlendirilmesine olanak tanıyabileceğini vurguladı. Buterin’e göre, bu tür bir riskten kaçınmak amacıyla "info finance" modeline dayanan bir sistemin daha güvenli bir alternatif olacağı ifade ediliyor.

Bu sistemde, farklı yapay zekâ modellerinin açık piyasa mantığıyla katkıda bulunduğu, bağımsız denetimler yapılabildiği ve gerekirse insan jüri devreye girerek sürecin değerlendirildiği belirtiliyor. Böylelikle hem gerçek zamanlı çeşitlilik sağlanabiliyor hem de olası sorunlara hızlı bir şekilde müdahale edilebiliyor.

Buterin, "info finance" yaklaşımında insanların rolünün kritik olduğunu dile getirerek, insan jürisinin temel gerçeklik sinyali işlevi gördüğünü ifade etti. Jürilerin karar alma sürecinde yapay zekâlardan faydalanabileceğini, ancak nihai kontrolün insanlarda kalması gerektiğini savundu. Bu modelin, fonlama gibi kamu yararına yapılan yatırımlar için de daha adil ve dengeli bir çözüm sunabileceği düşünülüyor.

Ayrıca, Buterin yapay zekânın bir yönetişim aracı değil, destekleyici bir mekanizma olarak kullanılmasının önemini vurguladı. "Yapay zekâyı yönetişim aracı yapmak, hem güvenlik hem de ekonomik açıdan büyük zararlara yol açabilir," diyen Buterin, kripto dünyasında hızla popülerleşen bu fikre mesafeli yaklaştığını aktardı.