Yuval Noah Harari, son kitabı Neksus’a meşhur Alman sanatçı Goethe’nin ‘Büyücü Çırağı’ (Der Zauberlehrling) adlı şiirinde verilen ilginç bir nasihat ile başlıyor:
“Goethe'nin şiiri yaşlı bir büyücünün genç çırağını kendisi yokken atölyesinin başında bırakıp nehirden su taşımak gibi bazı görevler vermesini konu eder. Çırak işlerini kolaylaştırmak için büyücünün büyülerinden birini yaparak süpürgeye nehirden su taşıtır. Ancak su taşıyan süpürgeyi nasıl durduracağını bilmez ve atölyeyi neredeyse su basar. Çırak panikle eline bir balta alıp süpürgeyi ikiye böler ama bu sefer süpürge iki ayrı süpürgeye dönüşür. Artık atölyeye su taşıyan iki büyülü süpürge vardır. Yaşlı büyücü döndüğünde çırak ustasından yardım dilenir: “Ruhları çağırdım ama şimdi onlardan nasıl kurtulacağımı bilmiyorum.” Büyücü hemen büyüyü bozar ve su baskınını engeller. Çırağın -ve tüm insanlığın- alması gereken ders bellidir: Kontrol edemeyeceğin güçleri asla çağırma.”
Goethe, şiirinde süpürgenin ona bu gücü veren yaşlı büyücü tarafından kontrol edilmesini öneriyor. Konumuz yapay zekâ kaynaklı riskler olduğuna göre, biz de bu gücü kimlerin kontrol altına alması gerektiğini tartışarak bir süredir devam etmekte olduğumuz yazı dizisini nihayetlendirebiliriz.
Geçtiğimiz haftalarda paylaştığımız örneklerde de gördüğümüz üzere, yapay zekâ sistemlerinin kontrolünü tamamen ihtiyar büyücüye, yani onu tasarlayan kurumlara bırakmak ciddi riskler barındırıyor. Çünkü, yapay zekâ sistemlerine öğretilmiş aldatma davranışlarının sorumluluğu genel anlamıyla onları bu davranışları gerçekleştirmek üzere eğitenlere ait olduğunu biliyoruz.
Benzer bir şekilde, öğrenilmiş aldatma davranışları ile dezenformasyon yaymanın ötesinde kendisini tasarlayan işletmeleri dahi rahatlıkla aldatabileceğine şahit olduğumuz yapay zekâ sistemlerinin kontrolünü tamamen bu kuruluşlara bırakmanın gelecekte yaşanabilecek kontrol kaybı riskini çözümsüz hale getirebileceğini de biliyoruz.
O yüzden de, bu sistemlerin gelişimlerinden işleyişlerine kadar tüm aşamalara ait prosedürlerin sistematik olarak kurallara bağlanarak kontrol altına alınmasına ilişkin tüm yasal yetkilerin ulusal ve uluslar üzeri otoritelere ait olması gerektiğini rahatlıkla söyleyebiliriz. Detayları sonraki yazılarda zaman zaman tartışmaya devam edebiliriz ancak yazacak konular biriktiği için bu konuya bir süre ara vermek istiyorum.