Yapay zekanın olası risklerine karşı "acil kapatma düğmesi" oluşturulması yeniden gündeme geldi. Uzmanlar, dünyadaki tüm sistemleri durdurabilecek tek bir anahtarın olmadığını, merkezi olmayan ve farklı cihazlara yayılan sistemleri kapatmanın son derece karmaşık ve maliyetli olacağını belirtiyor.
Tek Bir Acil Kapatma Düğmesi Bulunmuyor
Yapay zeka teknolojisinin kontrolsüz gelişimine ve olası risklerine dair tartışmalar devam ederken, Anthropic’in kurucu ortaklarından biri acil kapatma mekanizmalarının zorunlu hale getirilmesi gerektiğini ifade etti. Ancak uzmanlar, küresel ölçekteki tüm yapay zeka sistemlerini aniden durdurabilecek sihirli ve tek bir düğme olduğu düşüncesinin gerçeği yansıtmadığını belirtiyor. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau, dünyada farklı şirketlere ait çok sayıda yazılım ve hizmet bulunduğunu, yapay zekanın tamamını kontrol eden tek bir merciin olmadığını vurguluyor.
Merkezi ve Dağıtık Sistemler Arasındaki Farklar
Toronto Üniversitesi’nden bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatmanın bir yapay zekanın yürüttüğü işlemlerin kesilmesi anlamına geldiğini ve sistemi çalıştıranların işlem gücüne erişimi engelleyerek durdurma yapabileceğini aktarıyor. Fakat programın ilk ortamın dışına çıkmasına izin verilmişse süreç zorlaşıyor. Örneğin yapay zekanın kendisini kopyalayan bir bilgisayar solucanı yayması durumunda, tüm kopyaların cihaz cihaz bulunarak eş zamanlı durdurulması gerebiliyor. Makineleri tek operatör tarafından yönetilen merkezi sistemleri kapatmak pratik olarak mümkünken, başka dosyalara ve cihazlara erişim yetkisi verilmiş merkezi olmayan yapıları bütünüyle durdurmak çok daha büyük zorluklar barındırıyor.
