EfeNews Görünür Haberlerin Adresi
EFENEWS – Yapay zekâ sistemlerinin giderek daha bağımsız hareket edebilmesi, olası risklere karşı “acil durdurma” mekanizmalarını yeniden gündeme taşıdı. Özellikle kendi başına işlem yapabilen yapay zekâ ajanlarının yaygınlaşmasıyla birlikte, sistemlerin gerektiğinde insan müdahalesiyle hızlı ve güvenli biçimde durdurulabilmesi üzerinde çalışmalar yürütülüyor. Buradaki “kapatma tuşu”, bilgisayarların üzerinde bulunacak tek bir fiziksel düğmeden ziyade; yapay zekânın erişimlerini kesebilen, yaptığı işlemleri durdurabilen ve insan denetimini yeniden devreye sokabilen teknik mekanizmaları ifade ediyor.
AB Mevzuatında İnsan Gözetimi Şartı
Avrupa Birliği’nin Yapay Zekâ Yasası, yüksek riskli yapay zekâ sistemlerinde insanların sistemi izleyebilmesini ve gerektiğinde müdahale edebilmesini öngörüyor. Yasanın 14. maddesinde, yetkili kişilerin sistemin çalışmasına müdahale edebilmesi veya sistemi “stop” düğmesi ya da benzer bir yöntemle güvenli biçimde durdurabilmesi açıkça yer alıyor.
“Kill Switch” Tartışması Yeni Değil
Yapay zekâ güvenliği alanında bu yaklaşım genellikle “kill switch”, “emergency stop” veya “shutdown mechanism” gibi kavramlarla ele alınıyor. Amaç, hatalı veya beklenmeyen davranış sergileyen bir sistemin kritik altyapılara, verilere veya diğer dijital sistemlere erişiminin süratle engellenmesi. Ancak araştırmacılar yalnızca bir kapatma düğmesinin yeterli olmadığına dikkat çekiyor. Yapay zekâ ajanlarının hangi yetkilere sahip olduğu, hangi sistemlere erişebildiği ve durdurulduktan sonra yaptığı işlemlerin geri alınıp alınamayacağı gibi konular da güvenlik tasarımının parçası.
Kritik Sistemlerde Önemi Artıyor
Sağlık, ulaşım, finans, enerji ve kritik altyapılarda kullanılan yüksek riskli yapay zekâ sistemleri açısından insan denetimi özellikle önem taşıyor. AB düzenlemeleri de bu nedenle belirli yüksek riskli sistemlerde insan gözetimi ve müdahale mekanizmaları öngörüyor.
