EfeNews Görünür Haberlerin Adresi
EFENEWS – Yapay zeka teknolojilerindeki hızlı gelişim, sunduğu imkanların yanı sıra küresel güvenliğe ilişkin yeni tartışmaları da beraberinde getiriyor. Yapay zeka güvenlik ve araştırma şirketi Anthropic’in yayımladığı son rapor, gelişmiş yapay zeka modellerinin biyolojik tehdit oluşturabilecek alanlarda kullanılmaya çalışıldığı bazı vakaları gündeme taşıdı.
Raporda, yapay zeka modellerinin mevcut patojenlerin daha tehlikeli hale getirilmesi veya yenilerinin üretilmesi amacıyla kullanılma potansiyeline yönelik endişeler ele alındı. Şirket, olası kötüye kullanım girişimlerine karşı uygulanan güvenlik önlemlerine ilişkin de ayrıntılar paylaştı.
Kuş Gribiyle İlgili Deney Tasarlama Girişimi
Raporda yer verilen örneklerden birinde, desteklenmeyen bir bölgede faaliyet gösteren bir araştırmacının Anthropic’in gelişmiş yapay zeka modeli Claude’u kullanarak kuş gribinin memelilere adaptasyon sürecine yönelik deneyler tasarlamaya çalıştığı belirtildi.
Bir başka vakada ise devlet destekli bir araştırmacının çeşitli toksik maddeleri dijital ortamda yeniden tasarlamak amacıyla yapay zekadan yararlanmaya çalıştığı tespit edildi.
Anthropic, söz konusu faaliyetlerin belirlenmesinin ardından ilgili kullanıcı hesaplarının derhal askıya alındığını açıkladı.
Yeni Güvenlik Önlemleri Devreye Alındı
Yapay zeka modellerinin güvenlik sınırlarını aşmaya yönelik girişimlerin tespit edilmesinin ardından şirket, gelecekte benzer faaliyetlerin daha etkili biçimde engellenmesi amacıyla yeni denetim mekanizmalarının devreye sokulduğunu bildirdi.
Raporda dikkat çekilen bir diğer nokta ise ilgili kullanıcıların doğrudan “kötü niyetli” olarak nitelendirilmemesi oldu. Şirket, hesapların ve faaliyetlerin tedbir amacıyla sınırlandırıldığını vurguladı.
Anthropic, söz konusu vakaları kamuoyuyla paylaşarak yapay zekanın oluşturabileceği biyolojik riskler konusunda sektör genelinde daha kapsamlı bir tartışma başlatmayı amaçlıyor.
Yapay Zekanın Gelecekteki Gücü Tartışılıyor
Yapay zekanın kontrolsüz şekilde gelişmesinin yaratabileceği risklere ilişkin tartışmalar, Anthropic bünyesinde yaşanan bir istifayla da farklı bir boyuta taşındı.
Yakın zamanda bir Anthropic çalışanı, yapay zekanın gelecekte gerçek güç ve kaynaklara sahip olabilecek insanüstü sistemlere dönüşebileceği yönünde uyarıda bulunarak görevinden ayrılmıştı. Söz konusu gelişme kamuoyunda geniş yankı uyandırmıştı.
Yapay zeka teknolojilerinin yetenekleri gelişmeye devam ederken sektör uzmanları, modellerin geliştirilmesi ve kullanıma sunulması sürecinde güvenlik ve etik standartların en üst seviyede tutulması gerektiği konusunda ortak görüş bildiriyor.
