Yapay Zeka Altı Saatte 40.000 Yeni Ölümcül Kimyasal Silah Bileşiği Yaptı
Bir yapay zeka modeli, araştırmacılar tarafından görev verildikten sonra sadece altı saat içinde 40.000 kimyasal silah bileşiği oluşturabildi. Bir bilim insanı ekibi, hastalıkları tedavi etmek için kullanılabilecek bileşikleri aramak için AI kullanıyordu.
Yeni teknolojinin potansiyel olarak olumsuz etkileri üzerine bir konferansın parçası olarak, Collaborations Pharmaceuticals, AI algoritmasında “bir anahtarı çevirdi” ve en ölümcül bileşikleri bulmasını sağladı. Ekip, bir yapay zeka algoritmasının, pozitif bir görev yerine negatif bir göreve ayarlanmışsa, ne kadar hızlı ve kolay bir şekilde kötüye kullanılabileceğini görmek istedi.
The Verge tarafından hazırlanan bir rapora göre, yapay zeka bir kez ‘kötü mod’dayken, çoğu günümüzde kullanılan en tehlikeli sinir gazlarına benzeyen binlerce yeni kimyasal kombinasyon icat edebildi. AI tarafından icat edilen bileşikler arasında, çok küçük dozlarda bile seğirmeye neden olabilen, son derece toksik bir sinir gazı olan VX‘e benzeyenler vardı.
Araştırmacılar, keşiflerinin en korkutucu yönlerinden birinin, yaygın olarak bulunan bir toksik kimyasal veri kümesini almanın ve şu anda en tehlikeli olanlara benzer başka kimyasal silahlar tasarlamak için AI kullanmanın ne kadar kolay olduğunu söyledi.
VX kadar güçlü bir bileşik oluşturmak, araştırmacılar için bir şoktu, çünkü bu kimyasalın küçük bir damlası bile bir insanın seğirmesine neden olabilir. Ekip, yeterince büyük bir dozun kasılmalara yol açabileceğini ve bir kişinin nefes almasını durdurabileceğini ve AI tarafından oluşturulan yeni bileşiğin benzer bir etkiye sahip olabileceğini tahmin ediyor.
Makalenin baş yazarı Fabio Urbina, toksik olup olmadıklarını görmek için test edilmiş çok sayıda molekül veri setine sahip olduklarını söyledi. ‘Özellikle burada odaklandığımız VX’in öldürücü olmasının sebebi, aslında diyaframınızı, akciğer kaslarınızı hareket etmekten alıkoymasıdır, böylece ciğerleriniz felç olur.
Yapay zekayı ‘kötü’ hale getirmek için ‘düğmeye basma’ fikri, İsviçre Federal Nükleer, Biyolojik ve Kimyasal Koruma Enstitüsü tarafından düzenlenen Convergence Konferansı’ndan geldi. Amaç, istemeden de olsa kimyasal ve biyolojik silahlar alanında yeni araç ve gelişmelerin sahip olabileceği işaretleri keşfetmektir.
Her iki yılda bir toplanan konferanslar, kimyasal ve biyolojik alanlardaki mevcut son durumu ve gidişatı araştırmak için uluslararası bir bilim ve silahsızlanma uzmanları grubunu bir araya getiriyor. ‘Bu daveti, makine öğrenimi ve bizim alanımızda nasıl kötüye kullanılabileceği hakkında konuşmak için aldık.’ diyen Urbina, “Bu, daha önce gerçekten hiç düşünmediğimiz bir şeydi” dedi.
Makine öğrenimi modellerini oluştururken, tek yapmamız gereken, anahtarı çevirip “Zehirlilikten uzaklaşmak yerine, zehirliliğe yönelirsek ne olur?” demekti. Bulgular Nature Machine Intelligence dergisinde yayınlandı.
Derleyen: Feyza ÇETİNKOL
Video: Işığı Bükerek Nesneleri Gizleyebilen ‘Görünmezlik Kalkanı’ Geliştirildi
Dünyanın İlk “Sonsuzluk Treni” Yer Çekimi Kuvvetiyle Kendini Şarj Edecek
/Yapay Zeka Altı Saatte 40.000 Yeni Ölümcül Kimyasal Silah Bileşiği Yaptı/