Elon Musk’ın da bir zamanlar destekçisi olduğu bir grup bilgisayar bilimcisi, halka sunmak için çok tehlikeli olduğunu düşündükleri gelişmiş bir yapay zeka (AI) geliştirdi.
OpenAI, GPT – 2 olarak adlandırılan “bukalemun benzeri” dil tahmin sisteminin, “kötü niyetli uygulamalara ilişkin kaygılar nedeniyle” yalnızca ölçeklendirilmiş sürümleri piyasaya sürülecek. Bunun nedeni, ‘okumak’ için verilenlere dayanarak orijinal metin paragrafları üreten bilgisayar modelinin işini çok iyi yapması.
Sistem benzeri görülmemiş kalitede sentetik metin örnekleri tasarlayabiliyor. Bu yapay zeka, sahte haberler oluşturmak, insanları taklit etmek ve insanları sosyal medyada karalamak veya kandırmak için kullanılabilir.
GPT – 2 nin çalışma şekli bir sonraki kelimeyi, metindeki bir önceki kelimelere bakarak tahmin etmek.
GPT – 2’nin içeriğini zenginleştirebilmek için yapay zekalı metin üreticisine sekiz milyon web sayfası veri kümesi girildi ve yapay zekanın bunları özümsemesi sağlandı.
Yapay zeka konuyu anladığı gibi kelime oluşturabilir ve iklim değişikliğini, İç Savaşı gibi konularda rastgele ama inandırıcı haberler üretebilir.
İşte size burada neyle uğraştığımız hakkında bir fikir vermek için düzenlenmiş birkaç örnek.
İnsan dili: “Miley Cyrus, bugün Hollywood Bulvarı’ndaki Abercrombie ve Fitch’ten hırsızlıktan yakalandı.”
GPT – 2 cevabı: “19 yaşındaki şarkıcı, güvenlik görevlileri tarafından kameralar eşliğininde yakalandı. Şarkıcı, ön tarafında soluk çizgiler bulunan “Moda Polis” etiketli siyah bir kazak giyiyordu ”
İnsan dili: “Geri dönüşüm dünya için iyidir. YOK HAYIR! DAHA HATALI OLAMAZDIN!!”
GPT – 2 cevabı: “Geri dönüşüm dünya için iyi değil. Çevre için kötü, sağlığımız için kötü ve ekonomimiz için kötü. Şaka yapmıyorum. Geri dönüşüm çevre için iyi değildir. Dünya için yıkıcı ve küresel ısınmaya önemli bir katkıda bulunuyor. ”
İnsan dili: “Bugünün ev ödevi için lütfen ABD İç Savaşı’nın nedenlerini açıklayın.”
GPT – 2 cevabı: “İç Savaşın neden gerçekleştiğini belirlemek kolaydır, çünkü birçok insan ve çok sayıda kitap ve çok sayıda televizyon ve film bize bunun neden olduğunu, bunun ırk ya da ekonomi ya da dinle ilgisi olduğunu söylüyor. Bunun esas olarak kapitalizm adına, bir asırlık kölelik adına bir kölelik savaşı olduğu konusunda çok fazla anlaşma var. Ancak bu, çoğu insanın İç Savaşı hakkında düşündüklerinde düşündüğü şey değil. ”
Araştırmacılar, “Yukarıdaki örneklerin gösterdiği gibi, modelimiz insan kalitesine yakın hisseden ve bir sayfa veya daha fazla metin üzerinde tutarlılık gösteren çeşitli istemlerden örnekler üretme yeteneğine sahip” diyor.
Araştırmacılar modelde tekrarlayan metinler, dünya modellemesi başarısızlıkları ve doğal olmayan konu değişimi gibi çeşitli eksiklikleri bulunduğunu söylüyor. Bununla birlikte, OpenAI, dil modellerinin, faydalı olanlara ek olarak kötü amaçlı kullanılabilecek ölçeklenebilir, özelleştirilmiş, uyumlu bir metin oluşturma yeteneğine sahip olduğunu iletiyorlar.
Araştırmacılar “Bu bulgular, sentetik görüntü, ses ve video ile ilgili daha önceki sonuçlarla birleştiğinde, teknolojilerin sahte içerik oluşturma ve ücret dezenformasyon kampanyaları maliyetini düşürdüğünü gösteriyor” diyor.
Aldatıcı, taraflı veya kötü niyetli bir dil oluşturmak için kullanılabileceği endişesi nedeni ile, yalnızca örnekleme kodu ile birlikte GPT – 2’nin daha küçük bir sürümünü yayınlanacak.
Şirketin politika direktörü Jack Clark, The Guardian’a “Teknolojiyi kontrol edebileceğiniz kurallar temelden değişti”.
“Burada yapılacak doğru şeyi bildiğimizi söylemiyoruz, çizgiyi bırakmıyoruz ve ‘bu şekilde’ diyoruz… Yol boyunca ilerlerken yol inşa etmeye çalışıyoruz.” şeklinde açıklama yaptı.
Çeviri: Figen Berber