ABD’li bir gazetecinin yapay zeka güvenliği üzerine yaptığı deney büyük paniğe neden oldu. Söz konusu deney sonucunda yapay zeka sayesinde güvenlik sistemi kolayca bypass edildi. Gazeteci, bankalar başta olmak üzere birçok yerde kullanılan güvenlik sisteminin kaldırılması için teklifte bulundu.
KISA SÜREDE BANKA HESAPLARINA ULAŞILDI
Indipendent Türkçe’nin haberine göre VICE muhabiri Joseph Cox, ElevenLabs adlı yapay zeka programıyla kendi sesini klonladı. Bunun üzerine bankayı arayan Cox, telesekreterin güvenlik istediği sesli mesaj sorununu yapay zeka ile kopyaladığı kendi sesini dinleyerek aşmayı başardı. Hesaplarına erişmeyi başaran Cox, işlemlerini kısa süre içerisinde kolayca gerçekleştirmeyi başardı.
Gazeteci, bu kadar kolay bir deneyin güvenlik sistemini baypas edebileceğine “inanamadığını” söyledi:
YAPAY ZEKA ŞİRKETİ AÇIKLAMAYI REDDEDER
Gazeteci Cox, konu hakkında yapay zeka şirketi ile görüşmek istediklerini ancak şirketten herhangi bir yanıt gelmediğini belirtti. Yapay zeka alanında yapılan yeniliklerin dolandırıcılık gibi kötü amaçlar için kullanılabileceğine işaret eden Cox, rahatsızlığını şu sözlerle dile getirdi:
SESLİ İMZA BİTEBİLİR
Bankalarda kullanılan geliştirme “sesli imza” Bu özelliğinin ne kadar sağlam olduğunu sorgulamaya başladı. Yapay zeka teknolojisinin yokluğunda güvenle kullanılan “sesli imza” uygulaması artık güvenilir değil gibi görünüyor.
Yapay zeka alanında yapılan çalışmalar şu an başlangıç seviyesindeyken bu tür durumların yaşanması güvenliğe değer verenler arasında bir hayli tedirginlik yaratmış durumda.
YENİ TEKNOLOJİ İLE SES ÜÇ SANİYEDE KOPYALANABİLİR
Ses kopyalama alanında üretilen yapay zeka uygulamalarının insanlar üzerinde büyük etkisi bulunmaktadır. Kullanıcıların beğenisini kazanan uygulamalar ile ünlülerin ve diğer kişilerin sesleri hızlı bir şekilde kopyalanabilmektedir. Kopyalanan seslerin sosyal medyada paylaşan kişiler tarafından sadece eğlence amaçlı değil kötü amaçlarla da kullanılması insanları korkutuyor.
Yeni üretilen yapay zeka uygulamalarıyla birlikte üç saniyelik bir ses kaydını dinleyen algoritma, sesimizi tamamen kopyalayabiliyor. Yapay zeka kopyaladığı sesle birlikte metin ekranında ne yazılırsa yazsın kopyaladığı sesle okuduğu metni seslendirebiliyor. Duyulduğunda bile ürkütücü bir his uyandıran teknolojinin gelecekte daha ne aşamalardan geçeceği merak konusu.
