AI, insanlardan daha iyi kimlik avı e-postaları oluşturur

Sinir ağları, çok çeşitli görevlerde şaşırtıcı sonuçlar göstermeye devam ediyor. Doğru, bu sefer çalışmaları hiç de asil değildi: Yapay zekanın yardımıyla Singapurlu araştırmacılar, gerçek insanlar tarafından yazılanlardan daha inandırıcı olduğu kanıtlanan kimlik avı e-postaları yarattı.

Özellikle geçen hafta Las Vegas'ta düzenlenen Black Hat ve Defcon siber güvenlik konferanslarında Devlet Teknoloji Ajansı'ndan (Singapur) uzmanlar, söylenmiş alışılmadık bir deneyin sonuçları hakkında.

Yüzlerce kimlik avı e-postasını kendi başlarına yazdılar ve daha sonra doğal dil işleme algoritması GPT-3 ve diğer yapay zeka teknolojilerini kullanarak daha fazlasını oluşturdular. Daha sonra bu mektupları hangilerinin daha inandırıcı olduğunu test etmeleri için 200 meslektaşına gönderdiler.

Her iki durumda da, e-postalar izleyici bağlantıları içeriyordu - virüsü cihaza indirmediler, sadece araştırmacılara bir tıklama raporu gönderdiler. Sonuç şaşırtıcıydı: insanlar, diğer insanlar tarafından yazılanlara kıyasla yapay zeka tarafından oluşturulan mektupların bağlantılarına "önemli ölçüde daha sık" tıkladılar. Ne yazık ki, kesin istatistikler sağlanmamıştır.

Yazarlar, AI tarafından yazılan mektupların kulağa "şaşırtıcı derecede insani" geldiğini ve platformun otomatik olarak beklenmedik unsurlar eklediğini belirtiyor, metni daha inandırıcı hale getirmek için - örneğin, girişte alıcıların Singapur.

Uzmanlar, uzun süredir dolandırıcıların phishing e-postaları oluşturmak için sinir ağlarını eğitmesinin mantıklı olup olmadığını tartışıyorlar - sonuçta, toplu postalar son derece etkili ve uygun maliyetli olmaya devam ediyor. Ancak derlenmesi ek çalışma gerektiren hedeflenmiş e-postalara ihtiyacınız varsa, sinir ağları gerçekten yararlı olabilir.

Kulağa ürkütücü gelse de, iyi haber şu ki, kaliteli AI eğitiminin maliyeti milyonlarca dolar - muhtemelen değil. yakın gelecekte dolandırıcıların, zaten mükemmel olan sistemi iyileştirmek için topluca ayrılmaya karar vermelerini bekliyoruz. Çalışma.