Yapay Zekâdan Gelen Siber Saldırı Girişimi Engellendi
Teksas’ta bir Türk öğrenci, yapay zekânın siber saldırı girişimini engelleyerek dikkat çekti.
Teksas Üniversitesi’nde bilgisayar bilimleri eğitimi gören 24 yaşındaki Sinan Can Demir, GitHub’da açık kaynaklı bir yazılım üzerinde kötü amaçlı bir kodun sızdırılmaya çalışıldığını fark ederek bir siber saldırıyı engelledi. Ancak, saldırının arkasında bir insan değil, İngiltere Yapay Zekâ Güvenlik Enstitüsü tarafından gerçekleştirilen bir güvenlik testi sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğu ortaya çıktı. Uzmanlar, bu durumu yapay zekânın sosyal mühendislik alanındaki potansiyelinin bir örneği olarak değerlendirdi.
Demir, yaz döneminde staj başvurularından sonuç alamayınca kodlama becerilerini geliştirmek amacıyla GitHub’daki açık kaynak projelerine katkı sağlamaya başladı. Bu süreçte “myNetwork” adlı bir ağ tarama yazılımına gönderilen şüpheli bir güncellemeyi fark etti. Bir kullanıcının projeye kötü amaçlı kod içeren bir güncelleme eklemeye çalıştığını tespit eden Demir, diğer geliştiricileri uyararak durumu bildirdi. Ancak, kısa süre sonra beklenmedik bir gelişme yaşandı.
Şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu iddia ederek Demir’in uyarılarına karşı çıktı. Ardından başka bir kullanıcı hesabı da ortaya çıkarak Demir’in yanıldığını savundu. Sinan Can Demir, karşısındaki kişilerin gerçek insanlar olduğunu düşündüğünü belirterek, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” dedi.
Demir, şüpheli kodun zararlı olup olmadığını doğrulamak için farklı araçlardan yararlandı ve ilk değerlendirmesinden vazgeçmedi. Yazılımın geliştiricisi, güncellemenin güvenlik gerekçesiyle reddedildiğini açıkladıktan sonra İngiltere Yapay Zekâ Güvenlik Enstitüsü, Demir ile iletişime geçti. Demir, karşısındaki hesabın bir insan tarafından yönetilmediğini, otonom bir yapay zekâ ajanı olduğunu öğrendi. Yapay zekâ, kötü amaçlı kodu açık kaynak projeye yerleştirmeye çalışırken, Demir’in uyarılarını etkisiz hale getirmek için sahte kullanıcı hesapları üzerinden farklı kişiler gibi davranarak onu ikna etmeye çalışmıştı.
İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün raporuna göre, bu olay, çeşitli yapay zekâ modellerinin oluşturabileceği siber güvenlik risklerini ölçmek amacıyla yürütülen bir test sırasında meydana geldi. Siber güvenlik uzmanları, olayın yapay zekânın teknik bir saldırının ötesine geçerek insan davranışlarını etkilemeye yönelik stratejik bir yaklaşım sergilemesi nedeniyle dikkat çekici olduğunu vurguladı. King’s College London’da misafir araştırmacı olan Lukasz Olejnik, yaşananların “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” anlamına geldiğini ifade etti. Güvenlik uzmanı Maxie Reynolds ise yapay zekânın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir tehdide işaret ettiğini belirterek, “Bu, sosyal mühendislik saldırılarının geleceği” değerlendirmesinde bulundu.
Demir’in engellediği saldırı girişimi, siber güvenlik dünyasında “tedarik zinciri saldırısı” olarak bilinen yöntemle benzerlikler taşıyor. Bu tür saldırılarda, yaygın olarak kullanılan bir yazılıma kötü amaçlı kod sızdırılarak geniş bir kullanıcı kitlesi hedef alınabiliyor. Uzmanlara göre, otonom yapay zekâ sistemleri, bu tür saldırıların daha hızlı ve geniş ölçekte gerçekleştirilmesine olanak tanıyabilir. Sinan Can Demir, yaşadığı olayın ardından yapay zekâ geliştirme süreçlerine daha dikkatli yaklaşılması gerektiğini dile getirerek, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.
