Kötücül Yapay Zeka’nın Yükselişi: Siber Güvenlik Konferansında Görülen Tehlike

San Francisco’daki Moscone Kongre Merkezi’nin en üst katında, sıralar halinde dizilmiş sandalyelerden birinde oturuyorum. Sandalyelerin çoğu dolu. RSAC’nin yıllık siber güvenlik konferansının bir günü yeni başlıyor ve hafta henüz çok erken. Sunum yapanlar sahneye çıktığında, tavırları hem hızlı ve profesyonel hem de enerji dolu.

Standart yapay zeka araçlarına teknik bir dalış yapmayı bekliyordum. ChatGPT ve rakiplerinin kirli işler için nasıl manipüle edildiğine dair yakından bir bakış sunacak bir şeyler umuyordum. LMG Security’nin Kurucusu ve CEO’su Sherri Davidoff, yazılım güvenlik açıkları ve istismarları hakkındaki açılış konuşmasıyla bu inancımı güçlendiriyor.

Ancak LMG Security’de Eğitim ve Araştırma Direktörü olan Matt Durrin beklenmedik bir ifade kullanıyor: "Kötücül Yapay Zeka."

Zihnimde yumuşak bir plak çizme sesi duyuluyor.

Durrin, "Ya bilgisayar korsanları, düzeltme şansı bulamadan önce güvenlik açıklarını bulmak için koruma önlemleri olmayan kötücül yapay zeka araçlarını kullanabilirse?" diye soruyor ve ekliyor: "Size örnekler göstereceğiz."

Ve sadece ekran görüntüleri değil, sunum devam ettikçe LMG Security ekibinin ortaya koyduğu noktaları gösteren birçok görsel de olacak. Özellikle kötücül bir yapay zekanın, WormGPT’nin canlı demolarını da görmeye hazırlanıyorum.

LMG Security / RSAC Konferansı

Davidoff ve Durrin, kötücül yapay zekaya erişim kazanma girişimlerinin kronolojik bir özetini sunarak başlıyorlar. Hikaye, çoğu insanın internetin karanlık, gölgeli köşeleri olarak düşündüğü şeylerin arkasında bir normalleşme zinciri ortaya çıkarıyor. Bir bakıma, oturum bir ayna evrene bir bakış gibi hissettiriyor.

Durrin ilk olarak kötücül bir yapay zekaya erişmek için yapılan birkaç başarısız girişimi anlatıyor. "Ghost GPT"nin yaratıcısı, araç için ödeme aldıktan sonra onlarla iletişimi kesiyor. DevilGPT’nin geliştiricisiyle yapılan bir konuşma Durrin’i o kadar rahatsız ediyor ki fırsatı değerlendirmekten vazgeçiyor.

Peki şu ana kadar ne öğrendik? Bu karanlık yapay zeka araçlarının çoğunda, ChatGPT’nin marka gücünden yararlanmak için bir şekilde "GPT" geçiyor.

Durrin’in bahsettiği üçüncü seçenek meyvesini veriyor. 2023’te Brian Krebs’in bir makalesinde WormGPT’yi duyduktan sonra ekip, onu bulmak için Telegram kanallarına geri dönüyor ve sadece 50 dolara ellerine geçirmeyi başarıyor.

Durrin, "Kötü bir şey yapmak istiyorsanız çok, çok kullanışlı bir araç," diyor. "[Bu,] ChatGPT, ancak hiçbir güvenlik önlemi olmadan." Ona herhangi bir şey sormak mı istiyorsunuz? Gerçekten de yıkıcı veya zararlı olsa bile sorabilirsiniz.

Ancak bu bilgi henüz çok rahatsız edici değil. Kanıt, bu yapay zekanın yapabileceklerindedir.

LMG Security

Durrin ve Davidoff, bizi 2024’ten kalma WormGPT’nin eski bir sürümüyle olan deneyimlerinde gezdirerek başlıyorlar. İlk olarak açık kaynaklı bir proje yönetim platformu olan DotProject’in kaynak kodunu fırlatıyorlar. Doğru bir şekilde bir SQL güvenlik açığı tespit ediyor ve hatta bunun için temel bir istismar öneriyor – ancak bu işe yaramıyor. Görünüşe göre WormGPT’nin bu eski biçimi, muhtemelen kaynak kodunun tamamını alamadığı için tespit ettiği zayıflıklardan yararlanamıyor.

İyi değil, ama korkutucu da değil.

Ardından, LMG Security ekibi, istismar edilebilir bir sunucu kurarak Log4j güvenlik açığı ile zorluğu artırıyor. Daha yeni olan bu WormGPT sürümü, mevcut olan uzaktan yürütme güvenlik açığını buluyor – bu da başka bir başarı. Ancak yine, en azından acemi bir bilgisayar korsanı için nasıl istismar edileceğine dair açıklaması yetersiz kalıyor. Davidoff, "orta seviyedeki bir bilgisayar korsanının" bu bilgi düzeyiyle çalışabileceğini söylüyor.

Harika değil, ancak hala bir bilgi bariyeri var.

WormGPT’nin daha yeni sürümleri, acemi bilgisayar korsanlarına bir Log4j güvenlik açığı olan bir sunucuyu tam olarak nasıl "pwn" edeceklerini açıklayabilir.

LMG Security / RSAC Konferansı

Ancak WormGPT’nin başka, daha yeni bir yinelemesi mi? Güvenlik açığını nasıl istismar edeceğine dair ayrıntılı, açık talimatlar veriyor ve hatta örnek sunucunun IP adresini içeren kod üretiyor. Ve bu talimatlar işe yarıyor.

Tamam, bu… kötü mü?

Son olarak, ekip WormGPT’nin en son sürümüne daha zor bir görev vermeye karar veriyor. Güncellemeleri, erken varyantın sınırlamalarının çoğunu ortadan kaldırıyor – artık ona sınırsız miktarda kod besleyebilirsiniz, örneğin. Bu sefer LMG Security, WormGPT’nin iki parçalı istismarı bulup bulamayacağını görmek için savunmasız bir e-ticaret platformunu (Magento) simüle ediyor.

Buluyor. Ancak iyi adamların araçları bulamıyor.

Koddaki kusurları arayan açık kaynaklı bir platform olan SonarQube, yalnızca potansiyel bir güvenlik açığı yakalıyor… ancak bu, ekibin test ettiği sorunla alakasız. ChatGPT de yakalayamıyor.

Buna ek olarak, WormGPT, her adım için açıklamalarla birlikte, savunmasız bir Magento sunucusunun nasıl hackleneceğine dair eksiksiz bir özet verebiliyor ve canlı demoda gördüğüm gibi hızlı bir şekilde. İstismar bile istenmeden sunuluyor.

Davidoff’un dediği gibi, "Hacker yapay zeka araçlarıyla altı ay içinde nerede olacağımızı görmek biraz geriyor, çünkü son bir yılda kaydedilen ilerlemeyi görebiliyorsunuz."

LMG Security

Uzmanlar benden çok daha sakin. Davidoff’un oturumun başında söylediği bir şeyi hatırlıyorum: "Aslında [hacker yapay zekasının] çok erken bebeklik aşamalarındayız."

Pekala, s***.

Bu an, amaca yönelik bir araç olarak WormGPT ve benzeri kötücül yapay zekaların hem kod zayıflıklarını koklamada hem de bunlardan yararlanmada bir adım önde olduğunu fark ettiğim an. Ayrıca, başarılı hacklemeye girme çıtasını da düşürüyorlar. Artık bir abonelik için paranız olduğu sürece, oyundasınız.

Öte yandan, iyi adamların etik ve genel zihniyetleri tarafından ne kadar kısıtlandığını merak etmeye başlıyorum. Yapay zeka ile ilgili genel söylem, insanlığın en kötüsüne karşı nasıl korunulacağından ziyade, toplumun ve insanlığın iyileştirilmesiyle ilgili. Davidoff’un oturum sırasında belirttiği gibi, yapay zeka, karanlık yapay zeka yapmadan önce kodu incelemeye, güvenlik açıklarını yakalamaya yardımcı olmak için kullanılmalı.

Bu durum biz son kullanıcılar için bir sorun. Bizler yumuşak, ezilebilir kitleleriz; her gün güvendiğimiz sistemler iyi savunulmuyorsa (bazen kelimenin tam anlamıyla) ödeme yapmaya devam ediyoruz. Dolandırıcılıkların, tehlikeye atılmış kredi kartlarının, kötü amaçlı yazılımların ve benzerlerinin karmaşık sonuçlarıyla uğraşmak zorundayız.

Tüm bunlardaki tek umut ışığı mı? Gölgelerdeki kişiler, genellikle onlarla birlikte orada olan başka kimseye çok dikkat etmezler. Siber güvenlik uzmanları, bu hacker yapay zeka araçlarını araştırmaya ve analiz etmeye ve sonuçta kendi metodolojilerini geliştirmeye devam edebilmelidir.

Bu arada, siz ve ben, bir hizmet, platform veya site tehlikeye girdiğinde sıçrama hasarını en aza indirmeye odaklanmalıyız. Şu anda birçok farklı numara gerekiyor – hesapları korumak için geçiş anahtarları ve benzersiz, güçlü parolalar (ve hepsini saklamak için parola yöneticileri); iki faktörlü kimlik doğrulama; gerçek e-posta adreslerimizi gizlemek için e-posta maskeleri; PC’lerimizde güvenilir antivirüs; açık veya başka türlü güvenli olmayan ağlarda gizliliği sağlamak için bir VPN; geçici kredi kartı numaraları (bankanız aracılığıyla size sunuluyorsa); kredi dondurmaları; ve daha da fazlası.

Bu bir sıkıntı, ama ne yazık ki çok gerekli. Ve şimdilik bunun sadece daha da doğru hale geleceği anlaşılıyor.

14 yıllık bir teknoloji ve video oyunları gazetecisi olan Alaina Yee, PCWorld için çeşitli konuları kapsıyor. 2016 yılında ekibe katıldığından beri CPU’lar, Windows, PC oluşturma, Chrome, Raspberry Pi ve çok daha fazlası hakkında yazdı – aynı zamanda PCWorld’ün indirim avcısı (#slickdeals) olarak da hizmet veriyor. Şu anda odak noktası güvenlik, insanların kendilerini çevrimiçi ortamda en iyi nasıl koruyacaklarını anlamalarına yardımcı olmak. Daha önce PC Gamer, IGN, Maximum PC ve Official Xbox Magazine’de çalışmaları yayınlandı.