Basın Bülteni- ESET, yapay zekâ destekli sosyal mühendislik tehditlerine karşı uyarıda bulundu

Sosyal mühendislik siber suçluların dolandırıcılık için yoğun olarak kullandığı
yöntemler içerisinde yer alıyor. Çoğunlukla kimlik avı e-postaları, mesajlar veya
telefon aramaları yolu kullanılarak yapılan bu tür dolandırıcılıkta yapay zekâ
destekli yöntemler de benimsenmeye başladı.

Siber güvenlik alanında dünya lideri olan ESET, üretken yapay zekâ (GenAI)
teknolojilerinin kötüye kullanımıyla artan tehditlere karşı uyarıda bulundu. Grokking
olarak adlandırılan bu yeni teknik, sosyal medya platformu X'te yapay zekâ
sohbet robotu Grok'un manipüle edilerek kimlik avı bağlantılarını yaymasına neden oluyor.

Yapay zekâ, farklı yöntemlerle sosyal mühendislik tehdidi oluşturabiliyor. LLM olarak
adlandılan büyük dil modelleri büyük ölçekte, son derece ikna edici kimlik
avı kampanyaları tasarlamak ve en şüpheci kullanıcıları bile kandırmak için derin
sahte ses ve videolar oluşturmak için kullanılabiliyor. Ancak X'in yakın
zamanda keşfettiği gibi, bir başka, muhtemelen daha sinsi bir tehdit daha var:
Grokking.

Bu saldırı kampanyasında, tehdit aktörleri, tıklama tuzağı videolar içeren video
kartı gönderileri yayımlayarak, X'in tanıtılan gönderilerdeki bağlantıları yasaklamasını
(kötü amaçlı reklamlarla mücadele etmek için tasarlanmış) atlayabiliyor.
Videonun altındaki küçük kaynak alanına kötü amaçlı bağlantılarını gömebiliyorlar.
Kötü niyetli aktörler daha sonra X'in yerleşik GenAI botu Grok'a videonun
nereden geldiğini soruyor. Grok gönderiyi okuyor, küçük bağlantıyı fark ederek
ve yanıtında onu büyütüyor. Bu durum, Grok'un güvenilirliği sayesinde dolandırıcılık
içeriklerinin daha geniş kitlelere ulaşmasına ve arama motorlarında
daha yüksek sıralamalara çıkmasına yol açıyor.

Grokking neden tehlikeli?
Tehdit aktörlerinin güvenlik mekanizmalarını atlatmanın bir yolunu bulmadaki yaratıcılığını
ve kullanıcıların yapay zekânın çıktısına güvenirken aldıkları riskleri
görmemiz gerekiyor.
- Bu hile, Grok'u güvenilir hesabında bir kimlik avı bağlantısını yeniden paylaşmaya
yönlendirerek onu etkili bir şekilde kötü niyetli bir aktör hâline getiriyor.
- Ücretli video gönderileri genellikle milyonlarca kez görüntüleniyor, dolandırıcılık
ve kötü amaçlı yazılımları geniş bir alana yayma potansiyeline sahiptir.
- Grok son derece güvenilir bir kaynak olduğu için bağlantılar SEO ve alan adı itibarında
da güçleniyor.
- Bağlantılar, kimlik bilgilerini çalan formlara ve kötü amaçlı yazılım indirmelerine
yönlendiriliyor. Bu da kurbanların hesaplarının ele geçirilmesine, kimlik
hırsızlığına ve daha fazlasına yol açabiliyor.

Prompt Enjeksiyonu: GenAI'nin Yeni Açığı
Grokking, prompt enjeksiyonu adı verilen daha geniş bir saldırı türünün parçası.
Bu tür saldırılarda tehdit aktörleri, GenAI botlarına kötü amaçlı komutlar vererek
onları manipüle ediyor. Bu komutlar doğrudan sohbet arayüzüne yazılabileceği
gibi, içerik meta verilerine gizlenerek dolaylı yollarla da uygulanabiliyor.
ESET uzmanları, bu tür saldırıların yalnızca X platformuyla sınırlı olmadığını,
teorik olarak her türlü GenAI aracına uygulanabileceğini vurguluyor. Bu durum,
yapay zekâ teknolojilerinin güvenlik açıklarını ve kullanıcıların bu araçlara körü
körüne güvenmemesi gerektiğini ortaya koyuyor.

Kullanıcılar için güvenlik önerileri:
Gömülü yapay zekâ araçları, kimlik avına karşı uzun süredir devam eden savaşta yeni
bir cephe açtı. Bu yeni dolandırıcılık yöntemine karşı dikkatli olmak için
her zaman sorgulayıcı olun. Aldığınız cevapların tamamen doğru olduğunu düşünmeyin.

- Bir GenAI botu tarafından bir bağlantı sunulursa üzerine gelerek gerçek hedef
URL'sini kontrol edin. Şüpheli görünüyorsa tıklamayın.
- Yapay zekâ çıktısına her zaman şüpheyle yaklaşın, özellikle de cevap/öneri uygunsuz
görünüyorsa.
- Kimlik bilgilerinin çalınma riskini azaltmak için güçlü, benzersiz parolalar (parola
yöneticisinde saklanan) ve çok faktörlü kimlik doğrulama (MFA) kullanın.
- Güvenlik açığı istismar riskini en aza indirmek için tüm cihaz/bilgisayar yazılımlarınızın
ve işletim sistemlerinizin güncel olduğundan emin olun.
- Cihazınızdaki kötü amaçlı yazılım indirmelerini, kimlik avı dolandırıcılıklarını
ve diğer şüpheli etkinlikleri engellemek için saygın bir güvenlik yazılımı sağlayıcısından
çok katmanlı koruma edinin.


-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -