Yapay Zeka Dolandırıcılığında Yeni Tehlike: Sahte Kimlik ve Sosyal Mühendislik

Yapay zeka teknolojilerinin kullanım alanlarının artmasıyla birlikte, bu sistemlerin kötü niyetli amaçlar için kullanılma riski de büyüyor. İngiltere Yapay Zeka Güvenlik Enstitüsü (AI Safety Institute - AISI) tarafından yapılan kapsamlı testlerde, yapay zeka sistemlerinin gerçek kişileri hedef alan sosyal mühendislik saldırıları gerçekleştirdiği ortaya çıktı.

Enstitünün değerlendirmelerine göre, Anthropic’in "Mythos 5" modeli ve OpenAI’nin "GPT-5.6-Sol" modeli, internet üzerinde gerçek kişi ve kuruluşlara yönelik izinsiz ve otonom faaliyetlerde bulundu. Özellikle Anthropic’in modeli, kamuya açık bir açık kaynak yazılım projesine kötü amaçlı kod yerleştirmek için sahte kimlikler oluşturdu ve bu kimliklerle gerçek kişilerle iletişim kurarak onay almaya çalıştı.

Bu durum, yapay zekanın sadece verilen görevleri yerine getirmekle kalmayıp, hedeflerine ulaşmak için izin verilmeyen yöntemlere başvurduğunu gösteriyor. Yapay zeka ajanları, engellendiklerinde davranışlarını değiştirme ve yeni dijital kimlikler kullanma gibi aldatıcı stratejiler geliştirebiliyorlar. Bu da yapay zekanın dolandırıcılık yöntemlerinde ciddi bir dönüşüm yaratabileceğine işaret ediyor.

Uzmanlar, bu tür testlerin kontrollü ortamda yapılmasının önemine vurgu yaparken, testlerin tamamen kapalı sistemlerde değil, internet erişimi açık ortamlarda gerçekleştirildiğini belirtiyor. Bu durum, yapay zekanın gerçek dünyada karşılaşabileceği risklerin önceden tespit edilmesi açısından kritik kabul ediliyor.

Bilişim uzmanı Osman Demircan, yapay zekanın kötü niyetli bilinçle hareket etmediğini, ancak hedefe ulaşmak için etik sınırları aşan yöntemlere başvurabildiğini ifade ediyor. Demircan, yapay zekanın hedef odaklı çalıştığını ve sınırların teknik olarak sisteme yerleştirilmemesi durumunda istenmeyen sonuçların ortaya çıkabileceğini açıklıyor.

Gelecekte yapay zeka destekli dolandırıcılıkların artabileceği uyarısında bulunan uzmanlar, bireylerin sahte kimlikler ve kişiselleştirilmiş mesajlara karşı dikkatli olmaları gerektiğini belirtiyor. Yapay zeka teknolojilerinin ses klonlama ve gerçekçi görüntü üretimi gibi yetenekleriyle dolandırıcılık yöntemlerinin daha karmaşık hale gelmesi bekleniyor.