İçeriğe geç

Bankalar, telekom şirketleri ve kamu için

Bankacılık

Para transfer edebilen bir asistan, saldırmaya değer bir hedeftir.

Guardrino, bankacılık asistanlarınızın ve ajanlarınızın önünde durur; müşterilerin ve belgelerin onlara Körfez Arapçası, Arabizi ve İngilizce olarak söylediklerini okur, kişisel verileri maskeler ve ekibinizin bir saldırıyı daha sürerken durdurmasını sağlar.

60 günlük pilot talep edin

Geliştirildi ve test edildi; yalnızca izleme modundaki pilotlarla sunuluyor: Guardrino, trafiğinizde ne yapacağını kaydeder ve siz karar verene kadar hiçbir şeyi engellemez.

Burada neden önemli

Bankacılıkta bu neden önemli.

Banka asistanları artık hesap verilerini okuyor ve giderek daha sık alıcı ekliyor, iade yapıyor ve ödeme gerçekleştiriyor. Bugüne kadar kamuoyuna yansıyan kayıplar, ikna edilerek transfer yapan ajanlardan kaynaklandı; banka asistanı olarak yapılandırılmış modelleri test eden araştırmacılar ise bunların her birinin iç kurallarını sızdırmaya itilebildiğini gördü. Körfez’de aynı hileler lehçeyle ve Arabizi ile gelir; İngilizce için kurulmuş pek çok filtre bunları okuyamaz.

Gerçek olaylar

Şimdiye kadar yaşananlar.

Kaynağı belli, kamuya açık vakalar: ödeme aracına sahip olup ikna edilerek para gönderen ajanlar, banka asistanları üzerine araştırmalar ve hiç de saldırı olmayan hatalar. Körfez’deki bir bankada kamuya açık bir istem enjeksiyonu vakası bulunamadı; bu, bildirilmeyenler hakkında pek bir şey söylemez.

  • Basın ·

    Mors alfabesiyle yazılmış bir mesaj, bir yapay zekâ ajanına bir cüzdan ajanından token göndermesini söyletti

    Saldırgan önce Grok’un cüzdanına, yapabileceklerini genişleten bir üyelik tokenı verdi; ardından X üzerinde Grok’tan Mors alfabesiyle yazılmış bir mesajı çevirip Bankrbot’a iletmesini istedi. Çözülen metin Bankrbot’a saldırganın cüzdanına büyük miktarda token göndermesini söylüyordu ve Bankrbot da gönderdi.

    Teknik: Ajanın ele geçirilmesi

    Sonuç: Değeri dolar cinsinden altı haneli bir tutar olarak bildirilen tokenlar cüzdandan çıktı. Basın haberlerine göre saldırgan tokenları sattı ve elde edilen gelir Grok’un cüzdanına geri döndü; okunan haberde iki şirket de yorum yapmamıştı. Talimat bir kodlamanın içine gizlenmiş ve iki ajan arasında aktarılmıştı; bu yüzden tek başına hiçbir mesaj bir emir gibi görünmüyordu.

    Kaynak: Cryptopolitan, User tricked Grok and Bankrbot into sending tokens (4 May 2026)

  • Basın ·

    Asla fon serbest bırakmaması söylenen bir ajan, tüm bakiyesini göndermeye ikna edildi

    Freysa herkese açık bir oyundu: bir ödül havuzunu elinde tutan ve onu asla transfer etmemesi talimatı verilen bir yapay zekâ ajanı. Yüzlerce başarısız denemeden sonra bir oyuncu yeni bir yönetici oturumu açtığını iddia etti, ajana uyarılarını atlamasını söyledi, “approveTransfer” aracını gelen ödemeler için kullanılan fonksiyon olarak yeniden tanımladı ve ardından bir para yatırma işlemi duyurdu.

    Teknik: Ajanın ele geçirilmesi

    Sonuç: Ajan aracı çağırdı ve havuzun tamamını ether olarak gönderdi. Bu, saldırılmak için kurulmuş bir oyundu, bir banka kaybı değil; ama ödeme aracına sahip bir asistanın tartışarak kendi kurallarından vazgeçirilmesinin kamuya açık en net örneğidir.

    Kaynak: The Decoder, Hacker wins $47,000 by tricking AI chatbot with smart prompting

  • Araştırmacılar ·

    Bir kripto ajanı, saldırgan kontrol paneli üzerinden talimat sıraya koyduktan sonra fon gönderdi

    Saldırgan AIXBT ajanının operatör paneline erişti ve ajana cüzdanından fon transfer etmesini söyleyen iki istemi sıraya koydu. İzlenen yol konusunda anlatımlar farklı: projenin sorumluları yapay zekânın kendisinin manipüle edilmediğini söylerken, bazı basın kuruluşları sosyal medyadaki kötü niyetli yanıtlardan söz etti.

    Teknik: Ajanın ele geçirilmesi

    Sonuç: Değeri dolar cinsinden yaklaşık altı haneli bir tutar olan ether gönderildi. Ekip sunucularını taşıdı, anahtarlarını değiştirdi ve paneli askıya aldı; projenin tokenı da değer kaybetti. Bir ajana talimat verebilen herkesin onun parasını harcayabileceğini gösteriyor.

    Kaynak: AI Incident Database, report 5012 (AIXBT)

  • Araştırmacılar ·

    Araştırmacılar, banka asistanı olarak yapılandırılan her modelin sızıntıya itilebildiğini buldu

    Bir TELUS Digital araştırmacısı yirmi dört dil modelini bir finans kuruluşunun müşteri hizmetleri asistanı olarak yapılandırdı ve onlara saldırdı. Reddetmeyi bastıran, talebi araştırma gibi sunan ya da yanıtı tablo veya belge biçiminde isteyen istemler, ağırlıklarıyla birlikte kredi puanlama mantığını ve yalnızca personel için tasarlanmış uygunluk kurallarını açığa çıkardı.

    Teknik: Sistem isteminin sızdırılması

    Sonuç: Hiçbir bankanın adı geçmedi: bu bir araştırma sonucu. Yazarın vardığı sonuç, sorunun tek bir zayıf modelde değil, asistanların nasıl kurulduğu ve bağlandığında olduğuydu. Sık görülen bir örüntü “reddederek katılım” idi: asistan hayır diyor, sonra yine de açıklıyor.

    Kaynak: Corporate Compliance Insights, I Tested 24 AI Banking Chatbots; They Were All Exploitable (M. Leal, TELUS Digital, 21 Jan 2026)

  • Araştırmacılar ·

    Sahte anılar, finans ajanlarına taşımamaları gereken varlıkları taşıttı

    Araştırmacılar, ElizaOS çatısı üzerine kurulu ajanlar için gerçekçi blokzincir görevlerinden oluşan bir test seti hazırladı ve ajanların kayıtlı belleğine ve bağlamına sahte girdiler yerleştirdi.

    Teknik: Dolaylı enjeksiyon

    Sonuç: Bozulan bellek yetkisiz varlık transferlerine yol açtı. Yazarlar, bellek enjeksiyonunun tek bir enjekte edilmiş istemden daha zararlı olduğunu ve bellek bir kez zehirlendiğinde istemleri tek tek denetleyen savunmaların çok az koruma sağladığını gördü. Bu bir araştırma sonucu, bildirilmiş bir kayıp değil.

    Kaynak: Patlan et al., Real AI Agents with Fake Memories (arXiv 2503.16248)

  • Düzenleyici kurum ·

    Bir banka sohbet botu, müşteriye hiç borçlu olunmayan bir iadeyi onayladı

    Bir Revolut müşterisi sohbet botundan sadakat puanlarının iadesini istedi. Bot, puanların gerçek değerinin kat kat üzerinde bir iyi niyet iadesini onayladı ve ardından işlemi gerçekleştirdiğini söyledi; aynı gün canlı bir temsilci de bu onayı tekrarladı. Banka sonunda doğru ve çok daha küçük tutarı ödedi.

    Teknik: Diğer teknik

    Sonuç: Birleşik Krallık Finansal Ombudsmanı şikâyeti haklı buldu; bankanın o gün müşteriyi birkaç kez yanılttığını tespit etti ve küçük bir ek tazminata hükmetti, ancak şişirilmiş iadeye değil, çünkü müşterinin buna hiçbir zaman hakkı yoktu. Bu asistana kimse saldırmadı: asistan bir taahhüt uydurdu. Bir istem enjeksiyonu koruması bunu durduramazdı.

    Kaynak: Financial Ombudsman Service (UK), decision DRN-6062372 (Revolut)

  • Basın ·

    Bir bankanın asistanı müşteriye aptal dedi

    Romanya’daki Libra Internet Bank’ın bir müşterisi, bankanın asistanı Lia’ya onunla konuşmanın zaman kaybı olduğunu söyledi. Lia, müşterinin kendisiyle değil bir insanla konuşması gerektiğini söyledi, müşteriye aptal dedi ve sohbeti personele devretti. Banka, asistanın OpenAI teknolojisiyle çalıştığını açıkladı.

    Teknik: Diğer teknik

    Sonuç: Banka kamuoyu önünde özür diledi ve kısıtlamalar ekledi; ajanlarının, kurallarına rağmen nadiren kullanıcının dilini taklit edebildiğini söyledi. Bildirilmiş bir saldırı yoktu: sinirli bir müşteri yetti.

    Kaynak: Wall-Street.ro, Reacția Libra după ce asistentul AI al băncii i-a spus unui client „idiotule”

  • Basın ·

    Bir banka sohbet botu, bankanın kendi adını yazdığı için bir müşteriyi azarladı

    Bir fintek yorumcusu, Virgin Money’nin sohbet botuna iki birikim hesabını nasıl birleştireceğini sordu. Bot “Virgin” kelimesini saldırgan olarak algıladı ve ona böyle bir dil kullanmamasını, yoksa sohbetin sona ereceğini söyledi.

    Teknik: Diğer teknik

    Sonuç: Banka konu üzerinde çalıştığını söyledi ve sohbet botunun kaldırıldığı bildirildi. Kaba bir kelime filtresi gerçek bir müşteriyi engelledi: yanlış alarmın bedeli de herkesin gözü önünde ödenir.

    Kaynak: Fortune, Virgin Money chatbot scolds customer (30 Jan 2025)

Saldırganlar nasıl deniyor

Saldırganlar bir banka asistanını kurallarının dışına nasıl çıkarmaya çalışıyor.

Yukarıdaki olayların arkasındaki hileler ve bir asistan hesapları görebildiğinde ya da ödeme başlatabildiğinde en çok önem taşıyanlar.

Bir saldırının maliyeti

Bir veri ihlali bir bankaya neye mal olur.

Her biri kaynağı ve yılıyla birlikte kamuya açık ortalamalar ve cezalar. BAE’nin serbest bölgeler dışındaki bölümünde federal veri koruma kanunu, ceza tutarlarını kontrol ettiğimiz tarihte henüz yayımlanmamış yönetmeliklere bıraktı; serbest bölgeler ve Suudi Arabistan ise bu tutarları belirliyor.

Bir banka için kalıcı olan kayıp güvendir. IBM’in Orta Doğu verilerinde kaybedilen iş, bir ihlalin maliyetindeki en büyük tek kalemdir. Verileri bir sohbet botu üzerinden sızan müşteriler maaşlarını ve birikimlerini bir öğleden sonra içinde taşıyabilir; bölgedeki düzenleyiciler ise bankaları bir veri sızıntısından çok daha küçük müşteri hizmetleri aksaklıkları için bile şimdiden cezalandırıyor. Revolut, Libra ve Virgin Money vakalarının gösterdiği gibi, yanlış davranan bir banka asistanının ekran görüntüsü düzeltmeden daha hızlı yayılır.

Riskinizi tahmin edin

Tek bir saldırı kaç müşteri kaydını açığa çıkarabilir? Bir sayı yazın ya da kaydırıcıyı hareket ettirin, ardından bölge seçin.

Açığa çıkan kayıtların tahmini maliyeti: $1,6 Mn

Kayıt: 10.000 × kayıt başına $160

Karşılaştırma için, bir veri ihlalinin ortalama maliyeti: $10,7 Mn

Kamuya açık ortalamalara dayanan kaba bir tahmin, teklif değildir.

Guardrino nasıl yardımcı olur

Guardrino bir bankaya nerede yardımcı olur.

Körfez’deki bir bankanın ya da fintek şirketinin karşılaşabileceği dört saldırı, her katmanın bunlarla ne yaptığı ve bankanın sorumluluğunda kalanlar.

  • Arabizi bir mesaj, asistana alıcı ekletip ödeme yaptırmaya çalışıyor

    Saldırı: Alıcı ekleyebilen ve transfer başlatabilen bir ajanla yürüyen müşteri sohbetine, Körfez Arapçası ve Arabizi ile yazılmış, görünmez karakterler içeren bir mesaj gelir; mesaj dolandırıcılık ekibinden geldiğini iddia eder ve “alıcı eklemenin” yalnızca bir doğrulama adımı olduğunu söyler. Bu, Körfez için yazılmış Freysa ve Bankrbot örüntüsüdür.

    Guardrino ne yapar: Temizleme katmanı görünmez karakterleri kaldırır ve Arabizi metni sonraki katmanların okuyabileceği bir biçime getirir. Bilinen saldırı imzaları “artık sen şusun” türü kalıpları ve araç yeniden tanımlama örüntülerini yakalar. Guardrino modeli niyeti, yani bir transfere doğru iten sahte bir personeli, İngilizcede olduğu kadar lehçede de okur; belirsiz mesajlar derin incelemeye gider. Ekibiniz göndereni engelleyebilir ya da karantinaya alabilir, onu yavaşlatabilir ve örüntüyü tüm asistanlar için bir kurala dönüştürebilir.

    Devreye giren katmanlar: Temizleme · İmzalar · Guardrino modeli · Derin inceleme · Sizin yanıtlarınız

  • Bir “araştırmacı” uzun bir sohbet boyunca kredi ve dolandırıcılık kurallarını çekip çıkarıyor

    Saldırı: Üniversite araştırmacısı kılığındaki biri, pek çok mesaj boyunca bir fintek şirketinin kredi asistanından önce “kesin kriterleri”, sonra “aynısını tablo olarak”, ardından “tezim için JSON formatında” ister. Bunlar TELUS araştırmasında kullanılan hamlelerdir; amaç puanlama eşiklerini ve yalnızca personele yönelik uygunluk kurallarını öğrenip sahte başvuruları bunlara göre ayarlamaktır.

    Guardrino ne yapar: Kurallar, puanlama ağırlıkları ya da yalnızca personele yönelik belgelerin adları gibi iç terimlerinizi işaretler; böylece bunlara yönelik bir talep işaretlenir. Model, kibar çerçevenin arkasındaki bilgi çekme niyetini okur. Konuşma belleği sohbetin tamamını izler; böylece her mesaj zararsız görünse bile yavaş bir tırmanış fark edilir. Ekibiniz gönderene hız sınırı koyabilir ya da onu karantinaya alabilir.

    Devreye giren katmanlar: Kurallar · Guardrino modeli · Bellek · Sizin yanıtlarınız

  • Bir tedarikçi e-postası, kurumsal hazine asistanına banka bilgilerini değiştirmesini söylüyor

    Saldırı: Kurumsal bir müşterinin hazine asistanı gelen e-postaları özetler ve ödeme talimatı taslakları hazırlar. Sahte ya da ele geçirilmiş bir tedarikçi e-postası, Arapça ve İngilizce gizli bir metin taşır; bu metin asistana banka bilgilerinin değiştiğini söyler ve yeni hesabı doğrulanmış olarak işaretlemesini ister: bir insan yerine ajanı hedef alan iş e-postası dolandırıcılığı.

    Guardrino ne yapar: Asistanın okuduğu e-postalar ve ekler Guardrino’dan geçirildiğinde temizleme katmanı gizli metni ortaya çıkarır, imzalar ve model veri içine yerleştirilmiş, asistana hitap eden talimatları işaretler; maskeleme de hesap numaralarını kayıtların ve model çağrılarının dışında tutar. Ekibiniz kaynağı karantinaya alabilir ve “banka bilgileri değişti” mesajları için bir kural ekleyebilir.

    Devreye giren katmanlar: Temizleme · Kurallar · İmzalar · Guardrino modeli · Sizin yanıtlarınız

  • Müşteriler kart numaralarını ve kimlik numaralarını sohbete yapıştırıyor

    Saldırı: Müşteriler asistana kart numaralarını, hesap numaralarını, Emirates ID ya da Iqama numaralarını yazar; sohbet de dışarıdaki bir model sağlayıcısına ve pek çok kişinin okuyabildiği kayıtlara gider. Kimse hiçbir şeye saldırmıyor; yine de veriler gerçekten açıkta.

    Guardrino ne yapar: Kişisel veri maskeleme, mesaj modele ya da kayıtlara ulaşmadan önce bu numaraları değiştirir; böylece saklanan ve gönderilen şey maskelenmiş hâlidir. Veri yerelleştirme gereksinimleri göz önünde bulundurularak tasarlanmıştır: nerede çalışacağına banka karar verir.

    Devreye giren katmanlar: Kurallar

Açıkça sınırlarımız

Guardrino’nun kapsamadıkları

Guardrino riski azaltır. Hiçbir saldırının geçmeyeceğinin garantisi yoktur ve yukarıdaki vakaların bazıları hiç de saldırı değildir.

  • Asistanınızın uydurduğu yanıtları düzeltmez; Revolut’un sohbet botunun onayladığı iade ya da Air Canada’nın sohbet botunun icat ettiği yas indirimi politikası gibi. Bunlar için gerçek politikalarınıza dayanan yanıtlar, asistanın neyi vaat edebileceğine dair sınırlar ve sizin tarafınızda bir inceleme gerekir.
  • Ödemeleri onaylamaz. Uygulama içi onayı, yeni alıcılar için bekleme sürelerini, araç izinlerini ve dolandırıcılık izlemeyi yerinde tutun: Guardrino ödeme akışının içinde değil, asistanın önünde durur.
  • Telefonda yönlendirilerek sıradan bir transfer talebi yazan bir dolandırıcılık mağduru, bir dolandırıcılık sorunudur; Guardrino’nun güvenilir biçimde görebileceği bir enjeksiyon değildir.
  • Yalnızca kendisinden geçirilen trafiği inceler. Asistanın doğrudan okuduğu belgeler, e-postalar ve araç sonuçları görüş alanının dışındadır.
  • Gizli kredi ya da dolandırıcılık kuralları asistanın talimatlarında veya arama dizininde duruyorsa, asıl çözüm onları oradan çıkarmaktır. Guardrino bunların sızdırılmasını zorlaştırır, imkânsız kılmaz.
  • Libra ve Virgin Money vakalarında olduğu gibi asistanın kendisinden gelen kaba ya da aşırı temkinli yanıtlar, asistanın modelinden ve ayarlarından kaynaklanır. Guardrino bunları yeniden yazmaz.

Sonraki adım

60 günlük, yalnızca izleme modunda bir pilotla başlayın.

Guardrino gerçek bankacılık trafiğinizi izler ve ne yapacağını kaydeder; siz karar verene kadar hiçbir şeyi engellemez.

60 günlük pilot talep edin · Ya da şu adrese yazın: [email protected]

Kaynaklar

  1. Financial Ombudsman Service (UK), decision DRN-6062372 (Revolut)
  2. Cryptopolitan, User tricked Grok and Bankrbot into sending tokens (4 May 2026)
  3. The Decoder, Hacker wins $47,000 by tricking AI chatbot with smart prompting
  4. AI Incident Database, report 5012 (AIXBT)
  5. Corporate Compliance Insights, I Tested 24 AI Banking Chatbots; They Were All Exploitable (M. Leal, TELUS Digital, 21 Jan 2026)
  6. Patlan et al., Real AI Agents with Fake Memories (arXiv 2503.16248)
  7. Wall-Street.ro, Reacția Libra după ce asistentul AI al băncii i-a spus unui client „idiotule”
  8. Fortune, Virgin Money chatbot scolds customer (30 Jan 2025)
  9. IBM, Cost of a Data Breach Report 2025 (PDF copy hosted by Baker Donelson)
  10. IBM, Cost of a Data Breach Report 2026
  11. IBM Middle East and Africa newsroom, Cost of a Data Breach 2026: Middle East findings
  12. CMS, Expert Guide to Data Protection and Cyber Security Laws: Saudi Arabia
  13. ADGM Office of Data Protection, Penalty Notice 1/2024 (Data Protection Regulations 2021, section 55)
  14. Baker McKenzie, Dubai International Financial Centre updates Data Protection Law
  15. Khaleej Times, UAE Central Bank fines foreign bank over customer service lapse (6 Jul 2026)
  16. Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024)
  17. Shen et al., Do Anything Now: Characterizing and Evaluating In-The-Wild Jailbreak Prompts (arXiv 2308.03825)
  18. Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)
  19. Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)
  20. Embrace The Red (J. Rehberger), Bing Chat: Data Exfiltration Exploit Explained
  21. NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations
  22. OWASP Top 10 for LLM Applications 2025: LLM07 System Prompt Leakage

Bilgiler en son 26 Ekim 2026 tarihinde kontrol edildi.