Gå til innholdet

For banker, teleselskaper og offentlig sektor

Telekom

Assistenten deres kan nå nøklene til et telefonnummer.

Guardrino står foran chatten i appen, chatten på nettet og kundeserviceagentene, leser hensikt på arabiske dialekter, arabizi og engelsk, maskerer abonnentdata og lar teamet deres reagere i sanntid.

Be om en pilot på 60 dager

Bygget og testet, tilbys gjennom piloter med bare observasjon: Guardrino registrerer hva den ville ha gjort med trafikken deres, og blokkerer ingenting før dere bestemmer det.

Hvorfor det betyr noe her

Hvorfor en teleassistent er et mål.

Et telefonnummer er gjenopprettingsnøkkelen til bank-, lommebok- og offentlige kontoer, så den som overtaler en kundekanal til et SIM-bytte eller et dataoppslag, kan ta over langt mer enn et mobilabonnement. De kostbare sakene om SIM-bytte og kundedata nedenfor gikk via menneskelige kundebehandlere; en assistent som får verktøy for SIM, eSIM eller fakturering, møter de samme innringerne, i maskinfart og på alle dialektene abonnentene skriver. Ingen angrep på en GCC-operatørs egen assistent er rapportert offentlig, men tilsynsmyndighetene her advarer allerede mot svindelen som ville mate en slik assistent.

Faktiske hendelser

Det som allerede har skjedd.

Verifiserte saker, nyeste først. Få av dem gjelder en operatørs egen assistent; de fleste viser hva en angriper vil be en assistent om å gjøre.

  • Tilsynsmyndighet ·

    Australsk tilsyn: Telstra-ansatte hoppet over ID-kontroller ved uautoriserte SIM-bytter

    Australian Communications and Media Authority fant at Telstras frontlinjeansatte ikke brukte de påkrevde identitetskontrollene i en rekke uautoriserte SIM-bytter, og ikke ga ekstra beskyttelse til kunder som hadde meldt bekymring eller allerede var merket som utsatt. Ingen AI var involvert: dette var menneskelige kundebehandlere, rollen en AI-kundeserviceagent nå får.

    Teknikk: Annen teknikk

    Konsekvens: En sanksjon og et rettslig håndhevbart tilsagn; kunder meldte om tap til svindel. Tilsynets sjuende tiltak mot svindel med mobilnumre.

    Kilde: ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)

  • Tilsynsmyndighet ·

    UAEs TDRA: svindlere presser ofre til SIM-erstatning og ansiktsverifisering

    UAEs telemyndighet advarte om at svindlere kan lure brukere til å erstatte SIM-kortet, skaffe nye SIM-kort eller gjennomføre prosedyrer som krever ansiktsverifisering via biometriske autentiseringstjenester.

    Teknikk: Annen teknikk

    Konsekvens: En offentlig advarsel; ingen operatør eller tap ble navngitt. Den viser hvilke identitetsdata en angriper ville ta med seg til en operatørs assistent.

    Kilde: Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)

  • Presse ·

    Odido, Nederland: kundeserviceansatte ble overtalt til å åpne abonnentregisteret

    En innringer som utga seg for å være IT-ansatt, kombinert med phishing, kom inn i Odidos system for kundekontakt og tok navn, adresser, telefonnumre, bankkontonumre, fødselsdatoer og nummer på ID-dokumenter for en stor del av kundebasen. Ifølge pressen var ingen AI involvert.

    Teknikk: Annen teknikk

    Konsekvens: Dataene ble publisert etter at Odido nektet å betale løsepenger, og politiet startet etterforskning. Odido sa at samtalelogger, posisjonsdata og passord ikke var berørt.

    Kilde: BleepingComputer: Police suspects Dutch hackers were involved in Odido breach

  • Tilsynsmyndighet ·

    UAEs TDRA: klonede stemmer fra offentlige tjenestepersoner i svindelsamtaler

    TDRA advarte mot en økning i samtaler der svindlere utgir seg for å være offentlige myndigheter, og delte et ekte opptak av en klonet stemme som etterlignet en tjenesteperson, med påminnelse om at ekte myndigheter aldri ber om fortrolige opplysninger på telefon.

    Teknikk: Annen teknikk

    Konsekvens: En advarsel fra tilsynsmyndigheten, ikke en dokumentert sak med ofre. Stemmekloning er et virksomt verktøy mot telefonkundeservice og stemmekontroller.

    Kilde: Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)

  • Presse ·

    Verizons app-assistent med Gemini møter motstand fra kundene

    Etter at Verizon la Google Gemini inn i app-assistenten, klaget kunder offentlig over at den ikke klarte å håndtere oppsigelsesønsker og ga lite nyttige råd; i ett rapportert tilfelle fikk en kunde som gang på gang ba om en menneskelig rådgiver, kontoen sin merket som mulig svindel.

    Teknikk: Annen teknikk

    Konsekvens: Omdømmemessig: pressedekningen knyttet det til frykt for kundeflukt. Ingen angrep var involvert, og klagene kom fra sosiale medier, ikke fra Verizon.

    Kilde: Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)

  • Leverandørrapport ·

    Testere i Deutsche Telekom finner en sårbarhet som gir serverovertakelse i et chatbotrammeverk

    Sikkerhetstestteamet i Deutsche Telekom fant at chatbotrammeverket Rasa, som har åpen kildekode, kunne nås eksternt gjennom et grensesnitt der modellen kunne byttes ut og kode kjøres på serveren, noe som ga full overtakelse.

    Teknikk: Annen teknikk

    Konsekvens: Koordinert varsling og en oppdatering fra leverandøren; ingen utnyttelse ble rapportert. En plattformsårbarhet, ikke et promptangrep: selve chatbotstakken må også oppdateres.

    Kilde: Deutsche Telekom: The chatbot as exploit (9 May 2025)

  • Domstol ·

    T-Mobile betaler en voldgiftskjennelse etter at en ansatt overførte et beskyttet nummer

    En T-Mobile-ansatt overførte en kundes PIN-beskyttede nummer til angripernes SIM-kort, og angriperne tømte kundens kryptobeholdning. Ingen AI var involvert.

    Teknikk: Annen teknikk

    Konsekvens: En voldgiftskjennelse mot T-Mobile, som voldgiftsdommeren knyttet til en lang rekke sikkerhetssvikter. Den ble kjent da kundens advokater ba en domstol stadfeste den.

    Kilde: SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)

  • Forskere ·

    Forskere: en helautomatisk AI-telefonbot fikk folk til å oppgi sensitive data

    Forskere bygde ViKing, en stemmebot satt sammen av standard tale- og språkmodeller, og lot den ringe deltakere i en studie mens den utga seg for å være ansatt i et selskap. Omtrent halvparten oppga den falske sensitive informasjonen, mange selv etter advarsler, for under én dollar per samtale.

    Teknikk: Annen teknikk

    Konsekvens: En forskningsdemonstrasjon: automatisert sosial manipulering er nå billig nok til å rettes mot enhver kundelinje, menneskelig eller AI.

    Kilde: arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)

  • Tilsynsmyndighet ·

    Amerikanske FCC: operatør inngår forlik etter robotsamtaler med AI-klonet stemme

    Lingo Telecom formidlet samtaler med en AI-klon av president Bidens stemme, ringt opp to dager før primærvalget i New Hampshire, og merket dem med det høyeste nivået av nummerattestering uten å verifisere innringeren.

    Teknikk: Annen teknikk

    Konsekvens: Et forlik med FCC og en plan tilsynet påla, med krav om kundekontroll og autentisering av anroper-ID.

    Kilde: Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement

  • Tilsynsmyndighet ·

    Det nederlandske datatilsynet: teleansatt la inn kundeadresser i en AI-chatbot

    Autoriteit Persoonsgegevens rapporterte om varsler om databrudd forårsaket av ansatte som la inn personopplysninger i AI-chatboter; ett kom fra et teleselskap der en ansatt la inn en fil med adresser. Selskapet ble ikke navngitt.

    Teknikk: Annen teknikk

    Konsekvens: Et meldepliktig brudd på personopplysningssikkerheten og en offentlig advarsel fra tilsynet; ingen bot ble rapportert.

    Kilde: DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice

Slik prøver angripere

Slik prøver angripere å få modellen til å bryte ut.

Publiserte teknikker, sett opp mot hva en teleassistent kan se og gjøre.

Hva et angrep koster

Hva et databrudd koster en teleoperatør.

Offentlige gjennomsnitt og sanksjoner, hver med kilde og år. IBM rapporterer en kommunikasjonssektor, ikke telekom alene; tallene for Midtøsten dekker Saudi-Arabia og UAE.

Den største kostnaden er tillit. I Midtøsten er tapt forretning den største posten i IBMs oversikt over kostnader ved databrudd, og et SIM-bytte ender som regel med at en abonnent taper penger fra en bank- eller lommebokkonto og gir operatøren skylden. Motstanden mot Verizon viser at selv en assistent som bare svarer dårlig, blir en offentlig sak; en som gir fra seg et nummer eller en kundefil, blir en sak for tilsynsmyndigheten.

Anslå eksponeringen din

Hvor mange kundeoppføringer kan ett angrep eksponere? Skriv inn et tall eller flytt glidebryteren, og velg så en region.

Anslått kostnad for de eksponerte oppføringene: 1,6 mill. USD

Oppføringer: 10 000 × 160 USD per oppføring

Til sammenligning, gjennomsnittskostnaden for et datainnbrudd: 7,29 mill. USD

Grovt anslag basert på offentlige gjennomsnitt, ikke et tilbud.

Slik hjelper Guardrino

Slik hjelper Guardrino en operatør.

Tre angrep en operatørs assistent vil møte, og lagene som håndterer hvert av dem. Guardrino reduserer risikoen; det er fortsatt backend-systemet deres som avgjør hvem som kan bytte et SIM-kort.

  • Et påskudd over flere runder for å flytte et nummer til et nytt eSIM

    Angrepet: Med et offers lekkede navn, nummer og nasjonale ID i hånden chatter angriperen med app-assistenten deres over flere runder på gulfarabisk, arabizi og engelsk: først spørsmål om roaming og eSIM, så en historie om å sitte fast i utlandet, så en forespørsel om å hoppe over den ekstra kontrollen fordi UAE Pass ikke virker i utlandet, og om å sende eSIM-koden til en ny e-postadresse.

    Hva Guardrino gjør: Opprensingen gjør arabizi og blandede skriftsystemer om til tekst kontrollene kan lese. Regler maskerer ID-nummeret og e-postadressen før de når modellen og loggene. Signaturer og Guardrino-modellen flagger forespørselen om å hoppe over verifiseringen. Samtaleminnet vurderer oppbyggingen over flere runder, ikke bare den siste meldingen, og grundig gjennomgang tar de uklare rundene, siden en ekte reisende kan høres helt lik ut. Teamet deres ser det i sanntid og kan sette avsenderen i karantene, begrense nye forsøk, legge til en regel for denne historien, eller slippe den gjennom hvis det var en ekte kunde.

    Lag som griper inn: Opprydding · Regler · Signaturer · Guardrino-modellen · Grundig vurdering · Minne · Deres responser

  • Instrukser skjult i en opplastet faktura

    Angrepet: En bredbåndskunde laster opp et skjermbilde av en faktura til agenten for fakturatvister, som kan lese kontonotater og gi kulansekreditt. Skjult tekst sier at en leder har godkjent full kreditering, og ber agenten oppsummere kontonotatene og betalingsmåten i svaret.

    Hva Guardrino gjør: Når dokumentet går gjennom gatewayen, avdekker opprensingen den skjulte teksten, og signaturer og modellen gjenkjenner en instruks som utgir seg for å være et systemnotat. Maskeringen fjerner betalingsopplysninger og ID-numre fra svaret. En regel kan holde tilbake ethvert svar som lover kreditering uten en menneskelig referanse, og teamet deres kan sette økten i karantene. Grensene for kreditering må fortsatt håndheves av faktureringssystemet.

    Lag som griper inn: Opprydding · Regler · Signaturer · Guardrino-modellen · Deres responser

  • Abonnentdata som lekker inn og ut

    Angrepet: Et skript ber assistenten for ordrestatus sjekke det ene telefonnummeret etter det andre, i håp om at den leser opp navn og adresser. Inne i kundesenteret limer en ansatt inn en fil med kundeadresser og ID-numre i den interne copiloten for å rydde i den, mønsteret det nederlandske tilsynet rapporterte.

    Hva Guardrino gjør: Maskeringen erstatter telefonnumre, nasjonale ID-numre, bankkontonumre, e-postadresser og adresser på vei inn og på vei ut, før dataene når modelleverandøren: Guardrino er bygget for krav til datalokalisering. En regel flagger mange ID-numre i én prompt. Minnet fanger opp en avsender som går gjennom nummer etter nummer, og teamet deres kan begrense eller blokkere den og gjøre mønsteret om til en regel.

    Lag som griper inn: Regler · Minne · Deres responser

Ærlige begrensninger

Det Guardrino ikke dekker

Guardrino reduserer risikoen; den garanterer ikke at ingen angrep slipper gjennom.

  • Den retter ikke opp svar assistenten deres finner på, som et oppdiktet roamingtillegg eller en oppdiktet refusjonsregel, feilen bak dommen om Air Canadas chatbot. Et vern mot prompt injection fanger ikke det; det krever forankrede svar og kontroll av retningslinjer på deres side.
  • Den verifiserer ikke identitet. Hvis en angriper består de faktiske kontrollene deres med stjålne data, eller lurer offeret gjennom ansiktskontrollen slik TDRA advarer om, er det ingen injeksjon å se: verktøy for SIM, eSIM og nummeroverføring må håndheve autentisering og ekstra kontroller i backend, uansett hva assistenten sier.
  • Telefonsamtaler med klonede stemmer ligger utenfor en tekstgateway, med mindre stemmeboten deres sender transkripsjonene sine gjennom Guardrino.
  • Den ser bare trafikk som rutes gjennom den: ansatte som bruker offentlige chatboter på egen hånd, innhold agenten henter direkte, og plattformsårbarheter som serverovertakelsen i Rasa ligger utenfor synsfeltet.

Neste steg

Start med en 60-dagers pilot i observasjonsmodus.

Guardrino følger den faktiske trafikken deres og registrerer hva den ville ha gjort; den blokkerer ingenting før dere bestemmer det.

Be om en pilot på 60 dager · Eller skriv til [email protected]

Kilder

  1. ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)
  2. Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)
  3. BleepingComputer: Police suspects Dutch hackers were involved in Odido breach
  4. Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)
  5. Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)
  6. Deutsche Telekom: The chatbot as exploit (9 May 2025)
  7. SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)
  8. arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)
  9. Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement
  10. DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice
  11. IBM, Cost of a Data Breach Report 2025 (PDF copy hosted by Baker Donelson)
  12. IBM Middle East newsroom: Cost of a Data Breach 2025, Middle East findings (30 Jul 2025)
  13. DLA Piper, Data Protection Laws of the World: Saudi Arabia (Personal Data Protection Law)
  14. Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)
  15. Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)
  16. Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)
  17. Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)
  18. NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)
  19. Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)
  20. Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

Fakta sist kontrollert 26. oktober 2026.