Nadzorniki umetne inteligence: V svetu odkrivanja goljufij z visokimi vložki

V poveljniškem centru za kibernetsko varnost podjetja Western Union je ura 2 zjutraj in Maya Patel se zdi, da že ure ni niti trenila z očmi. Sistem za odkrivanje goljufij z umetno inteligenco podjetja je pravkar zaznal tri nenavadne vzorce transakcij. Poplavo denarnih nakazil z računov v Nebraski v Ukrajino, vse tik pod pragom poročanja. Preveč podobno, da bi bilo naključje, preveč popolno, da bi bilo naključno.

»To je že tretjič ta teden,« zamrmra Maya in z vajeno natančnostjo tapka po tipkovnici. Za njo ogromni zasloni prikazujejo barvite vizualizacije globalnih tokov transakcij. Njena asistentka z umetno inteligenco je že sestavila poročilo, v katerem je sumljive vzorce označila z rdečo barvo. Pred leti bi za to potrebovala ekipa analitikov več dni. Zdaj se to zgodi v nekaj sekundah.

Priča smo tihi vojni – ki se ne bije z orožjem in bombami, temveč z algoritmi in podatki. Ker so digitalne transakcije postale hrbtenica našega gospodarstva, so se finančne goljufije razvile iz surovih prevar v sofisticirane napade, ki jih orkestrirajo mednarodne kriminalne združbe in hekerji, ki jih sponzorirajo države. Samo v letu 2023 so goljufije svetovno gospodarstvo stale več kot 5,5 bilijona dolarjev. Bojišče je povsod: transakcije s kreditnimi karticami, vloge za posojila, zavarovalniški zahtevki in vse bolj tudi menjalnice kriptovalut. »Večina ljudi se ne zaveda, da jih umetna inteligenca varuje vsakič, ko potegnejo svojo kartico,« pravi dr. Raj Sharma, glavni podatkovni znanstvenik pri Mastercardu. »Sistemi, ki smo jih zgradili, analizirajo več kot 75 milijard transakcij letno in v delčku sekunde sprejemajo odločitve o tem, ali jih odobriti ali zavrniti. In vsak dan postajajo pametnejši.« Sedim v tehnološkem središču Mastercarda v New Yorku, kjer mi dr. Sharma kaže vizualizacije njihovih nevronskih mrež pri delu. Zasloni me spominjajo na ozvezdja, kjer se svetla vozlišča prižigajo, ko se iz morja podatkov pojavljajo vzorci.

Tradicionalno odkrivanje goljufij se je zanašalo na stroga pravila: če transakcija izpolnjuje določena merila, jo označi za pregled. Toda prefinjeni goljufi so se hitro naučili te sisteme prelisičiti. »Pravila so kot ključavnice,« pojasnjuje Sarah Chen, nekdanja specialistka FBI za kibernetsko kriminaliteto, ki zdaj vodi lastno varnostno svetovalno podjetje. »Ko nekdo ugotovi, kako delujejo, jih lahko odpre. Potrebovali smo ključavnico, ki nenehno spreminja svoj mehanizem.« Tu pride strojno učenje. Namesto da bi sledili eksplicitnim pravilom, se sodobni sistemi umetne inteligence učijo iz zgodovinskih vzorcev in prepoznavajo subtilne korelacije, ki bi jih človeški analitiki lahko spregledali. Na sedežu plačilnega procesorja Stripe v San Franciscu mi pokažejo predstavitev njihovega sistema za odkrivanje goljufij. Ekipa mu vnese vrsto transakcij, nekatere legitimne, nekatere goljufive. Umetna inteligenca ne opazi le očitnih opozorilnih znakov – opazi, da goljufive transakcije pogosto prihajajo iz računov, ustvarjenih ob vikendih, ali pa imajo pri vnosu podatkov nekoliko drugačne vzorce tipkanja. »Ljudje smo bitja navad,« pravi Miguel Gonzalez, direktor tveganja pri Stripeu. "Tudi najbolj previdni goljufi puščajo vzorce. Naši sistemi lahko zaznajo ritem pritiskanja tipk, gibanje miške in celo način, kako nekdo krmari po spletnem mestu. Te vedenjske biometrije je skoraj nemogoče popolnoma posnemati."

Kljub tehnološkemu čudežu ostaja človeško strokovno znanje ključnega pomena. V Paypalovem centru za upravljanje tveganj v Omahi analitiki pregledujejo primere, ki jih označijo sistemi umetne inteligence, in zagotavljajo povratne informacije, ki pomagajo algoritmom pri izboljšanju.
»Umetna inteligenca je naša prva obrambna linija, vendar ni nezmotljiva,« pravi Jennifer Wu, višja analitičarka za goljufije. »Včasih so legitimne transakcije videti sumljive, včasih pa je goljufija tako nova, da sistem še ni videl česa podobnega. V teh skrajnih primerih potrebujemo človeško presojo, da sprejmemo končno odločitev.«
Ta hibridni pristop – ki združuje procesorsko moč umetne inteligence s človeško intuicijo – se je izkazal za izjemno učinkovitega. Visa poroča, da je njihov sistem za odkrivanje goljufij, ki ga poganja umetna inteligenca, samo v preteklem letu pomagal preprečiti približno 25 milijard dolarjev poskusov goljufij.

Ko sistemi za odkrivanje postajajo bolj dovršeni, se povečujejo tudi napadi. Goljufi zdaj sami uporabljajo umetno inteligenco, ustvarjajo ponaredke, da bi zaobšli sisteme za glasovno preverjanje pristnosti, ali ustvarjajo sintetične identitete, ki lahko prestanejo preverjanja.
»To je oboroževalna tekma,« vzdihne dr. Emily Rosenberg, raziskovalka kibernetske varnosti na MIT-u. »Vsakič, ko razvijemo boljšo obrambo, razvijejo tudi oni boljše napade. Prednost je v tem, da se lahko obrambna umetna inteligenca uči iz milijonov legitimnih transakcij, medtem ko imajo goljufi omejene podatke za delo.« Opazujem, kako prikazuje novo vrsto napada – generativno kontradiktorno omrežje (GAN), ki ustvarja izmišljene, a verjetne vzorce uporabe kreditnih kartic. Sistem je nenavadno učinkovit, vendar v sodobnih sistemih za odkrivanje še vedno sproži določene alarme.

Tehnike, ki so bile pionirske pri odkrivanju finančnih goljufij, se zdaj uporabljajo v vseh panogah. Zavarovalnice uporabljajo podobne sisteme umetne inteligence za označevanje sumljivih zahtevkov. Platforme za e-trgovino jih uporabljajo za odkrivanje lažnih ocen in ponarejenih izdelkov. Vladne agencije jih uporabljajo za prepoznavanje davčnih utaj in goljufij z ugodnostmi. Pri ponudniku zdravstvenih zavarovanj Anthem sistemi umetne inteligence dnevno pregledajo milijone zahtevkov in iščejo vzorce, ki bi lahko kazali na goljufive prakse obračunavanja s strani ponudnikov zdravstvenih storitev. »Goljufije v zdravstvu ameriške davkoplačevalce stanejo približno 300 milijard dolarjev letno,« mi pove dr. Marcus Johnson, glavni analitik pri Anthemu. »Naši sistemi so pomagali odkriti več organiziranih goljufivih krogov, ki delujejo v več državah. V enem primeru smo odkrili mrežo klinik, ki so zaračunavale postopke, ki niso bili nikoli opravljeni, kar bi lahko prihranilo več sto milijonov pri goljufivih zahtevkih.«

Učinkovitost teh sistemov prinaša trnova vprašanja o zasebnosti. Več podatkov pomeni boljše odkrivanje goljufij, a tudi več možnosti za zlorabo.

»Med varnostjo in zasebnostjo vedno obstaja napetost,« priznava Elena Vasiliev, zagovornica zasebnosti, ki je prej delala na sistemih za odkrivanje goljufij pri American Expressu. »Iste tehnike, ki lahko odkrijejo goljufije, se lahko uporabijo tudi za nadzor. Paziti moramo, koliko informacij zbiramo in kako jih uporabljamo.« Nekatera podjetja raziskujejo tehnike, kot je federativno učenje, ki omogoča učenje modelov umetne inteligence v več virih podatkov brez centralizacije občutljivih informacij. Druga vlagajo v homomorfno šifriranje, ki omogoča analizo šifriranih podatkov brez predhodnega dešifriranja.

Ko ob zori zapuščam poveljniški center Western Uniona, je Maya Patel uspešno blokirala sumljive transakcije in vložila poročilo enoti FBI za kibernetsko kriminaliteto. Sistem je že posodobil svoje modele, da prepozna ta poseben vzorec goljufije. Naslednja meja pri odkrivanju goljufij vključuje kvantno računalništvo in razložljivo umetno inteligenco – sisteme, ki ne le odkrijejo goljufije, ampak tudi jasno pojasnijo, zakaj so označili določeno transakcijo. Ta preglednost bo ključnega pomena, ko se bodo predpisi glede odločanja z umetno inteligenco zaostrili. »Pred desetimi leti smo se le lovili,« mi pove Maya, ko hodimo do dvigala. »Zdaj pa začenjamo prehitevati goljufe. Vendar to ni bitka, ki je bomo kdaj popolnoma dobili. Dokler je mogoče zaslužiti denar, bodo ljudje poskušali prelisičiti sistem.« Za trenutek se ustavi, preden doda: »Dobra novica je, da se naša orodja vsak dan izboljšujejo. In za razliko od goljufov lahko delimo informacije v celotni panogi. Vsak napad nas vse okrepi.« Ker se obseg in kompleksnost digitalnih transakcij še naprej povečujeta, bo ta nevidni ščit zaščite umetne inteligence postal le še pomembnejši. Ko vam bo naslednjič izdajatelj kreditne kartice poslal SMS s potrditvijo nenavadnega nakupa, ne pozabite: to je le vidni vrh tehnološke ledene gore, ki tiho varuje vaše finančno življenje 24 ur na dan. Ali bodo sistemi za odkrivanje goljufij z umetno inteligenco sčasoma finančne goljufije spremenili v stvar preteklosti? Ali pa bomo vedno ujeti v to digitalno igro mačke in miši z vedno bolj dovršenimi napadi in obrambami? Eno je gotovo – prihodnost finančne varnosti bodo oblikovale tako vrstice kode kot ljudje, ki jih pišejo.