AI v bankovnictví: predikce rizik a detekce podvodů

Proč AI patří do řízení rizik

Rizikové funkce bank řeší dvě protichůdné síly: chránit bilanci a zároveň nebrzdit byznys. V praxi to znamená rozhodovat se rychle, konzistentně a s co nejmenším počtem omylů, ať už jde o povolení platby, schválení úvěru nebo alokaci kapitálu. Umělá inteligence je užitečná právě tam, kde se setkává velká datová stopa s nutností okamžité reakce a s komplikovanou interakcí signálů. Klasické pravidlové systémy (if-then) mají své místo, ale v prostředí adaptivních podvodníků, nových kanálů a měnících se makro podmínek přestávají stačit. ML modely dokážou učení průběžně obnovovat, vyhodnocovat jemné vzorce a stavět rozhodnutí na tisících rysů – od chování držitele karty přes otisky zařízení až po vztahy v transakčních grafech.

Důležitým aspektem je i vysvětlitelnost a řízení modelového rizika. Moderní přístupy kombinují „tvrdé“ signály (pravidla, blacklisty, sankční listy) s „měkkými“ skóre (pravděpodobnosti z modelů). Rozhodnutí je kompozitem: část je automatická, část je „step-up“ autentizace a část se posouvá na člověka. Tím se minimalizují falešně pozitivní zásahy a zároveň se drží nízké falešně negativní (uniklé podvody). V kreditním riziku zase AI přidává úroveň granulárnosti, kterou tradiční segmentace nezachytí – při zachování regulatorních požadavků na spravedlnost a transparentnost.

Real-time detekce podvodů: od signálu k rozhodnutí do 50 ms

Fraud detection v reálném čase je závod s časem. Příchozí platba přes karetní síť nebo okamžitá platba musí být posouzena během desítek milisekund, protože obchodník čeká odpověď: povolit, zamítnout, vyžádat silné ověření (SCA) nebo transakci podmínit další kontrolou. Podvodníci navíc zneužívají nové cesty (screen scraping, sociální inženýrství, uhlazené phishingové kampaně), takže statická pravidla rychle zastarávají. Robustní systém se proto opírá o vícero vrstev.

Datové signály a rysy

Východiskem je bohatý vektor rysů (features) pro každou transakci. Typicky zahrnuje:

• Transakční kontext: částka, merchant category code, kanál (e-commerce, POS, P2P), geolokace, časové okno, historie chování držitele karty (rychlostní profily, běžné patterny, denní/večerní periodicita).
• Zařízení a identita: device fingerprint, typ prohlížeče, verze OS, otisk mobilní aplikace, odchylky od běžného zařízení, „velocity“ změn.
• Síť a chování: IP reputace, proxy/Tor indikátory, počet přihlášení, doba strávená v jednotlivých krocích, anomálie v psaní či klikání (behaviorální biometrie).
• Grafové vztahy: vztahy mezi kartami, účty, zařízeními a obchodníky, sdílené e-maily/telefony, komunitní anomálie („náhlé hvězdicovité vzory“).
• Externí listy: sankční a watch listy, reputační signály poskytovatelů, modelovaná rizikovost domén a e-shopů.

Rysy se skládají do agregací přes různé horizonty (posledních 5 minut, hodina, den, týden). Agregace obvykle běží ve feature storu, který drží předpočítané i on-line rysy – viz architektura.

Modely a ansámbly

Detekce podvodů je extrémně nevyvážený problém (fraud je zlomky procenta všech transakcí). Osvědčené jsou ansámbly:

• Gradient boosting / XGBoost / LightGBM na heterogenních rysech pro základní skóre rizika.
• Autoencodery / Isolation Forest pro odhalení anomálií bez štítků (unsupervised) – zachytí nové vzorce.
• Grafové sítě (GNN) nebo „graph features“ (PageRank, triadic closure) pro vztahovou vrstvu podvodních sítí.
• Pravidla a expertní zásady jako „tvrdé“ podmínky (sankční shody, zjevné red flags) a jako safety-net pro model.

Výstupem je kombinované skóre a rozhodnutí „allow / challenge / deny“. Důležitá je kosteční funkce rozhodnutí: náklady podvodu versus náklady tření (false positive). Banky často optimalizují přímo očekávanou ztrátu E[Loss] = p(fraud) * Loss_fraud + p(genuine) * Loss_friction. Tím se threshold přirozeně hýbe s částkou, historií klienta i kontextem merchantu.

Online učení, drift a aktivní učení

Fraud se vyvíjí. Systém proto sleduje data drift (změny rozdělení rysů) a concept drift (změny vztahu rys→fraud). Kromě pravidelné re-tréninkové kadence (např. týdně) pomáhá aktivní učení: vyžádání lidské anotace u vzorků s nízkou jistotou, aby se zrychlilo „pochopení“ nového vzorce. Unsupervised detektory se používají jako „radar“ – to, co silně vybočuje, jde dřív do kontrolního vzorku.

PSD2 SCA a „step-up“ autentizace

Evropská PSD2 přinesla požadavky na silné ověření zákazníka (SCA). Praktický důsledek: modely neuvařují rozhodnutí v binárním světě. Často volí „step-up“, tedy vyžádání dalšího faktoru (biometrie, push potvrzení) u hraničních skóre, aby se snížil fraud a zároveň se nevyřadily zbytečně legitimní transakce. Dynamická vazba na riziko (risk-based authentication) minimalizuje tření u nízkorizikových plateb a drží vysokou konverzi obchodníků.

Klíčové metriky

Kromě ROC-AUC dává smysl měřit:

• FNR (false negative rate) a FPR (false positive rate) v absolutních číslech i po segmentech (merchant, kanál, částka).
• Precision/Recall při „operativním“ thresholdu, nikoli pouze na „nejlepším“.
• Capture rate u známých podvodů (jaký podíl by model chytil včas).
• Friction index: kolik % legit transakcí prošlo bez step-up vs. s step-up vs. zamítnuto.
• Čas k rozhodnutí p95/p99 – klíčový pro UX obchodníků.

Credit scoring: od logitu ke gradient boosting a vysvětlitelnosti

Kreditní skór je odhad pravděpodobnosti selhání (PD) v určitém horizontu. Historicky dominoval logistický regresní model díky jednoduchosti, stabilitě a vysvětlitelnosti. Moderní přístup však kombinuje více modelů – např. gradient boosting – a přidává vysvětlitelnost (SHAP), aby se zachovala transparentnost vůči regulátorům a internímu auditu.

Data a rysy

Retailový scoring typicky staví na těchto blocích:

• Demografie a KYC: věk, status, zaměstnání, trvalý pobyt, délka u zaměstnavatele (v regulovaných mezích).
• Historie vztahu: běžný účet (inkasa, saldo, odchylky), dřívější úvěry a platební morálka.
• Kreditní registry: externí záznamy o úvěrové historii a delikvencích.
• Open banking (PSD2 AIS): transakční historie z jiných bank (s explicitním souhlasem), zlepšuje pokrytí a čerstvost.
• Behaviorální signály: stabilita příjmů, variabilita výdajů, sezónnost, mikrovýkyvy, vztahy mezi kategoriemi plateb.

Pro SME scoring (malé a střední podniky) se přidávají účetní výkazy, platební morálka dodavatelům, oborová rizikovost, síťové vztahy (odběratelské a dodavatelské řetězce) a signály z PSP/platebních bran.

Modely, kalibrace a fairness

Gradient boosting (XGBoost/LightGBM) obvykle dosahuje vyšší diskriminace (GINI/AUC) než čistý logit. V produkci však téměř vždy probíhá kalibrace výstupu (Platt/Isotonic), aby skóre odpovídalo reálné PD. Vysvětlitelnost zajišťují SHAP hodnoty na úrovni populace i jednotlivých rozhodnutí (co vedlo k danému skóre). Regulované atributy (pohlaví, rasa apod.) se nepoužívají; v EU je důraz na nediskriminaci i v nepřímých rysech. Proto se dělají fairness testy (např. rozdíly ve schvalovacích sazbách mezi chráněnými skupinami) a pravidelný monitoring driftu.

Reject inference a stabilita

Trénovací data často obsahují pouze schválené úvěry – nevidíme, jak by dopadli odmítnutí. K omezení zkreslení se používají techniky „reject inference“ (např. extrapolace, parcely, semi-supervised přístup). Stabilita modelu se sleduje přes PSI/CSI indexy a přes vývoj GINI/AUC v čase; překročení prahů spouští re-trénink či re-kalibraci.

Schvalování v reálném čase

Díky bohatším datům (open banking) lze dnes rozhodovat během minut – někdy sekund. Orchestrace zahrnuje dotazy do registrů, získání PSD2 dat, extrakci rysů a volání scoringového API. V případě nejasností probíhá „step-up“: požadavek na další dokument, potvrzení příjmu, vysvětlení neobvyklých transakcí. Zkrácení času ke schválení z hodin na minuty je významná konkurenční výhoda, ale klade nároky na bezpečnost a monitoring.

Prediktivní analýza rizik: PD/LGD/EAD, ECL a včasná varování

Řízení rizik přesahuje okamžité rozhodnutí „povolit/odmítnout“. AI se uplatňuje i v dlouhém horizontu: predikce PD (pravděpodobnost defaultu), LGD (ztráta při defaultu), EAD (expozice při defaultu) a Expected Credit Loss (ECL) dle IFRS 9. Dále ve včasných varováních pro úvěrové portfolio a v stresových testech.

IFRS 9 a modelování ECL

ECL vyžaduje očekávanou ztrátu přes horizont, založenou na PD/LGD/EAD a makro scénářích. AI přináší jemnější segmentaci a lepší mapping mezi mikro daty klienta a makro faktory (nezaměstnanost, sazby, inflace). Scénářová vážení (optimistický, základní, pesimistický) lze podpořit modely, které dávají pravděpodobnosti scénářů a elasticitu portfolia vůči šokům. Transparentnost je klíčová, proto se často volí kombinace tradičních ekonometrických modelů s ML vrstvou pro nelinearitu.

Včasná varování (EWS)

Modely „Early Warning System“ sledují signály z transakcí, z prodlení plateb, z interních i externích zpráv a indikátory stresu (náhlé propady zůstatků, využití kontokorentu, pokusy o předčasné výběry). Výstupem je prioritní seznam klientů k oslovení, restrukturalizaci či zvýšené pozornosti. Tím se zmenšuje dopad delikvence a zvyšuje šance na měkké řešení dřív, než problém přeroste.

Collections a optimalizace zásahu

AI pomáhá i v inkasu: predikce pravděpodobnosti úspěšného kontaktu daným kanálem, volba času a tónu komunikace, segmentace na „self-cure“ vs. „potřebuje plán“. Z etického i regulatorního pohledu je důležité držet férovost a dokumentovat, jak modely rozhodují – zejména u citlivých skupin.

Referenční architektura: data, feature store, streaming, MLOps

Úspěšná AI v bankovnictví není jen „skvělý model“. Je to souhra datové platformy, feature storu, orchestrace, robustního MLOps a bezpečnosti. Následující minimální architektura se osvědčuje jak pro fraud, tak pro scoring.

Datová vrstva a governance

Centrální lake/warehouse uchovává transakce, KYC, logy, registr data, open banking přenosy a agregace. Každá entita má datového vlastníka, klasifikaci citlivosti a retenční pravidla. Katalog a lineage umožňují dohledat, odkud pochází který rys a co ho ovlivňuje.

Feature store

Feature store drží definice rysů, jejich transformace, validace a on-line i off-line servírování. Fraud využívá „velocity“ a roll-up agregace v minutových/hodinových oknech; scoring zase stabilní rysy s menší frekvencí update. Sdílený feature store snižuje „double counting“ a zlepšuje konzistenci mezi tréninkem a produkcí (tzv. training/serving skew).

Streaming a scoring

Transakce tečou přes streamovací vrstvu (např. fronty/streamy). Orchestrátor obohatí transakci o rysy (join s on-line částí feature store), zavolá ansámbl modelů a vrátí skóre a doporučení. Rozhodovací služba aplikuje pravidla (např. PSD2 výjimky, sankční shody) a vrátí odpověď. Celý cyklus musí fungovat v desítkách milisekund, včetně fallbacku při potížích s jednou komponentou.

MLOps a model governance

Model registry spravuje verze, metadata, validace a „champion/challenger“ experimenty. CI/CD pipeline dělá automatické testy kvality (distribuce rysů, metriky na validační sadě, fairness testy), teprve poté model nasazuje. Observabilita sleduje drift, stabilitu, latenci a náklady. Incidenty mají runbook: co dělat při výpadku, jak rychle přepnout model nebo pravidla.

Bezpečnost a audit

Vše běží s principem nejmenších oprávnění, oddělenými prostředími, šifrováním v klidu i přenosu, řízením klíčů a auditními logy na úrovni dat i rozhodnutí. Přístup k osobním údajům je omezen a pseudonymizován, modely pracují s tokenizovanými identifikátory; de-tokenizace je možná jen v kontrolovaných službách s právním základem.

Příklady z praxe: Mastercard a Revolut

Mastercard patří k průkopníkům real-time detekce podvodů na karetních sítích. Nad transakčními toky staví vícevrstvé modely, které kombinují historické vzorce s aktuálními signály a rozhodují v řádu milisekund pro vydavatelské banky i obchodníky. Základní motiv: maximalizovat zachycené podvody a zároveň držet nízké tření (zbytečná zamítnutí/step-up). V praxi to znamená pokročilou orkestraci modelů a pravidel, grafové prvky pro odhalení sítí a důraz na vysvětlitelnou telemetrii pro klienty sítě.

Revolut je příkladem digitální bankovní a platební platformy, která postavila reaktivní a adaptivní fraud/AML strojovnu hned od začátku. Sází na kombinaci transakčních modelů, behaviorálních signálů v aplikaci, rizikových profilů klientů a rychlého „step-up“ ověřování. V AML oblasti využívá strojové učení k prioritizaci alertů, aby vyšetřovatelé trávili čas na případech s nejvyšší pravděpodobností skutečného rizika. Otevřená architektura s mikroslužbami umožňuje testovat nové modely vedle sebe a nasazovat je postupně (champion/challenger), aniž by utrpěla dostupnost.

Oba příklady ilustrují, že technologie je jen půlka příběhu. Druhou půlkou je distribuce rozhodnutí – kdo a kdy potvrzuje krok, jak rychle se propisují nové zkušenosti do pravidel a modelů, jak se minimalizuje zátěž zákazníka a jak se daří držet vysokou úroveň bezpečnosti bez zbytečných blokací.

Byznysové přínosy: méně ztrát, rychlejší schvalování, lepší CX

Přínosy AI v řízení rizik se dají vyčíslit přesněji než v jiných oblastech – každý chycený podvod i každé zbytečné zamítnutí má cenu. Typické oblasti, kde se ukazuje hodnota:

• Snížení ztrát z fraudu: vyšší capture rate při stejném nebo nižším FPR. Protože fraudníci mění taktiky, význam má i „time-to-learn“ – za jak dlouho se model přizpůsobí novému vzorci.
• Zrychlení úvěrového procesu: automatizovaný scoring s vysvětlitelností a step-upem zkracuje rozhodnutí z hodin na minuty, často bez zhoršení rizikového profilu.
• Lepší zákaznická zkušenost: méně zbytečných blokací, cílené ověřování u hraničních případů a konzistentní komunikace.
• Efektivnější AML a vyšetřování: prioritizace alertů, méně „false positives“ v monitoringu transakcí, lepší využití kapacity analytiků.
• Lepší kapitálové plánování: přesnější PD/LGD/EAD a ECL znamenají realističtější rezervy a menší volatilitu v čase.

Banky často sledují jednotnou metodu „cena za rozhodnutí“: kolik stojí jedno správné povolení (včetně nákladů na infrastrukturu, modely, false positives) a kolik stojí jeden zachycený podvod (včetně ztrát z friction). Optimalizace se pak vede v této jednotce, ne v abstraktních metrikách.

Regulace a compliance: PSD2, AML a model governance

Regulační rámec definuje, co se smí a jak se to musí doložit. V Evropě je zásadní trojice: PSD2 (platební služby a SCA), AML/CFT (boj proti praní peněz a financování terorismu) a GDPR (ochrana osobních údajů). Nad tím stojí interní model governance (zásady, kontroly, auditní stopy) a profesní regulace (např. požadavky na vysvětlitelnost u rozhodnutí s dopadem na klienta).

PSD2 a SCA

PSD2 vyžaduje silné ověření zákazníka, s výjimkami pro nízké riziko a nízké částky. AI pomáhá dynamicky hodnotit riziko transakce a rozhodovat, kdy je step-up povinný a kdy zbytečný. Dokumentace musí ukazovat, jak systém dospěl k rozhodnutí (pro audit a pro obchodníky).

AML/CFT

AML monitoring je oblast přehlcená alerty. ML modely pomáhají prioritizovat a snižovat falešné poplachy, ale rozhodnutí o podezřelé aktivitě zůstává na člověku. Banka musí doložit, proč případ uzavřela/eskalovala, a mít jasné hranice autonomie systému. Využití ML nesmí vést k „black box“ odůvodněním.

Model governance

Každý model má vlastníka, dokumentaci, validační zprávu, pravidelný monitoring a přísná kritéria pro změny. Součástí je i plán incidentů (co když se model „utrhne“), pravidelné testy biasu a fairness a přezkum datových zdrojů (legální základ, kvalita, retence). Rozhodnutí s dopadem na klienta musí být vysvětlitelné a obhajitelné – ideálně s lokálním vysvětlením pro konkrétní případ.

Ochrana dat: GDPR, minimalizace, syntetika a federované učení

Ochrana osobních údajů je v bankovnictví prvotřídní téma. ML systémy musí vznikat s principem „privacy by design“: zpracovávat jen nezbytná data, omezit přístupy, pseudonymizovat identifikátory, šifrovat a mít jasnou retenci.

Minimalizace a pseudonymizace

Trénovací sady typicky pracují s tokenizovanými identifikátory. Odmaskování je možné pouze ve službách, které to nutně potřebují (např. vyšetřování), a vždy s logováním. Pokud lze rys získat agregací, nepoužívá se syrový údaj (např. plat konkrétní výplaty → volatilita příjmu za 6 měsíců).

Syntetická data a bezpečné sandboxes

K testům a prototypům se používají syntetická či anonymizovaná data. Syntetika nesmí znovu-identifikovat jednotlivce (risk scoring re-identifikace) a vždy se validuje, aby nezkreslila distribuce. Produkční validace probíhá na skutečných datech v kontrolovaném prostředí se striktním dohledem.

Federované a distribuované učení

Když data nesmějí opustit region či banku, lze modely trénovat „u zdroje“ a sdílet jen gradienty/parametry. Federované učení či secure enclaves umožňují sdílet signály bez sdílení dat. Náročnost roste, ale některým případům (citlivé AML kolaborace) dává smysl.

Jak začít a škálovat: roadmapa 0–180 dní

Úspěch není o „nejchytřejším modelu“, ale o tom, jak rychle a bezpečně přetavit nápad do provozu. Následující roadmapa je pragmatická – minimalizuje riziko „pilotní únavy“ a buduje základy, na kterých lze růst.

0–30 dní: první vítězství

Vyberte úzký scénář s měřitelným dopadem (např. záměna „deny“ za „step-up“ u hraničních karetních transakcí, scoring malých půjček do určité částky). Vytvořte minimální feature store, baseline model a rozhodovací pravidla. Zaveďte telemetrii (latence, FPR/FNR, friction). U fraudu nasaďte nejprve „shadow mode“ (model radí, ale nerozhoduje), do 2 týdnů přepněte na omezené procento provozu (canary).

31–90 dní: integrace a governance

Prohlubte integraci do kanálů a back-office (když model řekne „challenge“, musí to systém umět). Zaveďte champion/challenger, pravidelnou re-tréninkovou kadenci, drift detektory, SHAP vysvětlování a fairness testy. V AML nastavte „human-in-the-loop“ a protokoly pro vyšetřování.

91–180 dní: škálování a nákladová disciplína

Rozšiřte na více segmentů a kanálů. Zaveďte směrování (router) podle latence a nákladů, aby se drahé výpočty používaly jen tam, kde je jejich hodnota. Optimalizujte „cenu za rozhodnutí“ skrze cache, kompaktní rysy a adaptivní thresholdy. Připravte scénářovou sadu pro stresové testy a vložte ji do governance cyklu.

Shrnující tabulky: metody, metriky, trade-offy

Metody pro fraud detection

Scoring a vysvětlitelnost

Klíčové metriky a trade-offy

Závěr: od pilotu k provozu bez bolesti

Umělá inteligence v bankovnictví není zkratka k zázrakům, ale rychlý akcelerátor poctivého řemesla řízení rizik. Tam, kde banky promění vysoce dimenzní data v rychlá, vysvětlitelná rozhodnutí, klesají ztráty z podvodů, zrychluje se schvalování úvěrů a roste spokojenost zákazníků. Klíč je v disciplíně: feature store a streaming pro real-time, ansámbly modelů s „step-up“ autentizací, pravidelné re-tréninky a drift detektory, SHAP pro vysvětlitelnost, pevná governance a ochrana dat podle GDPR. Příklady Mastercard a Revolutu ukazují, že kombinace rychlé techniky a promyšlené provozní logiky dává výsledky už dnes.

Pokud s AI v rizicích začínáte, nechte technologii sloužit cíli: začněte úzkým scénářem s jasnou cenou chyby, měřte FNR/FPR a „cenu za rozhodnutí“, zapojte step-up místo plošného „deny“ a stavte vše tak, aby šly modely obměňovat bez chirurgických zásahů do byznys logiky. Po třech měsících budete mít nejen lepší skóre v metrikách, ale hlavně stabilnější provoz a tým, který věří, že AI je partner – ne nepředvídatelná černá skříňka.