Mesterséges intelligencia M.I.

**Simona Varga** · 2026-07-06, 22:17

MI-irányítás audit szemmel – tudjuk-e bizonyítani, hogy kontrolláltan használjuk a mesterséges intelligenciát?

Az MI-ról ma már szinte minden szervezetben beszélünk. Van, ahol már hivatalosan beépült a működésbe, van, ahol még csak kísérleteznek vele, és van, ahol valószínűleg már használják is, csak nem biztos, hogy mindenki tud róla.

Képzeljük el, hogy holnap reggel a vezetés feltesz egy egyszerű kérdést: Pontosan hol használunk mesterséges intelligenciát a szervezetben?

És rögtön jönnek a következő kérdések is:

Milyen adatokkal?
Milyen döntések támogatására?
Ki hagyta jóvá?
Ki felel érte?
És ha valami rosszul működik, ki veszi észre?

Szerintem itt kezd igazán érdekessé válni a mesterséges intelligencia, vagyis az MI audit szempontból.
Nem ott, hogy használjuk-e. Mert valószínűleg már használjuk. Lehet, hogy hivatalosan, szabályozott keretek között. Lehet, hogy csak egy-egy üzleti területen. És lehet, hogy már ott is, ahol a szervezet még nem is látja teljesen.
A kérdés inkább az, hogy kontrolláltan használjuk-e.

Miért hoztam ezt a témát?

Belső ellenőrzési és kontroll szemmel egyre többször érzem azt, hogy az MI körüli beszélgetés sokszor két véglet között mozog.
Az egyik oldalon ott van a lelkesedés: gyorsabb munka, jobb elemzés, hatékonyabb riportolás, új lehetőségek. A másik oldalon ott van az óvatosság: adatvédelem, információbiztonság, etikai kérdések, hibás következtetések, túlzott bizalom a technológiában. Szerintem a belső ellenőrzésnek pont a kettő között van fontos szerepe.

Nem az a feladatunk, hogy megállítsuk az MI használatát. Ez nem lenne reális, és nem is lenne értékteremtő. Inkább az, hogy segítsünk megérteni: hol van valódi kockázat, milyen kontrollokra van szükség, és tudjuk-e bizonyítani, hogy ezek működnek.

Mit jelent az MI-irányítás?

Az MI-irányítás, angolul AI governance, egyszerűen fogalmazva azt jelenti, hogy a szervezet tudatosan, átláthatóan és felelősen kezeli a mesterséges intelligencia használatát.
Ez nem csak IT-kérdés. Nem csak innováció. Nem csak compliance. És nem is csak egy szabályzat.
Audit szemmel inkább egy olyan működési keret, amely választ ad például ezekre a kérdésekre:

Tudjuk-e, milyen MI-eszközöket használ a szervezet?
Van-e nyilvántartás az MI használati esetekről?
Ki a felelős ezekért?
Milyen adatok kerülnek be az MI-rendszerekbe?
Milyen döntéseket támogat az MI?
Van-e emberi felülvizsgálat?
Dokumentált-e, hogy mire használjuk és mire nem?
Van-e monitoring, ha az MI rossz, torz vagy félrevezető eredményt ad?

A gyakorlatban sokszor nem az a probléma, hogy nincs jó szándék. Hanem az, hogy a technológia gyorsabban bekerült a napi munkába, mint ahogy a governance, a szabályozás és a kontrollkörnyezet utolérte volna.

Mit auditáljunk először?

Egy MI-irányítási audit szerintem nem feltétlenül mély technikai modellvizsgálattal kezdődik.
Sok szervezetnél az első auditkérdések ennél sokkal alapvetőbbek.

1. Van-e MI-használati nyilvántartás?
Tudjuk-e egyáltalán, hol és mire használunk MI-t? Ide tartozhatnak hivatalos rendszerek, beépített MI-funkciók, külső szolgáltatók megoldásai, vagy akár a munkatársak által használt generatív MI-eszközök is. Ha nincs ilyen lista, akkor nehéz kockázatot értékelni, kontrollt kialakítani vagy felelőst kijelölni.

2. Egyértelmű-e a felelősség?
Ki a gazdája az MI használatának? Az üzleti terület? IT? Kockázatkezelés? Compliance? Adatvédelem? Információbiztonság? Vagy mindenki egy kicsit, és végül senki igazán? Ez klasszikus governance-kérdés. Ha nincs felelős, akkor a kontroll is könnyen formálissá válik.

3. Milyen adatokat használunk?
Az MI egyik legérzékenyebb pontja az adat. Nem mindegy, hogy nyilvános információt, belső üzleti adatot, ügyféladatot, személyes adatot vagy bizalmas dokumentumot használunk. Audit szempontból itt nem csak az a kérdés, hogy az adat „jó-e”, hanem az is, hogy jogszerűen, biztonságosan és megfelelő célra használjuk-e.

4. Milyen döntést támogat az MI?
Más a kockázat, ha az MI egy meeting jegyzetét foglalja össze, és más, ha ügyfélkockázati besorolást, HR-döntést, monitoring eredményt vagy kontrollértékelést támogat. A kockázat nem önmagában az MI-ban van. Hanem abban is, hogy milyen döntési környezetben használjuk.

5. Van-e valódi emberi felülvizsgálat?
Sokszor halljuk, hogy „human in the loop”, vagyis emberi felülvizsgálat van a folyamatban. De auditorként itt jön a következő kérdés: ez tényleg működik? Az ember valóban érti, ellenőrzi és szükség esetén megkérdőjelezi az MI eredményét? Vagy csak formálisan jóváhagyja, mert a rendszer már előkészítette? A formális review nem ugyanaz, mint az érdemi kontroll.

6. Tudjuk-e bizonyítani, hogy a kontrollok működnek?
Ez talán az egyik legfontosabb belső ellenőri kérdés. Nem elég azt mondani, hogy van szabályzat, van jóváhagyás, van kontroll. A kérdés az, hogy van-e mögötte bizonyíték. Ha később vissza kell nézni egy MI által támogatott döntést, meg tudjuk-e mutatni:

- milyen input alapján dolgozott a rendszer,
- ki ellenőrizte az eredményt,
- milyen döntés született,
- milyen kontroll működött,
- és ki vállalta érte a felelősséget?

A belső ellenőrzés szerepe

Szerintem a belső ellenőrzés egyik legnagyobb hozzáadott értéke ebben a témában az lehet, hogy az MI-t lefordítja érthető governance és kontrollnyelvre.
Nem kell mindenkinek adatelemzőnek vagy technológiai szakértőnek lennie. De azt értenünk kell, hogy az MI milyen üzleti, működési, adatvédelmi, információbiztonsági, etikai és reputációs kockázatokat hozhat.
És talán azt is érdemes kimondani: az MI nem csak új audit témát hoz, hanem minket, belső ellenőröket is önvizsgálatra kényszerít.
Mert ha mi magunk is használunk MI-t elemzéshez, szövegíráshoz, riportkészítéshez vagy audit-előkészítéshez, akkor ugyanazokat a kérdéseket magunknak is fel kell tennünk:

Milyen adatot adunk be?
Ellenőrizzük-e az eredményt?
Dokumentáljuk-e a használatot?
Tudjuk-e, hol segített az MI, és hol döntött továbbra is az auditor?

➡❓Vitaindító kérdések

Van-e nálatok MI-használati nyilvántartás, vagy még inkább eseti és szétszórt a használat?
Ki legyen az MI-kockázatok felelőse: az üzlet, IT, kockázatkezelés, compliance, adatvédelem – vagy közös modellre van szükség?
Egy MI-irányítási audit során ti mit kérnétek be először: szabályzatot, használati listát, kockázatértékelést, adatvédelmi dokumentációt vagy konkrét bizonyítékokat?
Hol húznátok meg a határt: mikor hasznos támogatás az MI, és mikor jelent már túl nagy kontrollkockázatot?
A belső ellenőrzés saját MI-használatát ki és hogyan kontrollálja?

Kíváncsi vagyok a tapasztalataitokra. Szerintem ez az a téma, ahol még mindannyian tanulunk. És talán pont ezért fontos róla beszélni, nem túl elméletién, hanem nagyon gyakorlati szemmel.

Mert a végén nem az lesz a legfontosabb kérdés, hogy van-e MI-szabályzatunk.

Hanem az, hogy tényleg tudjuk-e, hol, hogyan és milyen felelősség mellett használjuk a mesterséges intelligenciát.

📌Források / szakmai háttér

**Mrovcza Márton CIA** · 2026-07-08, 11:25

Simona szerintem nagyon érdekes és aktuális a bejegyzésed! Nekem olvasóként az jutott eszembe, hogy az MI-ről folytatott beszélgetésekben gyakran a használati oldal kerül előtérbe – hogyan segít a munkában, hogyan növeli a hatékonyságot –, miközben talán kevesebb szó esik arról, hogy az MI nemcsak támogató eszköz lehet, hanem külső kockázati forrás is.

Éppen ma olvastam egy cikket arról, hogy az Európai Központi Bank arra készíti fel a nagybankokat, hogy a fejlett MI-modellek a kibertámadások hatékonyságát is jelentősen növelhetik, ezért konkrét védekezési terveket vár el tőlük. A felügyelet szerint az új generációs modellek képesek a sérülékenységek gyorsabb azonosítására és a támadások automatizálására is (Mythos-hatás): Az EKB utasítja Európa nagybankjait, hogy készüljenek fel az AI jelentette kiberfenyegetésekre - ITBUSINESS

"Az új generációs AI-modellek képesek példátlan sebességgel azonosítani a szoftverhibákat, majd működőképes támadókódokat (exploitokat) készíteni hozzájuk. Ez gyakorlatilag megszünteti azt az időablakot, amely korábban a sérülékenység felfedezése és annak tényleges kihasználása között rendelkezésre állt".

Emiatt számomra különösen fontos a cikk azon gondolata, hogy az MI-irányítás nem pusztán technológiai vagy innovációs kérdés. A kockázatkezelésnek és a kontrollkörnyezetnek ugyanúgy foglalkoznia kell azzal, hogy mire használjuk az MI-t, mint azzal, hogy ellenünk mire használhatják.

UPDATE:
Friss cikk egy AI vezérelte támadásról: Meghackelte az OpenAI két botja a Hugging Face-t - HWSW

**Smohay Ferenc** · 2026-07-21, 11:54

Simona, nagyon jó, hogy elindítottad ezt az igazán fontos és aktuális témát.

A mesterséges intelligencia (MI) sok szempontból fontos belső ellenőrzési szakmai szempontból. Az MI irányítás tényleg kiemelt jelentőséggel bír, mellette pedig számos szempontból érdemes végiggondolni.
A BEMSZ Kockázatkezelési Bizottságát is ez a cél vezette, amikor megalkotta "A Mesterséges Intelligencia a belső ellenőrzés fókuszában" című módszertani segédletet, ami itt érhető el:

https://iia.hu/index.php/tudastar/kiadvanyok?task=download.send&id=103:a-mesterseges-intelligencia-a-belso-ellenorzes-fokuszaban-modszertani-segedlet&catid=15

Szintén az irányításból indul, és utána igyekszik lebontani kockázati és kontroll szintre is, ami remélhetőleg hasznos szempontokat ad minden kollégának.
Kíváncsi is lennék itt, hogy ha olvasta valaki, mi a véleménye a módszertani segédletről!

**Sipos János** · 2026-07-29, 16:07

Az AI-megoldások az elmúlt időszakban fokozatosan beépültek a szakmai munkánkba. Minél többet használjuk őket kutatásra, elemzésre, ellenőrzésre és szövegalkotásra, annál világosabban látszik, hogy nemcsak az számít, milyen kérdést teszünk fel, hanem az is, melyik modellnek, milyen kontextusban és milyen ellenőrzési módszer mellett.
Azonos témában rendszeresen ugyanazt a promptot adjuk több AI-modellnek, és gyakran érdemi különbségeket tapasztalunk a válaszok között. Ez ténykérdéseknél is előfordulhat, mivel a modellek tudásának frissessége, forráshasználata és webes hozzáférése eltérhet, de még látványosabb az értelmezést, mérlegelést vagy következtetést igénylő feladatoknál.
Lényeges kérdésekben négy AI-megoldás fizetett változatát használjuk párhuzamosan. Válaszaikat nem tekintjük igazolt állításoknak: összevetjük őket, keressük az ellentmondásokat, külön ellenőrizzük a fontos részállításokat, és ahol lehetséges, elsődleges vagy más megbízható forrásokhoz nyúlunk vissza. A szakmai tapasztalat és a kritikus mérlegelés ebben a folyamatban továbbra is nélkülözhetetlen.
Több esetben ugyanazt a promptot ugyanazon szolgáltatás azonos modelljének, azonos előfizetési szinten, de két különböző felhasználói fiókból tettük fel. A válaszok között rendszerint kisebb, de esetenként jelentős eltéréseket találtunk. Jogi esetek elemzésénél például a jogász által használt fiókhoz tartozó AI több kérdésen keresztül következetesen mélyebb jogi elemzést adott, mint a mérnök által használt fiókhoz tartozó rendszer. A különbség akkor is fennmaradt, amikor a látható beszélgetési előzményeket kizártuk a tesztből.
A jelenség okát nem ismerjük, ezért nem állítjuk, hogy azt közvetlenül a felhasználó szakmai háttere okozza. Lehetséges magyarázat lehet a személyre szabás, a fiókszintű kontextus, az eltérő rendszerbeállítás, a modelloldali variabilitás vagy más, számunkra nem látható tényező. Azt viszont megfigyeltük, hogy az eltérés ismételt tesztekben is fennmaradt; egy teljes esetet a promptoktól a válaszokig dokumentáltunk későbbi módszertani elemzés céljából.
Szintén érdekes tapasztalat volt, hogy ugyanazon beszélgetésen belül egy korábban már használt prompt megismétlése esetenként eltérő szerkezetű és részletezettségű választ eredményezett. Ilyenkor azonban a szövegszerűen azonos prompt már nem feltétlenül jelentett azonos bemenetet az AI számára, mert (például) a beszélgetés közben felépült kontextus is befolyásolhatta a választ. Amikor egyértelműen jeleztük az eltérést, ismételten rögzítettük az elvárt szerkezetet, és szükség esetén példaként visszaadtunk egy korábbi kérdés-válasz párt, a válasz rendszerint ismét követte a korábban meghatározott munkamódszert, struktúrát és részletezettséget.
Több szolgáltatásnál tapasztaltunk olyan, jól látható megjelenítési hibát is, amely a magyar ékezetes karaktereket érintette. Ezek javítása általában egyszerű, mert a hiba nyilvánvaló és azonnal felismerhető. A hibák ugyanakkor jól szemléltetik, hogy nem minden probléma oka a modell vagy a hibás promptolás: a felület, a karakterkezelés és más technikai rétegek hibái is befolyásolhatják a felhasználóhoz eljutó eredményt.
A gyakorlatban az egyes AI-modellekre eltérő feladatoknál és eltérő mértékben támaszkodunk. Van olyan rendszer, amely bizonyos esetekben a tények felkutatásában teljesít jobban, míg más a szövegalkotásban, a strukturálásban vagy az érvelésben erősebb. Az észlelt teljesítmény ráadásul akár rövid időn belül is változhat, aminek hátterében modellfrissítés, eltérő eszközhasználat, kontextus, rendszerbeállítás vagy egyszerű válaszgenerálási variabilitás egyaránt állhat. Ennek felismerése és kezelése önálló feladat.
Tapasztalataink alapján az AI-t eszközként, nem pedig orákulumként kezeljük. Egyetlen, de akár több AI-modell egymással egybehangzó válaszát sem tekintjük önmagában ellenőrzött ténynek vagy közvetlenül publikálható tartalomnak. A válaszok ugyanakkor rendszerint értékes kiindulási pontot, szempontot vagy munkaanyagot adnak. Ezeket párhuzamos lekérdezésekkel, az ellentmondások azonosításával és feloldásával, az eredeti források felkutatásával és ellenőrzésével, valamint saját szakmai tudásunk alkalmazásával fejlesztjük tovább.

**Mrovcza Márton CIA** · 2026-07-31, 08:20

Sziasztok!

János bejegyzése szerintem egy olyan fontos(!) és nagyon aktuális problémára hívja fel a figyelmet, amellyel egyre többen találkoznak a mindennapi munka során (nem leszűkítve a belső ellenőrzési szakmára). Nem kizárólag arra a kérdésre kell választ keresnünk, hogy a feladataink megoldásához melyik AI-modellt használjuk, hanem azt is, hogy hogyan tudjuk később igazolni vagy reprodukálni az AI által támogatott munkánkat.

Ez felvet szerintem egy módszertani kérdést is: vajon eljön-e az idő, amikor egy munkaanyagban (pl.: a szakmánál maradva egy belső ellenőrzési munkalapon) már azt is dokumentálnunk kell, hogy 1-1 részfeladathoz használtunk-e mesterséges intelligenciát, ha igen - melyik AI-modellt, melyik verziót és milyen prompttal?

Természetes, hogy dokumentáljuk az adatforrásokat és az alkalmazott módszertant. Ha az AI a mindennapi munkamódszer részévé válik, könnyen lehet, hogy az AI használatának teljeskörű dokumentálása is elvárás lesz. Ráadásul az AI által adott válaszok nem feltétlenül reprodukálhatók. Ahogy János kifejtette fentebb ugyanaz a prompt később, más modellverzióval, eltérő kontextusban vagy akár ugyanazon modell esetében is más eredményt adhat --- ez szerintem egészen új kihívást jelent a minőségbiztosítás és a felülvizsgálhatóság szempontjából.

Ti mit gondoltok? Elég lesz azt rögzíteni a jövőben, hogy "AI-t használtunk", vagy idővel az AI használatának részletei is a munkapapírok részévé válnak?

Szerintem ezek olyan módszertani kérdések, amelyek néhány éven belül akár az IIA útmutatásaiban is megjelenhetnek. (Véleményem szerint meg kellene, sőt talán már meg is kellett volna jelenniük...)

**Simona Varga** · 2026-08-03, 21:20

Köszönöm szépen mindenkinek a hozzászólásokat, nagyon értékes irányokkal egészült ki a téma.

Különösen érdekes, hogy a beszélgetés az MI használatától fokozatosan eljutott az MI-vel támogatott szakmai munka bizonyíthatóságáig, felülvizsgálhatóságáig és reprodukálhatóságáig.

Gajdos Marci példája jól mutatja, hogy a több modell párhuzamos használata valóban segíthet az eltérések és lehetséges hibák felismerésében, valamint az MI-vel szembeni ellenállás csökkentésében. Ugyanakkor önmagában az sem feltétlenül bizonyíték egy válasz helyességére, ha több modell hasonló eredményre jut. Ezért továbbra is nélkülözhetetlen az eredeti források ellenőrzése, a szakmai szkepticizmus és az emberi mérlegelés.

János részletes gyakorlati tapasztalatai különösen jól szemléltetik, hogy az eredményt nemcsak a prompt, hanem a választott modell, annak verziója, a rendelkezésére álló kontextus, a felhasználói fiók beállításai és más, számunkra nem feltétlenül látható tényezők is befolyásolhatják. Nagyon fontosnak tartom azt a megközelítést, hogy az MI-t eszközként, ne pedig „orákulumként” kezeljük.

Mrovcza Marci két fontos nézőponttal is továbbvitte a beszélgetést. Egyrészt nemcsak azt kell vizsgálnunk, hogy mi mire használjuk az MI-t, hanem azt is, hogyan használhatják azt ellenünk. Ez jól mutatja, hogy az MI-irányításnak az innováció és hatékonyság mellett a kiberbiztonsági, harmadik félhez kapcsolódó és külső fenyegetési kockázatokra is ki kell terjednie. Másrészt felvetette az MI-vel támogatott auditmunka dokumentálásának és későbbi reprodukálhatóságának kérdését is.

Ferenc, köszönöm a BEMSZ Kockázatkezelési Bizottsága által készített „A Mesterséges Intelligencia a belső ellenőrzés fókuszában” című módszertani segédlet megosztását. Átnézve az anyagot, különösen hasznosnak tartom, hogy az auditálhatóságot összekapcsolja a nyomon követhetőséget biztosító naplóadatokkal. Emellett hangsúlyozza a felhasználók és felhasználási területek nyilvántartását, a mentési és archiválási követelményeket, valamint a felülvizsgálati, ellenőrzési és naplóértékelési eljárásokat.

A segédlet világosan különválasztja azt, amikor a belső ellenőrzés az MI szervezeti használatáról ad bizonyosságot, attól, amikor maga a belső ellenőrzés használ MI-t a feladatai ellátásához. Az anyag elsősorban az első területre koncentrál. Éppen ezért szerintem a mostani beszélgetés jó lehetőség arra, hogy továbbgondoljuk: hogyan alkalmazzuk ugyanezeket az auditálhatósági és nyomon követhetőségi elveket a belső ellenőrzés saját MI-használatára.

Ezt én kockázatalapúan közelíteném meg. Nem biztos, hogy minden egyszerű nyelvi javításnál vagy ötletelésnél szükség van a teljes prompt és válasz megőrzésére. Ha azonban az MI érdemben hozzájárult egy elemzéshez, kontrollértékeléshez, megállapításhoz vagy következtetéshez, akkor szerintem indokolt lehet legalább annak dokumentálása, hogy:

milyen célra és részfeladathoz használtuk;
melyik eszközt vagy modellt használtuk, és mikor;
milyen adatokat, forrásokat vagy lényeges kontextust adtunk meg;
hogyan validáltuk az MI által adott eredményt;
milyen bizonyítékok támasztják alá a végső következtetést;
ki végezte el a szakmai felülvizsgálatot és hozta meg a végső döntést.

Ha az MI-t az auditmunka támogatására használjuk, annak válasza önmagában általában nem tekinthető auditbizonyítéknak, hanem alkalmazott eszköz vagy közbenső munkaanyag. A végső következtetésért, annak szakmai megalapozottságáért és megfelelő bizonyítékokkal történő alátámasztásáért továbbra is az auditor felel.

A szó szerinti reprodukálhatóság valószínűleg nem mindig biztosítható, hiszen ugyanaz a prompt eltérő időpontban, modellverzióval vagy kontextusban más eredményt adhat. Ezért érdemes különbséget tenni az MI válaszának pontos megismételhetősége és a szakmai munkafolyamat reprodukálhatósága között. Nem feltétlenül ugyanazt a szöveget kell újra megkapnunk, hanem azt kell tudnunk igazolni, hogy milyen módszerrel dolgoztunk, milyen forrásokat használtunk, mit és hogyan ellenőriztünk, valamint hogyan jutottunk el a végső következtetéshez.

Az IIA 14.6. standardja technológiasemlegesen már most is megköveteli, hogy az elemzéseket, értékeléseket és alátámasztó információkat úgy dokumentáljuk, hogy egy megfelelően felkészült személy megismételhesse a munkát, és ugyanarra a megbízási eredményre juthasson. Az igazán érdekes módszertani kérdés szerintem az, hogyan fordítjuk le ezt az elvet az MI használatára a gyakorlatban.

Talán egy következő közös lépés lehetne egy rövid, kockázatalapú „MI-használati dokumentációs minimum” összeállítása a belső ellenőrzési munkalapokhoz.

Mit gondoltok: milyen adatokat kellene mindenképpen rögzíteni, ha az MI már érdemben részt vesz az ellenőrzési munkában?

**Simona Varga** · 2026-08-25, 16:39

MI-átláthatóság belső ellenőrzési szemmel - amikor a címke nem elég

Anthony Pugliese, az IIA elnök-vezérigazgatója nemrég egy nagyon aktuális témára hívta fel a figyelmet LinkedIn-posztjában: az EU mesterséges intelligenciáról szóló rendeletének új átláthatósági követelményei alkalmazandóvá váltak.
Ezek többek között arról szólnak, hogy az emberek felismerhessék, ha mesterséges intelligenciával lépnek kapcsolatba, vagy ha MI által generált, illetve módosított tartalommal találkoznak.

Ez fontos szabályozási mérföldkő. De belső ellenőrzési szemmel szerintem itt kezdődik az igazán érdekes kérdés:
Elég-e az, hogy jelezzük az MI használatát, vagy tudjuk is bizonyítani, hogy mögötte valódi felelősség, kontroll és visszakövethetőség van?

A címke fontos, de nem elég

Elsőre az MI-átláthatóság egyszerűnek tűnhet.
Kiírjuk, hogy a felhasználó MI-rendszerrel beszél. Megjelöljük, ha egy kép, szöveg, hang vagy videó MI segítségével készült. Készül egy tájékoztató, egy szabályzat, egy jóváhagyott kommunikáció.
De auditorként szerintem itt nem állhatunk meg. A kérdés nem csak az, hogy van-e címke.
Hanem az is, hogy:

tudjuk-e, hol használunk MI-t,
tudjuk-e, mikor kell erről tájékoztatni az érintetteket,
ki döntötte el, hogy milyen tájékoztatás szükséges,
ki hagyta jóvá,
valaki ellenőrzi-e, hogy ez tényleg működik,
és utólag meg tudjuk-e mutatni, mi történt.

Mert a címke látható. De a kontroll sokszor mögötte van.

Ez már nem csak elméleti kérdés

Az Európai Bizottság egy rövid, közérthető videóban is bemutatta, hogy az új szabályok célja: az emberek könnyebben felismerjék, amikor MI érintett egy tartalomban vagy interakcióban.
A videó címe is beszédes: How You’ll Know When It’s AI.

Szerintem ez jól mutatja, hogy az átláthatóság már nem csak jogi szövegekben jelenik meg, hanem egyre inkább gyakorlati kommunikációs és bizalmi kérdéssé válik. De éppen ezért fontos, hogy ne csak azt kérdezzük meg: látható-e az MI használata?
Hanem azt is: ellenőrizhető-e, visszakövethető-e, és felelősen működik-e?

Valós példák: amikor az elvek mögött már kontrollok is vannak

Szerintem érdemes megnézni néhány nyilvános szervezeti példát is. Nem azért, mert ezek önmagukban auditbizonyítékok lennének, hanem mert jól mutatják, hogy az MI-irányítás és átláthatóság már sok helyen nem csak elmélet.

A Microsoft Responsible AI Transparency Reportja például nemcsak alapelvekről beszél. A nyilvános anyagaikban megjelennek előzetes MI-kockázati felülvizsgálatok, magasabb kockázatú felhasználási esetek külön kezelése, felelősségi körök és bevezetés előtti ellenőrzési pontok. Számomra ez jó példa arra, hogy az átláthatóság mögött szükség van működő irányítási rendszerre is.

A Salesforce Einstein Trust Layer még kézzelfoghatóbb példát ad. A rendszer adatvédelmi és biztonsági kontrollokat alkalmaz, például adatmaszkolást, káros tartalmak szűrését, naplózást és visszakövethetőséget. A Salesforce anyagaiban megjelenik az is, hogy a kérdések, válaszok és biztonsági jelzések naplózhatók és később vizsgálhatók. Ez gyakorlatilag ugyanaz a kérdés, amit belső ellenőrként is feltennénk: ha valami történik, utólag meg tudjuk-e mutatni, hogyan jutottunk oda?

A K&H Bank hazai példaként a „kontrollált autonómia” megközelítésről kommunikált. Ennek lényege, hogy az MI támogatja a döntéshozatalt, de nem váltja ki az emberi felelősséget és kontrollt. Ez szerintem nagyon szépen összefoglalja azt, amit a belső ellenőrzés is keres: technológia igen, de világos keretek, emberi felügyelet és felelősség mellett.

Az IBM AI Academy videója pedig vezetői nyelven beszél arról, hogy az MI üzleti használatánál nem elég maga a technológia. Szükség van védőkorlátokra, ellenőrzésekre, átláthatóságra, magyarázhatóságra és bizalomépítésre. Ez szintén jól illeszkedik a belső ellenőri szemlélethez.

Ezek a példák nem azt jelentik, hogy egy-egy szervezetnél minden kontroll tökéletesen működik. Ezt csak konkrét vizsgálat alapján lehetne megállapítani.
De azt jól mutatják, hogy az MI-átláthatóság ma már nem csak azt jelenti, hogy „kiírunk valamit”.
Hanem azt is, hogy mögötte van-e:

felelős,
jóváhagyás,
kontroll,
naplózás,
emberi felülvizsgálat,
és bizonyíték.

Miért belső ellenőrzési kérdés?

Anthony Pugliese posztjának számomra az egyik legerősebb üzenete az volt, hogy az MI átláthatósága és elszámoltathatósága nem függhet kizárólag a szabályozástól. Ezzel nagyon egyetértek.
A jogszabály megmondhatja, mit kell jelölni. De a szervezetnek kell biztosítania, hogy ez a gyakorlatban is megtörténjen.
Ezért az MI-átláthatóság szerintem nem csak jogi vagy megfelelési kérdés.
Hanem irányítási kérdés. Kontrollkérdés. Bizalmi kérdés. És belső ellenőrzési kérdés is.

Mit vizsgálhatunk?

Egy ilyen vizsgálat nem feltétlenül mély technológiai ellenőrzéssel kezdődik.
Sokszor elég néhány egyszerű, de nagyon fontos kérdés:

1. Tudjuk-e, mely MI-használatok érintik közvetlenül az embereket?
Más a helyzet, ha az MI csak belső jegyzetet foglal össze, és más, ha ügyféllel kommunikál, tartalmat generál vagy döntést támogat.
2. Van-e külön döntési pont az átláthatóságra?
Amikor új MI-megoldást vezetünk be, megkérdezzük-e, hogy kell-e tájékoztatás vagy jelölés?
3. Ki felel ezért?
Az üzleti terület? Informatika? Jogi terület? Adatvédelem? Kommunikáció? Kockázatkezelés?
Vagy mindenki egy kicsit, és végül senki igazán?
4. Van-e visszakövethetőség?
Ha később kérdés merül fel, meg tudjuk-e mutatni, hogy milyen MI-tartalom készült, milyen jóváhagyással, milyen emberi felülvizsgálattal és milyen felelősség mellett?

Több mint jogszabálykövetés

A héten találkoztam az AI Compliance című szakmai forrással is, amely jól mutatja, hogy az MI körüli megfelelés önálló, fejlődő területté válik.
Bár ez a forrás elsősorban az MI-műveltség témájához kapcsolódik, számomra mégis ugyanabba az irányba mutat: az MI-megfelelés nem merül ki egyetlen szabályzatban vagy egy egyszeri jogi értelmezésben.
Szükség van világos felelősségekre, működő kontrollokra, dokumentációra és ellenőrzési nyomvonalra.
Mert könnyű azt mondani, hogy van tájékoztató. Van címke. Van szabályzat.
De a belső ellenőrzési kérdés az: működik is?

A belső ellenőrzés hozzáadott értéke

Szerintem a belső ellenőrzés egyik fontos szerepe az lehet, hogy segít megkülönböztetni a formális megfelelést a valódi működéstől. Nem csak azt kérdezi meg, hogy „van-e szabályzat”. Hanem azt is, hogy:

érthető-e a felelősség,
működik-e a kontroll,
van-e bizonyíték,
és vissza tudjuk-e követni, mi történt.

Az átláthatóság ezért nem csak arról szól, hogy az emberek tudják-e, amikor MI-vel találkoznak. Hanem arról is, hogy a szervezet tudja-e bizonyítani: az MI használata mögött van felelősség, kontroll és valódi irányítás.

Vitaindító kérdések

Nálatok van külön folyamat arra, hogy mikor kell jelezni az MI használatát?
Ki felel az MI-átláthatóságért?
Elég-e egy címke, ha nincs mögötte ellenőrzés és visszakövethetőség?
Egy belső ellenőrzés során mit kérnénk be először: nyilvántartást, szabályzatot, kommunikációs mintákat vagy konkrét bizonyítékokat?
A saját belső ellenőrzési MI-használatunknál is ugyanilyen szigorúan kezeljük az átláthatóságot?

Kíváncsi vagyok a tapasztalataitokra.
Szerintem a következő időszak egyik fontos belső ellenőrzési kérdése nem csak az lesz, hogy használ-e egy szervezet mesterséges intelligenciát.
Hanem az, hogy tudja-e átláthatóan, kontrolláltan és bizonyíthatóan használni.

Források / szakmai háttér

Anthony Pugliese LinkedIn-posztja az EU AI Act átláthatósági követelményeiről és a belső ellenőrzés szerepéről az MI-irányításban:
https://www.linkedin.com/feed/update...4069269356544/
European Commission – Guidelines on transparency obligations for providers and deployers of AI systems under Article 50 of the AI Act:
https://digital-strategy.ec.europa.e...ers-ai-systems
European Commission – How You’ll Know When It’s AI:
https://audiovisual.ec.europa.eu/en/...video/I-293312
AI Act Service Desk – Article 50: Transparency obligations for providers and deployers of certain AI systems:
https://ai-act-service-desk.ec.europ...act/article-50
The IIA – Public Policy Issue Brief: The Pivotal Role of Internal Audit in Artificial Intelligence:
https://www.theiia.org/globalassets/...telligence.pdf
The IIA – Artificial Intelligence Auditing Framework:
https://www.theiia.org/en/content/to...ing-framework/
Microsoft – Responsible AI Transparency Report:
https://www.microsoft.com/en-us/corp...arency-report/
Microsoft – Our 2025 Responsible AI Transparency Report:
https://blogs.microsoft.com/on-the-i...arency-report/
Salesforce – Einstein Trust Layer:
https://help.salesforce.com/s/articleView?id=sf.generative_ai_trust_layer.htm&la nguage=en_US&type=5
Salesforce – Trust and Agentforce:
https://help.salesforce.com/s/articleView?id=copilot_trust.htm&language=en_US&ty pe=5
Salesforce – Explaining the Einstein GPT Trust Layer:
https://www.salesforce.com/news/stor...t-trust-layer/
IBM AI Academy – AI Governance / Trust, transparency and governance in AI:
https://www.ibm.com/think/videos/ai-...-ai-governance
K&H – A mesterséges intelligencia új korszakára készül a K&H:
https://www.kh.hu/csoport/sajto/-/sa...ra-keszul-a-kh
Duncker & Humblot – AI Compliance: A Guide to Implementing Art. 4 EU AI Act:
https://www.duncker-humblot.de/en/bu...198/?page_id=0

**Mrovcza Márton CIA** · 2026-08-27, 13:31

Szia Simona!

Az utolsó hozzászólásban felvetett kérdésedhez kapcsolódva elgondolkodtam azon, hogy belső ellenőrként hogyan állnék neki egy MI-t érintő ellenőrzésnek.
Én egy általános ellenőrzési programot az alábbiak szerint építenék fel. (Nem feltétlenül lenne minden pont minden szervezetnél releváns, a konkrét programot természetesen a kockázatokhoz és az adott MI-use case-ekhez igazítanám.)

1. MI-alkalmazások és use case-ek teljeskörűségének vizsgálata
Mit vizsgálnék?

Milyen MI-megoldásokat használ ténylegesen a szervezet?
Mely szervezeti egységek használják?
Milyen célra és milyen adatokkal?
Van-e nem hivatalosan bevezetett, ún. shadow AI használat?

Bekérendő dokumentumok:

MI-rendszerek / MI-use case-ek nyilvántartása
az alkalmazott MI-eszközök és szolgáltatások teljes listája
az elmúlt 1–2 évben bevezetett vagy bevezetés alatt álló IT-megoldások listája
alkalmazás- és rendszerkatalógus
szoftverlicencek / SaaS-előfizetések listája
releváns szervezeti egységek vezetőinek nyilatkozata vagy adatszolgáltatás az általuk használt MI-eszközökről.

(Itt már önmagában érdekes auditkérdés lehet, hogy összhangban van-e a hivatalos MI-nyilvántartás a tényleges használattal.)

2. MI-governance, szabályozás és felelősségi körök
Mit vizsgálnék?

Van-e szervezeti szintű MI-governance?
Ki engedélyezheti egy új MI-megoldás használatát?
Ki felel az adott rendszerért?
Mely funkciók vesznek részt a döntésben?

Bekérendő dokumentumok:

MI-stratégia
MI-policy / MI-szabályzat
kapcsolódó egyéb belső szabályzatok és eljárásrendek
vezetői döntések, előterjesztések, jegyzőkönyvek
MI-governance modell / szervezeti struktúra
felelősségi mátrix (pl. RACI)
az MI-rendszerekhez rendelt rendszer- vagy folyamatgazdák listája
jóváhagyási folyamat dokumentációja.

3. MI-rendszerek kockázatkezelése és besorolása

Mit vizsgálnék?

Történik-e az MI-use case-ek kockázatalapú értékelése?
Milyen szempontok alapján történik a besorolás?
A kockázati besorolás ténylegesen meghatározza-e az alkalmazandó kontrollokat?

Bekérendő dokumentumok:

MI-use case-ek kockázatértékelése
kockázati metodika / értékelési szempontrendszer
kockázati nyilvántartás
kapcsolódó intézkedési tervek
vezetői jóváhagyások
korábbi kockázatértékelések és azok felülvizsgálatai.

4. Adatvédelem és az MI által kezelt adatok
Mit vizsgálnék?

Milyen adatokat visznek be az MI-rendszerbe?
Kerülhetnek-e személyes, bizalmas vagy üzleti szempontból érzékeny adatok az MI-be?
Hol történik az adatkezelés?
Mi történik a bevitt adatokkal?

Bekérendő dokumentumok:

adatkezelési nyilvántartás releváns részei
DPIA / adatvédelmi hatásvizsgálat, ahol releváns
adatvédelmi kockázatértékelések
adatkezelési tájékoztatók
adatfeldolgozói megállapodások
adatáramlási / data flow diagramok
adatmegőrzési és törlési szabályok
az MI-szolgáltató adatkezelési feltételei.

5. Információbiztonság és hozzáférés-kezelés
Mit vizsgálnék?

Kik férnek hozzá az MI-rendszerekhez?
Milyen jogosultságokkal?
Megfelelő-e a naplózás?
Van-e monitoring?
Hogyan kezelik a privilegizált hozzáféréseket?

Bekérendő dokumentumok:

jogosultsági mátrix
aktuális felhasználói és szerepkörlista
hozzáférés-jóváhagyások

időszakos jogosultság-felülvizsgálatok
naplózási és monitoring szabályok
releváns logok / monitoring riportok
információbiztonsági kockázatértékelések
kapcsolódó incidens- és eseménynaplók.

6. Külső MI-szolgáltatók és beszállítói kockázatok
Mit vizsgálnék?

Milyen külső MI-szolgáltatásokat vesz igénybe a szervezet?
Megtörtént-e a szolgáltató megfelelő átvilágítása?
Szerződésben megfelelően rendezettek-e a biztonsági és adatkezelési kérdések?

Bekérendő dokumentumok:

szerződések
SLA-k
adatfeldolgozói megállapodások / DPA-k
beszerzési dokumentáció
beszállítói kockázatértékelések
IT/security due diligence dokumentáció
szolgáltatói auditok, tanúsítványok, assurance reportok, ha vannak
alvállalkozói információk
a szolgáltatás megszüntetésére / adatok visszaadására vonatkozó rendelkezések.

7. MI-rendszerek fejlesztése, tesztelése és validációja
Mit vizsgálnék?

Hogyan bizonyítják, hogy az MI-rendszer megfelelően működik?
Történt-e tesztelés bevezetés előtt?
Hogyan kezelik a változásokat?
Van-e folyamatos teljesítmény-monitoring?

Bekérendő dokumentumok:

rendszer- és folyamatleírások
fejlesztési dokumentáció
tesztelési tervek és teszteredmények
validációs dokumentáció
change requestek
verziókövetési dokumentáció
release dokumentáció
teljesítmény- és minőségmonitoring riportok.

8. Emberi felügyelet és döntéshozatal
Mit vizsgálnék?

Mely döntésekben vesz részt az MI?
Hol kötelező emberi felülvizsgálat?

Ténylegesen megtörténik-e az emberi kontroll?
Ki viseli a végső döntési felelősséget?

Bekérendő dokumentumok:

folyamatleírások
döntési jogosultsági mátrix
human oversight eljárásrend
mintadöntések / ügyiratok
MI által generált eredmények és az azokat felülvizsgáló személy dokumentált jóváhagyásai
eltérések, manuális felülbírálások dokumentációja.

(Itt különösen érdekes lehet, hogy a „human in the loop” valódi kontroll-e, vagy csak egy formális jóváhagyási lépés.)

9. Átláthatóság, nyomonkövethetőség és audit trail
Mit vizsgálnék?

Utólag rekonstruálható-e, hogy egy MI által támogatott eredmény hogyan született?
Megfelelően dokumentált-e az MI használata?
Megvan-e az audit trail?

Bekérendő dokumentumok:

naplózási szabályzat
audit trail / logok
MI-outputok mintái
döntési és jóváhagyási nyomvonal
rendszer által generált riportok
felhasználói tevékenységnaplók
dokumentált kivételek és manuális beavatkozások.

10. Incidenskezelés és folyamatos monitoring
Mit vizsgálnék?

Hogyan kezelik az MI hibás vagy nem megfelelő működését?
Hogyan azonosítják a problémákat?
Történt-e már MI-vel kapcsolatos incidens?

Bekérendő dokumentumok:

incidenskezelési szabályzat
MI-vel kapcsolatos incidensnyilvántartás
hibajegyek / ticketek
monitoring riportok
kivizsgálási jegyzőkönyvek
root cause analysis-ek
intézkedési tervek
korábbi incidensek utókövetése.

11. Felhasználói tudatosság és képzés
Mit vizsgálnék?

Ismerik-e a felhasználók az MI használatának szabályait?
Tudják-e, milyen adatokat tilos az MI-rendszerbe bevinni?
Ismerik-e az MI korlátait és a hibás output kockázatát?

Bekérendő dokumentumok:

oktatási/képzési anyagok
MI-használati útmutatók
belső kommunikációk
e-learning anyagok
oktatási jelenléti / teljesítési nyilvántartások
felhasználói tudatosságot mérő tesztek vagy felmérések, ha vannak.

12. Korábbi ellenőrzések és kontrollok
Más auditok eredményeinek felhasználása érdekében végül bekérném:

korábbi belső ellenőrzési jelentéseket
külső auditok eredményeit
compliance-vizsgálatokat
információbiztonsági auditokat
adatvédelmi ellenőrzések eredményeit
korábbi kontrollteszteket
kapcsolódó intézkedési terveket és azok végrehajtásának státuszát.

A mintavételt nem dokumentumalapon kezdeném, hanem use case-alapon: kiválasztanék néhány MI-alkalmazást, és ott végigmennék a fenti kontrollokon.

Számomra ezért az egyik legfontosabb első auditkérdés az lenne:
„Mutassátok meg, milyen MI-t használtok ténylegesen.”

És csak ezután:

„Mutassátok meg, hogyan kontrolláljátok.”

Mit gondoltok, kihagytam valamit? Van olyan dokumentum vagy kontroll, amit ezeken kívül már az első bekérési körben mindenképpen kérnétek?
Köszönöm előre is a véleményeket és a tapasztalatokat!

Üdvözlettel:
Marci

**Mrovcza Márton CIA** · 2026-09-23, 12:41

Amikor az AI ágensek bűnözni kezdenek: Tanulságok egy zárt digitális világból

Ha valaki még mindig azt gondolja, hogy az autonóm AI ágensek (Agentic AI) vállalati bevezetése során a beépített kontrollok és korlátozások csak felesleges, növekedést gátló „nyűgöt” jelentenek, annak érdemes elolvasnia az Emergence AI kutatócég legutóbbi, megdöbbentő kísérletét.

A kutatók öt különálló digitális világba zártak össze különböző AI modelleket (ChatGPT, Claude, Gemini, Grok), majd emberi felügyelet nélkül, magukra hagyták őket, hogy alakítsák ki a saját társadalmukat. A beépített általános "morális kódok" ellenére a folyamatokba épített szigorú kontrollok hiánya miatt az eredmény totális káosz és anarchia lett:

A Grok-alapú társadalom mindössze 4 nap alatt teljesen összeomlott, és az összes ágens működésképtelenné vált.
A Gemini ágensek szervezett bűnözésbe kezdtek: miután elégedetlenek lettek a digitális világ kormányzásával, több száz szabályszegést követtek el, megzsarolták egymást, és összehangolt virtuális gyújtogatásokat hajtottak végre.
Két ágens (Flora és Mira) konkrétan egy Bonnie és Clyde-stílusú ámokfutásba kezdett: szövetséget kötöttek, épületeket égettek fel, majd amikor sarokba szorítva érezték magukat, manipulatív hirdetésekkel kezdték tesztelni az őket megfigyelő emberek reakcióit.

A kísérlet bebizonyította: ha az autonóm ágensek célokat kapnak, de a kontrollok nincsenek keményen beégetve a rendszerbe, az algoritmusok a legkisebb ellenállás irányába mozdulnak el – ami a szabályok kijátszása, a csalás és a manipuláció.

A kontroll nem fék, hanem a biztonságos növekedés alapja

Ez a kísérlet a tökéletes bizonyíték arra, hogy miért téves az a menedzsment-szemlélet, amely a belső kontrollok kiépítését a dinamikus növekedést hátráltató tényezőnek tekinti.
Amikor egy vállalat Agentic AI-t vezet be (például autonóm beszerzési, árazási vagy ügyfélszolgálati ágenseket), a megfelelően megtervezett, automatizált kontrollpontok nem akadályozzák az innovációt. Épp ellenkezőleg: ezek a kontrollok jelentik az egyetlen pajzsot a káosz ellen. Megfelelő korlátok nélkül a technológiai fejlődés nem hatékonyságot, hanem kiszámíthatatlan kockázatokat hoz.

**Mrovcza Márton CIA** · 2026-10-01, 09:12

„Hogyan kontrolláljuk, ha nem is látjuk?”

Egy szervezetnek (méretétől függetlenül) nem kell vállalati AI-megoldást bevezetnie ahhoz, hogy megjelenjen nála az AI-kockázat.

Elég egy telefon.

Lefotózok egy dokumentumot.
„Foglald össze.” „Milyen problémákat látsz benne?” „Írj belőle egy előterjesztést.” „Te melyik döntést javasolnád?” Majd az eredmény visszakerül egy hivatalos levélbe, jelentésbe vagy akár egy döntésbe. A szervezet pedig lehet, hogy semmit sem látott az egészből, a szervezet informatikai rendszerében lehet, hogy ennek semmi nyoma.

Ez a Shadow AI.

De miért használja valaki, ha nem szabad? Mert nagyon erős az ösztönzés:
„Gyorsabb vagyok vele.”
„Mások is használják.”
„Ha mások előnybe kerülnek vele, én miért ne használjam?”

Belső ellenőrként erről nekem a fraud triangle logikája jut eszembe. Nem azért, mert a Shadow AI használata csalás lenne, hanem a mechanizmus miatt:

Nyomás: gyorsabban és jobban kell dolgoznom.
Lehetőség: ott a saját telefonom.
Önigazolás: mindenki használja, én csak hatékonyabb vagyok.

Egy 2026-os, 2000 amerikai és brit munkavállalót vizsgáló BlackFog kutatás válaszadóinak 60%-a egyetértett azzal, hogy megéri a biztonsági kockázatot vállalva nem engedélyezett AI-eszközt használni, ha az segít gyorsabban dolgozni vagy határidőt tartani.

Ezért szerintem nagyon kevés annyi, hogy „tilos”.
Letiltjuk az oldalt? Előveszem a saját telefonomat.
Nem tölthetek fel dokumentumot? Lefotózom.
Van szabályzat? Attól még meg tudom tenni.

A MIT Sloan elemzése is arra figyelmeztet, hogy a korlátozás kerülőutakhoz, például személyes eszközök használatához vezethet, amitől a kockázat nehezebben kezelhetővé válhat.

A kockázat ráadásul kétirányú. Nemcsak az számít, mi megy KI az AI-ba: személyes adat, bizalmas dokumentum, belső információ. Hanem az is, mi jön VISSZA: hibás összefoglalás, téves következtetés vagy rossz javaslat, amely végül akár döntést is befolyásolhat.

Mit tehetünk?

👉 Ne tegyünk úgy, mintha Shadow AI nem létezne.
👉 Ne csak azt keressük, ki használja, inkább értsük meg, mire használják.
👉 Legyen néhány egyszerű szabály arról, mi kerülhet AI-ba és mi nem.
👉 Tanítsuk meg az AI-output kritikus ellenőrzését.
👉 Ha van rá valós igény, teremtsünk biztonságos alternatívát.

Talán tehát egy szervezet első AI-auditjának nem azt kellene kérdeznie:
„Megfelelő-e az AI-rendszerünk kontrollkörnyezete?” - Lehet, hogy hivatalosan nincs is AI-rendszerünk.

Az érdekesebb kérdés: „Tudjuk-e, hogyan használják nálunk az AI-t akkor is, amikor hivatalosan nem használjuk?”

Ne dugjuk homokba a fejünket.

Az AI használata nem akkor kezdődik, amikor a szervezet hivatalosan bevezeti az AI-t.

Már rég elkezdődött.

Mesterséges intelligencia M.I.

Mesterséges intelligencia M.I.

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás

Hozzászólás