Mesterséges intelligencia a logisztikában: hogyan ellenőrizhető egy gépi döntés?

A készletgazdálkodástól az útvonaltervezésen át a kapacitások elosztásáig egyre több döntést támogatnak algoritmusok az ellátási láncban. Ezek a rendszerek gyorsabbá tehetik a működést, de csak akkor, ha egy vitatott helyzetben utólag is rekonstruálható, milyen adatok és jóváhagyási lépések vezettek az eredményhez.

Korábbi, az MI ellátási láncban jelentkező kockázatait bemutató elemzésünk arra hívta fel a figyelmet, hogy a megbízhatóság az adatminőségen és az érdemi emberi felügyeleten múlik. A gyakorlatban azonban az is kulcskérdés, mit kell naplózni, ki bírálhatja felül az algoritmust, és miből látható, ha az emberi kontroll már csak formálisan működik.

A jó döntés és a szerencsés döntés kívülről könnyen ugyanolyannak tűnhet. Egy időben célba érő szállítmány önmagában még nem bizonyítja, hogy az MI megfelelő adatokból és ellenőrzött folyamatban jutott az ajánláshoz. A különbség késés, kár, ügyfélpanasz vagy biztosítói vizsgálat esetén válik fontossá.

A mesterséges intelligencia kockázatai ráadásul nem korlátozódnak a modellre. Adatmérgezéskor elegendő hibás kapacitás-, készlet- vagy menetidőadatokat juttatni a rendszerbe. A védekezés ezért az adatforrások, a partneri kapcsolatok és a jogosultságok ellenőrzésével kezdődik.

Legalább négy elemet: a bemeneti adatokat, a használt modell vagy szoftver verzióját, az ajánlás tartalmát, valamint azt, ki fogadta el vagy bírálta felül. Így utólag elkülöníthető, hogy a hiba az adatban, a modellben, az integrációban vagy a jóváhagyási folyamatban keletkezett.

A human-in-the-loop modell nem attól működik, hogy valaki formálisan rákattint a „jóváhagyás” gombra. A döntéshozónak megfelelő információval, szakmai tudással, idővel és tényleges felülbírálati jogkörrel is rendelkeznie kell.

A kontroll kiüresedésére két mutató figyelmeztethet. Ha a felülbírálati arány tartósan nulla közeli, érdemes megvizsgálni, valóban kiváló-e a modell, vagy a jóváhagyás vált rutinszerűvé. Ugyanilyen árulkodó lehet, ha összetett fuvarszervezési ajánlásokat rendszeresen néhány másodperc alatt fogadnak el. Ezek a jelek nem bizonyítanak hibát, de megmutatják, hol szükséges közelebbről ellenőrizni a folyamatot.

Nemcsak az algoritmust, hanem a köré épített infrastruktúrát is vizsgálni kell. Az API-k, a vállalatirányítási rendszer kapcsolatai, a partneri adatcsatornák és a jogosultságok sokszor nagyobb támadási felületet jelentenek, mint maga a modell.

A tesztelésnek arra is ki kell térnie, hogyan reagál a rendszer hiányos vagy félrevezető bemenetre. Jelez-e szokatlan adat esetén? Biztonságosan leáll-e, ha egy fontos forrás elérhetetlenné válik? Egyértelmű-e, mikor kell a folyamatot emberi döntésre visszaadni? A sérülékenységvizsgálat és az információbiztonsági ellenőrzés ezért az MI bevezetésének is fontos része lehet.

Az uniós jogalkotók 2026 júniusában elfogadták a magas kockázatú MI-rendszerekre vonatkozó fő szabályok halasztását. A Tanács június 29-i végleges jóváhagyása szerint a III. melléklet alapján magas kockázatúnak minősülő önálló rendszereknél 2027. december 2., a szabályozott termékekbe épített rendszereknél pedig 2028. augusztus 2. lesz az alkalmazás kezdete.

Ez azonban nem jelent általános haladékot: az átláthatósági szabályok egy része továbbra is 2026. augusztus 2-től alkalmazandó. A már ezt megelőzően piacra helyezett, szintetikus tartalmat előállító rendszerek szolgáltatói a gépi jelölésre vonatkozó követelmény teljesítésére 2026. december 2-ig kapnak átmeneti időt. Az AI-szabályozás magyarországi végrehajtási kerete is létrejött, ezért a vállalatoknak már most érdemes tisztázniuk, milyen döntéseket támogat vagy hoz meg náluk az MI.

A halasztás tehát nem indok a várakozásra. A vállalatoknak már most érdemes feltérképezniük, mely döntési pontokon támaszkodnak MI-re, milyen adatokból dolgozik a rendszer, hogyan követhetők vissza az ajánlások, és ki jogosult azok felülbírálatára. Minél korábban derülnek ki a folyamat gyenge pontjai, annál kisebb az esélye annak, hogy egy hibás vagy nem rekonstruálható gépi döntés működési, megfelelési vagy biztonsági problémát okozzon.

Az MI bevezetését nem pusztán technológiai projektként, hanem irányítási és információbiztonsági feladatként célszerű kezelni. A ProMan Consulting díjmentes információbiztonsági érettségfelmérése segíthet feltárni az adatkezelés, a naplózás, a jogosultságok és az emberi felügyelet gyenge pontjait, az AI-tanácsadás pedig a szervezeti bevezetést támogatja.