A vasúti iparág is rohamléptekkel integrálja a mesterséges intelligenciát, de egy biztonságkritikus környezetben a megbízhatóság nem képezheti alku tárgyát. Miközben a technológiai szektor nagy része az autonóm ágensek bűvöletében él, az ellenőrizetlen „feketedoboz” alapú működés a nagy kockázatú rendszerekben hatalmas felelősségi teher. Ahhoz, hogy az MI-t biztonságosan alkalmazhassuk a vasúton, garantálnunk kell a teljes transzparenciát.

Ebben az előadásban bemutatom, hogyan építjük ki az MI-biztonságot a Siemens Mobility-nél. A hallgatóság betekintést nyer egy belső pilot projektünkbe, egy vállalati tudásgráf alapú chatbotba, amelyet komplex szakmai kérdések megválaszolására terveztünk. Az egyszerű LLM scriptekről a megszakítható, Human-in-the-Loop (HITL) koncepciót támogató állapotgépekre történő átállással egy olyan rendszert alkottunk meg, amely teljes megfigyelhetőséget (observability) biztosít az MI döntéshozatala felett. A rendszer detektálja, mikor nem rendelkezik elegendő információval a biztonságos válaszadáshoz, és ahelyett, hogy hallucinálna, leáll, és riaszt egy emberi szakértőt. Ennek kapcsán az előadásban három alapvető mérnöki kihívás megoldását mutatom be: a megfigyelhetőség biztosítását, a bizonytalanság számszerűsítését és a szüneteltetés bevezetését aszinkron folytatással.

Ezen védőkorlátok alkalmazásának hosszú távú értékét is megvizsgáljuk, kitekintve azokra a kihívásokra, amelyeken csapatunk jelenleg is dolgozik. Ilyen például a generatív fizikai mérnöki tervezés, azon belül is a vonatok akkumulátorainak MI-támogatott tervezése.

Hodvogner Szilvia mérnökinformatikus mesterdiplomával rendelkezik, mesterséges intelligenciára és biztonságkritikus rendszerek tervezésére specializálódva. Széleskörű tapasztalatot szerzett kutatásorientált és tanácsadó cégeknél, ahol prediktív modellek, NLP (természetes nyelvfeldolgozás) megoldások és GenAI alkalmazások széles körét fejlesztette. Jelenleg a Siemens Mobility mesterséges intelligencia szakértőjeként dolgozik, fő fókusza az AI-megoldások kísérleti prototípusokból megbízható, éles használatra alkalmas vállalati rendszerekké történő átalakítása.