Interjú dr. Kovács Zoltán alezredessel, a Mesterséges Intelligencia kutatás vezetőjével
A Mesterséges Intelligencia (MI) és más technológiák jelentős mértékben átalakították a jelenlegi gazdasági és társadalmi rendszereket. E változások értékelése, elemzése, az ehhez szükséges alkalmazkodás vizsgálata alól egyetlen ország sem vonhatja ki magát, hiszen az új technológia feltételezi a részvételt a technológia alkalmazásában. A helyzet jobb megértése érdekében a Honvédelmi Minisztérium átfogó, külső kutatók által támogatott hároméves kutatási programot indított, amelynek vezetője dr. Kovács Zoltán alezredes. Őt kérdeztük a kutatásról.
Trautmann László: Napjainkban jelentős technológiai átalakulás folyik, amit hívnak 4. ipari forradalomnak vagy az automatizálásnak is. Miért pont a mesterséges intelligenciát érdemes kiemelni ebből a változásból? Miben tér el a mesterséges intelligencia a korábbi technológiai átalakulásoktól, esetleg a hagyományos algoritmustól vagy a szoftvertől?
Kovács Zoltán: A Mesterséges Intelligencia (MI) története szorosan véve is több évtizedre tekint vissza. A technológia fejlődésével több hullámban a túlfűtött várakozások megjelenése és az ezeket követő elkerülhetetlen csalódás jellemezte az elmúlt bő 60 évet. A korábban tapasztalható hullámzás nem kis részben kommunikációs hiányosságokra vezethető vissza. A rendszerek fejlesztői és lehetséges felhasználói nem értették meg egymás szükségleteit és lehetőségeit, ezért nem alakult ki összhang a fejlesztők és felhasználók között. Szintén fontos tényező volt a korábbi MI fellendülések bukásában a technológia hiányossága. Az MI korábbi szakaszaiban sem a hardware, sem a software nem állt rendelkezésre a technológia hatékony kifejlesztésére és alkalmazására. A harmadik tényező, ami a korábbi hullámokban gátolta a sikert a rendelkezésre álló és feldolgozható adat korlátozott mennyisége, ami nem volt elegendő a MI rendszerek hatékony üzemeltetéséhez. A társadalmi és technológiai fejlődés következtében mindhárom területen döntő haladást sikerült elérni. A fejlett képzési lehetőségek és az internet kedvező hatásai javítottak a felhasználók és fejlesztők közti megértésen. A technológiai fejlesztések következtében a hardware már jelenlegi állapotában is alkalmas fejlett MI alkalmazások futtatására és a software esetében is jelentős fejlődést sikerült elérni, elsősorban a neurális hálók kiterjedt alkalmazásával. Végül szintén a technológiai fejlődés következménye, hogy az olcsó és fejlett szenzorok által szolgáltatott nagy mennyiségű adat, illetve a hozzá rendelt feldolgozó kapacitás is megfelelően képes támogatni a technológia további fejlődését.
A mesterséges intelligencia kutatása és alkalmazása ugyan az emberi történelemben először hatékony eszközzé vált, mégis csupán a kezdeti lépéseket tesszük a területen. Az én értelmezésemben a gépi tanulás az, ami megkülönbözteti a jelenleg megjelenőfélben lévő „okos” technológiát a korábban rendelkezésre álló „buta” változattól. A különbség lényege szerintem abban áll. hogy az ember által eddig létrehozott eszközök az emberi tevékenység hatására jöttek létre. Még a közelmúlt rendkívül kifinomult eszközeire is igaz, hogy mindegyik mögött van legalább néhány ember, aki pontosan érti annak működését és képes azt érdemben befolyásolni. Az öntanuló MI rendszerek tulajdonsága, hogy a fejlődésük olyan sajátos belső szabályokon alapul, amelyeket egyre nehezebb emberi fogalmakkal leírni, illetve azokat megérteni és befolyásolni. Ezért véleményem szerint hibás az MI rendszerekre puszta eszközként tekinteni, hiszen a működésük lényege, hogy önállóan – emberi beavatkozás nélkül – képesek változni, csupán az általuk feldolgozott adatok hatására. Ebből adódóan fontos felismerni, hogy az MI megjelenésével olyan új minőség került az ember látókörébe, amit nem lehet a korábbi dogmák szerint értelmezni; és az MI által jelentett kockázatok kezelésére alapvetően új megoldásokat kell találni.
Trautmann László: A mesterséges intelligencia kutatások során gyakran megjelenik az a veszély, hogy az ember elveszti a szabadságát a géppel szemben. Osztja ezt a nézetet, vagy nem lát ilyen veszélyforrást?
Kovács Zoltán: Nem hiszek abban, hogy a MI eredendően gonosz lenne, ami szükségszerűen világuralomra tör az ember ellenében. Ez a nézet technológia antropomorfizálásából fakad, amikor az emberi tulajdonságokat (gyengeségeket) kivetítjük a gépekre. Harari professzorral egyetértve valószerűbb veszélynek tartom az ember relevanciavesztését. Már jelenleg a mindennapokban is felfedezhető tendencia az emberi döntéshozatal átruházása algoritmusokra. Példaként lehet említeni a különböző navigációs alkalmazásokat, vagy a google-nak a felhasználó megfigyelésén alapuló célzott reklámterjesztési tevékenységét. Az ezekhez hasonló alkalmazásokban közös, hogy a nagy mennyiségű adat feldolgozásából adódóan egyre nagyobb pontossággal működnek, ezért az átlag felhasználó egyre több esetben engedi át a döntést a gép javára. Arra számítok, hogy ez a tendencia a jövőben gyorsulva folytatódik. Az a tény, hogy a Föld élővilágában az ember került hegemón pozícióba, az ember kiemelkedő kognitív képességeinek, azaz döntéshozatali potenciáljának a következménye. Ha lemondunk a döntéshozatali lehetőségünkről, vagy elveszítjük azt, azzal a világ alakítására szerzett befolyásoló képességünket is elveszítjük.
Trautmann László: A mesterséges intelligencia kutatások komoly nemzetbiztonsági dilemmákat is felvetnek. Hol lát ilyen kockázatokat, és ezek megoldásához mennyire szükséges nemzetközi kooperáció? Ezeket csak globális szinten lehet megoldani, vagy katonai szövetségek esetleg nemzetállami szinten is lehetnek hatékony megoldások? Hol tart ma a világ ezeknek a megoldásoknak a megtalálásában? Ki egyébként ma már az igazi veszélyforrás: a magányos hacker vagy a terrorista hálózatok vagy voltaképpen visszatértünk a nemzetállamok egymás közötti háborújához, csak éppen a kibertérben?
Kovács Zoltán: A kérdés rendkívül összetett, ezért csak vázlatosan, a teljesség igénye nélkül tudom röviden megválaszolni.
A technológiai fejlődésből adódóan a legnagyobb kockázatot abban látom, hogy egy ország, vagy cégcsoport jelentős előnyre tesz szert a versenytársaihoz képest a technológiai fejlesztésekben, és ezt az innovációba visszaforgatva behozhatatlan előnyre tesz szert, miáltal hegemón helyzetbe kerül. Ezen folyamat következtében a jelenleg fennálló erőviszonyok rövid idő alatt alapvetően átrendeződhetnek. Komoly fenyegetés, hogy egyes országok akár fegyveres erőszakkal is megkísérelhetik egy-egy versenytársuk hasonló előretörését.
A nemzetbiztonsági tevékenység – nevéből adódóan – elsősorban az egyes országok nemzeti hatáskörébe tartozik. A nemzetközi közösség anarchikus környezetében minden állam fenntartja magának a jogot a számára érzékeny témák bizalmas kezelésére. Ez igaz az MI technológia szakmai alkalmazására is. A nemzetállamok igyekeznek önálló technológiákat kidolgozni, hogy ne legyenek ráutalva érzékeny területeken külső partnerekre. Az egyes – érdekeken, vagy értékeken alapuló – szövetségeken (pl: NATO) belül kialakult együttműködés lehetővé teszi, hogy a tagok, szuverenitásuk megőrzése mellett, a közösség érdekében együttesen kezeljenek bizonyos, a nemzetbiztonságot érintő tényezőket. A globális nemzetközi rendszerben az államok és szövetségek eltérő mértékben, de egyaránt jelen vannak.
A helyzet érzékenységéből adódóan a probléma globális kezelésére korlátozottak a lehetőségek. Minden állam és szövetség igyekszik a saját érdekei érvényesítésére és a fennállását veszélyeztető kockázatok minimalizálására. A globális együttműködés elsősorban e két tényező köré építhető fel.
Fentiekből adódóan a nemzetállamok vetélkedése valóban tetten érhetően kiterjedt a kibertérre is, ami a biztonság minden területét befolyásolja. A nemzetállami rendszer továbbra is létezik, ezért az államok biztonsági szempontból továbbra is egymást tekintik fő veszélyforrásnak. A helyzet a hidegháború óta azonban megváltozott. Akkor a tömegpusztító fegyverek birtoklása jelentette a legnagyobb garanciát a saját biztonságra. Mivel az ilyen eszközök kifejlesztése és fenntartása jelentős anyagi teherviselést követel, kevés állam választotta az érdekérvényesítés ezen alapuló formáját. A tömegpusztító fegyverekkel rendelkező országok alacsony száma viszonylag megkönnyítette az egyeztetést és ellenőrizhetővé tette a fegyverek korlátozását. A MI kifejlesztése arányaiban kisebb költségráfordítást igényel, emellett a civil területen is profittal alkalmazható, ezért a hidegháborúhoz képest lényegesen több ország szállt be a fejlesztési versenybe, sőt olyan nagyvállalatok is megjelentek a színen, amelyek sok országnak reális versenytársai lehetnek. Az egyéni hacker, vagy terrorista is képes ugyan jelentős károkat okozni, de rendszer szintű kockázatot véleményem szerint az államok és az óriáscégek jelentenek egymásra.
A helyzet kezelésére a korábbi eszköztárakból a bizalomerősítés lehet a megoldás.
Trautmann László: A mesterséges intelligencia sérülékenységének kivédésében új munkamegosztás rajzolódik ki az állampolgárok és az állam között. Hogyan lehet ösztönözni a “kibertudatosságot”, és ez kinek a feladata elsősorban: a szolgáltató cégeké vagy a nemzetbiztonsági szolgálatoké?
Kovács Zoltán: Ebben a kérdésben számomra az egyéni felelősség szerepe rajzolódik ki leghatározottabban. A felhasználóknak tudatosan és proaktívan kell mozogni az új technológiák jelentette térben. Az állam szerepét elsősorban abban látom, hogy olyan jogszabályi környezetet teremtsen a magánvállalatok számára, ami megakadályozza, hogy azok az erőfölényükkel visszaélve aránytalanul kedvezőtlen helyzetbe hozzák a fogyasztókat. A rendvédelmi szervezetek és a nemzetbiztonsági szolgálatok szerepe a kérdésben a bűnözői és a (külső vagy belső) államellenes tevékenység előrejelzésére és felfedésére korlátozódik.
Trautmann László: A kutatás nyitó konferenciáján hangsúlyozta, hogy a kutatóknak, akik között egyébként elenyésző számban vannak kifejezett biztonságpolitikai kérdésekkel foglalkozók, nem szükséges biztonságpolitikával foglalkozniuk. Miért lehet érdekes ilyen “civil” kutatás a biztonságpolitikai kutatásokban?
Kovács Zoltán: A biztonsági tanulmányok, mint tudományterület nem elszigetelten létezik a világban és főleg nem öncélúan kutatja a saját területéhez kapcsolódó tényeket és történéseket. Korábban is igaz volt a „minden mindennel összefügg” közhely, de a fejlett technológia és a globalizáció által meghatározott világunkban a holisztikus szemlélet jegyében egyre nagyobb figyelmet kell fordítani az egyes tudományterületek egymásra hatására. Ennek legkézenfekvőbb módja az interdiszciplináris kutatások vezetése, amelyek az együttműködés eredményeként képesek lehetnek a valóságot jobban megközelítő tudományos eredmények felfedésére. Bízom benne, hogy a kutatásunk ilyen lesz és valós eredményekkel járul hozzá a mindannyiunkra váró jövő megismeréséhez.
Köszönöm a beszélgetést