Interjú dr. Csáki Csaba egyetemi docenssel, a Budapesti Corvinus Egyetem Adatelemzési és Informatikai Intézetének munkatársával
2023. szeptember 5-7 között rendezték az IFIP (International Federation for Information Processing) eGov-CeDEM-ePart éves nemzetközi konferenciáját, ami az információs technológiák közpolitikai használatáról és szabályozásáról szólt. A konferencia házigazdája dr. Csáki Csaba egyetemi docens volt, akit a konferencia mellett az info-kommunikációs technológiák jelenlegi állásáról is kérdeztünk.
Világpolitika és közgazdaságtan: Jelentős nemzetközi konferenciát rendeztek a BCE-n e-kormányzat, e-demokrácia és e-részvétel témában. Mi volt a konferencia fő üzenete, hogyan tudja segíteni az IKT technológia a részvételt a politikai, gazdaságpolitikai folyamatokban, milyen fejlesztésekre, műszaki megoldásokra van szükség a részvétel erősítése érdekében?
Csáki Csaba: A válasz első körben attól függ, mit gondolunk arról, hogy mi a kormány és az állam szerepe. Mi azt gondoljuk, hogy a kormánynak fontos szerepe van például szabályozási területen. Amikor a konferencia szervezési munkájában részt veszek. jellemzően két alapkérdés van mindig a fejemben azzal kapcsolatban, mi köze van a kormányzatnak a technológiához: mi a szerepe az államapparátusnak a technológiák szabályozásában és hogyan használja a technológiát, azon belül is az infokommunikációs technológiát. A konferencián meséltem egy történetet arról, hogy mióta szól bele az állam mint szabályozó a technológiák alakulásába. Az egyik első jól dokumentált eset 1589-ból származik, amikor egy angol úriember, egy bizonyos William Lee nevű lelkész kifejlesztette a keretes szövőszéket, amivel – legalábbis az anekdota szerint – a szerelmének szeretett volna kedveskedni, aki egyébként szövőnő volt. Szabadalmat kért I. Erzsébettől, az uralkodó azonban megtagadta azt mondván, hogy az új találmány föl fogja bolygatni a szövőipart Angliában. Magyarán félt a munkások reakcióitól és a változás bizonytalanságától. Ez valószínűleg az első dokumentált eset, hogy egy uralkodó vagy állam beleavatkozott a technológia fejlődésébe. Erre válaszul William Lee elment Lyonba, és ott kezdte el gyártani a találmányát. Tanítványa harminc évvel később üzletileg is sikeressé tette, olyannyira, hogy az 1600-as évek második felében Angliának Franciaországtól kellett keretes szövőszékeket vásárolnia. Ez jó példa arra, hogy egy döntés hogyan tudja befolyásolni a technológiai előrelépést és piaci elterjedését. Ha ezt rávetítem a jelenlegi info-kommunikációs technológiákra, akkor a probléma az, hogy elképesztő sebességgel jönnek ki egyre újabb és újabb technológiai újtások, amik szinte azonnal és korlátlanul folynak bele a napi életbe, ugyanakkor egyetemes szabályozás még mindig nincs. Visszatérve a kérdésre, hogy az infokommunikációs technológia mit tesz lehetővé, és mi köze az államnak ehhez. A kormányzat maga is használ technológiát a működéséhez, például Magyarországon szerintem az ügyfélkapu, beleértve a kormányhivatalokat is, már egészen magas színvonalú. Sok apró hibája van, de például a jogosítványom elkészítéséért egyáltalán nem kellett bemennem a kormányhivatalba. Ez már XXI. század. Ha a kormány jól használja, és megteremti hozzá az infrastruktúrát, biztosít internet-elérést mindenki számára, a piacot megfelelően szabályozza, akkor ezek a lehetőségek már nem elérhetetlenek. A másik oldal a demokrácia. A demokráciának egyik, formális része a választások, a másik része viszont a két választás között a különböző folyamatokba való becsatlakozás, aminek megint több ága van. Ezekre a már említett konferencia mind kitért. Az egyik ilyen alap téma pl. a törvényhozás. Közvetítjük a parlamenti vitákat, esetleg az állampolgár előre is meg tudja nézni a dokumentumokat. A második, hogy szavazni akár külföldről is lehet, ugyanúgy, ahogy jogosítványt lehet készíttetni mindenféle korlátozás nélkül. A harmadik a helyi önkormányzatok, azok teljesítményét nagyon erősen befolyásolja az internetes jelenlétük. További nagyon fontos témája ennek a konferenciasorozatnak és az egyik legsikeresebb része az e-demokrácián és az e-részvételen túl, az azok alapját képező nyílt adatok, az Open Data. Hivatalosan az Obama-adminisztráció kezdte 2008-2010-ben az Open Government-et, azaz a nyílt kormányzat gyakorlatát, ami elképzelhetetlen nyílt adatok nélkül. Ez sok helyen, nálunk is még gyerekcipőben jár, körülbelül ott, ahol az USA-ban és Angliában járt 15 évvel ezelőtt. Nincs demokrácia, különösen nincs e-demokrácia és e-részvétel, nyílt adatok nélkül. Ez jelenti egyrészt a nyílt kormányzati adatokat, de nyílt piaci adatokat, nyílt közbeszerzési adatokat és még sok minden mást is. Az amerikai választás minden lényeges lépését, beleértve a kb. egy éves rákészülést, a jelölőgyűléseket (caucus) stb. a tévék közvetítik, amelyeknek óriási nézettsége van. Már az 1800-as évek közepén is azért terjedtek el a nemzeti könyvtárak, hogy segítsék a politikai tájékozódást: a XIX. század 60-as, 70-es éveiben a könyvtárakban szervezték a politikai vitákat. A Public Library, a közösségi könyvtár, az USA történetében nagyon fontos ütköztető tér volt, a demokratikus részvétel fontos helyszíne. A helyi közösségből indult minden, és onnan épült fölfelé.
Világpolitika és közgazdaságtan: Az e-részvétel témája látszólag messze van a műszaki tudományoktól, márpedig a résztvevők jellemzően mérnökök, informatikusok voltak. Hogyan fogadja a mérnök, informatikus társadalom azt a politikai, gazdaságpolitikai szerepet, hogy segíteniük kell a demokratikus intézményrendszer működését? Ez más skilleket, más képességeket is igényel. Mekkora a befogadókészség ezekre nemzetközileg és hazai viszonylatban?
Csáki Csaba: A mérnökök legfőbb jellegzetessége, hogy megoldásokat keresnek. Ez fontos tulajdonságuk, elhivatottak abban, hogy megoldják a problémákat. Az más kérdés, hogy mit látunk problémának, ki mit lát problémának, és hogy keretezzük azokat a problémákat, amiket meg akarunk oldani. A konferencia résztvevőiben is jelen volt az a jó értelemben vett elhivatottság érzés, hogy ők jót tesznek. Nem föltétlen anyagi érdekből csinálják, hanem mert úgy érzik, hogy ez természetes. Ha van egy új technológia, akkor arról a kormányzat sem maradhat le. Már csak azért sem, mert használata maga is piacot generál, és persze egyfajta tapasztalat. Emellett a kormányzati szerveknek is vannak szervezeti problémáik. Az ezekre való érzékenység különbözteti meg az ezzel foglalkozó kormányzati embereket. Nagyon kevesen fejlesztenek technológiát a nulláról, nem programoznak mesterséges intelligenciát, csak használják. A konferencián résztvevő kutatók teljes információrendszerben gondolkoznak, aminek része a technológia, a hardver, a szoftver, a szervezet, a folyamatok, az ember – tehát ezek integrált kapcsolatait jelenti az információrendszer. A szervezetet egységként értik, a technológiával együtt. Nagyon sok olyan előadás volt most és tavaly is, hogy miként tud egyszerű eszközöket jól használva szervezeti problémákat megoldani az infokommunikációs technológia. Vagy sokszor azt vizsgálják, hogy használ-e egyáltalán egy új technológia. Mik voltak a hibák? Milyen módon lehet azokat elkerülni? Ennek a közösségnek a tagjai – attól függetlenül, vagy ha úgy tetszik, annak ellenére, hogy mérnökök, műszaki emberek is vannak itt – jellemzően tudatában vannak annak, hogy a megoldás nem csak technológiai kérdés, hiszen embereket érint. Egy új rendszer beállítása során ismerni kell annak társadalmi hatásait. Tisztában vannak ezzel. A konferencián résztvevők nem azok az gép előtt görnyedő hackerek voltak, akiket a filmekből el szoktunk képzelni, hanem főleg akadémiai emberek, akik a kormányzatnak is dolgoznak, vagy a kormányzati munkát kutatják. Kutatási területük és oktatási területük kormányzati informatika, Public Sector Information Systems, a technológiai kormányzat, a kormányzati döntések hatása a technológiára, szabályozási kérdések, vagy például a megbízható AI Governance. A ’Governance’ nagyon jól kifejezi azt a folyamatot, amivel szabályozni lehet a mesterséges intelligenciát és meg lehet alapozni az ahhoz szükséges jogi kereteket.
Világpolitika és közgazdaságtan: A képzésekben reagálnak erre az oktatási intézmények? Beépítenek-e etikai tárgyakat?
Csáki Csaba: Abszolút. Elég sok egyetemet ismerek Ausztriából, Németországból, Hollandiából, USA-ból, ahol ezt jól lehet látni. Nagyon fontos probléma például a közbeszerzés politológiája. Az állam vesz technológiai eszközöket, beruház és ezzel befolyásolja a piacot. Ez történt az elektromos autóval, az USA-ban még a Tesla megjelenése előtt. Az volt a terv, hogy az állam vesz elektromos autókat, így keresletet teremt, amivel ösztönözni tudja a piacot a töltőrendszer infrastruktúrájának kiépítésére a hagyományos benzines kutak mellett vagy helyett. Sok kérdés merül fel ezzel kapcsolatban: mekkora az összeg, a GDP milyen arányában költ a kormány erre a célra? Milyen policy mentén költik el ezt a pénzt, milyen technológiát támogatnak? Ennek a szemléletnek van helye az informatikai oktatásban is. Magyarországon ez kicsit lassabban történik, de határozottan megjelenik.
Világpolitika és közgazdaságtan: Sokan gondolják, hogy a mesterséges intelligencia és a technológiai cégek képesek befolyást gyakorolni a gazdálkodási gyakorlatra, esetleg torz irányba terelni a piacokat. Látsz-e erre veszélyt, és milyen szabályozási technikákkal lehet ennek elejét venni? Van-e elmozdulás a cégek, különösen a nagy cégek üzleti magatartásában az etikusabb működés felé? Ez a terület rendkívül globalizált. Látsz-e regionalizációt, esetleg globális szabályozási keret kialakulását? Az európai és különösen a magyar gyakorlat mennyiben illeszkedik a globális gyakorlatba? Van-e előnye ebben a folyamatban Európának vagy a széttagoltabb struktúra versenyhátrányt jelent?
Csáki Csaba: Én azt gondolom, hogy nagyon nagy baj van. Úgy látom, hogy a Big Tech, az első 10-15 nagy cég erősen tudja befolyásolni a technológiához kapcsolód jelenségek alakulását. Jó példa erre a ChatGPT, hiszen az Open AI viszonylag kis cég, és a Microsoft pénzügyi támogatásával képes volt totálisan fölkavarni az egyébként nem is állóvizet. Néhány napon belül egymillióan használták, a leggyorsabban terjedő „valami” volt az interneten valaha. A leggyorsabban érték el az egymillió felhasználót, hónapokkal hamarabb, mint a Facebook vagy Twitter. Egy technológiai cég technológiai döntése született, senki nem tudta őket megállítani. Pár hónappal később szinte mindenki arra a következtetésre jutott, hogy gyorsan le kellene állítani, nincs ez így rendjén, baj van, nem értjük, mi történik. Az Apple vagy a Microsoft árbevétele mérhető a magyar GDP-hez, az Amazoné messze meg is haladja, és ennek a jövedelemnek a felhasználására sokféle lehetőség van. A technológiai cégek vezetői komoly befolyással bírnak, és jelentős celebritások is vannak közöttük. Fejre állt a világ. Gondoljunk az AT&T-re, amit 1982-ben feldaraboltak az antitröszt eljárás keretében. Megtörtént ez a Microsofttal, a Google-lel vagy más nagy IT céggel? A Microsofttal nem sikerült, a Google-lel és az Amazonnal szinte meg se próbálta az amerikai kormányzat. Ezek a cégek most minden technológiai piacon egymással versenyeznek. Hozzá kell tennem, hogy a 15 legnagyobb technológiai cégben nincs európai. Egyedül a Samsung nem amerikai vagy kínai.
A cégek belső etikai szabályozásában nem nagyon hiszek. 2016-ban, amikor először tűnt föl az MI a hétköznapi fogyasztók számára, a nagy cégek létrehoztak egy AI etikai szervezetet. Ennek célja a mesterséges intelligencia etikai szabályainak megfogalmazása volt. Semmi sem történt ebben a szervezetben. Hiába jelentették ki közös megegyezéssel a legnagyobb cégek az önkorlátozást. A ChatGPT megjelenésével ugyanazok a cégek megint létrehoztak egy újabb szervezetet. Ezúttal fórumnak hívták, nem ’partnership’-nek. Ezt cinikusnak tartom. Már csak azért is, mert az eredeti önszabályozó szervezetnek sem volt semmi hatása. A javaslat az volt, hogy mindegyik cég, aki belépett abba a szervezetbe, hozzon létre AI etikai bizottságot és etikai kódexet. Ezekben a bizottságokban azonban érdemleges előrelépés nem történt. A bizottságok számos jelentést írtak, de valós mandátumuk nagyon korlátozott, nem volt szabályozó jogosítványuk a cégen belül. Három év alatt elsikkadtak, és 2020-ra már senki nem beszélt etikai kódexről. Nagyon sok könyv és cikk jelenik meg arról, hogy be kell építeni az etikát az informatikába, ez azonban értelmezhetetlen fogalom. Nem tartunk még ott. Az emberbe se tudunk etikát ’beépíteni’, nemhogy egy gépbe. Ebben a tekintetben nagyon szigorú vagyok, mert nagyon sokat kutattunk, és elég sok szomorú dolgot láttam az elmúlt 6-8 évben.
Ami a szabályozás regionális, illetve globális jellegét illeti, az Európai Unió széttagolt struktúrája nem rosszabb, mint az Egyesült Államoké, csak nem olyan szervezett, mert nem nyelvi alapon működik, hanem közösségi alapon. Számomra elképzelhetetlen a globális szabályozás, bár fontos lenne, mert a cégek globálisak, és csak egy Föld van. Katonailag, politikailag sincs egység, sőt, kifejezetten jó és rossz értelemben vett verseny van. Ebből következik, hogy hiányzik a bizalom, ami nélkül nem lesz közös szabályozás. Nem tudjuk, hogy valahol egy afrikai országban nem végeznek-e agy-, genetikai, és emberkísérleteket. Fogalmunk nincs, mi történik Kínában egy laborban. Nincs átláthatóság a technológiában általában, és az MI-ben ugyanúgy nincs. Három nagyon eltérő modell van. Az egyik az amerikai, a szabadpiacra épülő, amibe az állam baj esetén beavatkozik. Nem szélsőséges szabadpiac, de az állam azért nagyon szélesen húzza meg a piac határait. A másik a kínai modell, amelyben az ember adatai nem a sajátja, hanem az államé. Emiatt a legjobb a kínai egészségügyi MI, mert rengeteg jó minőségű adatra épül, amit szabadon föl lehet használni az állam által finanszírozott laborokban, vagy kutatóegyetemeken. Bőven van használható, jó minőségű adat. A harmadik az Európai Unióban használt GDPR, vagy általában az uniós szabályozás, amiben 7 éves ciklusok vannak. Az MI-nek még nincs kész a szabályozása, pedig az ezzel foglalkozó szakértői csoport már 2019-ben letette a javaslatait. A tervezett szabályozás alapvetően kockázatalapú megközelítés és kockázatkerülő, amiből következik, hogy jó darabig nem lesz olyan egészségügyi rendszer, mint Kínában, nem lesznek egészségügyi MI megoldások, mert korlátozott az adat. Beszélgettünk a konferencián arról például, hogy van-e joga a halottnak az adataihoz. Miért ne lehetne például halott emberek egészségügyi adatait fölhasználni? Máris iszonyú sok adatunk lenne. USA-ban se probléma ez, kórházak gyűjtik ezeket, természetesen csak megfelelő környezetben és névtelenül használhatják. Kínában a névtelenség sem probléma, mi viszont nagyon védjük, aminek van jó oldala is. Nem akarok ebben állást foglalni, de emiatt az EU le fog maradni, mert az MI adat nélkül nem MI. És nemcsak az adat tömeg, hanem az adat minőség és a reprezentativitás is számít. Egy Kínában kifejlesztett egészségügyi MI kínai adatokkal használhatatlan Európában, hiszen a populáció különbözik. A nyelvi modellek is így működnek, de különösen a hagyományos machine learning modellek. Ha más eloszlású adathalmazt használok a gyakorlatban, mint amivel tanították, akkor hülyeségeket fogok kapni, ezt hívják data driftnek. Sokféle drift van egyébként, többféle módon tud elcsúszni a modell. Ha a fölhasználás során a populáció statisztikai eloszlása nem azonos a tanító statisztikai minta eloszlásával, akkor már nem jó.
Nagyon érdekes kérdés, hogy a szabályozásnak van-e geopolitikája. Bár nem az én szakterületem, de nem látok ilyet. Amit viszont tudunk, hogy befektetésekkel lehet befolyásolni nyersanyag-szerzéseket, és az adat is nyersanyag. Ezt el tudom képzelni, hogy történik, és ebben Kína előretörése tagadhatatlan főleg Afrikában, de már jelen vannak Dél-Amerikában is. Azért azzal tisztában kell lennünk, hogy az afrikai adatokat közvetlenül nem fogják tudni használni a mostani modellekben. Bár az adat hasznos, de a jelenlegi matematikai modellek csak azonos populációban használhatók. Ilyen szempontból beszélhetünk Európáról, de ha nagyon eltérőek a keleti-nyugati vagy az észak-déli populációk, akkor nincs értelme nagy közös európai modellt készíteni. Meg kell említeni a nyelv problémáját is. A nagy nyelveket beszélők nem értik, hogy az összes olyan nyelv, amit 10 milliónál kevesebben beszélnek, hátrányban van, mert nincs megfelelő nyelvi mintája, ’korpusza’. És valójában a fordítás sem megoldás, hiszen egész más struktúrában tárolja egy angol modell a tudás egészét, mint mondjuk egy magyar. Ezek alapvető félreértések, ezzel küzdeni kell, mert ha nem tesszük, akkor el fognak tűnni a kis nyelvek az Internetről és az MI-ből. Körülbelül ugyanúgy, ahogy az utóbbi száz évben a kisnyelvek eltűntek a beszédből, kihaltak az utolsó beszélők Afrikában, Brazíliában.
Világpolitika és közgazdaságtan: Hosszú távon milyen politikai és gazdasági előnyöket vársz az ICT szektor fejlődésétől? Kell-e félni attól, hogy a gépek elveszik a munkahelyeinket, vagy ez alaptalan félelem? Hogy látod az állampolgárok alkalmazkodását az új technológiához?
Csáki Csaba: Engem a konferencián humán szkeptikusnak neveztek, mert óvatosan nézem a technológiai hurráoptimizmust. A technológiai oligarchák világában élünk. Elon Musk kezében hihetetlen adat és pénzvagyon van, jelenleg a Twitter és a Tesla összes amerikai autójának összes adatát birtokolja. Nem is beszélve a műhold hálózatáról, ami már most több ezer tagból áll, amivel bele tudott szólni egy háborúba. Így is elég sok az ostoba politikus, de mi van akkor, ha már egy meggondolatlan technooligarcha is képes ilyesmibe beleszólni? Ez a probléma jelen van az izraeli-palesztin konfliktusban, de Kínában is, csak ott más eszközökkel kezelik a túlhatalomból fakadó problémát. Túl nagyra nőttek a cégek, és túl nagyra nőttek a vezetőik. De mindent összevetve a legnagyobb bajnak a rossz minőségű modelleket tartom ostoba, rosszakaratú emberek kezében. Mindenki arról beszél, hogy a robotok elveszik a munkánkat. Ennél sokkal nagyobb napi problémának látom azt a jelenséget, hogy ilyen ingoványos talajon millió rosszul megírt szoftver aláássa mindenütt a bizalmat, illetve a döntések átláthatatlanabbá válnak.
Az MI pozitív oldala látható az egészségügy fejlődésében, a jogalkalmazásban. Ha már van adat, és ha sikerül azt jól használni, elképesztő dolgokat tud ’észre venni’. Azt kell megvizsgálni, hogy az MI miben más, mint az ember, mit tud jobban, illetve mit tesz másképp a hagyományos szoftvereknél. Például az MI sokkal jobban lát nagyon finom mintákat óriási adattömegben, ami most már rendelkezésünkre áll.
Egyébként az önvezető autót egy zsákutcának tartom. Miért kellene az embert helyettesíteni? Miért nem okosítjuk ki az utat inkább? Már az ’50-es években is voltak olyan elképzelések, hogy úgy fogunk közlekedni, hogy az autó rááll az útra, és az út szépen elvezeti. Az embert akarjuk kicserélni, az autót fogjuk fölokosítani, ahelyett, hogy az egész rendszert okosítanánk föl. Ennek oka, hogy az út felokosítása állami beavatkozást igényelne, míg az autóé alapvetően a cégek hatásköre. Nem is olyan jelentős beruházás az utak okosítása. Németországban van olyan autópálya, ahol digitális táblák vannak, amelyek megmondják, hogy melyik sávba állj. Azt is tudja, hogy reggel öt sávban vezet egy irányban, este pedig háromban, de tudja dinamikusan korlátozni a megengedett sebességet is. Már tervezik a protokollokat jármű-jármű és jármű-környezet kommunikációra is. Nyilván vannak veszélyei, de ezeket meg lehetne oldani.
Köszönjük szépen a beszélgetést!
Nagy Konrád Ákos – Trautmann László