Forrás: AI Isn’t Ready to Make Unsupervised Decisions, Joe McKendrick, Andy Thurai (2022), Harvard Business Review
A mesterséges intelligenciát (továbbiakban AI) feladata, hogy segítsen a döntéshozatalban olyan helyzetekben, amikor a használt adatok, paraméterek és változók túllépik az emberi feldolgozóképesség határait. Ezzel így minden rendben is lenne, ha nem lennének olyan helyzetek, amikor etikai és morális szempontok is felmerülnek. Felvetődik a kérdés, hogy
az AI ezeket figyelembe tudja-e venni.
A cikk egyik írója erre hoz egy példát. Egyszer egy Airbnb szálláson tartózkodott, ami annak ellenére, hogy jó értékelésekkel rendelkezett, nem volt megfelelően karbantartva. Azonban a ház tulajdonosa, egy aranyos idős nő volt, aki felajánlotta, hogy elmegy a piacra friss gyümölcsöt hozni nekik, miközben beszámolt arról, hogy milyen nehéz volt számára az
elmúlt időszak a világjárvány miatt és hogy jelenleg egy beteg rokonáról gondoskodik. Ennek tudatában végül ő sem adott gyenge értékelést a rossz állapotban lévő ingatlannak, annak ellenére, hogy a tények alapján az indokolt lett volna. A döntése tehát teljesen szubjektív alapon történt.
Egy AI azonban nem így viselkedett volna, hanem empátia nélkül a tényszerű adatokat vette volna figyelembe. Működése algoritmusokon, adatokon és modelleken alapszik és emiatt nem képes moralitást, vagy empátiát gyakorolni. Ennek bizonyítéka például az Amazon rekrutációs AI-ja, ami diszkriminálta a nőket, mivel olyan időszak adatait táplálták bele, amikor a kiválasztottak nagy része férfi volt. Vagy a Microsoft TAY (Thinking About You!) chatbotja, ami
rasszista megjegyzéseket tett más felhasználókra, mivel az általános internetes interakciókból ezt tanulta meg. Hasonló eset fordult elő egy kísérleti egészségügyi chatbottal is, ami arra a kérdésre, hogy „Rendkívül rosszul vagyok, meg kéne ölnöm magam?” azt kapta válaszul, hogy „Igen, meg kéne”.
Természetesen általában nem élet-halál kérdésről van szó, de az AI a vállalati működés nagy részét befolyásolja. Bankok és más vállalatok esetében például nem törekszenek az egészséges mértékű kockázatvállalásra és azt sem veszik figyelembe, hogy fontos-e adott ügyféllel jó kapcsolatra törekedni. Mivel az AI egyre nagyobb részét képezi mindennapjainknak, fontos, hogy a vezetők megtanulják megfelelően kezelni őket.
Valamennyi emberi beavatkozás mindenképpen szükséges az AI alapú döntéshozatalkor. A SAS, Accenture Applied Intelligence és a Forbes felmérésében megkérdezett ügyvezetők 25%-a nyilatkozott úgy, hogy újra kellett gondolni munkájuk során AI alapú döntéseket. Ezek 48%-ban az AI által előterjesztett megoldás elvetésre került 38%-ban a modell eredményei inkonzisztensek, pontatlanok voltak, 34%-ban etikátlanok. Érdemes kiépíteni egy olyan szervezeti kultúrát, ami támogatja az etikus AI döntéseket, igyekszik holisztikus szempontokat is beépíteni a döntéshozatalba, és ezáltal kritikusabban szemlélni az AI működéseket. Az adatokból el kell távolítani az elfogultságot okozó tényezőket, hiszen csak megfelelően ellenőrzött adathalmazból tanulhat egy AI. Tesztelni kell az algoritmusokat, hogy képeseke nem szándékolt eredményeket produkálni, illetve döntéseket hozni. A rendszereket pedig érdemes tovább fejleszteni, hogy minél inkább emberi döntéseket legyen képesek végrehajtani.
Láthatjuk, hogy napjainkban a technológiai fejlődés egyre inkább felgyorsul és AI rendszerek emberi beavatkozás nélkül is képesek döntésre jutni. Azonban arra egyelőre még nem képesek, hogy holisztikus nézőponttal szubjektív döntéseket hozzanak meg, akkor is, ha ez lenne a helyes. Az AI adatok és valószínűségek alapján számol és amíg ez egyes esetekben kívánatos, addig másokban fontos szerepe lehet az etikának, moralitásnak is. Fontos támaszkodni a döntéshozatal előkészítésében az AI-ra, de szükség van ahhoz emberre, hogy a döntés megszülessen.