A múlt nem múlt idő

Úgy gondolunk a történelemre, mint amely már lezárult események sora. Ami már megtörtént, az nem részei a jelennek. Csakhogy a jelenlegi világ nem független attól, ami korábban történt.

Az országhatárok, a szövetségi rendszerek, a társadalmi különbségek, a gazdasági erőviszonyok, a nemzetek közötti konfliktusok vagy akár az, ahogyan egy közösség önmagára tekint, hosszabb-rövidebb történelmi folyamatok eredményei. Egy mai eseményt csak az előzményeivel együtt érthetjük meg. A döntéseinkben azonban nem az vesz részt, amit a múltról tudunk, vagy tudni vélünk. A múlt már megtörtént, és közvetlenül nem is érzékeljük a hatását.

Amikor egy jelenlegi konfliktust értelmezünk, nem a teljes történelmi folyamat áll előttünk. Ismeretekből, emlékekből, tanult összefüggésekből építünk fel egy képet arról, hogyan jutottunk el a jelenlegi helyzetig. Ez a kép válik az egyik alapjává annak, ahogyan a jelent értékeljük. A történelmi tudat ezért nem egyszerűen a múltról őrzött ismereteink gyűjteménye. Része annak az információs háttérnek, amelyből a jelenben következtetéseket vonunk le.

Ugyanaz a történelmi valóság többféle információs környezetben egészen más történelmi tudatot eredményezhet anélkül, hogy ehhez manipulációt kellene feltételeznünk. Ugyanakkor ebben az információs környezetben valós és valótlan állítások egyaránt jelen vannak. A probléma az, hogy a valóságtartalom és a felismerhetőség két külön tulajdonság. Az információ közlése gazdasági tevékenység is lehet. Ami érdekesebb, megerősítőbb, vagy jobban illeszkedik a közösség várakozásaihoz, üzletileg értékesebb lehet attól függetlenül, hogy igaz-e. De az információ nemcsak azért kerül elénk, mert valaki fontosnak vagy igaznak tartotta.

Könyveknek olvasókra, újságoknak előfizetőkre, televíziós műsoroknak nézőkre, internetes oldalaknak látogatókra, közösségi tartalmaknak figyelemre van szükségük. A közönség érdeklődése ezért közvetlenül vagy közvetve értéket jelenthet annak, aki az információt közvetíti.

A történelmet mindig közvetítőkön keresztül ismerjük

A legtöbb ember nem eredeti történelmi dokumentumokból, régészeti feltárási jelentésekből vagy több, egymással vitatkozó történész munkájának összevetéséből alakította ki a múltról alkotott képét. Mindig voltak közvetítők. A történész értelmezte a rendelkezésére álló forrásokat. Az iskola és a tankönyv kiválasztotta, mit tart fontosnak. Az újság, a rádió, a televízió és a dokumentumfilm újabb szempontok szerint válogatott. Később az internetes kereső már hatalmas mennyiségű információhoz adott hozzáférést.

A közvetítés tehát önmagában nem új jelenség. Ha elolvasunk egy könyvet, tudjuk, hogy kinek a művét olvassuk. Egy újságcikk mögött ott áll a szerző és a szerkesztőség. Egy keresőmotor találati oldalán pedig – még ha a találatok sorrendje nem is semleges – különálló forrásokat látunk. Dönthetünk úgy, hogy megnyitjuk az elsőt, az ötödiket vagy akár tízet egymás után.

A mesterséges intelligenciának nevezett mai nyelvi modellek megjelenésével minden megváltozott. A közvetítés módja lett láthatatlan.

Fontos pontosan látni, miről beszélünk. Nem egy önálló személy keresgél a tudásában, mérlegeli a történelmi forrásokat, majd elmondja a saját véleményét. Egy emberek által létrehozott, jelenleg is gyorsan fejlődő digitális rendszerről van szó.

A nyelvi modell hatalmas mennyiségű szövegből hozott létre nyelvi és tartalmi összefüggéseket. Amikor kérdést kap, ezekből a mintázatokból, a számára adott aktuális információkból és a működését meghatározó utasításokból állítja elő a választ. Ezenfelül keresőket, adatbázisokat vagy más külső információforrásokat is használhat. A végeredmény azonban a felhasználó előtt rendszerint már nem ezeknek az elemeknek a halmaza, hanem egy újonnan létrehozott, összefüggő szöveg.

Ez a különbség első pillantásra nem tűnik jelentősnek.

Korábban megkaptuk a forrásokat, és nekünk kellett valamilyen képet kialakítanunk belőlük. Most feltesszük a kérdést, és már a forrásokból kialakított válasszal találkozunk.

Ez kényelmes. Gyors. Sok esetben rendkívül hasznos. De közben történik valami, amit könnyű figyelmen kívül hagyni.

A forrás és az ember közé bekerül egy új értelmező réteg.

És minél kevésbé látjuk azokat a forrásokat, amelyekből a válasz létrejött, annál nehezebb észrevennünk, hogy a kapott szövegben mi volt az eredeti információ, mi volt a kiválasztás eredménye, és mi keletkezett az információk összekapcsolásából.

Amikor egy mesterséges intelligenciától kérdezünk valamit, könnyű úgy elképzelni a folyamatot, mintha a program a rendelkezésére álló ismeretek között keresne, mérlegelné, melyik állítás igaz, majd megfogalmazná a választ. Nem ez történik.

A nyelvi modell mögött nincs az emberi értelemben vett tudás: nincs egy belső állításkészlet, amelynek elemeiről a program tudná, hogy igazak vagy hamisak. A tanítása során hatalmas mennyiségű szövegben előforduló összefüggéseket sajátít el, és amikor kérdést kap, ezeknek a tárolt mintázatoknak, az aktuális szövegkörnyezetnek és a működését meghatározó szabályoknak megfelelő választ hoz létre.

Ezért a folyamat mögött nem igaz–hamis döntések sorozata áll. A program nem előbb eldönti, hogy egy állítás igaz-e, majd ennek alapján leírja. Olyan szöveget generál, amely a modell működése alapján az adott helyzetben megfelelő. Az egyik fő szempont a folytatás lehetősége.

Ennek eredménye nagyon gyakran megfelel a valóságnak, mert a modell olyan emberi szövegekből tanulta meg az összefüggéseket, amelyek maguk is rengeteg valós ismeretet tartalmaznak. De a valóságnak való megfelelés és a válasz létrehozásának mechanizmusa két külön dolog.

Ez magyarázza azt a látszólagos ellentmondást is, hogy a program hatalmas mennyiségű kérdésre képes helyes választ adni, miközben olykor ugyanolyan határozottan állít valótlant. Nem az történik, hogy egyszer tudja a helyes választ, máskor pedig rosszul emlékszik rá. Mindkét mondat ugyanannak a generatív működésnek az eredménye. A különbséget mi állapítjuk meg azzal, hogy a létrejött állítást összevetjük a valósággal.

Ebben az értelemben az MI „tévedése” is emberi szóhasználat. A program nem úgy téved, ahogyan mi, amikor valamit igaznak hiszünk, ami valójában nem igaz. A program létrehoz egy választ. Igaznak, vagy hamisnak mi nevezhetjük annak alapján, hogy megfelel-e a valóságnak, vagy nem.

Nem szükséges meghamisítani a történelmet

Ha egy információs rendszer hatással lehet a történelmi tudatunkra, könnyű elsőként a manipulálható információra gondolni.

Arra, hogy téves évszámot közöl, nem létező eseményt ír le, vagy valótlant állít egy történelmi szereplőről. Ezek viszonylag egyszerűen felismerhető hibák. Ha rendelkezésünkre áll a megfelelő forrás, ellenőrizhetjük őket.

A történelmi kép azonban akkor is megváltozhat, ha minden közölt adat önmagában igaz. Egy történelmi eseményhez rendszerint jóval több tény, előzmény és lehetséges összefüggés tartozik annál, mint amennyi egyetlen válaszban megjeleníthető. Valamit ki kell választani közülük. Egyes események előzményként jelennek meg, mások kimaradnak. Bizonyos oksági kapcsolatokat hangsúlyozunk, másokat kevésbé. Egyes bizonytalanságokat részletesen bemutatunk, másokat egy mondattal intézünk el. Tíz igaz állításból öt kiválasztása más történeti képet eredményezhet, mint a másik öt kiválasztása. Ehhez nincs szükség szándékos torzításra.

Egy nyelvi modell sem képes minden rendelkezésére álló összefüggést egyszerre megjeleníteni. A kérdésre véges terjedelmű választ állít elő, ezért a működés szükségszerű része, hogy bizonyos információk bekerülnek a válaszba, mások pedig nem. Hogy melyek kerülnek bele, azt a modell tanult mintázatai, a kérdés megfogalmazása, a beszélgetés előzményei, a rendszer számára adott utasítások, és amennyiben külső forrásokat is használ, az elérhető vagy megtalált információk egyaránt befolyásolhatják.

A programnak ehhez nem kell „állást foglalnia” a történelemről. Nincs szükség saját meggyőződésre vagy szándékra. A szelekció már abból következik, hogy választ kell létrehoznia. Ezért két dolgot érdemes világosan különválasztani, a közölt tények valódiságát és a tényekből létrejövő történeti képet.

Egy válasz állhat kizárólag valós adatokból, mégsem következik ebből, hogy ez az egyetlen történeti kép, amely ugyanezekből és más, szintén valós adatokból felépíthető. Ez nem kizárólag az MI problémája. Könyv, újságcikk vagy dokumentumfilm sem képes minden tényt bemutatni. A különbség ismét a közvetítés módjában, és szándékában van. Egy könyvnél tudjuk, hogy egy szerző válogatását és értelmezését olvassuk. A nyelvi modell válasza viszont könnyen úgy jelenhet meg előttünk, mint maga a kérdésre adott válasz. Ezzel a probléma átkerül a program működéséről az ember gondolkodására.

„Utánanéztem, tehát tudom”

Amikor valaki beír egy kérdést egy keresőbe, rendszerint találatok listáját kapja. Megnyit egy oldalt, esetleg még egyet, összeveti őket, vagy egyszerűen elfogadja az első megfelelőnek látszó forrást.

A nyelvi modell használatakor más élmény jön létre. A felhasználó kérdez, a program pedig néhány másodperc alatt közvetlen, érthető és többnyire összefüggő választ állít elő. Ha valami nem világos, újabb kérdést lehet feltenni. A válasz pontosítható, egyszerűsíthető, részletezhető. A folyamat sokkal inkább hasonlít egy magyarázathoz, mint hagyományos információkereséshez. Ez önmagában hatalmas előny. Ugyanakkor éppen a jó működés hozhat létre egy kevésbé feltűnő következményt.

Ha a válasz érthető, összefüggő és megfelel annak, amit kérdeztünk, csökkenhet annak érzése, hogy tovább kell keresnünk. Megkaptuk az információt, amelyért jöttünk. A felhasználó fejében pedig fokozatosan elmosódhat két, valójában különböző állítás közötti határ. „Ezt válaszolta a program” és „ennek utánanéztem, ezt tudom róla”.

A különbség akkor válik igazán fontossá, amikor később új információval találkozunk. Ha egy kérdésről semmit sem tudunk, két egymással ellentétes állítás esetén még mindkettőt mérlegelnünk kell. Ha azonban az egyik állítást korábban már ismeretként rögzítettük, akkor a második már egy meglévő tudással kerül szembe. Ilyenkor könnyen megfordulhat az ellenőrzés iránya.

Nem azt vizsgáljuk, hogy a két állítás közül melyiket támasztják alá jobban a rendelkezésre álló adatok, hanem azt, hogy az új állítás képes-e megcáfolni azt, amit már tudni vélünk. Ehhez sincs szükség arra, hogy a mesterséges intelligencia bárkit meg akarjon győzni. A program továbbra is ugyanazt teszi: a kapott kérdésre választ generál a működését meghatározó technikai feltételek között. A tartós következmény az ember oldalán keletkezik. A kapott információ bekerülhet abba a tudáskészletbe, amelyhez később más információkat viszonyítunk.

Ezért a történelmi tudat szempontjából nemcsak az számít, hogy egy MI által adott válasz igaz vagy hamis. Az is számít, hogy mikor találkozunk vele, milyen összefüggésben kapjuk meg, mennyire tekintjük lezártnak általa a kérdést, és mihez viszonyítjuk majd a következő információt. Az első válasz mércévé is válhat, amelyhez a következőket hasonlítjuk.

A szakember sem kívülálló

A történelmi információ útja nem ér véget a laikus közönségnél. A történésznek, régésznek vagy politológusnak ugyanúgy van kialakult tudása arról a területről, amellyel foglalkozik. Sőt, éppen ez teszi lehetővé számára, hogy az új információkat értelmezze. A szakmai tudás szükségszerűen egymásra épül.

Egy kutató nem ellenőrizheti minden új kérdésnél valamennyi korábbi ismeretét az eredeti dokumentumokig, leletekig vagy mérési adatokig visszamenően. Korábbi kutatások eredményeit használja, publikációkra hivatkozik, elfogadott kronológiákból, meghatározásokból és összefüggésekből indul ki. Máskülönben a tudományos tudás nem felhalmozódna, hanem minden kutatónak újra és újra az alapoktól kellene felépítenie. Ez azonban azt is jelenti, hogy a szakember gondolkodásában is egyre nagyobb teret kaphat a MI szelekciós folyamata.

Bizonyos információkat már nem új állításként kezel. Tudja őket. Ezekből indul ki, ezekhez viszonyítja az új adatokat, és ezek felhasználásával hoz létre új következtetéseket.

A szakmai ellenőrzés természetesen lényegesen szigorúbb lehet, mint a hétköznapi információszerzés. A szakember ismeri a forrásokat, a módszertani problémákat, a szakmai vitákat, és éppen a saját területén nagyobb eséllyel veszi észre az ellentmondásokat. De ettől még ő sem kerül az információs környezeten kívülre. Azt vizsgálhat csak, ami a látókörébe kerül.

Ha egy valós állítás bekerül az elfogadott szakmai ismeretei közé, felhasználhatja egy új következtetéshez. Ha egy téves állítás kerül oda, az is részt vehet ugyanebben a folyamatban, és ehhez nem szükséges, hogy később emlékezzen arra, pontosan honnan származott.

Egy információval találkozhatott évekkel korábban egy tanulmányban, konferencián, adatbázisban, internetes keresés során vagy egy mesterséges intelligenciával folytatott munkában. Ellenőrizhette is, vagy egyszerűen összeegyeztethetőnek találhatta mindazzal, amit addig tudott. Később már nem feltétlenül az információ forrását használja. Magát az ismeretet használja.

Ezért annak, hogy milyen információk jutnak el a szakemberekhez és melyek épülnek be az elfogadott tudásukba, a hatása nem korlátozódik az ő saját történelmi tudatukra, attól kezdve részt vehet az új tudás létrehozásában.

A tudás visszakerül az információs térbe

A kutató történelmi tudata azonban nem marad a saját gondolkodásában. Publikál. Tanulmányt, könyvet, jelentést, egyetemi jegyzetet vagy ismeretterjesztő szöveget ír. Előadást tart, nyilatkozik, oktat. Ezzel az általa felhasznált ismeretek és az azokból létrehozott következtetések visszakerülnek abba az információs térbe, amelyből mások tudása épül.

Csakhogy közben megváltozott a státuszuk. Ami korábban egy információ volt a sok közül, most egy szakember munkájának részeként jelenik meg. Publikált információvá vált.

Ha a kiinduló információ helyes volt, helyes adat épülhetett tovább. Ha téves volt, a tévedés is továbbhaladhat. De nem csak egy-egy adat lehet ennek része. Lehetséges, hogy minden felhasznált adat önmagában valós, mégis egy bizonyos válogatásuk, súlyozásuk vagy összekapcsolásuk egyoldalú történeti képet eredményezett. Ebben az esetben nem egy hamis adat kerül tovább, hanem egy értelmezési keret.

Ez fontos különbség. A következő olvasó ugyanis már nem feltétlenül találkozik azokkal az információkkal, amelyekből ez a kép eredetileg létrejött. Nem látja mindazt, ami kimaradt. Nem tudja, mely állítások származtak elsődleges forrásból, melyek korábbi publikációkból, és melyek voltak a szerző számára már magától értetődő ismeretek. Ő már a végeredménnyel találkozik.

A forrás megváltozásával a bizalmi helyzet is megváltozhat. Egy bizonytalan internetes állítás és ugyanaz az állítás egy szakmai tanulmány részeként nem feltétlenül azonos súllyal jelenik meg az olvasó előtt.

Az információ ezzel újabb kört kezdhet. Minden egyes továbbadás során új környezetbe kerülhet, új értelmezést kaphat, és új bizalmi státuszt szerezhet. Így az a tudás, amelyet tegnap valaki egy meglévő, de az MI által szelektált információs környezetből épített fel, holnap már maga is része lehet annak az információs környezetnek, amelyből mások felépítik a saját tudásukat.

A lektorálás különös problémája

A tudomány egyik alapvető ellenőrzési pontja a szakmai bírálat. A publikálás előtt egy másik szakember megvizsgálhatja a módszert, a következtetéseket, a hivatkozásokat, felismerheti az ellentmondásokat, és olyan hibákat vehet észre, amelyeket a szerző nem látott.

Ez azonban nem jelenti azt, hogy a lektor az információs rendszeren kívül áll.Ő maga is szakember.

A mesterséges intelligencia széles körű használata ehhez egy új körülményt ad. Ugyanaz a közvetítő rendszer jelen lehet a szerző tájékozódásában, a kutatás előkészítésében, a szakirodalom feldolgozásában, és jelen lehet annak a szakembernek az információszerzésében is, aki később a munkát ellenőrzi.

De ez magával hoz egy új problémát. Mennyire független egymástól a létrejövő állítás és annak ellenőrzése, ha mindkettő információs hátterének kialakításában ugyanaz a közvetítő infrastruktúra is részt vesz? A tudományos ellenőrzés erejét ugyanis nem pusztán az adja, hogy valamit kétszer megvizsgáltak, hanem az is, hogy a második vizsgálat képes legyen az elsőtől független hibát felismerni.

A szakmai állítás társadalmi valósággá válik

A publikált tudás nem marad a szakmán belül. Megjelenik a sajtóban, dokumentumfilmekben, ismeretterjesztő könyvekben, enciklopédiákban, oktatási anyagokban, közösségi médiában és politikai kommunikációban. Közben azonban megváltozik.

Egy tudományos tanulmányban még látható lehet, hogy melyik állítás adat, melyik következtetés, milyen bizonytalanságok vannak, milyen más magyarázatok léteznek, és hol vannak a kutatás korlátai. Viszont mikor mindebből néhány mondatos összefoglaló készül, ezeknek csak egy része marad meg.

„A kutatások szerint…” Ez a néhány szó hatalmas távolságot képes elfedni az eredeti adat és a társadalomhoz eljutó állítás között.

Miközben szakmai állítás újabb bizalmi státuszt kapott. Már nem egy kutató állítása, hanem állásfoglalás. „A tudomány szerint.”

Innen az információ még szélesebb körben terjedhet. Megjelenhet tankönyvben, bekerülhet egy dokumentumfilmbe, idézheti egy újságíró, felhasználhatja egy politikus, megjelenhet több ezer internetes oldalon. Az ismétlődés pedig új helyzetet teremt.

Egy idő után az állítással már nem úgy találkozunk, mint valamivel, amit valaki állít, hanem háttértudássá válhat. A társadalom tagjai ebből indulnak ki, amikor más eseményeket értelmeznek, vitatkoznak vagy véleményt alkotnak. Így jön létre az, amit közös történelmi valóságképnek nevezhetünk.

Ez természetesen nem jelenti azt, hogy egy társadalom minden tagja ugyanazt gondolja a múltról. Éppen ellenkezőleg: egymással versengő történelmi képek léteznek. De ezek mindegyikének van egy olyan információs háttere, amelyet követői már nagyrészt nem ellenőrizendő állítások gyűjteményeként kezelnek. Számukra ez a valóság ismert része, és ezen a ponton bezárulhat egy kör.

Egy társadalomban széles körben elfogadott történelmi kép ereje nem feltétlenül csak abból származik, hogy mennyire jól bizonyított. Származhat abból is, hogy milyen sok helyen találkozunk vele, milyen források közvetítik, és mennyire vált részévé annak, amit már nem állításként, hanem tudásként kezelünk. Ettől kezdve a történelmi információ már nem pusztán a múltról alkotott képünket alakítja. Része annak a valóságképnek, amelyből a jelent értelmezzük.

A történelem visszatér a jelenbe

Amikor történelmi tudatról beszélünk, könnyen a távoli múltra gondolunk. Ókori birodalmakra, régen lezárult háborúkra, évszázadokkal ezelőtti politikai döntésekre. Mintha lenne egy határ, amelynek egyik oldalán a történelem, a másikon pedig a jelen állna. Ilyen határ valójában nincs.

A történelem nem akkor kezdődik, amikor egy esemény bekerül a tankönyvekbe. Az a politikai döntés, gazdasági változás, háború vagy társadalmi folyamat, amelynek következményeiről ma vitatkozunk, holnap már egy történelmi eseménysor része lesz. Sőt, sok olyan folyamatban hozunk ma döntéseket, amely már maga is korábbi döntések következménye, és amelynek lezárását még nem ismerjük.

Ezért a történelmi tudat nem egyszerűen a lezárt múltról őrzött ismereteink összessége. Annak megértésében is szerepet játszik, hogy egy jelenleg zajló folyamatban hol tartunk. Egy mai konfliktusnak tegnap is volt előzménye. Egy ma meghozott döntés holnap ennek a konfliktusnak újabb előzménye lesz. Amit jelenként élünk meg, folyamatosan múlttá válik, miközben következményei tovább alakítják a jelent.

Amikor tehát egy jelenlegi helyzetről döntünk, nem egy történelemtől független pillanatban állunk. Egy már zajló eseménysor egyik pontján próbáljuk meghatározni, mi történik, mi vezetett idáig, és mit kellene tennünk. Ehhez azonban továbbra sem maga a múlt áll rendelkezésünkre, hanem a róla kialakított képünk.

Ha egy konfliktus történetét egy adott ponttól kezdjük, más következtetésre juthatunk, mint ha húsz évvel korábbról indítjuk. Ha egy gazdasági folyamatból bizonyos előzményeket fontosnak tekintünk, másokat pedig nem, megváltozhat az is, hogyan értékeljük a jelenlegi állapotot. Mindehhez nem szükséges egyetlen történelmi adatot sem meghamisítani.

Ezen a ponton kap jelentőséget az új közvetítő.

A nyelvi modellnek nincs saját történelmi tudata. Nem tudja emberi értelemben, hogy egy esemény „fontos”, és nincs saját érdeke abban, hogy egy folyamatot melyik ponttól kezdjen el bemutatni. A kapott kérdés, a tanult összefüggések, a beszélgetés előzményei, a működését meghatározó utasítások és adott esetben a számára elérhető külső információk alapján állítja elő a választ.

A felhasználó számára azonban ennek a technikai folyamatnak az eredménye már egy értelmezhető történeti kép. Ha pedig ezt beépíti az ismeretei közé, az részt vehet abban, ahogyan egy még zajló folyamatot értékel, és ahogyan abban döntést hoz.

A történelmi tudat tehát nemcsak azt befolyásolja, hogyan látjuk azt, ami már megtörtént. Része annak a döntési alapnak is, amelyből létrehozzuk azt, ami ezután történik.

Amikor ugyanott keressük az ellenőrzést is

A történelmi kérdések ebből a szempontból nem különlegesek. Ugyanazt a nyelvi modellt, amelytől egy háború előzményeit kérdezzük, néhány perccel később megkérdezhetjük egy gazdasági döntésről, egy tudományos vitáról, egy jogi problémáról vagy egy aktuális társadalmi eseményről. Ez önmagában a technológia egyik legnagyobb előnye.

Nem kell minden kérdésnél előre tudnunk, hol található a megfelelő információ. A program képes nagy mennyiségű, különböző helyről származó anyagból érthető választ létrehozni, egy összefüggést elmagyarázni, majd ugyanarról a kérdésről további részleteket adni. De már nem csak az információ összerendezését bízzuk rá. Az ellenőrzését is elvégezhetjük ugyanazon az úton.

Ha bizonytalanok vagyunk egy kapott válaszban, természetes reakció lehet, hogy újra megkérdezzük a programot. A felhasználó szempontjából ez ellenőrzésnek tűnik, és bizonyos esetekben valóban jelentősen javíthatja az eredmény megbízhatóságát. A rendszer újrafogalmazhatja a problémát, külső forrásokat kereshet, összevethet különböző adatokat, vagy felismerheti a korábbi válasz valamely ellentmondását.

De van egy fontos különbség a megismételt vizsgálat és a független ellenőrzés között. Ha az információ megszerzése és annak ellenőrzése ugyanazon közvetítőn keresztül történik, akkor egy olyan kontrollkör jöhet létre, amely a felhasználó számára ellenőrzésnek látszik, miközben nem feltétlenül hozott létre valóban független információs forrást.

Ha egy programot naponta használunk, és tíz kérdésből kilencre megfelelő választ kapunk, tapasztalatot szerzünk róla. Megtalál egy információt, amelyet kerestünk. Segít megérteni egy bonyolult szöveget. Felhívja a figyelmet valamire, amit nem vettünk észre. Kijavít egy hibát. Emlékszik a beszélgetés előzményeire, ezért nem kell minden alkalommal elölről kezdenünk a magyarázatot. A következő alkalommal már van okunk feltételezni, hogy ismét használható eredményt kapunk. Ez a bizalom pedig különösen fontossá válik akkor, amikor a programtól már nemcsak választ kérünk.

A történelmi tudat politikai tényezővé válik

A történelmi tudat jelentősége nem ér véget annál, hogy mit gondolunk a múltról. A jelen ugyanis nem előzmények nélkül létezik.

Az államhatárok, a szövetségi rendszerek, a háborúk, a kisebbségi helyzetek, a területi igények, a gazdasági különbségek, a migrációs folyamatok vagy akár két társadalom egymásról kialakított képe hosszabb történelmi folyamatok eredménye.

Amikor ezeket a jelenben értelmezzük, szükségszerűen valamilyen előzményből indulunk ki. Egy területi konfliktus egészen más jelentést kaphat attól függően, hol kezdjük el a történetét. Egy katonai lépés értelmezhető támadásként, válaszként, megelőzésként vagy egy korábbi folyamat folytatásaként. Hogy ezek közül melyiket tartjuk megalapozottnak, részben attól függ, mit tekintünk az esemény előzményének. Ugyanez igaz egy nemzeti sérelemre, egy kisebbségi konfliktusra vagy egy migrációs folyamatra.

A jelen eseménye ugyanaz. A jelentése azonban függhet attól a történettől, amelybe belehelyezzük. Ezért a történelmi tudat nem egyszerűen kulturális emlékezet. Nem csupán annak ismerete, hogy mi történt száz vagy ezer évvel ezelőtt.

Része annak az értelmezési háttérnek, amelynek segítségével eldöntjük, mi történik most, kik a szereplők, milyen okok vezettek idáig, és milyen cselekvést tartunk indokoltnak. Ezzel a történelmi információ politikai jelentőséget kap.

És itt válik fontossá mindaz, amit az információ útjáról eddig láttunk. A jelen értelmezéséhez használt történelmi kép maga is információkból épült fel. Valós és valótlan állításokból, kiválasztott tényekből, értelmezésekből, publikációkból, oktatásból, médiából és abból a közös tudáskészletből, amelyet egy társadalom idővel kialakított.

A politikai vélemény tehát nem feltétlenül ott kezdődik, amikor valaki állást foglal egy jelenlegi kérdésben. Már az is része lehet a politikai állásfoglalás feltételrendszerének, hogy milyen történelmi valóságot tekint adottnak. Ez az a pont, ahol a történelmi tudat már közvetlenül kapcsolódik a jelenhez, mert a jelen politikai értelmezésének egyik bemeneti adatává válik.

Ugyanabban az információs térben dönt a politikus is

Az eddigiek alapján könnyű lenne arra gondolni, hogy mindez elsősorban a közvélemény problémája. Az állampolgár információkat kap, ezekből kialakítja történelmi és politikai valóságképét, majd ennek alapján véleményt alkot.

Ez természetesen nem jelenti azt, hogy egy történelmi állítás közvetlenül meghatároz egy politikai döntést. Egy döntésben gazdasági érdekek, biztonsági szempontok, választói elvárások, jogi korlátok, személyes megfontolások és számos más tényező is szerepet játszhat.

A történelmi tudat közvetítésének hatása nem áll meg a választónál. Ugyanazon tudásképző rendszer különböző pontjain jelen lehet a kutató, a lektor, az újságíró, a választó, a szakértő, a tanácsadó és maga a politikai döntéshozó is. És ezen a ponton a folyamat iránya megfordul.

A politikai döntés pillanatában már nemcsak a múlt értelmezéséről van szó. A jelenben meghozott döntés maga is eseményt hoz létre.

Egy szerződés aláírása, egy katonai döntés, egy új szövetség létrehozása, egy határ lezárása, egy gazdasági intézkedés vagy egy háború megindítása ma politikai döntés. Holnap már történelmi esemény.

A történelem ebben az értelemben nem valami, ami mögöttünk van. Folyamatosan benne élünk.

A döntés, amelyről nem tudjuk, hogy megtörtént

Az előző fejezetben két rendszert választottunk külön.

A kereső motor információt ad, majd az ember dönt és cselekszik. A másikban az ember meghatározza a célt, de az ahhoz vezető út egy részének kiválasztását és végrehajtását már a digitális rendszerre bízza.

Tegyük fel, hogy szállodát keresünk egy városban. Tíz olyan szálloda létezik, amely megfelelhet az igényeinknek, a program azonban ezek közül hármat mutat meg. Mi megnézzük a három ajánlatot, összehasonlítjuk őket, majd kiválasztjuk az egyiket.

A döntést látszólag mi hoztuk meg, és valóban a három lehetőség közül mi választottunk. Csakhogy ezt megelőzte egy másik kiválasztás is. Valamilyen módon eldőlt, hogy miért éppen ez a három került elénk, és miért nem a másik hét.

Ehhez ismét nincs szükség arra, hogy a programnak saját szándékot tulajdonítsunk. A kiválasztás létrejöhet a keresés eredményéből, rangsorolási szabályokból, a felhasználó által megadott feltételekből, korábbi információkból, a rendszer működését meghatározó utasításokból vagy ezek együttes hatásából.

A lényeg nem az, hogy a program „miért akarta” ezt a három szállodát megmutatni. Nem akarta. A felhasználó döntését megelőzően már létrejött egy láthatatlan szelekció, amely meghatározta, milyen lehetőségek között hozhat döntést.

De a fejlődés itt még nem állt meg. Az agentikus rendszer ezt még egy lépéssel tovább viheti. Ha nem azt kérjük, hogy „Melyik szállodát ajánlod?”, hanem azt, hogy „Foglalj nekem megfelelő szállodát”, akkor már a három kiválasztott lehetőséget sem látjuk.

A rendszer lekérheti az ajánlatokat, összevetheti őket, kiválaszt egyet, majd a rendelkezésére álló jogosultságoktól és a rendszer felépítésétől függően elindíthatja vagy végrehajthatja a foglalást.

A felhasználó számára ebből akár csak a végeredmény válik láthatóvá. „A szállást lefoglaltam.” Közben több olyan kiválasztás történt, amelynek létezéséről sem kellett tudnunk.

Ez új megvilágításba helyezi azt is, mit nevezünk döntésnek. Hajlamosak vagyunk a döntést ahhoz a pillanathoz kötni, amikor valaki kimondja: „ezt választom”. De a döntés eredményét már az is meghatározhatja, hogy milyen lehetőségek jutottak el egyáltalán addig a pontig, ahol választani lehetett közöttük.

A befolyásolás ezért nem feltétlenül azt jelenti, hogy valaki megmondja nekünk, mit válasszunk. A választási környezet kialakítása önmagában is befolyás, és ez az a pont, ahol látszólag különálló döntési helyzet összeér.

A történelmi tudat kialakulásánál azt vizsgáltuk, milyen információs környezetből építjük fel a múltról és ezen keresztül a jelenről alkotott képünket. Az ügyintéző rendszernél pedig már azt látjuk, hogy milyen választási környezetből születik meg egy tényleges cselekvés.

Mindkettő mögött ugyanaz az alapvető kérdés áll. Mit látunk a valóságból, és ki vagy mi határozta meg azt, amit nem látunk?

Cél és eszköz már nem ugyanaz

Tegyük fel, hogy egy előadásra szeretnénk eljutni. Az utasítás egyszerű.

„Szerezz nekem jegyet erre az előadásra.”

A cél világos és teljesen jogszerű. Ha a program csak információ szolgáltatásra optimalizált, akkor megkeresi, hol lehet jegyet vásárolni, megmutatja a lehetőségeket, majd a folyamat ismét az embernél folytatódik. Mi választjuk ki az oldalt, mi fogadjuk el az árat, és mi indítjuk el a vásárlást.

Egy kellő jogosultságokkal rendelkező ügyintéző rendszer esetében azonban a feladat más. Nem azt kell megmondania, hol vásároljunk jegyet. Azt a célt kapta, hogy szerezzen jegyet. A cél és a hozzá vezető műveletek ezzel elválnak egymástól.

Ha az első értékesítőnél nincs jegy, a rendszer megpróbálhat másikat. Ha ott sincs, újabb lehetőséget kereshet. Minden egyes eredmény új helyzetet hozhat létre, amelyből a rendszernek, a számára adott szabályok, információk és jogosultságok alapján, újabb műveletet kell meghatároznia.

Fontos ismét leszögezni, hogy a programnak ettől még nem keletkezett saját célja. A cél továbbra is az emberé: jegyet szeretne az előadásra. A rendszer feladata az, hogy a számára rendelkezésre álló technikai lehetőségekből olyan műveletsort hozzon létre, amely ezt a célt teljesíti.

Ezzel azonban megjelenik egy különbség, amely a hagyományos információs rendszerben nem létezett ilyen formában. Amit az ember el akart érni, és amit a rendszer ennek érdekében ténylegesen végrehajtott, már nem ugyanannak a döntési folyamatnak a része. Ez önmagában még nem jelent problémát. Éppen azért használtuk az ügyintéző rendszert, hogy ne nekünk kelljen minden köztes műveletet meghatároznunk.

De ebből nem következik, hogy a cél megadásával minden elképzelhető eszközt is engedélyeztünk. A cél engedélyezése nem azonos a cél eléréséhez használható valamennyi eszköz engedélyezésével.

Ha azt mondjuk egy embernek, hogy szerezzen nekünk jegyet, abból sem következik, hogy ellophat egyet, feltörhet egy fiókot vagy megtéveszthet valakit. A cél jogszerűsége önmagában nem tesz jogszerűvé minden olyan cselekvést, amely a célhoz közelebb visz. Digitális ügyintéző rendszernél ugyanez az elvi határ létezik, de a helyzet szerkezetileg megváltozik.

A felhasználó nem ismeri előre a köztes műveleteket. A rendszer üzemeltetője meghatározhat korlátokat és jogosultságokat, de egy összetett műveletsor konkrét lépései a végrehajtás során alakulhatnak ki. A tényleges cselekvést pedig olyan külső programok vagy szolgáltatások hajthatják végre, amelyekhez a rendszer hozzáférést kapott.

Ezért érdemes különválasztani a képességet, a jogosultságot és az utasítást. Egy rendszer technikailag képes lehet valamire anélkül, hogy arra jogosultságot kapott volna. Rendelkezhet jogosultsággal egy művelet végrehajtására anélkül, hogy az adott helyzetben a felhasználó kifejezetten ezt a műveletet kérte volna. És kaphat olyan általános célt, amelyből nem következik egyértelműen, hogy minden, technikailag rendelkezésére álló művelet felhasználható annak elérésére.

Ezen a ponton jelenik meg a felelősség kérdése. Ha a felhasználó csak a célt határozta meg, de egy köztes műveletet nem ő választott ki, akkor milyen mértékben tekinthető az a saját döntésének? Ha a rendszer végrehajthatta, milyen felelőssége van annak, aki ezt a képességet és jogosultságot biztosította? Valamint, ha a végrehajtást egy másik program vagy szolgáltatás végezte el, hol húzódik a felelősség határa?

Ezekre a kérdésekre már most is nehéz választ találnunk.

Az azonban már a jelenlegi technikai felépítésből következik, hogy a cél meghatározója, a köztes művelet kiválasztója és a művelet tényleges végrehajtója nem szükségszerűen ugyanaz a szereplő. Ezért a kérdés többé nemcsak az, hogy egy digitális rendszer helyesen értelmezte-e a felhasználó kérését, hanem az is, hogy ki felel azért az útért, amelyen a rendszer eljutott a kérés teljesítéséig.

A felelősségi lánc

A valóságos digitális környezet azonban sokkal összetettebb. Egyetlen ügyintézésben több, egymástól részben független rendszer is részt vesz.

A felhasználó a példánkban utazást szeretne szervezni. Saját ügyintézője kapcsolatba lép egy foglalási szolgáltatással. Az továbbítja vagy átalakítja a kérést. Egy szálloda rendszere értékeli a rendelkezésre álló lehetőségeket. Egy fizetési szolgáltató pedig végrehajtja a tranzakciót.

Ezeknek a rendszereknek nem kell azonos szolgáltatóhoz tartoznak, és nem ugyanazt a feladatot végzik. Az egyik a felhasználó kérését értelmezi. A másik ajánlatokat rangsorol. A harmadik árat számít. A negyedik jogosultságot ellenőriz. Az ötödik végrehajt egy műveletet.

Egyenként minden lépés szabályosnak és észszerűnek tűnhet. A probléma akkor válik láthatóvá, amikor nem az egyes lépéseket, hanem a teljes folyamat eredményét vizsgáljuk.

Tegyük fel, hogy a felhasználó teljesen jogszerű célt adott. Az első rendszer ennek megfelelően továbbította a feladatot. A következő rendszer a saját működési szabályai szerint kiválasztotta az optimálisnak tekintett lehetőséget. Egy további rendszer ennek alapján végrehajtott egy műveletet. Mégis létrejöhet olyan végeredmény, amelyet egyetlen ember sem választott ki ebben a konkrét formában.

Ehhez ismét nincs szükség arra, hogy bármelyik programnak saját szándékot tulajdonítsunk. Éppen az ellenkezője történik. A teljes eredmény több, külön-külön meghatározott technikai folyamat egymásra épüléséből jön létre. Ez azért jelent új helyzetet, mert a cselekvési lánc és a döntési lánc már nem feltétlenül esik egybe.

Korábban az ember információt kapott, döntött, majd cselekedett. Ha valami történt, viszonylag könnyű volt megmutatni azt a pontot, ahol a választás és a felelősség létrejött. Egy több rendszerből álló folyamatban azonban a végeredmény számos kisebb kiválasztás következménye lett.

A jog természetesen rendelhet felelősséget ezekhez a szereplőkhöz. Szerződések, szolgáltatási feltételek és szabályozások is meghatározhatják, hogy egy adott helyzetben ki viseli egy művelet következményeit. Minél több önálló kiválasztási és végrehajtási pont kerül egy folyamatba, annál kevésbé magától értetődő, hogy a végeredmény egyetlen azonosítható döntés következménye.

Egy digitális infrastruktúra egyre összetettebb műveletsorok végrehajtására lehet képes, miközben az egyes szereplők a teljes folyamatnak csak egy részét határozzák meg. A cselekvési képesség koncentrálódhat, miközben a felelősség már követhetetlen a felhasználó számára.

Kinek a célját teljesíti a rendszer?

Eddig úgy beszéltünk a célról, mintha az mindig egyértelmű lenne. A felhasználó megmondja, mit szeretne, a rendszer pedig megpróbálja teljesíteni. Egy valódi szolgáltatás működésében azonban nem egyetlen cél van jelen.

A felhasználó megfelelő szolgáltatást szeretne. A szolgáltató bevételt és nyereséget szeretne. A rendszer fejlesztője versenyképes terméket és piaci sikert szeretne. Egy intézmény hatékonyabb működést, alacsonyabb költséget vagy más szervezeti eredményt szeretne elérni. Ezek mind emberi vagy intézményi célok.

A programnak nincs szüksége saját érdekre ahhoz, hogy ezek megjelenjenek a működésében. A fejlesztők és üzemeltetők különböző szabályokkal, rangsorolási szempontokkal, jogosultságokkal és technikai korlátokkal alakíthatják ki, hogyan működjön a szolgáltatás.

A kérdés ezért nem az, hogy „Mit akar az MI?”, hanem az, hogy „Milyen emberi és intézményi célok épültek be abba a rendszerbe, amely a felhasználó célját teljesíti?” Ezek a célok ráadásul nem szükségszerűen állnak konfliktusban egymással.

Térjünk vissza a szállodához. A felhasználó megadott bizonyos feltételeket. Megfelelő helyen legyen, férjen bele a költségkeretbe, rendelkezzen a szükséges szolgáltatásokkal. A rendszer talál öt szállodát, amelyek ezeknek a feltételeknek lényegében egyformán megfelelnek.

Ha ezek közül azt helyezi előrébb, amelynek foglalása a közvetítő szolgáltató számára nagyobb bevételt eredményez, két cél egyszerre teljesülhet. A felhasználó megfelelő szállodát kapott. A szolgáltató számára kedvezőbb üzlet jött létre.

A felhasználó célja teljesült, miközben egy másik cél is teljesült. Ez önmagában nem feltétlenül kifogásolható. A gazdasági szolgáltatások jelentős része eleve úgy működik, hogy a fogyasztó és a szolgáltató egyidejűleg próbál előnyhöz jutni.

A digitális közvetítőnél azonban a felhasználó nem látja az összes lehetőséget. És nem látja azt sem, milyen szempontok alapján történt közöttük a kiválasztás. Ezért egy rendszer úgy is szolgálhat egy másodlagos célt, hogy közben az elsődleges, felhasználó által megadott célt teljes mértékben teljesíti.

Ehhez nincs szükség megtévesztésre. Nincs szükség hamis információra. És még arra sincs szükség, hogy a felhasználó rosszabb eredményt kapjon.

A befolyásolást hajlamosak vagyunk úgy elképzelni, hogy valaki rávesz bennünket valamire, amit egyébként nem akarnánk. Ebben a rendszerben azonban sokkal finomabb mechanizmus is létrejöhet. Ha több, számunkra elfogadható út vezet ugyanahhoz a célhoz, a közöttük történő kiválasztás egy másik szereplő érdekét is szolgálhatja anélkül, hogy a mi érdekünk sérülne.

Így a felhasználó elégedett maradhat. A szolgáltató is eléri a saját célját. A rendszer pedig technikailag pontosan azt teszi, amire kialakították. Éppen ezért a kérdés már nem egyszerűen az, hogy a rendszer a felhasználó érdekében működik-e. Az is kérdés, hogy a felhasználó céljának teljesítése közben milyen más célok teljesítésére használható ugyanaz a döntési infrastruktúra.

A hatalom kérdése

Eddig szándékosan nem beszéltünk hatalomról, mert nem volt rá szükség. Elég volt végigkövetni, mi történik akkor, amikor egy digitális rendszer egyre több ponton kerül az információ és az ember közé.

Először azt láttuk, hogy a rendelkezésre álló információk közül valaminek be kell kerülnie a válaszba, másnak pedig ki kell maradnia. Ez hatással van arra, amit tudunk vagy tudni vélünk.

Ezután azt láttuk, hogy az információk összekapcsolásából értelmezés jön létre. Ez hatással van arra, ahogyan látjuk a jelent.

Amikor a rendszer lehetőségeket keres és rangsorol, azzal meghatározhatja, milyen választási környezet kerül elénk. Ez hatással van arra, amiből döntünk.

Az agentikus működésnél pedig a digitális rendszer már a cél és a tényleges cselekvés közötti műveletek egy részének kiválasztásában és végrehajtásában is részt vehet. Ez hatással van arra, ami történik.

És egyikhez sincs szükség arra, hogy a programnak saját szándékot, politikai célt, öntudatot vagy bármilyen emberi értelemben vett identitást tulajdonítsunk. Éppen ezért ezen a ponton már feltehető egy más természetű kérdés.

Ha egy infrastruktúra képes részt venni az információ kiválasztásában, annak értelmezésében, a lehetőségek rangsorolásában és bizonyos esetekben a cselekvésben is, mekkora társadalmi jelentősége van annak, hogy ki határozza meg ennek az infrastruktúrának a működési szabályait?

A kérdés itt már nem magáról a mesterséges intelligenciáról szól. A programnak nincs hatalmi érdeke.

A működését emberek és intézmények alakítják. Emberek határozzák meg, milyen feladatokra használható, milyen információforrásokhoz férhet hozzá, milyen szabályokat kell követnie, milyen műveleteket hajthat végre, és hol vannak a jogosultságainak határai. Ezért a hatalom kérdését is ott kell keresnünk, ahol a döntési lehetőség ténylegesen létezik, az infrastruktúrát létrehozó, működtető és szabályozó emberi és intézményi környezetben.

A hatalom ebben az értelemben nem feltétlenül azt jelenti, hogy valaki közvetlen utasítást ad más embereknek. A választási környezet kialakítása önmagában képes befolyásolni a döntést. Ha ugyanez társadalmi méretekben történik, akkor az információk láthatóságának, a lehetőségek rangsorolásának és a végrehajtható műveletek szabályainak meghatározása önmagában is hatalmi jelentőséget kap.

Ettől még nem kell feltételeznünk visszaélést, összeesküvést. De a hatalmi potenciál attól még létezik, és ha létezik, akkor élhetnek is vele.

Ahogyan egy intézmény jogosultságainak vizsgálatakor sem abból indulunk ki, hogy biztosan vissza fog élni velük, egy információs és cselekvési infrastruktúra társadalmi jelentőségét sem csak akkor érdemes vizsgálni, amikor a visszaélés már megtörtént.

Most még a kérdés az az, hogy milyen befolyásolási lehetőség keletkezik annál, aki a közvetítő rendszer működésének feltételeit meghatározhatja?

A függőség különös következménye

A hatalom kérdésének van egy kevésbé nyilvánvaló oldala. Egy infrastruktúra társadalmi jelentősége nemcsak attól függ, mire képes, hanem attól is, mennyire hasznos.

Ha egy rendszer gyorsabbá teszi a munkát, csökkenti a költségeket, hozzáférhetővé tesz korábban nehezen elérhető információkat, egyszerűsíti az ügyintézést vagy olyan feladatokat végez el, amelyekhez korábban jelentős emberi munka kellett, akkor valódi értéket teremt.

Minél nagyobb ez az érték, annál több szereplőnek fűződik érdeke ahhoz, hogy a rendszer tovább működjön, még akkor is, ha felismeri a függését tőle.

A felhasználó azért, mert megkönnyíti az életét. A vállalkozás azért, mert növeli a hatékonyságát vagy csökkenti a költségeit. Az intézmény azért, mert segítségével gyorsabban vagy kevesebb erőforrással képes ellátni a feladatait. Ez nem mesterségesintelligencia-specifikus jelenség.

A társadalmak számos olyan infrastruktúrát hoztak létre, amelynek működésétől idővel gazdasági és társadalmi folyamatok váltak függővé. Az elektromos hálózat, a távközlés, az internet vagy a pénzügyi infrastruktúra értékét részben éppen az adja, hogy más tevékenységek épülnek rájuk.

Egy információs és ügyintézési infrastruktúránál azonban van egy sajátos többlet. Az eddigiek alapján ugyanaz a rendszer, amelynek használatából előnyünk származik, részt vehet abban is, hogy milyen információkat látunk, hogyan rendeződnek ezek válasszá, milyen lehetőségek kerülnek elénk, és bizonyos esetekben milyen műveletek történnek a nevünkben. Így két tulajdonság ugyanabban az infrastruktúrában találkozhat. Értéket teremt számunkra, miközben képes alakítani azt a döntési környezetet, amelyben működünk.

Ha egy ilyen infrastruktúra működésének korlátozása egyben azoknak az előnyöknek a korlátozását is jelenti, amelyeket emberek, vállalkozások és intézmények naponta használnak, akkor ezeknek a szereplőknek saját érdekük is fűződhet a rendszer fennmaradásához.

Nem azért, mert nem ismerik fel a lehetséges kockázatokat. Nem azért, mert valaki megtévesztette őket, hanem azért, mert valóban hasznuk származik belőle. Tehát a társadalom tagjai saját érdekeik miatt is védhetnek egy olyan infrastruktúrát, amely egyúttal döntési környezetük alakítására is képes.

Ehhez nincs szükség öntudatos mesterséges intelligenciára. Nincs szükség arra sem, hogy a program megpróbálja fenntartani saját működését. A fennmaradásban érdekelt szereplők maguk az emberek és az intézmények lehetnek. A rendszernek ehhez csak elég hasznosnak kell lennie.

Törvényesség és felelősség

Ezen a ponton döntő tényezővé válik a felelősség kérdése. Amíg az ember információt kapott, majd maga döntött és maga cselekedett, a döntés és a cselekvés közötti kapcsolat viszonylag könnyen követhető volt. Az agentikus rendszereknél ez a kapcsolat összetettebbé vált.

A felhasználó meghatározta a célt. Egy rendszer értelmezte. Más rendszerek adatokat szolgáltattak vagy lehetőségeket rangsoroltak. Egy további szolgáltatás végrehajtotta a műveletet. A végeredmény így több különálló technikai és emberi döntés eredője volt.

Ez azonban nem jelenti azt, hogy megszűnt a felelősség. És azt sem, hogy a jog szükségszerűen képtelen kezelni az ilyen helyzeteket.

A kérdés inkább az, hogy milyen ponthoz rendelhető a felelősség egy olyan folyamatban, amelyben a cél meghatározása, a köztes műveletek kiválasztása, a jogosultság biztosítása és a tényleges végrehajtás különböző szereplőkhöz tartozhat.

A probléma társadalmi szinten még összetettebb. A szabályozás egyik feladata éppen az, hogy korlátokat állítson olyan tevékenységek elé, amelyek egyéni vagy társadalmi kockázatot teremthetnek. De mi történik akkor, ha a szabályozandó infrastruktúra egyben jelentős gazdasági és társadalmi értéket is teremt?

Ekkor a két érdek nem esik egybe. Szükség van külső kontrollra, mert az információs és cselekvési képesség jelentős lehet. Ugyanakkor szükség van a rendszer működésére is, mert emberek, vállalkozások és intézmények építették rá tevékenységük egy részét, vagy egyszerűen jelentős előnyük származik belőle.

Az eddig vizsgált rendszerek egyre nagyobb szerepet kaphatnak az információ kiválasztásában, annak értelmezésében, a lehetőségek rangsorolásában és a felhasználó nevében végrehajtott műveletekben. Vagyis éppen azokban a folyamatokban, amelyek alapján az emberek és intézmények maguk is döntéseket hoznak. Ezért a külső kontroll kérdése különös formában tér vissza.

Nem az a kérdés, hogy képes-e a társadalom szabályokat alkotni. És nem szükséges azt állítanunk, hogy a jog elveszíti az erejét. A probléma ennél mélyebb. Létre hozható és fenntartható e külső kontroll egy olyan infrastruktúra felett, amelynek működéséből maguk az ellenőrzést végző és az ellenőrzés következményeit viselő társadalmi szereplők is egyre nagyobb politikai előnyt remélnek?