Etikai szingularitás: amikor a választás nem jelent szabadságot
Peter Hershock gondolatai alapján
Sokáig úgy hittük, hogy a technológiai fejlődés etikai dilemmái elsősorban szabályozási kérdések: hogy elég lesz adatvédelmi törvényeket hozni, átláthatóbb működésű algoritmusokat követelni, vagy embert tenni a döntési láncba (“human in the loop” – HITL). Ez a megközelítés azonban egyre kevésbé működik, mert ahogy telik az idő és fejlődik az ún. intelligens technológia, úgy egyre kevésbé vagyunk képesek arra, hogy elbírálói legyünk az AI-rendszereknek (itt nemcsak LLM-ről van szó, hanem pl. a már régebb óta velünk élő social media- vagy keresőmotor-algoritmusokról).
Az intelligens technológiai rendszerhez képest tehát egyre kevésbé vagyunk külsődleges aktorok, és egyre inkább a rendszer szerves részei. Hogy kell ezt elképzelni? A következőkben Peter Hershock filozófus gondolatai kapcsán írok, értelmezek. Hershock szerint a valódi veszély nem a technológiai szingularitás. Nem az tehát, hogy a gépek okosabbak lesznek nálunk és már nem értjük, hogyan fejlesztik magukat és hogyan is működnek.
A valódi veszély szerinte az etikai szingularitás: egy állapot, ahol az ember elveszíti azt a képességét, hogy tartalmilag szabad döntéseket hozzon, mivel a figyelmét a részben önmaga korábbi választásai által generált aktuális választások sokasága köti le.1
A figyelem elvesztése mint etikai esemény
Az etikáról való gondolkodásnak előfeltétele az egyén döntési képességének az elfogadása (ezét merült fel történelem során többször is, hogy felelősségre vonható-e az, aki parancsra cselekszik – nyilván igen). Az erkölcs, bár kulturálisan kódolt, elsősorban egyéni döntésekben képeződik le (meg persze elvileg a jogban, ami már rendszerszintű és kényszerítő erővel hat, de ez most nem érdekes).
Szóval mi köze mindehhez a figyelemgazdaságnak? Mi történik akkor, ha a figyelmünket állandóan választások tömkelege ejti rabul, amelyek részben önmagunk korábbi választásaiból fakadnak? Először is, hogy kell ezt elképzelni?
Amikor a Netflixes disztópia minisorira adott két felfelé mutató hüvelykujj értékelésed miatt a következő hetekben sok disztópia minisori ajánlást kapsz a Netflix nettó 3,5 év alatt megnézhető (2024-es adat!), sorozatgyártott kínálatából, akkor ezek nagyon kézzelfogható példák az “én” és a “gép” kölcsönhatásából kialakuló működésre. Jobban figyelek arra, ami már alapból belőlem fakad, ami hasonlít önmagamra, a saját érdeklődésemre. Ugyanakkor így a legkönnyebb engem, a döntéseimet befolyásolni, formálni is. Ez a gép-ember kölcsönhatás folyamatos körforgása. A Netflix példája itt csak a rövid távot jelenti.
Ahogy az AI-rendszerek – algoritmusok stb. – memóriája fejlődik, úgy alakul a “profilod” egyre hosszabb távon egyre komplexebbé. A végén már az egész online/virtuális léted egyfajta tárgyiasult önélvezet, ami érdekes módon mégis egy folyamatos kínlódást okoz és nem kívánt függőségi tüneteket – pl. a sokat hivatkozott “szkrollozást”.
Mit jelent az, hogy a technológia nem eszköz, hanem rendszer?
A klasszikus etikai gondolkodás abból indul ki, hogy az ember autonóm cselekvő, aki eszközöket használ. Az eszköz kiterjeszti a képességeit, de nem alakítja át alapvetően, hogy mit jelent cselekedni, dönteni vagy felelősséget vállalni.2
Az intelligens technológiák azonban nem eszközök ebben az értelemben. Nem lokalizálhatók, nem tudjuk olykor használni, olykor meg nem használni őket. Egyre inkább “bennük” létezünk, nem “mellettük”.
A technológiák új relációs rendszereket képeznek le, amelyek átalakítják, hogy hogyan gondolkodunk, mire figyelünk, mit látunk fontosnak és végső soron azt is, kik vagyunk – rabul ejthetik a tudatunkat, egészen. (A social media pl. egyértelműen technológia, nem pedig eszköz.)
“Human IN the loop” helyett “Human AS the loop”
Mi a „human in the loop”3 elképzelése? Az, hogy az ember a gépi döntéshozatalban – pl. etikai kérdésekben – végső kontrollpont marad. Ennek a pozíciónak szükséges feltétele, hogy az ember külső, független értékelő4 (pl. a hitelkérelem elbírálására az AI saját statisztikai számítása alapján javaslatot tesz, de ember hozza a döntést – itt a döntés és a jóváhagyás közötti hatalmas különbségre érdemes emlékezni, tehát az ember jó esetben nem pusztán jóváhagy, hanem mérlegel, méltányosságot gyakorol stb.).
Ez a “külső-független” feltétel jól láthatóan egyre kevésbé teljesül. Mi ennek az oka? Ahogy már a fentebbi, Netflixes példa is mutatja: ma az ember egyszerre fogyasztó és adatforrás.
Az ember emiatt a relációs pozíció miatt egyre kevésbé tud “külsődleges és független” értékelő lenni, hiszen a rendszerek tehát nemcsak előrejelzik a viselkedését, hanem ezzel párhuzamosan alakítják is azt: preferenciákat, félelmeket, vágyakat termelnek. És a kör kezdődik elölről. Hershock szerint ezzel a véget nem érő folyamattal – amelyben algoritmus és ember összeforr – a figyelemhez-való-szabadságunkat, illetve ehhez szorosan kötődve a szándékhoz-való-szabadságunkat is elveszítjük. Miért?
Ha nem én döntöm el, mire figyelek, akkor nem én döntöm el, miről gondolkodom (minden pillanatban leterhelt a tudat, fulladozunk a választási lehetőségekben).
Ha nem én döntöm el, miről gondolkodom, akkor nem én döntöm el, mit tartok fontosnak (nem tudok lényegileg priorizálni, csak a felkínált lehetőségek között vergődni).
Ha nem én döntöm el, mit tartok fontosnak, akkor a döntéseim formálisan szabadok, de tartalmilag előre meghatározottak – ez viszont egy idő után szerintem még csak nem is tudatosul, hanem egy új létmóddá válik, egy új rabság.
Ha a döntéseim tartalmilag meghatározottak, akkor pedig a szándékaim is meghatározottak lesznek.
Ez már nem manipuláció a szó köznapi értelmében. Ez a tudat infrastruktúrájának átalakítása.
Az etikai szingularitás jelentése – veszély?
Az etikai szingularitás nem egy pillanat, hanem egy skálán egy állapot. Azt a helyzetet jelöli, ahonnan már igaznak mondható, hogy a döntések látszólag még léteznek, a választások sokasága oda van tolva elénk, de ez nem egyre nagyobb szabadságot, hanem egyre nagyobb rabságot jelent – mert a tudatunk fogoly.
Egy olyan állapotot, amikor az ember már nem tud mérlegelni és irányt váltani – mert a figyelme, szándékai és reflexei külső rendszerek által előhangoltak.
Ebben az állapotban az etika azért omlik össze, mert többé nincs cselekvő alany. Mindenki részben felelős, ezért senki sem az. A döntések csak megtörténnek, nem „valaki” hozza meg őket (ebben az értelemben ez olyan, mint egy nagyvállalati működés).
Van megoldás? Persze, egy csomó dologra lenne, csak épp nem találkozik a profitmaximalizálás rövidtávú érdekeivel. A megoldás a figyelmünk fölötti önrendelkezés visszaszerzése vagy megerősítése (Hershock szavaival freedom-of-attention). Ez egyéni szinten lehetséges – az elmúlt években lifestyle-elemmé szelídített „digitális detoxot” érdemes volna nagyjából állandósítani, vagy jelentős mértékben növelni az időtartamát, mondjuk 2 hétről 11 hónapra (de már a három hét is jobb, mint a kettő). Érdemes volna olyan dolgokat csinálni, amelyek “régimódi” jelenlétet követelnek meg, és a figyelmet edzik, kitartásra tanítják – például hosszú szövegeket olvasni, órákon keresztül, telefontól messze. A kontempláció, a koncentrációs technikák és meditáció is rengeteget segít. De ez csak az egyén szintje. Ahhoz, hogy a rendszer változzon, a figyelemgazdaság digitális platfromjai és architektúrája is átalakításra szorul. (Ha érdekel mélyebben is Hershock gondolatmenete, illetve hogy miként használja a buddhizmus fogalmait a helyzet mélyebb feltárásához, akkor olvasd tovább őt magát!)
Kapcsolódó cikkek
Persze több ponton is ki lehet kezdeni a logikát, feltehetjük például azt a jogos kérdést, hogy egy már több mint 100 éve kialakult fogyasztói kultúrában, amely a tömegek meggyőzésére és a hamis szükségletek kialakítására épít, mennyire volt még meg ez a “szabad” döntési képesség. Ez is egy skála. Ettől még Hershock gondolatai ma részben hasznos táptalaját adhatják az “AI”-ról való gondolkodásunknak (és itt az “AI” nem pusztán az LLM-et jelenti, ebbe a kategóriájába beletartoznak a már sokkal régebb óta velünk lévő algoritmusok is).
Itt is fontos árnyalni, hogy ez az átalakító hatás valószínűleg nem mindig egy új technológiától jön, hanem néha csak egy technológia tömegessé válásával – pl. az írás és olvasás tömeges elterjedése ebben az értelemben inkább nevezhető technológiának, mint eszköznek. Illetve az eszköz vs. technológia kérdés is ugyanúgy skála: pl. egy kés lehet eszköz, ahol eldöntöm, mire használom. Egy gépfegyvert már ritkán használnak másra, mint emberölésre, de mondjuk inkább még eszköz. Az atombomba már egyértelműen technológia, amennyiben az élet tömeges kiirtására használható, így épp a békét, illetve az óvatos politikai cselekvést várták tőle – mondjuk ez nem annyira jött be, de az atombomba technológia jellege elvitathatatlan, amennyiben rendszerhatást gyakorol, alapvető politikai gondolkodás irányát állítja be.
A Human-In-The-Loop (HITL) egy olyan mesterséges intelligencia-fejlesztési és működtetési megközelítés, amelyben az emberi szereplő aktívan részt vesz a tanítási, döntéshozatali vagy visszacsatolási folyamatban. A cél az, hogy az emberi szakértelem és az AI hatékonysága kombinálódjon a jobb eredmények érdekében.
A “külső és független” alapból nagyon problematikus fogalmak, ahogy az objektivitás vagy racionalitás eszményével is óvatosan kell bánni. De Hershock logikája szempontjából nem nagyon van más választás – illetve ismét a “skálázással” jönnék: képzeljük el tehát úgy, hogy nem az van, hogy valaki vagy független vagy elfogult, vagy külsődleges vagy a rendszer része, hanem hogy minél inkább igaz a “külső és független”, annál jobban működik a HITL (human-in-the-loop), és annál inkább megmarad az ember etikai cselekvőnek.
"az ember jó esetben nem pusztán jóváhagy, hanem mérlegel, méltányosságot gyakorol stb." - no igen, csakhát alapvető tulajdonság az emberi lustaság, így hát a tragikommédia, hogy az 'AI' dönt ;) A 'van megoldás?' Utáni rész nagyon hasznos.
Nagyon fontos és értékes gondolatok, kár, hogy a szöveget ugyanúgy rendszeresen megtörik a figyelmünk elvonására kényszerítő eszközök, mint más online felületeken, így a cikk maga is illusztrációja lesz annak, hogy nem uralhatjuk még az olvasás folyamatát sem, és a figyelmünk már képtelen kitartani három bekezdésnél tovább, mert erre van kondicionálva.