Mi fenyegeti az emberiséget egész életünk számítógépesítésével

2024 Szerző: Seth Attwood | [email protected]. Utoljára módosítva: 2023-12-16 16:07

Okostelefonok, robotok, számítógépek könnyítik meg az életünket, de lehet, hogy ezzel veszítünk valamit? A riporter Nicholas Carr amerikai íróval beszélgetett a túlzott automatizálás veszélyeiről, sőt fenyegetőzéseiről.

Elterjedt az a vélemény, hogy minden és mindenki automatizálása javítja életünk minőségét. A számítógépek segítenek a csúcsteljesítmény elérésében. A szoftveralkalmazások gyorsabbá és egyszerűbbé teszik a feladatokat. A robotok vállalják az unalmas és kemény munkát. A Szilícium-völgyből származó innovációk folyamatos áradata csak megerősíti az emberekben azt a hitet, hogy az új technológiák jobbá teszik az életet.

Van azonban egy másik vélemény is. Nicholas Carr író pártatlan elemzésnek veti alá a modern digitális világ posztulátumait. Az Atlantic-ban 2008-ban megjelent esszéje, „Does Google Make Us Stupid?”, csakúgy, mint a 2010-es bestseller, a The Shallows továbbra is ellentmondásos.

Annak az elméletnek a hívei, hogy a technológia megmenti világunkat, Carrt az egyik legerősebb ellenfélnek tekintik. És azok, akik óvakodnak a technológiai fejlődés emberiségre gyakorolt következményeitől, tiszteletben tartják a kiegyensúlyozott érvelést.

Carrt most egy új kérdés érdekli: kell-e félnünk attól, hogy fokozatosan nem lesz nehéz feladat számunkra a világon? Életünk túl hatékony lesz az új technológiáknak köszönhetően?

Nemrég találkoztam az íróval, hogy beszéljek új könyvéről, az Üvegkalitka: Automatizálás és mi, és arról, hogy mi késztette rá, hogy megírja.

1. Az új technológiákkal kapcsolatos fő mítosz megdöntése

Tom Chatfield:Ha jól értem, az "Üvegkalitka" című könyvben azt a mítoszt próbálod megcáfolni, miszerint életünk leegyszerűsítése a technológiai fejlődésnek köszönhetően szükségszerűen pozitív jelenség.

Nicholas Carr:Személyi és intézményi szinten is azt szoktuk gondolni, hogy a hatékonyság és a kényelem alapból jó, ezek maximalizálása mindenképpen méltó cél. Számomra úgy tűnik, hogy ez a technológiai megközelítés minden formájában, különösen a számítógépes automatizálás formájában, meglehetősen naiv. Ez vonatkozik saját vágyainkra és a modern világ valós életére is.

Felváltják-e valaha a számítógépek az embereket?

T. Ch.:Márpedig a technológiai fejlődés legtöbb híve ragaszkodik ahhoz a haszonelvű nézőponthoz, amely szerint a legnagyobb hibákat a hatékonyság és a logika figyelmen kívül hagyása okozza, és valójában mi magunk sem tudjuk, mi a jó nekünk. Ezért az ő szempontjukból a technológiai haladás feladata az emberi gondolkodás hiányosságainak azonosítása, majd olyan rendszerek létrehozása, amelyek ezeket a hiányosságokat kompenzálnák. Téves ez a vélemény?

N. K.: Egyrészt a számítástechnika és az automatizált rendszerek fejlesztésének számos újításának semmi köze ahhoz az elsöprő állításhoz, hogy az ember nagyon tökéletlen a számítógépekhez képest. Igen, a számítógép beprogramozható bizonyos műveletek végtelenségig, egyenletes minőségben történő elvégzésére. És igaz, hogy ilyesmire az ember nem képes.

Egyesek azonban még ennél is tovább mennek, és azzal érvelnek, hogy az emberek túl tökéletlenek, szerepüket amennyire csak lehet, korlátozni kell, és a számítógépeknek kell felelniük minden alapvető feladatért. Itt nem csak az emberi hiányosságok kompenzálásáról van szó – az elképzelés az emberi tényező teljes eltávolításáról szól, aminek következtében – állítólag – sokkal jobb lesz az életünk.

T. Ch.: Úgy tűnik, ez nem a legjobb ötlet. Van-e optimális automatizálási szint?

N. K.: Véleményem szerint nem az a kérdés, hogy ezt vagy azt az összetett feladatot kell-e automatizálnunk. A kérdés az, hogyan használjuk az automatizálást, hogyan használjuk pontosan a számítógépeket az emberi ismeretek és készségek kiegészítésére, az emberi gondolkodás és viselkedés hibáinak kompenzálására, valamint arra, hogy az embereket arra ösztönözzük, hogy a legtöbbet használják ki saját tapasztalataikból új magasságok elérése érdekében.

Számítógép-monitor-figyelőkké válunk

A szoftverekre való túlzott támaszkodás miatt számítógép-monitorok figyelőivé és folyamatfolyamat-kezelőivé válhatunk. A számítógépek nagyon fontos szerepet játszhatnak, mivel csak emberek vagyunk – előítéletek áldozatává válhatunk, vagy kihagyhatunk fontos információkat. De az a veszély, hogy túl könnyű minden funkciónkat számítógépre bízni, ami véleményem szerint rossz döntés lenne.

2. Közelebb kell hoznod a valós életet egy videojáték forgatókönyvéhez?

T. Ch.: Örömmel vettem tudomásul, hogy könyvében a videojátékokat az ember-gép interakció példájaként említi, amelyben a nehézségek leküzdése a lényeg, nem pedig azok elkerülése. A legnépszerűbb játékok egyfajta munka, amely a játékos elégedettségét kelti. Csak panaszkodhatunk, hogy az a munka, amit sokunknak nap mint nap el kell végeznünk, sokkal kevesebb szakértelmet igényel, és sokkal kevesebb örömet okoz.

A videojátékok arra ösztönzik a játékost, hogy tegyen extra erőfeszítést és használja ki az agyát, amennyire csak lehetséges

N. K.: A videojátékok érdekessége, hogy koncepciójuk ellenkezik a szoftverkészítés általánosan elfogadott elveivel. A számítógépes játékok célja egyáltalán nem az, hogy a felhasználót mentesítse a kellemetlenségektől. Ellenkezőleg, extra erőfeszítésre és az agy minél több használatára ösztönzik a játékost. Pontosan azért élvezzük a videojátékokat, mert egyre nagyobb kihívások elé állítanak bennünket. Folyamatosan nehéz helyzetekbe kerülünk – de nem olyan helyzetekbe, amelyek kétségbeesést okoznak. Minden új szint leküzdése csak fejleszti képességeinket.

Ez a folyamat nagyon hasonlít ahhoz, ahogyan egy személy élettapasztalatot szerez a való életben. Mint tudjuk, a képességek kibontakoztatásához az embernek újra és újra komoly akadályokkal kell szembenéznie, és újra és újra le kell küzdenie azokat, minden tudását és készségeit felhasználva. Fokozatosan az ember új szintre lép, ami után az akadályok összetettsége nő.

Szerintem az emberek ugyanazért szeretik a videojátékokat, mint amiért elégtételt szereznek az új tapasztalatok megszerzéséből és az akadályok leküzdéséből. Egy nehéz feladat megoldása, amelynek során új ismeretekre tesznek szert, amelyek új, még összetettebb nehézségek leküzdéséhez szükségesek, nagy örömet okoz az embernek.

A számítógépnek való teljes alávetettség olyan élethez vezet bennünket, amelyben alig lesz hely az önmegvalósításnak

Az egyik fő aggály, amelyet a könyvben kifejezek, az, hogy a haladáshoz való hozzáállásunk azzal a törekvéssel függ össze, hogy amennyire csak lehetséges, elkerüljük a nehéz problémák megoldását. Számomra úgy tűnik, hogy ez a nézőpont az élettel való elégedettség és az önmegvalósítás fogalmának ellentmond.

3. A számítógépek megszüntetik az emberek iránti igényt?

T. Ch.: A videojátékokkal ellentétben a való világban a kemény munkát nem feltétlenül jutalmazzák. A való világ igazságtalan és kiegyensúlyozatlan. A legzavaróbb tendencia itt talán az, hogy az egyén érdekei (pszichológiailag, személyesen, sőt a túlélés szempontjából is) egyre inkább kicsúsznak a vállalati és kormányzati célszerűség-felfogásból. Félsz attól, hogy a számítógépek végre felváltják az embereket?

Sok játékot nehéz átadni, és szokatlan készségeket és találékonyságot igényel a játékosoktól. Miért kellene tehát a többi technológia csak megkönnyíteni az életünket?

N. K.: Amikor anyagot gyűjtöttem a könyvhöz, nagyon megijedtem egy cikktől (idézetek, amelyekből idézek a szövegben), amelyet egy katonai stratégiai szakember írt. Elmondása szerint, tekintettel a számítástechnika csatatéren való növekvő alkalmazására, nagyon hamar előfordulhat, hogy egyszerűen nem lesz hely a katonai ügyekben. A döntéshozatal sebessége annyira megnőtt, hogy az emberek egyszerűen nem tudnak lépést tartani a számítógépekkel. Elkerülhetetlenül a teljesen automatizált hadviselés felé haladunk: a pilóta nélküli légi járművek maguk döntik el, hogy mikor lőnek ki rakétákat a célpontokra, a földön lévő robotkatonák pedig maguk döntik el, hogy mikor lőnek.

Véleményem szerint ez a helyzet nemcsak a katonai ügyekben figyelhető meg, hanem sok más területen is - például a pénzügyek világában. Az emberek egyszerűen nem tartanak lépést a számítógépekkel, amikor például pénzügyi eszközökkel kereskednek.

Mi vár ránk? Nemcsak azt a képességünket veszíthetjük el, amely megkülönböztet minket a számítógépektől saját cselekedeteink kritikus értékelésében – talán meggondolatlanul fogjuk megvalósítani az ilyen rendszereket, mert azt hiszik, hogy a legfontosabb a döntéshozatal gyorsasága. És akkor, ha meg vagyunk győződve arról, hogy tévedtünk, rá fogunk jönni, hogy nincs visszaút. Nagyon gyakran kiderül, hogy lehetetlen egy személyt integrálni egy eredetileg számítógépes technológiára épülő rendszerbe.

T. Ch.: Én is elborzadtam, amikor elolvastam egy részt a könyvedben az automatizált hadviselésről. Az az érzésem, hogy nem lehet megállítani azt a folyamatot, amely a teljesen autonóm harcrendszerek felé vezet bennünket. A rémületem egy része a 2008-as pénzügyi válság emlékeiből fakad, amely gyakorlatilag dollárbilliókat törölt ki. Most legalább az emberek felelősségteljesebbek a pénzügyeikért. De ha ez megtörténik a katonai szférában, akkor nem dollárok pusztulnak el, hanem emberéletek.

Jövő emberek nélkül?

N. K.: Nem csak arról van szó, hogy az új technológiák, különösen a szoftvertechnológiák ma nagyon gyorsan reprodukálhatók és terjeszthetők. A lényeg az, hogy mindezek a folyamatok versenykörnyezetben menjenek végbe. Legyen szó fegyverkezési versenyről vagy üzleti versenyről, amint az egyik rivális rövid távú előnyre tesz szert egyik vagy másik technológia rovására, ezt a technológiát azonnal bevezetik, ahol csak lehetséges - mert senki sem akar egy hátrány.

Szerintem ebben a helyzetben túl könnyű szem elől téveszteni azt a tényt, hogy alapvetően állatok vagyunk. Az emberek évezredek óta járnak evolúciós úton, hogy élhessenek és túlélhessenek. Az emberiség szerepe, valamint elégedettség- és önmegvalósításunk szorosan összefügg azzal a tapasztalatunkkal, hogy egy olyan világban élünk, amely meghatározza megszokott tempónkat.

Ezért amikor egy embert – annak minden fizikai előnyével és hátrányával együtt – szembeállítunk egy gyors és pontos számítógéppel, akkor az a vágy, hogy egész életünket a számítógépnek adjuk. Elfelejtjük azonban, hogy a számítógépnek való teljes alávetettség olyan élethez vezet, amelyben alig lesz tere az önmegvalósításnak.

4. Hogyan automatizáljuk a világot?

T. Ch.: Úgy gondolom, hogy kritikusnak kell lennünk az új technológiákkal szemben, de aggódom amiatt, hogy az emberek a szükségtelen nehézségeket és az antitechnológiai „hitelességet” fétissé változtatják. Létezik egy modern irányzat, amely dicséri a nehéz fizikai munkát, és azt állítja, hogy mindennek, amit teszünk, kézművesnek és hitelesnek kell lennie. Véleményem szerint egy ilyen álláspont sznobizmusszagú, és nem veszi figyelembe azt a rengeteg pozitív eredményt, amelyet a technológiai haladás demokratizálódása hozott magával.

N. K.: Teljesen egyetértek veled. Egy interjúban megkérdezték tőlem, hogy a haladás iránti óvatos hozzáállásom hogyan segítene például a húsfeldolgozó üzemekben nehéz körülmények között dolgozó embereknek. Azt válaszoltam, hogy természetesen a termelés automatizálásának mindig lesz olyan helye, ahol javítani kell az emberek munkakörülményein. Csak arról van szó, hogy lehet okosan újítani, vagy meggondolatlanul is; módot találhatunk arra, hogy figyelembe vegyük az emberi tapasztalat értékét és az önmegvalósítás fontosságát, vagy egyszerűen csak magasztalhatjuk a számítógépek képességeit. A helyes választás nem könnyű. Ha ezt a feladatot kizárólag feketén-fehéren érzékeljük - vagy vakon kiállunk a kemény, kimerítő fizikai munkáért bármilyen helyzetben, vagy éppen ellenkezőleg, a szibarizmusban látjuk az élet értelmét -, az nem segít az ügyön.

A legnehezebb és rendkívüli precizitást igénylő munkát legjobb a gépekre bízni

Az emberek folyamatosan hoznak létre és használnak eszközöket. Ősidők óta a munkamegosztással kapcsolatos döntéseket kell meghoznunk, a munka mennyiségének megosztásával az ember és a rendelkezésére álló eszközök között. És számomra úgy tűnik, hogy a számítógépek elképesztő hatékonysága sokféle feladat végrehajtásában csak bonyolítja az ilyen döntések meghozatalának folyamatát.

5. Mi vár ránk?

T. Ch.: Tehát az emberiség a siker felé halad?

N. K.: Thomas Hughes természettörténész, aki tavaly hunyt el, a „technológiai lendület” koncepcióját javasolta. Úgy vélte, hogy a társadalmi struktúrákba és folyamatokba ágyazott technológiák maguktól kezdenek fejlődni, magával rántva a társadalmat. Nagyon valószínű, hogy a pályánkat már kijelöltük, és továbbra is a jelenlegi utunkon megyünk tovább, anélkül, hogy kérdéseket tennénk fel arról, hogy jó irányba haladunk-e. Tényleg nem tudom, mi fog történni. A legtöbb, amit tehetek, hogy megpróbálok a legjobb tudásom szerint okoskodni ezeken az igazán nehéz kérdéseken.

Bízom benne, hogy egyénekként és a társadalom tagjaiként képesek leszünk megőrizni egy bizonyos szintű megértést, hogy mi történik velünk, valamint egy bizonyos szintű kíváncsiságot, és hosszú távú érdekeink alapján fogunk döntéseket hozni., és nem a kényelem, a sebesség, a pontosság és a hatékonyság szokásos fogalmai alapján.

Eljön a nap, és a robotok megszabadítanak minket minden nehézségtől. Szükségünk van rá?

Úgy tűnik számomra, hogy törekednünk kell arra, hogy a számítógépek gazdagítsák élettapasztalatunkat és új lehetőségeket tárjanak elénk, és ne váljanak a monitorok passzív megfigyelőivé. Továbbra is úgy gondolom, hogy ha többet hozunk ki az új technológiákból, akkor képesek lesznek arra, amit a technológia és az eszközök az emberiség történelme során tettek – érdekesebb világot teremtenek magunk körül, és segítenek abban, hogy mi magunk is jobbak legyünk. Végső soron minden rajtunk múlik.