Kaj ogroža človeštvo z informatizacijo celotnega našega življenja

2024 Avtor: Seth Attwood | [email protected]. Nazadnje spremenjeno: 2023-12-16 16:16

Pametni telefoni, roboti in računalniki nam olajšajo življenje, a morda pri tem kaj izgubljamo? Novinar se je z ameriškim pisateljem Nicholasom Carrom pogovarjal o nevarnostih in celo grožnjah prekomerne avtomatizacije.

Razširjeno je prepričanje, da avtomatizacija vsega in vsakogar izboljšuje kakovost našega življenja. Računalniki nam pomagajo doseči vrhunsko zmogljivost. Programske aplikacije omogočajo hitrejša in enostavnejša opravila. Roboti prevzamejo dolgočasno in trdo delo. Nenehni tok inovacij iz Silicijeve doline samo krepi prepričanje ljudi, da nove tehnologije izboljšujejo življenje.

Vendar pa obstaja še eno mnenje. Pisatelj Nicholas Carr postulate sodobnega digitalnega sveta podvrže nepristranski analizi. Njegov esej »Does Google Make Us Stupid?«, ki je bil objavljen v Atlanticu leta 2008, je še vedno sporen, tako kot njegova uspešnica iz leta 2010, The Shallows.

Zagovorniki teorije, da bo tehnologija rešila naš svet, vidijo Carra kot enega svojih najmočnejših nasprotnikov. In tisti, ki se bojijo posledic tehnološkega napredka za človeštvo, ga spoštujejo zaradi uravnotežene argumentacije.

Zdaj Carra zanima novo vprašanje: ali bi se morali bati, da postopoma na svetu ne bo za nas težkih nalog? Bo naše življenje zaradi novih tehnologij postalo preveč učinkovito?

S pisateljem sem se srečal pred časom, da bi spregovoril o njegovi novi knjigi Steklena kletka: avtomatizacija in mi in kaj ga je spodbudilo, da jo je napisal.

1. Razblinitev glavnega mita o novih tehnologijah

Tom Chatfield: Če prav razumem, skušate v knjigi "Steklena kletka" razbiti mit, da je poenostavitev našega življenja zahvaljujoč tehnološkemu napredku nujno pozitiven pojav.

Nicholas Carr:Tako na osebni kot na institucionalni ravni smo navajeni misliti, da sta učinkovitost in udobje privzeto dobri, maksimiranje pa je zagotovo vreden cilj. Zdi se mi, da je takšen pristop do tehnologije v vseh njenih oblikah, predvsem v obliki računalniške avtomatizacije, precej naiven. To velja tudi za naše lastne želje in resnično življenje v sodobnem svetu.

Bodo računalniki kdaj nadomestili človeka?

T. Ch.:Pa vendar se večina privržencev tehnološkega napredka drži utilitarističnega stališča, po katerem so največje napake, ki jih delamo, posledica zanemarjanja učinkovitosti in logike, pravzaprav pa sami ne vemo, kaj je dobro za nas. Zato je z njihovega vidika naloga tehnološkega napredka prepoznati pomanjkljivosti človeškega mišljenja in nato ustvariti sisteme, ki bi te pomanjkljivosti nadomestili. Je to mnenje napačno?

N. K.: Po eni strani številne inovacije v razvoju računalniške tehnologije in razvoju avtomatiziranih sistemov nimajo nobene zveze s pometalno trditvijo, da smo ljudje v primerjavi z računalniki zelo nepopolni. Da, računalnik je mogoče programirati za neomejeno izvajanje določenih operacij z dosledno kakovostjo. In res je, da človek česa takega ni sposoben.

Nekateri pa gredo še dlje in trdijo, da so ljudje preveč nepopolni, da bi bilo treba njihovo vlogo čim bolj omejiti, za vse osnovne naloge pa bi morali biti odgovorni računalniki. Ne gre le za to, da bi poskušali nadomestiti človeške pomanjkljivosti - ideja je, da se človeški dejavnik v celoti odstrani, zaradi česar bo naše življenje, kot se trdi, postalo veliko boljše.

T. Ch.: Zdi se, da to ni najboljša ideja. Ali obstaja optimalna raven avtomatizacije?

N. K.: Po mojem mnenju ni vprašanje, ali moramo avtomatizirati to ali ono zapleteno nalogo. Vprašanje je, kako uporabljamo avtomatizacijo, kako natančno z računalniki dopolnjevati človeško znanje in veščine, kompenzirati pomanjkljivosti v človeškem razmišljanju in vedenju ter tudi spodbuditi ljudi, da kar najbolje izkoristijo lastne izkušnje za dosego novih višin.

Spremenimo se v opazovalce računalniških monitorjev

Prekomerno zanašanje na programsko opremo nas lahko spremeni v opazovalce računalniških monitorjev in operaterje procesnih tokov. Računalniki imajo lahko zelo pomembno vlogo, saj smo samo ljudje – lahko postanemo žrtev predsodkov ali pa zamudimo pomembne informacije. Toda nevarnost je v tem, da je vse naše funkcije prelahko prenesti na računalnike, kar bi bila po mojem mnenju napačna odločitev.

2. Ali morate resnično življenje približati scenariju video igre?

T. Ch.: Z veseljem sem ugotovil, da v svoji knjigi navajate video igre kot primer interakcije človek-stroj, pri kateri je bistvo premagovati težave, ne pa se jim izogibati. Najbolj priljubljene igre so neke vrste delo, ki daje igralcu občutek zadovoljstva. Pritožujemo se lahko le, da delo, ki ga mnogi od nas opravljajo vsak dan, zahteva veliko manj spretnosti in nam prinaša veliko manj užitka.

Video igre spodbujajo igralca, da se dodatno potrudi in čim bolj uporabi možgane

N. K.: Video igre so zanimive po tem, da je njihov koncept v nasprotju s splošno sprejetimi načeli ustvarjanja programske opreme. Namen računalniških iger sploh ni, da uporabnika razbremenijo nevšečnosti. Nasprotno, spodbujajo igralca k dodatnemu naporu in k čim večji uporabi možganov. Uživamo v video igrah ravno zato, ker nas izzivajo z vedno večjimi izzivi. Nenehno se znajdemo v težkih situacijah – ne pa v situacijah, ki povzročajo obup. Premagovanje vsake nove stopnje samo izpopolni naše sposobnosti.

Ta proces je zelo podoben temu, kako človek pridobi življenjske izkušnje v resničnem življenju. Kot vemo, se mora človek za razvoj sposobnosti vedno znova soočati z resnimi ovirami in jih vedno znova premagovati, pri čemer uporablja vse svoje znanje in veščine. Postopoma človek doseže novo raven, po kateri se kompleksnost ovir poveča.

Mislim, da imajo ljudje radi video igre iz istega razloga, da dobijo zadovoljstvo od pridobivanja novih izkušenj in premagovanja ovir. Rešitev težke naloge, pri kateri se pridobi nova znanja, potrebna za premagovanje novih, še bolj zapletenih težav, daje človeku veliko zadovoljstvo.

Popolna predanost računalniku nas bo vodila v življenje, v katerem bo malo prostora za samouresničitev

Eden glavnih pomislekov, ki jih izražam v knjigi, je, da je naš odnos do napredka povezan z željo, da bi se čim bolj izognili reševanju težkih problemov. Zdi se mi, da je to stališče v nasprotju s samim konceptom življenjskega zadovoljstva in samouresničitve.

3. Ali bodo računalniki odpravili potrebo po ljudeh?

T. Ch.: Za razliko od video iger v resničnem svetu trdo delo ni nujno nagrajeno. Resnični svet je nepravičen in neuravnotežen. Morda je pri tem najbolj moteč trend, da se interesi posameznika (psihološko, osebno in celo v smislu preživetja) vse bolj izmikajo s korporativnimi in vladnimi predstavami o smotrnosti. Se bojite, da bodo računalniki končno nadomestili ljudi?

Številne igre je težko prenesti in od igralcev zahtevajo neobičajne spretnosti in iznajdljivost. Zakaj bi nam torej ostala tehnologija samo olajšala življenje?

N. K.: Ko sem zbiral gradivo za knjigo, me je zelo prestrašil članek (citati, ki jih navajam v besedilu), ki ga je napisal specialist za vojaško strategijo. Po njegovem mnenju glede na vse večji obseg uporabe računalniških tehnologij na bojišču zelo kmalu morda ne bo prostora za človeka v vojaških zadevah. Hitrost odločanja je tako narasla, da ljudje preprosto ne morejo slediti računalnikom. Neizogibno se premikamo proti popolnoma avtomatiziranemu bojevanju: brezpilotna letala se bodo sama odločila, kdaj bodo izstrelili rakete na cilje, robotski vojaki na tleh pa se bodo sami odločili, kdaj bodo streljali.

Po mojem mnenju se to stanje ne opazi le v vojaških zadevah, ampak tudi na mnogih drugih področjih - na primer v svetu financ. Ljudje na primer pri trgovanju s finančnimi instrumenti preprosto ne sledijo računalnikom.

Kaj nas čaka? Morda ne izgubimo le sposobnosti, ki nas razlikuje od računalnikov za kritično ocenjevanje lastnih dejanj - morda bomo takšne sisteme izvajali nepremišljeno, saj verjamemo, da je glavna stvar hitrost odločanja. In potem, če smo prepričani, da smo se zmotili, bomo ugotovili, da ni poti nazaj. Zelo pogosto se izkaže, da je nemogoče vključiti osebo v sistem, ki je bil prvotno zgrajen na računalniški tehnologiji.

T. Ch.: Tudi jaz sem bil zgrožen, ko sem v vaši knjigi prebral odlomek o avtomatiziranem bojevanju. Dobil sem občutek, da procesa, ki nas bo pripeljal do popolnoma avtonomnih bojnih sistemov, ni mogoče ustaviti. Del moje groze izvira iz spominov na finančno krizo leta 2008, ki je tako rekoč izbrisala bilijone dolarjev. Vsaj zdaj so ljudje bolj odgovorni do svojih financ. Če pa se to zgodi na vojaškem področju, ne bodo uničeni dolarji, ampak človeška življenja.

Prihodnost brez ljudi?

N. K.: Ne gre samo za to, da je danes nove tehnologije, zlasti programske tehnologije, mogoče zelo hitro replicirati in distribuirati. Bistvo je, da vsi ti procesi potekajo v konkurenčnem okolju. Ne glede na to, ali govorimo o oborožitveni ali poslovnem tekmovanju, takoj, ko eden od tekmecev pridobi kratkoročno prednost na račun ene ali druge tehnologije, se ta tehnologija takoj uvede, kjer je le mogoče – ker nihče ne želi biti na pomanjkljivost.

Mislim, da je v tej situaciji prelahko izgubiti iz vida dejstvo, da smo v bistvu živali. Ljudje so šli tisočletja skozi evolucijsko pot, da bi lahko živeli in preživeli. Vloga človeštva, pa tudi naši občutki zadovoljstva in samouresničitve, so tesno povezani z našimi izkušnjami življenja v svetu, ki določa naš običajni tempo.

Zato, ko človeka z vsemi njegovimi fizičnimi prednostmi in slabostmi nasprotujemo hitremu in natančnemu računalniku, se pojavi želja, da bi vse svoje življenje prepustili računalnikom. Vendar pozabljamo, da nas bo popolna podrejenost računalniku vodila v življenje, v katerem bo malo prostora za samouresničitev.

4. Kako avtomatiziramo svet?

T. Ch.: Menim, da moramo biti kritični do novih tehnologij, vendar me skrbi, da ljudje nepotrebne težave in protitehnološko "pristnost" spremenijo v fetiš. Obstaja tako sodobna šola mišljenja, ki hvali težko fizično delo in trdi, da mora biti vse, kar počnemo, obrtno in pristno. Po mojem mnenju takšno stališče diši po snobizmu in ne upošteva ogromnega števila pozitivnih dosežkov, ki jih je s seboj prinesla demokratizacija tehnološkega napredka.

N. K.: popolnoma se strinjam s tabo. V intervjuju so me vprašali, kako bi moj previden odnos do napredka pomagal na primer ljudem, ki delajo v težkih razmerah v mesnopredelovalnih obratih. Odgovoril sem, da se seveda vedno najde prostor za avtomatizacijo proizvodnje, kjer je treba izboljšati delovne pogoje ljudi. Inovirate lahko pametno ali pa nepremišljeno; lahko najdemo način, kako upoštevati vrednost človeških izkušenj in pomen samouresničitve, ali pa preprosto poveličamo zmogljivosti računalnikov. Narediti pravo izbiro ni enostavno. Če to nalogo dojemamo izključno črno-belo - bodisi se slepo zavzemamo za težko, izčrpavajoče fizično delo v kakršnih koli situacijah ali, nasprotno, vidimo smisel življenja v sibarizmu - to ne bo pomagalo vzroku.

Najtežje in najzahtevnejše delo, ki zahteva izjemno natančnost, je najbolje prepustiti strojem

Ljudje nenehno ustvarjajo in uporabljajo orodja. Že od nekdaj moramo sprejemati odločitve, povezane z delitvijo dela, z delitvijo količine dela med človeka in orodjem, ki mu je na voljo. In zdi se mi, da neverjetna učinkovitost računalnikov pri opravljanju širokega spektra nalog samo otežuje proces sprejemanja takšnih odločitev.

5. Kaj nas čaka?

T. Ch.: Se torej človeštvo premika proti uspehu?

N. K.: Prirodoslovni zgodovinar Thomas Hughes, ki je umrl lani, je predlagal koncept "tehnološkega zagona". Verjel je, da se tehnologije, ki so vgrajene v družbene strukture in procese, začnejo razvijati same od sebe in s seboj vlečejo družbo. Povsem možno je, da je naša pot že začrtana in da bomo nadaljevali po dosedanji poti, ne da bi se spraševali, ali se premikamo v pravo smer. Res ne vem, kaj se bo zgodilo. Največ, kar lahko storim, je, da poskušam po svojih najboljših močeh razmišljati o teh res težkih vprašanjih.

Upam, da bomo kot posamezniki in kot člani družbe lahko ohranili določeno raven razumevanja tega, kar se nam dogaja, pa tudi določeno mero radovednosti ter se bomo odločali na podlagi naših dolgoročnih interesov., in ne na podlagi naših običajnih konceptov udobja, hitrosti, natančnosti in učinkovitosti.

Prišel bo dan in roboti nas bodo rešili vseh težav. Ali ga potrebujemo?

Zdi se mi, da si moramo prizadevati za to, da nam računalniki obogatijo življenjsko izkušnjo in nam odprejo nove priložnosti, ne pa da nas spremenijo v pasivne opazovalce zaslonov monitorjev. Še vedno mislim, da bodo, če bomo iz novih tehnologij dobili več, lahko naredili to, kar so tehnologija in orodja naredili skozi celotno zgodovino človeštva – ustvarili zanimivejši svet okoli nas in nam pomagali, da postanemo boljši tudi sami. Konec koncev je vse odvisno od nas samih.