Perspektive "iskina" v upravljanju človeštva

2024 Avtor: Seth Attwood | [email protected]. Nazadnje spremenjeno: 2023-12-16 16:16

Kaj se zgodi, če zaupate umetni inteligenci za nadzor ljudi? V naši zakonodaji si 99 % zakonov nasprotuje. Logično bi moral priti do zloma moči in zaustavitve nadzornega sistema …

Zdaj pa pomislimo na to mesto umetna inteligenca(v nadaljnjem besedilu - koža) bo prevzela naše življenje, ko (če) bo izumljena in uporabljena. Predlagam, da se ne prepiramo o njeni notranji naravi. Naj bo to le zelo napreden algoritem, ki ima sposobnost dela z velikimi podatki in je sposoben podobno kopirati vzorce obnašanja resničnih ljudi. Ampak, če želite, naj bo to, o čemer se razpravlja, pravi moški, kot ga sami razumete.

Glavno vprašanje tukaj je to. Kje uporabimo to Hammer of Thor, ko ga prejmemo? In načeloma ni dvoma, da ga je mogoče narediti. Izdelujemo lahko digitalne brusilnike, tudi samoučeče algoritme, nakopičene velike zmenke - vse je tam.

Recimo pri upravljanju tehničnih sistemov, na primer posameznih transportnih enot? - No, kamon … Zakaj bi naredil pameten in zapleten sistem, da bi mu zaupal tisto, kar konj zmore? Dovolj bo in primitivnega algoritma na procesorju za 10 dolarjev na vedro, problem pri upravljanju transporta je le v pridobivanju podatkov in v etičnih vprašanjih. Kaj potem? Razmislite o petnajstih sekundah.

Po mojem mnenju obstaja samo ena prava stvar za iskina je upravljanje z ljudmi … Natančneje, procesi, v katerih so ljudje del. Iz več razlogov nima smisla menjati za manj. Vsaka oseba je pripravljena upravljati ljudi brez posebnega usposabljanja. Na primer, vsem popolnoma zaupamo, da upravljajo svoje otroke. Prav tako so imeli skoraj vsi v ekipah vsaj nekaj izkušenj z vodenjem. Vsaj na nivoju "vrzi še eno lopato v nosila, pa jo bomo nesli." Če vsi človek je načeloma sposoben upravljati ljudi, potem mora to biti sposobna AI, sicer je duševno prizadet intelekt.

Vendar pa rezultati vodenja ljudi še zdaleč niso idealni. Vsaka resnična kontrola je vrsta napak in netočnosti. Poleg tega število napak skoraj ni odvisno od ravni vodje, je določena konstanta. Samo delovodja nakladalnikov dela manjše napake, guverner pa ima pravico do napak, ki imajo resne posledice. To razumemo. "Morali bi narediti narobe" je glavni rezultat refleksije okoliškega sveta, vključno z nami.

In zdaj je v naših rokah umetna inteligenca, ki naj bi "to storila". In takoj ga bomo uporabili, saj je problem, ki ga teoretično lahko reši, najpomembnejši. In Jamshut s tremi razredi izobrazbe zna voziti tudi tovornjak.

Če se glede tega strinjate z mano, nadaljujmo s predstavitvijo funkcionalnosti umetne kože, ki je namenjena upravljanju. Čigave funkcije naj opravlja, koga naj s svojimi odločitvami zamenja ali vsaj okrepi?

Jasno je, da bodo to funkcionarji (tako v javni upravi kot v gospodarstvu). Uradniki sprejemajo odločitve. Uradniki so sprejeti na vseh ravneh kompetenc. Uradniki so danes pomembni in potrebni, ker odločitve ne bodo sprejete same. Ampak obstaja ena točka.

Poglejmo vsakega menedžerja (torej vsakega uradnika) z vidika dobesedne vsebine njegovih praktičnih dejavnosti. A ne v smislu njegovih motivacij – arhetip motivacije tako rekoč ne bi smel biti. Uradnik bodisi odobri transakcije bodisi prekliče transakcije, ki jih je odobril drug uradnik.

V idealnem stroju morajo biti vse transakcije brezpogojno odobrene in nobene transakcije ni mogoče preklicati, ker so bile predhodno zakonsko odobrene. Pomemben dejavnik v tem sistemu je, da se transakcije posredujejo uradniku iz "črne skrinjice" v obravnavo. Pojasnilo, zakaj naj bi se takšen posel izvedel oziroma zakaj ga je odobrila druga uradna oseba, ne dobi. Nadzorni sistem je zgrajen na naslednji način. Zgoraj je naročilo v obliki navodil za izvedbo številnih transakcij.

Upoštevajte, da ideološka struktura takšnega sistema sploh ne pomeni možnosti preklica (neodobravanja) transakcije, prejete od zgoraj, iz "črne skrinjice". Toda v praksi taka možnost vedno obstaja. In prav ona zagotavlja dve najpomembnejši stvari: moč katerega koli uradnika in obvladovanje te moči.

Naj razložim, da je mogoče vsako napako (zgoraj smo rekli, da so neizogibne in trajne) raztopiti v nasprotovanju temeljnih birokratskih množic, potem pa je mogoče posledice napake minimizirati.

Vendar pa v teoretičnem idealnem sistemu vodenja ne bi smelo biti napak, zato je vloga uradnika zmanjšana na formalno odobritev transakcij, ki jih ne more le odobriti, saj so pravilne. Se pravi, ni potrebe po tem. Vprašanje se torej skrči na začetni signal upravljanja. Če je pravilno, potem na vseh nižjih ravneh ni smisla.

Konsolidirani državni proračun bi torej moral teoretično delovati. Ko je sprejet, pomeni, da se razkrije vse njegovo fraktalno bistvo. Vsaka kapilara mora prejeti dodeljeni del krvi in kot odgovor - predvideni rezultat. Da, na samem dnu je "vendar betona nismo dostavili pravočasno, zato …" Ampak oprostite, to je na samem dnu in nadzorna naprava je sestavljena iz številnih nivojev, ki se ne dotikajo betona sploh poslujejo s transakcijami. Razumem, da na srednjih ravneh "beton ni bil dostavljen" izgleda drugače, kot je "podpredsednik izgradnje kozmodroma ukradel 100 milijonov, in zato …" Tukaj govorim o idealni shemi.

Vrnimo se k naši idealni koži. Navsezadnje mora pri tej nalogi rešiti ista vprašanja - odobritev ali prepoved transakcij. In to zmore! Šele zdaj bo sam lahko zamenjal vse ravni upravljanja naenkrat. Konec koncev, če z zamenjavo ministra odobri veliko transakcijo na ministrski ravni, potem je treba njegovo odločitev priznati za pravilno. In vključuje analizo celotne nadaljnje distribucije velike transakcije do plačila IP Pupkina za popravilo verande psihiatrične bolnišnice v Kineshmi.

Tako lahko celotno verigo uradnikov, ki so dolžni odobriti transakcije nižjih ravni, ki izhajajo iz prve, varno nadomestimo z istim algoritmom AI. Težava je že rešena, čisto do dna. Naše umetne inteligence niti ni treba uporabiti za zamenjavo celotne verige, AI preprosto prekliče potrebo po njej. Njegova odločitev je resnična, ker je pravilna. In takoj vključuje rešitve za celoten fraktal.

Opomba. Vsak podrejeni uradnik v našem resničnem svetu je lahko pametnejši od višjega. Potem bo sabotiral odločitve šefa, nato pa mu bo pomagal. To je vedno tako. Vsi obstoječi uradniki zasedajo mesta svojih nekdanjih nadrejenih, razen začetne ravni. Toda v tem primeru konkurenca ne pride v poštev. Ena koža sama odloča o vsem v celotni verigi, ne more si nasprotovati.

Poleg tega. V našem sistemu upravljanja so sodišča, ki smo jim dali pooblastilo, da razveljavijo kateri koli naš posel in izvedejo svoje, ne glede na naše mnenje o njih. (Pospajanje morilca v zapor je tudi transakcija, vezana na pravila. Sodnik je uradna oseba, ki odobri ali prekliče transakcijo, ki pride do njega, kot je predpisano iz črne skrinjice.) Če je naš idiot dober, potem je boljši od uradnikov, saj smo mu zaupali odobritev ali preklic transakcij zanje (za nas). Torej je boljši od sodnikov. V nasprotnem primeru se izkaže, da lahko odločitve iskina ljudje izpodbijajo in razveljavijo. In če ljudje to sprejmejo, bodo priznali, da je AI slabša od ljudi. Na podlagi česa potem zamenja uradnike?

Zaključek. Tudi Iskin ne bo sojen. Ponovno. Če ste ljudje napisali svoj najboljši algoritem, ga prepoznali tako dobro, da ste mu dali moč nad sabo, potem ne morete napisati še boljšega algoritma, da bi presojal odločitve prvega. Svoj najboljši algoritem boste postavili tako kot vodja kot kot sodnik. Natančneje, sodniki bodo preprosto izginili. Tej AI boste morali dati popolno oblast nad vami.

Mimogrede, originalno črno skrinjico, od koder prihajajo začetni podatki za nadzor v ISK, je mogoče tudi digitalizirati. In mora biti celo digitaliziran. Konsolidirani proračun bi moral biti najbolj primeren. In to tudi počne.

Še en trenutek. Ali pa morda postaviti človeka nad osebo, ki bi nadzorovala njegove odločitve, da ne bi prišlo do napak, ki se lahko zgodijo zaradi njegove nečlovečnosti na primer? - Potem bodo vsi uradniki ohranili svoje položaje in svojo moč. Prav tako bodo imeli pravico do preklica transakcij, ki jih je odobril ISK, ali do odobritve preklicanih. Aja, ne izgleda res. Iskin bo posredoval izpis obrazložitve svoje odločitve. In človek s svojimi občutki ali interesi ne bo mogel ovreči formalne logike. Tudi v tem primeru, če se živi uradnik naveže na vsako manifestacijo (pravzaprav enega samega) dejanja, se mu ne bodo mogli upreti.

Oprostite za zmedo, misli je veliko, dolžina besedila pa nepopravljivo narašča.

Ko je ISK vklopljen, bo prišlo do popolnega kolapsa. Ne, razumem, da ga sprva vozijo v testnem načinu. A to bo profanacija, saj bo potem treba posnemati celotno družbo z vsemi njenimi povezavami kot celoto, ne poenostavljen model, ampak digitalni mlatilci tega ne zmorejo.

Nato se bo zagnal v omejenem načinu, na pogojnem ozemlju Perm. Napake, odpravljanje napak, nova izdaja in produkcija?

A prej ali slej se bo rdeči trak prerezal in ljudje bodo lahko upravljali avto na vso moč (z roko na stikalu).

In veš kaj se bo zgodilo? Iskin bo v celoti prekinil vse transakcije. Logika "če-potem" bo trčila v milijone regulativnih norm v veljavni zakonodaji, ki si več deset tisočkrat nasprotujejo. Finita. Naši vlaki se bodo ustavili, plačilo pločevinke saury v supermarketu ne bo delovalo. Vsi bodo nemudoma obtoženi kopice kaznivih dejanj in kaznivih dejanj, ki bi jih lahko posredovali oblastem, vendar bodo vsi ljudje v oblasti takoj odpuščeni in sojeni. Sodna odločba bo tožbo izdala takoj. Veliki zmenek, vse piše o tebi. Ok, to so malenkosti. A tudi plače vam ne bodo mogli nakazati, ker urad dolguje davke, vagon pa vas kaznuje.

Pretiravam? Ne. Prvi zagon (z roko na stikalu) bo nadzorovan, dva testa, dvaindvajset … In nekega dne se bo vklopil v celoti, kot da je opravil celoten cikel testov. In potem … In bomo odpustili uradnike, prostovoljci bodo rešili situacijo.

Ali se je mogoče izogniti tako žalostnim posledicam? - Seveda lahko poskusiš. Za to je treba narediti številne stvari. Uničite 99 % zakonodaje, reciklirajte preostalih 1 %, ne da bi otroka polili z vodo. (Takšne stvari se običajno naredijo po polnopravni revoluciji s polnopravno državljansko vojno. Kako v miru – pojma nimam.) Poleg tega bi morali predelati moralo. Kar zadeva krajo paketa papirja iz pisarne (ali varanje svoje žene), je to bodisi povsem sprejemljivo (odraženo v zakonu) bodisi v celoti pomeni časovno omejitev. To moralo je treba preoblikovati v glavah družbe. V nasprotnem primeru bo začel rezati optične kable, kar je poceni, preprosto in učinkovito proti AI. Druga možnost je, da to kožo vržete verjetnemu partnerju, naj si odreže roke. In seveda, višji razredi ne bi smeli postati neprijetni. Če ne bodo zmožni, bodo to izkoristili kot zadnjo priložnost.

Ne poskušam vas prepričati, da bi sesuli računalnike. Od iskina ne bomo šli nikamor. Prehitel nas bo, morali se bomo ukvarjati z njim. Poskusimo dojeti, s čim (s kom) moramo stopiti v boj s svojo usodo.