Perspektivy "iskin" v řízení lidstva

2024 Autor: Seth Attwood | [email protected]. Naposledy změněno: 2023-12-16 16:00

Co se stane, když důvěřujete umělé inteligenci, že ovládá lidi? V naší legislativě si 99 % zákonů odporuje. Logicky by mělo dojít ke kolapsu moci a zastavení řídicího systému …

Nyní se zamysleme nad tím místem umělá inteligence(dále - iskin) vezme do našeho života, když (pokud) je vynalezen a aplikován. Navrhuji nehádat se o jeho vnitřní podstatě. Ať je to jen velmi pokročilý algoritmus, který má schopnost pracovat s velkými daty a je schopen podobně kopírovat vzorce chování skutečných lidí. Ale pokud chcete, nechť je to, o čem se diskutuje, skutečný muž, jak tomu sám rozumíte.

Hlavní otázka zde zní. Kde použijeme toto Hammer of Thor, jakmile ho obdržíme? A v zásadě není pochyb o tom, že se to dá vyrobit. Můžeme udělat digitální mlýnky, samoučící se algoritmy také, velké datum nashromážděné - vše je tam.

Řekněme v řízení technických systémů například jednotlivých dopravních jednotek? - No, kamone… Proč dělat chytrý a složitý systém svěřit mu to, co kůň zvládne? Na procesoru bude dost a primitivní algoritmus za 10 babek za kýbl, problém s řízením dopravy je pouze v získávání dat a v etických otázkách. Co pak? Přemýšlejte o patnácti sekundách.

Podle mě je jen jeden skutečná věc pro iskin je řízení lidí … Přesněji řečeno procesy, kterých jsou lidé součástí. Výměna za méně nemá smysl z řady důvodů. Každý člověk je připraven řídit lidi bez speciálního školení. Každému například naprosto věříme, že zvládne naše vlastní děti. Také téměř každý v týmech měl alespoň nějaké manažerské zkušenosti. Alespoň na úrovni "hoď ještě jednu lopatu do nosítek a my to poneseme." Pokud všichni člověk je v principu schopen řídit lidi, pak to musí umět AI, jinak je to mentálně narušený intelekt.

Výsledky řízení lidí však zdaleka nejsou ideální. Jakákoli skutečná kontrola je série chyb a nepřesností. Navíc počet chyb téměř nezávisí na úrovni manažera, je to určitá konstanta. Je to tak, že předák nakladačů dělá drobné chyby a guvernér má právo dělat chyby, které mají vážné následky. Tomu rozumíme. „Měli jsme udělat chybu“je hlavním výsledkem reflexe okolního světa, včetně nás samotných.

A nyní je v našich rukou AI, která to má „udělat“. A hned to použijeme, protože problém, který to teoreticky může vyřešit, je ten nejdůležitější. A Jamshut se třemi třídami vzdělání je také schopen řídit náklaďák.

Pokud se mnou v tomto souhlasíte, pak pokračujme v představování funkčnosti umělé kůže určené k řízení. Čí funkce by měl vykonávat, koho by měl svými rozhodnutími nahradit nebo alespoň posílit?

Je jasné, že to budou úředníci (jak ve veřejné správě, tak v podnikání). Úředníci rozhodují. Úředníci jsou přijímáni na všech úrovních kompetence. Úředníci jsou dnes důležití a potřební, protože rozhodnutí nebudou přijímat sami. Ale je tu jeden bod.

Podívejme se na každého manažera (tedy na každého úředníka) z pohledu doslovné náplně jeho praktické činnosti. Ale ne ve smyslu jeho motivací – archetyp motivací by jakoby neměl být. Úředník buď schvaluje transakce, nebo ruší transakce schválené jiným úředníkem.

V ideálním stroji musí být všechny transakce bezpodmínečně schváleny a žádné transakce nelze zrušit, protože byly dříve právně schváleny. Důležitým faktorem v tomto systému je, že transakce jsou úředníkovi předkládány z „černé skříňky“k posouzení. Nedostává vysvětlení, proč by taková transakce měla být provedena nebo proč ji schválil jiný úředník. Řídicí systém je postaven následovně. Výše přichází příkaz ve formě příkazu k provedení řady transakcí.

Všimněte si, že ideologická struktura takového systému vůbec nezahrnuje možnost zrušit (neschválit) transakci přijatou shora, z „černé skříňky“. Ale v praxi taková možnost vždy existuje. A je to ona, kdo poskytuje dvě nejdůležitější věci: moc jakéhokoli úředníka a zadržování takové moci.

Dovolte mi vysvětlit, že jakoukoli chybu (výše jsme řekli, že je nevyhnutelná a trvalá) lze rozpustit v opozici byrokratických mas, a pak lze následky chyby minimalizovat.

V teoretickém ideálním systému řízení by však nemělo docházet k chybám, z tohoto důvodu je role úředníka redukována na formální schvalování transakcí, které nemůže než schvalovat, protože jsou správné. To znamená, že to není potřeba. Otázka se tedy scvrkává na počáteční signál řízení. Pokud je to správné, pak ve všech nižších úrovních postrádá smysl.

Takže teoreticky by měl fungovat konsolidovaný rozpočet státu. Když je přijat, znamená to, že je odhalena veškerá jeho fraktální podstata. Každá kapilára musí dostat přidělenou část krve a jako odpověď - zamýšlený výsledek. Ano, úplně dole jsou „ale beton jsme nedodali včas, a proto…“Ale omluvte mě, je to úplně dole a ovládací aparát se skládá z mnoha úrovní, které se betonu nedotýkají vůbec operují s transakcemi. Chápu, že na středních úrovních to "beton nebyl dodán" vypadá jinak, jako "viceprezident stavby kosmodromu ukradl 100 milionů, a proto…" Mluvím zde o ideálním schématu.

Vraťme se k naší ideální pleti. Koneckonců, v tomto úkolu musí vyřešit stejné otázky - schválení nebo zákaz transakcí. A on to umí! Teprve nyní bude moci vyměnit všechny úrovně řízení najednou. Pokud totiž ve funkci ministra schválí velkou transakci na ministerské úrovni, pak by jeho rozhodnutí mělo být uznáno za správné. A zahrnuje analýzu celého dalšího rozdělení velké transakce až po zaplacení IP Pupkina za opravu verandy psychiatrické léčebny v Kineshmě.

Celý řetězec úředníků, kteří jsou povinni schvalovat transakce nižších úrovní navazujících na první, lze tedy bezpečně nahradit stejným algoritmem AI. Problém je již vyřešen, až do dna. Naše umělá inteligence ani nemusí být použita k výměně celého řetězce, AI ji jednoduše zruší. Jeho rozhodnutí je pravdivé, protože je správné. A rovnou obsahuje řešení pro celý fraktál.

Poznámka. Každý podřízený úředník v našem reálném světě může být chytřejší než ten vyšší. Pak bude sabotovat rozhodnutí šéfa a pak mu pomůže. Tak je to vždy. Všichni stávající funkcionáři nastupují na místa svých bývalých nadřízených, kromě startovní úrovně. O konkurenci ale v tomto případě nemůže být řeč. Jeden iskin si o všem v celém řetězci rozhoduje sám, nemůže si protiřečit.

Navíc. V našem systému vládnutí existují soudy, kterým jsme dali pravomoc zrušit jakoukoli z našich transakcí a provádět své vlastní, bez ohledu na náš názor na ně. (Usazení vraha do vězení je také transakce vázaná na pravidla. Soudce je zde úředník, který schvaluje nebo ruší transakci, která mu přijde podle předpisu z černé skříňky.) Pokud je náš pitomec hodný, tak je lepší než úředníci, protože jsme mu (pro nás) svěřili schvalování nebo rušení transakcí. Takže je lepší než soudci. V opačném případě se ukazuje, že rozhodnutí iskin mohou lidé napadnout a zrušit. A pokud to lidé přijmou, pak připustí, že AI je horší než lidé. Na základě čeho pak nahrazuje úředníky?

Závěr. Ani Iskin nebude souzena. Znovu. Pokud jste vy lidé napsali svůj nejlepší algoritmus, poznali jej tak dobře, že jste mu dali moc nad sebou samým, pak nemůžete napsat ještě lepší algoritmus, aby soudil rozhodnutí prvního. Jako manažer i jako soudce použijete svůj nejlepší algoritmus. Přesněji řečeno, rozhodčí prostě zmizí. Budete muset této AI dát plnou moc nad vámi.

Mimochodem, digitalizovat lze i původní černou skříňku, odkud přicházejí prvotní data pro kontrolu do ISK. A dokonce musí být digitalizován. Konsolidovaný rozpočet by měl být nejvhodnější. A také to dělá.

Další moment. Nebo snad nadsadit člověka, který by kontroloval jeho rozhodnutí, aby nedocházelo k chybám, které mohou nastat například jeho nelidskostí? - Pak si všichni úředníci zachovají své pozice a svou moc. Budou mít také právo zrušit transakce schválené ISK nebo schválit zrušené. Bohužel to nevypadá jako skutečné. Iskin poskytne výtisk odůvodnění svého rozhodnutí. A člověk nebude schopen svými pocity nebo zájmy vyvrátit formální logiku. I v tomto případě platí, že pokud je ke každému projevu (ve skutečnosti jediného) činu přiložen živý úředník, nedokážou mu vzdorovat.

Omlouvám se za zmatek, myšlenek je hodně a délka textu nenávratně narůstá.

Po zapnutí ISK dojde k úplnému kolapsu. Ne, chápu, že ho nejdřív vozí v testovacím režimu. Ale to bude zprofanování, protože pak bude potřeba napodobit celou společnost se všemi jejími souvislostmi jako celek, ne zjednodušený model, ale tohle digitální mlátičky neumí.

Poté bude spuštěn v omezeném režimu, v podmíněném území Perm. Chyby, ladění, nové vydání a výroba?

Dříve nebo později ale dojde k přestřižení červené pásky a lidé budou moci auto ovládat na plný výkon (s rukou na vypínači).

A víte, co se stane? Iskin ukončí všechny transakce úplně. Logika „když-pak“bude kolidovat s miliony regulačních norem v současné legislativě, které si desítky tisíckrát odporují. Finita. Naše vlaky zastaví, platba za konzervu saury v supermarketu neprojde. Všichni budou okamžitě obviněni ze spousty přestupků a zločinů, které by mohly být poslány úřadům, ale všichni lidé na úřadech budou okamžitě propuštěni a soudně. Soudní rozhodnutí vydá žalobu okamžitě. Velké rande, všechno se o vás píše. Dobře, to jsou maličkosti. Nebudou vám ale moci převést ani plat, protože úřad dluží daně a vagon vás pokutuje.

přehánět? Ani náhodou. První spuštění (s rukou na vypínači) bude řízeno, test dva, test dvaadvacet… A jednoho dne bude zapnutý naplno, jako by prošel celým cyklem testů. A pak… A propustíme úředníky, situaci zachrání dobrovolníci.

Je možné se takovým smutným následkům vyhnout? - Samozřejmě, můžete to zkusit. K tomu je třeba udělat řadu věcí. Zničte 99 % legislativy, zbylé 1 % recyklujte, aniž byste dítě vylili vodou. (Takové věci se většinou dělají po plnohodnotné revoluci s plnohodnotnou občanskou válkou. Jak to udělat v době míru - netuším.) Navíc by se měla přepracovat morálka. Z hlediska krádeže balíku papíru z kanceláře (nebo podvádění manželky) je to buď naprosto přijatelné (odráží se v zákoně), nebo je to zcela časově omezeno. Tato morálka musí být přepracována v myslích společnosti. Jinak začne řezat optické kabely, což je proti AI levné, jednoduché a účinné. Další možností je hodit tuto kůži pravděpodobnému partnerovi, ať si pořeže ruce. A samozřejmě by se vyšší třídy neměly stát nepohodlnými. Pokud nejsou schopni, využijí to jako poslední šanci.

Nesnažím se vás přesvědčit, abyste shazovali počítače. Z iskin nikam nepůjdeme. Předběhne nás, budeme se s ním muset zapojit. Pokusme se pochopit, s čím (s kým) musíme vstoupit do boje se svým osudem.