Co ohrožuje lidstvo elektronizací celého našeho života

2024 Autor: Seth Attwood | [email protected]. Naposledy změněno: 2023-12-16 16:00

Smartphony, roboti a počítače nám usnadňují život, ale možná v tom něco ztrácíme? Reportér hovořil s americkým spisovatelem Nicholasem Carrem o nebezpečích a dokonce hrozbách nadměrné automatizace.

Všeobecně se má za to, že automatizace všeho a všech zlepšuje kvalitu našeho života. Počítače nám pomáhají dosahovat špičkového výkonu. Softwarové aplikace urychlují a usnadňují úkoly. Roboti na sebe berou únavnou a tvrdou práci. Neustálý proud inovací ze Silicon Valley jen posiluje víru lidí, že nové technologie dělají život lepším.

Existuje však i jiný názor. Spisovatel Nicholas Carr podrobuje postuláty moderního digitálního světa nestranné analýze. Jeho esej „Does Google Make Us Stupid?“, vydaná v Atlantiku v roce 2008, je stále kontroverzní, stejně jako jeho bestseller z roku 2010, The Shallows.

Zastánci teorie, že technologie zachrání náš svět, považují Carra za jednoho ze svých nejmocnějších protivníků. A ti, kdo jsou ostražití před důsledky technologického pokroku pro lidstvo, ho respektují pro jeho vyváženou argumentaci.

Nyní Carra zajímá nová otázka: máme se bát, že nás na světě postupně nebudou čekat žádné těžké úkoly? Stanou se naše životy díky novým technologiím příliš efektivní?

Před chvílí jsem se se spisovatelem sešel, abych si promluvil o jeho nové knize Skleněná klec: Automatizace a my a o tom, co ho přimělo ji napsat.

1. Odhalení hlavního mýtu o nových technologiích

Tom Chatfield:Pokud tomu dobře rozumím, v knize „Skleněná klec“se snažíte bořit mýtus, že zjednodušování našich životů díky technologickému pokroku je nutně pozitivní jev.

Nicholas Carr:Na osobní i institucionální úrovni jsme zvyklí si myslet, že efektivita a komfort jsou standardně dobré a jejich maximalizace je jistě důstojným cílem. Zdá se mi, že tento přístup k technologii ve všech jejích podobách, zejména v podobě počítačové automatizace, je značně naivní. To platí i pro naše vlastní touhy a skutečný život v moderním světě.

Nahradí někdy počítače lidi?

T. Ch.:A přesto se většina přívrženců technologického pokroku drží utilitárního hlediska, podle kterého největší chyby děláme v zanedbávání efektivity a logiky a vlastně ani my sami nevíme, co je pro nás dobré. Úkolem technologického pokroku je proto z jejich pohledu identifikovat nedostatky lidského myšlení a následně vytvořit systémy, které by tyto nedostatky kompenzovaly. Je tento názor špatný?

N. K.: Na jedné straně mnohé inovace ve vývoji výpočetní techniky a ve vývoji automatizovaných systémů nemají nic společného se širokým tvrzením, že lidé jsou ve srovnání s počítači velmi nedokonalí. Ano, počítač lze naprogramovat tak, aby prováděl určité operace neomezeně dlouho se stálou kvalitou. A je pravda, že něčeho takového člověk není schopen.

Někteří ale jdou ještě dál a tvrdí, že lidé jsou příliš nedokonalí, že by jejich role měla být co nejvíce omezena a za všechny základní úkoly by měly odpovídat počítače. Nejde jen o snahu kompenzovat lidské nedostatky – myšlenkou je zcela odstranit lidský faktor, v důsledku čehož se, jak se tvrdí, náš život bude mnohem lepší.

T. Ch.: Zdá se, že to není nejlepší nápad. Existuje optimální úroveň automatizace?

N. K.: Podle mého názoru není otázkou, zda potřebujeme automatizovat ten či onen složitý úkol. Otázkou je, jak využíváme automatizaci, jak přesně pomocí počítačů doplňovat lidské znalosti a dovednosti, kompenzovat nedostatky v lidském myšlení a chování a také stimulovat lidi, aby co nejlépe využili své vlastní zkušenosti k dosažení nových výšin.

Proměníme se ve pozorovatele počítačových monitorů

Přílišné spoléhání na software z nás může udělat pozorovatele počítačových monitorů a operátory toku procesů. Počítače mohou hrát velmi důležitou roli, protože jsme jen lidé – můžeme se stát obětí předsudků nebo přijít o důležité informace. Ale nebezpečí spočívá v tom, že je příliš snadné outsourcovat všechny naše funkce počítačům, což by podle mého názoru bylo špatné rozhodnutí.

2. Potřebujete přiblížit reálný život scénáři videohry?

T. Ch.: S potěšením jsem si všiml, že ve své knize uvádíte videohry jako příklad interakce člověk-stroj, ve které jde o to překonat obtíže, ne se jim vyhýbat. Nejoblíbenější hry jsou druhem práce, která dává hráči pocit zadostiučinění. Můžeme si jen stěžovat, že práce, kterou mnozí z nás musí každý den vykonávat, vyžaduje mnohem méně zručnosti a přináší nám mnohem méně potěšení.

Videohry stimulují hráče, aby vynaložili další úsilí a využívali mozek co nejvíce

N. K.: Videohry jsou zajímavé tím, že svým pojetím odporují obecně uznávaným zásadám tvorby softwaru. Účelem počítačových her vůbec není zbavit uživatele nepříjemností. Naopak, stimulují hráče k vynaložení mimořádného úsilí a k maximálnímu využití mozku. Videohry nás baví právě proto, že nás staví před stále větší výzvy. Neustále se ocitáme v obtížných situacích – ale ne v situacích, které způsobují zoufalství. Překonávání každé nové úrovně pouze zdokonaluje naše dovednosti.

Tento proces je velmi podobný tomu, jak člověk získává životní zkušenosti v reálném životě. Jak víme, pro rozvoj schopností člověk potřebuje znovu a znovu čelit vážným překážkám a znovu a znovu je překonávat s využitím všech svých znalostí a dovedností. Postupně se člověk dostává na novou úroveň, po které se zvyšuje složitost překážek.

Myslím, že lidé milují videohry ze stejného důvodu, z jakého dostávají uspokojení ze získávání nových zkušeností a překonávání překážek. Řešení obtížného úkolu, v jehož procesu se získávají nové znalosti, nutné k překonání nových, ještě složitějších obtíží, přináší člověku velké potěšení.

Totální podrobení se počítači nás dovede k životu, ve kterém bude jen málo prostoru pro seberealizaci

Jednou z hlavních obav, které v knize vyjadřuji, je, že náš postoj k pokroku je spojen s touhou co nejvíce se vyhýbat řešení obtížných problémů. Zdá se mi, že tento úhel pohledu odporuje samotnému konceptu životní spokojenosti a seberealizace.

3. Odstraní počítače potřebu lidí?

T. Ch.: Na rozdíl od videoher není v reálném světě tvrdá práce nutně odměněna. Skutečný svět je nespravedlivý a nevyvážený. Snad nejvíce znepokojivým trendem je, že zájmy jednotlivce (psychologické, osobní a dokonce i z hlediska přežití) se stále více vymykají z souladu s firemními a vládními představami o účelnosti. Bojíte se, že počítače konečně nahradí lidi?

Mnoho her je obtížné projít a vyžadují od hráčů neobvyklé dovednosti a vynalézavost. Proč by nám tedy zbytek technologie měl pouze usnadňovat život?

N. K.: Když jsem sbíral materiál na knihu, velmi mě vyděsil článek (citáty, které v textu cituji), napsaný specialistou na vojenskou strategii. Vzhledem k rostoucímu rozsahu využívání počítačových technologií na bojišti podle něj velmi brzy nemusí být pro člověka ve vojenských záležitostech místo. Rychlost rozhodování vzrostla natolik, že lidé prostě nemohou držet krok s počítači. Nevyhnutelně směřujeme k plně automatizovanému válčení: bezpilotní letadla se sama rozhodnou, kdy vystřelí rakety na cíle, a robotičtí vojáci na zemi se sami rozhodnou, kdy vystřelit.

Tato situace je podle mého názoru pozorována nejen ve vojenských záležitostech, ale i v mnoha dalších oblastech – například ve světě financí. Lidé zkrátka nedrží krok s počítači, když například obchodují s finančními nástroji.

co nás čeká? Můžeme nejen ztratit schopnost, která nás odlišuje od počítačů pro kritické hodnocení našich vlastních akcí - možná budeme takové systémy implementovat bezmyšlenkovitě a věřit, že hlavní věcí je rychlost rozhodování. A pak, pokud jsme přesvědčeni, že jsme se mýlili, zjistíme, že není cesty zpět. Velmi často se ukazuje jako nemožné integrovat člověka do systému původně postaveného na výpočetní technice.

T. Ch.: I já jsem byl zděšen, když jsem ve vaší knize četl pasáž o automatizovaném válčení. Získal jsem pocit, že proces, který nás dovede k plně autonomním bojovým systémům, nelze zastavit. Část mého zděšení pochází ze vzpomínek na finanční krizi v roce 2008, která prakticky zničila biliony dolarů. Lidé jsou nyní alespoň zodpovědnější ke svým financím. Ale pokud se to stane ve vojenské sféře, nebudou zničeny dolary, ale lidské životy.

Budoucnost bez lidí?

N. K.: Nejde jen o to, že nové technologie, zejména softwarové, lze dnes velmi rychle replikovat a distribuovat. Jde o to, že všechny tyto procesy probíhají v konkurenčním prostředí. Ať už mluvíme o závodech ve zbrojení nebo obchodní soutěži, jakmile některý ze soupeřů získá krátkodobou výhodu na úkor té či oné technologie, je tato technologie okamžitě zavedena všude, kde je to možné – protože nikdo nechce být u nevýhoda.

Myslím, že v této situaci je příliš snadné ztratit ze zřetele skutečnost, že jsme v podstatě zvířata. Lidé prošli evoluční cestou po tisíciletí, aby mohli žít a přežít. Role lidskosti, stejně jako naše pocity spokojenosti a seberealizace, úzce souvisí s naší zkušeností života ve světě, který udává naše obvyklé tempo.

Proto, když postavíme člověka se všemi jeho fyzickými výhodami i nevýhodami rychlému a přesnému počítači, objeví se touha vzdát se počítačům celý svůj život. Zapomínáme však, že totální podrobení se počítači nás dovede k životu, ve kterém bude jen málo prostoru pro seberealizaci.

4. Jak automatizujeme svět?

T. Ch.: Domnívám se, že musíme být k novým technologiím kritičtí, ale mám obavy z lidí, kteří zbytečnou obtížnost a antitechnologickou „autenticitu“promění ve fetiš. Existuje takový moderní myšlenkový směr, který chválí tvrdou fyzickou práci a tvrdí, že vše, co děláme, musí být řemeslné a autentické. Podle mého názoru taková pozice zavání snobismem a nebere v úvahu obrovské množství pozitivních úspěchů, které s sebou demokratizace technologického pokroku přinesla.

N. K.: Zcela s tebou souhlasím. V rozhovoru jsem dostal otázku, jak můj opatrný postoj k pokroku pomůže například lidem pracujícím v drsných podmínkách v masokombinátech. Odpověděl jsem, že samozřejmě vždy bude místo pro automatizaci výroby, kde je potřeba zlepšit pracovní podmínky lidí. Jde jen o to, že můžete inovovat chytře, nebo to můžete dělat bezmyšlenkovitě; můžeme najít způsob, jak zohlednit hodnotu lidské zkušenosti a důležitost seberealizace, nebo můžeme jednoduše vychvalovat schopnosti počítačů. Udělat správnou volbu není snadné. Pokud budeme tento úkol vnímat výhradně černobíle – buď se slepě postavíme za těžkou, vyčerpávající fyzickou práci v jakýchkoli situacích, nebo naopak spatříme smysl života v sybarismu – věci to nepomůže.

Nejobtížnější práce vyžadující výjimečnou přesnost je nejlepší přenechat strojům

Lidé neustále tvoří a používají nástroje. Od nepaměti musíme činit rozhodnutí související s dělbou práce, s dělbou množství práce mezi člověka a nástroje, které má k dispozici. A zdá se mi, že úžasná efektivita počítačů při provádění široké škály úkolů jen komplikuje proces rozhodování.

5. Co nás čeká?

T. Ch.: Směřuje tedy lidstvo k úspěchu?

N. K.: Historik přírodopisu Thomas Hughes, který loni zemřel, navrhl koncept „technologické hybnosti“. Věřil, že technologie zakotvené v sociálních strukturách a procesech se začínají vyvíjet samy od sebe a tahají s sebou společnost. Je docela možné, že naše trajektorie již byla stanovena a že budeme pokračovat ve své dosavadní cestě, aniž bychom si kladli otázky, zda jdeme správným směrem. Opravdu nevím, co se bude dít. Maximálně, co mohu udělat, je pokusit se o těchto opravdu obtížných otázkách uvažovat, jak nejlépe dovedu.

Doufám, že si jako jednotlivci i jako členové společnosti udržíme určitou míru porozumění tomu, co se s námi děje, i určitou míru zvídavosti a budeme se rozhodovat na základě svých dlouhodobých zájmů a nikoli na základě našich obvyklých konceptů pohodlí, rychlosti, přesnosti a efektivity.

Přijde den a roboti nás zbaví všech obtíží. potřebujeme to?

Zdá se mi, že musíme usilovat o to, aby počítače obohacovaly naše životní zkušenosti a otevíraly nám nové příležitosti a neměnily nás v pasivní pozorovatele obrazovek monitorů. Stále si myslím, že pokud z nových technologií vytěžíme více, budou schopny to, co technologie a nástroje dokázaly v celé historii lidstva – vytvořit kolem nás zajímavější svět a pomoci nám stát se lepšími. Nakonec vše závisí na nás samotných.