Je nebezpečí robotického pokroku pravdivé nebo mýtus?

2024 Autor: Seth Attwood | [email protected]. Naposledy změněno: 2023-12-16 16:00

Když říkáme, že roboti lidi nenahradí, protože v nich není nic lidského, nemáme vůbec na mysli výjimečnou schopnost člověka tvořit nebo jednat nelogicky. Jednoho dne to budou moci dělat i roboti. Ale bát se jich je prostě zbytečné. Proč - vysvětluje Andrey Sebrant, ředitel strategického marketingu společnosti Yandex.

Jak se Tin Woodman stal Terminátorem

Velký spisovatel Arthur Clarke formuloval tři zákony, z nichž jeden zní: "Jakákoli dostatečně pokročilá technologie je nerozeznatelná od magie." Tato formulace přesně popisuje náš postoj k špičkovým technologiím. Ale v mediálním věku, s televizí a Facebookem, je stále těžší být kouzelníkem.

Příkladem docela umělé inteligence je Tin Woodman, se kterým se Ellie (nebo Dorothy) přátelila a vedla sladké rozhovory. V jakém okamžiku a proč se najednou proměnil v Terminátora? Jde o čistě mediální příběh: strach se prodává dobře – natolik, že téma související s roboty musí být zahrnuta do názvu přednášky.

A to skutečně odráží to, co se děje v mysli veřejnosti. Nedávno provedla HSE průzkum, který ukazuje, že čím větší subjektivita robota, tím více lidí se bojí, že jim jako subjektu udělá něco špatného. Když robot zrovna dělá nějaké domácí práce nebo nosí zboží z obchodu, nikdo se ho nebojí. Když ale přijde řeč na sestry, mediky, vychovatele a samořídící auta, většina lidí namítá, že by byli na své okolí extrémně nepohodlní. Statistiky nehodovosti na jeden milion ujetých kilometrů přitom ukazují, že drony se méně často stávají dopravními nehodami. Samozřejmě, stejně se lidé dostanou k dopravním nehodám, ale budou umírat méně často - 300 tisíc lidí místo jednoho a půl milionu. A milion bude žít dál, protože řidičem nebyl opilý člověk, ale nedokonalý autopilot.

Proč byste neměli vyžadovat vysvětlení od robotů

Nositel Nobelovy ceny za fyziku Richard Feynman řekl, že žádný fyzik nerozumí kvantové fyzice. Bohužel nebo naštěstí je dnes spousta jiných oblastí, ve kterých se děje něco, co si člověk nedokáže vysvětlit.

Je zbytečné požadovat po robotech výklad (proč k takovému rozhodnutí došlo, proč auto zpomalilo atd.). Navíc, když se podíváte zpět do naší historie, je to zcela nelogické.

Například kyselina acetylsalicylová, syntetizovaná v roce 1853 a registrovaná pod ochrannou známkou Aspirin na konci 19. století, se dnes konzumuje v obrovském množství – ročně asi 120 miliard tablet. Jeho působení, spojené například s využitím při srdečních chorobách, však bylo víceméně vysvětleno až 70 let poté, co se začal hojně využívat v lékařství.

Moderní farmakologové říkají, že nikdo neví, jak sofistikované moderní léky na vážná onemocnění fungují. Zajímalo by mě, kolik lidí, kteří se bojí nasednout do samořídícího auta, odmítne léčbu lékem, který v 90 % případů zachraňuje, ale o mechanismech jeho účinku nevíme téměř nic?

Ani v běžném životě tedy nerozumíme všemu, co se kolem nás děje. A je extrémně naivní vyžadovat, aby roboti vysvětlili své činy před plošným zavedením strojového učení. Dokud se toho budeme snažit dosáhnout pomocí současných algoritmů, přijdou kvantové počítače a nebude vůbec žádná naděje na pochopení. Proto je nejlepší naučit se přijímat to, čemu nerozumíte. To není odpověď na otázku, co s námi udělají roboti. To je odpověď na otázku, jak neutratit vše, co vyděláte, za psychoanalytiky, když jsou vedle vás roboti.

Jak tvořit s umělou inteligencí

Další příběh o soužití s roboty je věnován myšlence, kterou pochopí každý kreativec – jak těžké je najít někoho, s kým se bude skvěle společně tvořit. Slavný ruský umělec a teoretik umění Dmitrij Bulatov to formuluje v drsnější podobě: „Nová norma je tato: pokud chceme infikovat svět uměním, musíme skoncovat s naším proteinovým šovinismem.“

My (v Yandex. - poznámka T&P) jsme se začali bavit hudbou napsanou neuronovými sítěmi již v roce 2017, - hudba, kterou jsme vytvořili, byla uznávána jako originální skladatelka a expertka na Skrjabinovu kreativitu Maria Chernova. Jak poznamenal Ivan Yamshchikov, co když neuronová síť ráda hraje stejnou notu po dobu čtyř minut? Myslím, že to nezpůsobí nic jiného než smích ("scénář se zasekl"). A pokud předpokládáme, že to vymyslel člověk, okamžitě přiběhne obrovské množství tlumočníků, kteří začnou vysvětlovat, že jde o hlubokou myšlenku, vyjadřující myšlenku monstrózní stagnace, ve které žijeme atd. Toto je otázka interpretace ne samotného díla, ale kontextu, který nám byl daný.

Dnes, dokonce i v úvodu matematického článku Generace hudby s variačním rekurentním autoenkodérem podporovaným historií, jeho autoři píší, že úkoly zahrnující intuitivní nebo kreativní přístup byly dlouho považovány za čistě lidské, ale nyní je k dispozici stále více algoritmů a hudba je jen jeden příklad. takové úkoly.

O dva roky později jsme napsali hudbu pro největšího hudebníka Jurije Bashmeta (neuronová síť vytvořená Yandexem vytvořila skladbu pro violu a orchestr ve spolupráci se skladatelem Kuzmou Bodrovem - pozn. T&P). Když o této události řeknete lidem, reagují takto: „Ach, rozumíme! Říká se, že neuronové sítě odvádějí dobrou práci s rutinními úkoly, takže skladatel vytváří právě tuto melodii, skvělý nápad na skladbu a neuronová síť se pravděpodobně naučila dělat zbytek orchestrační práce." Opak je pravdou. Skladatel Kuzma Bodrov tvrdí, že neuronová síť se stala jejím plnohodnotným spoluautorem a byla to právě ona, kdo vygeneroval to nejtěžší, originál, který se později proměnil v něco víc. Přál bych si mít vždy takového spoluautora, schopného vytvořit něco nového a nečekaného, aniž by se unavil a neupadal do depresí.

Neuronové sítě a fyzičnost

V knize Strugackých "Pondělí začíná v sobotu" jsou popsány entity, kterým se říká dvojky: diktát, ale kdo ví, jak to dobře dělat. […] Skuteční mistři dokážou vytvořit velmi složité, víceprogramové, samoučící se věci.“Jeden z hrdinů románu poslal takovou cestu autem místo jiného hrdiny. Dvojník vedl Moskviče skvěle, "přísahal, když ho kousli komáři, a zpíval s potěšením ve sboru." Naše „Alice“to zatím nedělá, ale rozjede se ještě jeden hackathon. Inteligentní adaptivní systémy byly popsány v roce 1965. Nyní už skutečně existují – jako duplikáti, kteří jsou lepší ve třídění papírků, vymýšlení nových melodií, plánování médií atd. A to je jen začátek.

V knize Kevina Kellyho Inevitably je krásná věta: "Nejdůležitější myslící stroje nebudou ty, které dokážou myslet rychleji a lépe než lidé, ale ty, které se naučí myslet způsoby, jakými lidé nikdy nemohou." Je to, jako bychom celý život realizovali myšlenku létání, vytvářeli a vylepšovali ptáka s křídly, pouze je zvětšovali a používali moderní materiály. Myšlenka rakety, která nás vezme vesmírem, kde jsou křídla k ničemu, by se prostě neobjevila, protože je úplně jinde, než kde to všechno začalo. A to teprve přijde – mezitím máme skvělé spoluautory.

Když mluvíme o umělé inteligenci a bojíme se, že nás stroj nahradí, celou dobu věříme, že člověk a inteligence jsou téměř synonyma, jakési zaměnitelné esence. To není pravda. Znovu budu citovat Strugatského: "Jsem stále muž a celé zvíře mi není cizí." I když se pomocí neuronových sítí naučíme krásně tančit na obrazovkách, neudělá to z nás lidi, kteří dokážou mít z tance opravdové vzrušení. Tělesnost je stejně důležitá jako inteligence. A zatím vůbec nechápeme, jak udělat algoritmické něco, co by stejně jako nám nebylo cizí celému zvířeti.