Proč nás budoucnost nepotřebuje
Bill Joy - zakladatel Sun Microsystems
přeložil – Mehdi Zejnulahu
Naše nejmocnější technologie 21. století – Robotika, Genetické inženýrstvi a nano technologie
Od chvíle kdy jsem se zapletl do vývoje nových technologií , jsem měl obavy z etických rozměrů, ale to byl teprve podzim roku 1998, kdy jsem si se strachem uvědomil obrovské nebezpečí kterému budeme čelit v 21. století. Počátek mého neklidu se počal setkáním s Rayem Kurzweilem, zasloužilím vynálezcem prvního čtecího zařízení pro nevidomé a mnoho dalších úžasných věcí.
Ray a já jsme měli přednášky na George Gilderově Telecosmické konferenci a setkal jsem se s ním na hotelovém baru po skončení našich vystoupení. Seděl jsem s filozofem z Berkley univerzity Johnem Searlem, který studuje lidské vědomí. Ray se k nám přidal a začal rozhovor, jehož obsah mě straší do dnešního dne.
V našem rozhovoru se Ray s Johnem rozpovídali na téma pokrokové technologie. Ray se zmínil, že s akcelerujícím rozmachem nových technologií se staneme roboty nebo spojením člověka a robotem, nebo něco na ten způsob. John se ohrazoval, že to se nemůže stát, protože roboti nemůžou být vědomí.
Když jsem slyšel podobné rozhovory, vždy jsem viděl cítící roboty někde ve sféře sci-fi. Ale teď, jsem slyšel velmi silné fakta od někoho, koho jsem velmi respektoval, že tyto představy jsou velmi blízko ke skutečnosti. Byl jsem velmi zaskočen, když Ray začal představovat a vytvářet možnou budoucnost. Už jsem věděl o technologiích jako genetické inženýrství a nanotechnologie, které nám byli dány k posílení přetvoření světa, ale reálný a bezprostřední scénář inteligentních robotů mě překvapil.
Je dnes všední se dostat k takovým průlomům. Slyšíme každý den ve zprávách o nějakých technologických a vědeckých pokrocích. Ale tohle nebyla obyčejná předpověď. Ray mě dal náhled do jeho nové knihy „ The Age Of Spiritual Machines“ (Věk Duchovních Strojů), který rýsuje utopickou předzvěst – že lidé dosáhli blízko nesmrtelnosti spojením s robotikou. Při četbě, jsem cítil jen posílení znepokojení, cítil jsem že si je vědom tohoto nebezpečí a rozumí, že se tato cesta může stát katastrofou.
Nejvíc jsem se dostal do nesnází při čtení pasáže upřesňující dystopický scénář:
NOVÝ PROTEST PRO ODPŮRCE TECHNOLOGICKÉHO POKROKU
Za prvé si stanovíme, že počítačoví vědci uspěli s rozvojem inteligentních strojů, které dělají věci lépe, než jak je dělají lidské bytosti. V tomto případě by pravděpodobně všechnu práci prováděli vysoce organizované systémy strojů a žádné lidské úsilí by nebylo potřeba. Navíc, se tento fakt může uskutečnit dvěma způsoby. Jeden způsob by umožňoval rozhodování strojů , bez lidského zásahu a druhý způsob by umožňoval ovlivňovat kontrolu strojů.
Pokuď by stroje měli dovoleno dělat veškeré vlastní rozhodnutí, nemáme žádný odhad k nějakému výsledku, který by stroj mohl vyhodnotit a tak vědět jak se zachová. Jen můžeme vypíchnout fakt, že lidská rasa by tak byla na milost strojům. Můžeme tvrdit, že lidská rasa by nikdy nebyla tak hloupá, že by dala svůj osud do rukou strojům. Nepředpokládáme ani, že by lidé dobrovolně vložili moc strojům, ani že stroje se úmyslně zmocní kontroly. Co předpokládáme je, že lidská rasa možná tomu lehce dovolí se unést do takové závislosti na strojích, že už nebude žádná praktická volba, než akceptovat rozhodování všech strojů. Jak společnost a problémy se budou více a více stávat komplikovanějšími a stroje budou více a více inteligentní, lidé samočinně nechají stroje jednat dle jejich rozhodnutí a to jednoduše proto, že jejich rozhodnutí bude s lepšími výsledky než rozhodnutí uděleno lidmi. Nakonec toto stádium může být dosaženo rozhodnutími, které bude nepostradatelně nutné pro fungující systém, který bude tak komplikovaný, že ani lidské bytosti nebudou schopny je inteligentně vyhodnotit. V tomto případě budou stroje efektní kontrola. Lidé nebudou mít možnost stroje vypnout, protože vypnutí jich by znamenalo sebevraždu.
Na druhou stranu, je možné mít lidskou kontrolu nad těmito stroji. V tomto případě by mohl mít průměrný občan kontrolu nad určitými domácími stroji, jako auto, a jeho osobní počítač, ale kontrolu nad většímy systémy strojů by měla jen úzce početná elita – jak je to v dnešní době, jen s dvěmi rozdíly. S pokrokovými technologiemi by privilegovaná vrstva měla větší kontrolu nad lidmi – a protože by lidská práce nebyla vůbec už vůbec potřeba, lid by se stal nadbytečnou a neužitečnou zátěží systému. Pokuď je elita bezcitná, jednoduše se rozhodne popravit lidskou masu. Pokuď budou lidští, použijou propagandu nebo psychologickou nebo biologickou techniku k redukci porodnosti a tak pomalu lidská rasa vymře a zanechá jen privilegovanou vrstvu. A nebo budou jemnocitní liberálové a budou hrát roli dobrých pastýřů zbytku lidstva. Budou plnit lidem jejich fyzické potřeby a děti budou vychovávany v psychologických a hygienických podmínkách, každý bude mít prospěšné hobby, které ho udrží zaneprázdněným a kdokoli kdo se bude cítit nespokojený, tak se podrobý „léčbě“ k vyléčení jeho „problému“. Samozřejmě život bude bez jakéhokoli smyslu a lidé budou muset být biologicky a psychologicky programováni, také jim bude odstraněna potřeba po moci nebo se jim „přeměnní“ jejich touhu po moci do neškodného koníčku. Tito programovaní lidé mohou být šťastní v této společnosti, ale nebudou zajisté svobodní. Jejich status bude ochočeného zvířete. 1
-------------------------------------------------------------------------------------
1 Pasáž, kterou Kurzweil cituje je z Kaczynskiho Unabomber Manifesto, který byl vydán současně, pod nátlakem The New York Times a Washington Post pokusit se ukončit jeho kampaň teroru. Souhlasím s Davidem Gelenterem, který komentoval jejich rozhodnutí.
„ Byl to těžký telefonát pro noviny. Říct ano, a tak se přidat k terorismu a pro ty co všichni věděli, že stejně lže. Na druhou stranu, říct ano znamenalo zastavit zabíjení. Byla zde i šance že si to někdo přečte a pozná tušení autora, a přesně to se stalo. ZAvolal bratr podezřelého a sdělil:
„ Řekl bych jim aby to nepublikovali, ale jsem rád, že se mě neptali. Myslím.“
(Drawing Life: Surviving the Unabomber. Free Press, 1997: 120.)
Dr. Theodore John Kaczynski – známí jako Unabomber, odpůrce technologického pokroku. Měl nasvědomí několik bombových útoků.
Žádné komentáře:
Okomentovat