Chtějme lidsky myslet a cítit navždy. Nedelegujme tuto schopnost umělé inteligenci
Ilustrační foto: Jana Mesarčová za pomoci umělé inteligence

Chtějme lidsky myslet a cítit navždy. Nedelegujme tuto schopnost umělé inteligenci

13. 8. 2024

Mnozí jsme svědky i přímými účastníky prudkého zrychlování rozvoje technologií. Já např. zažila valchu, bubnovou pračku i pračku s rotujícím motorem. Zažila jsem telegraf, kabelový telefon, fax, domácí bezdrátový telefon, těžkou přenosnou Nokii TMF, tlačítkové vysouvací, otevírací a dotykové mobilní telefony.

Dnes mám samozřejmě chytrou placku, tolik nezbytnou pro život v digitalizovaném světě, ve kterém se chvílemi přestávám orientovat, jak je rychlý. Pocity mého zmatku silně umocňuje všudypřítomná umělá inteligence (AI), kterou intuitivně nemám v oblibě, neboť pociťuji její lišáctví, agresivitu a venkoncem i protilidskost, přestože nám (lidstvu) prozatím posluhuje a zpívá. Obávám se však okamžiku bodu zlomu, kdy na lidstvo spadne klec, jak na toho ptáčka.

Že zbytečně straším?

To nemám v úmyslu. Jen tuším, že umělá inteligence není robotek Emílek, nýbrž bezlimitní datové monstrum. Je to Otesánek, kterému dobrovolně, neřku-li posedle, tvůrci a vývojáři plní banděro masivním množstvím dat ze všech oblastí lidského života. Konstruktéři montují specializované servery a hardware tak, aby ten hladovec vše softwerově strávil, a potom, na pokyn dnes ještě člověka, nebo kontrolovaných algoritmů, vyvrhl nová data (ne vždy správná), která se mohou stát v dalším kole novou Otesánkovo potravou.

Chci tím říci, že se jen obyčejně bojím, jak se možná necháme „sežrat“ něčím, čemu jsme prozatím pánem. Bojím se, že se umělé inteligenci nekontrolovaně podřídíme, že přestaneme myslet. Že pod tíhou euforie megaužitku, kterého se nám využíváním umělé inteligence dostává, dovolíme této obludě rozumět našim citům, přestaneme ji ovládat.

Že zbytečně přeháním?

Nemyslím si. Samozřejmě si uvědomuji, jak se technologický pokrok s požadavkem prospěšnosti člověku řítí sedmimílovými kroky kupředu. Dvacáté století a 21. čtvrtstoletí jsou toho důkazem. Robotizace a digitalice jsou běžnou součástí výroby, služeb, bezpečnostních systémů, bankovnictví, zábavy, pronikly i do školství, zdravotnictví, oblastí administrativy a domácností. Ale - jak to bude s chytrými stroji (AI), které budou projevovat lidské chování, protože byly vyvinuty na základě technologií strojového a hlubokého učení? To znamená, že tyto chytré stroje (umělé neuronové sítě leckdy zabalené do humanoidních tvarů) se nejen učí na základě obrovských datových souborů, které jim primárně poskytl člověk, ale i pomocí svých vlastních samoupravovaných algoritmů. Chytré stroje se zdokonalují a bez zásahu člověka prohlubují svou schopnost se učit. Pokud to bude ku prospěchu člověka, fajn. Ale co bude, až jednoho dne nastane stav, kdy toto učení bude člověkem nekontrolovatelné, chytrý stroj (AI) nabude schopnosti, kterými se pro člověka přemění na stroje již neužitečné až nebezpečné (např. budou se umět sebereplikovat, budou umět vytvořit obranu proti svému vyřazení z provozu, budou umět delegovat úkoly na kopie sebe sama, budou umět skrýt stopy protilidské činnosti)? Zastavíme je? Vypneme?

Pokorně si namlouvám, aby umělá inteligence nebyla schopná cokoliv pociťovat a zažívat jako člověk, aby nedisponovala totožnou emocionální inteligencí jako člověk. Ona je dostačující a vrcholně alarmující schopnost umělé inteligence lidské emoce rozpoznávat, napodobit i reagovat na ně. Taktéž alarmující je snaha dát umělé inteligenci lidskou podobu. Souhlasím s názorem filosofa Jana Romportla, že by měla být úplně zakázána antropomorfizace umělé inteligence. Děsí mne ty Miss AI virtuální ženy, ty kýčovité krásky poskytující oduševnělý erotický zážitek, ty AI influencerky, které jejich sledovatelům vymývají mozek, a vůbec, děsí mne všichni ti vyvíjení robotičtí asistenti z oblasti pečovatelství a školství. Nejsem nakloněna těmto chytrým strojům, nepohladí s láskou.

Zneklidňuje mne, jak má vnoučátka častěji a častěji na jednoduché otázky a situace reagují: „počkej, zeptám se džípítý*)“. Jakmile hledám odpovědi na hádanky ve slovníku nebo v rozložitých mapách, děti kroutí očima či krčí rameny nad mou nemoderností. Na mou obhajobu je smutně poučuji: „Dětičky, nechte ty technologie, máme přeci svou hlavičku, přemýšlejme. Cvičme mozek, trénujme ten zázračný sval, jinak lidstvo zakrní a bude jen závislé na nulách a jedničkách.“ Hmmm, marná moje slova.

Ach jo, John McCarthy**), cos nám to jen nadělil?

Pokroku nelze bránit. Minimálně 70 let tady umělá inteligence je. A je více než jasné, že to bez ní dál nepůjde. Pokud bude umělá inteligence ve správné míře zastupovat člověka, řekla bych, že je stále srdečně vítána. Jen se modlím, aby nedocházelo k jejímu nadužívání, aby lidé nezlenivěli myslet, a tim nedávali zelenou vývojářům umělé inteligence podporovat její exponenciální vývoj až na hranici fáze singularity, kdy dojde ke ztrátě kontroly nad jejím technologickým růstem a lidská společnost se nenávratně promění. Jak, nikdo neví. Vyloučit však nelze podobnost ve smyslu konstatování Alberta Einsteina k vývoji jaderných technologií: Nevím, čím se bude bojovat ve třetí světové válce, ale ve čtvrté to budou klacky a kameny. 

 

*)

GPT (džípítý), ChatGPT- nástroje umělé inteligence, umělá neuronová síť, která se učí z vložených dat.

**)

John McCarthy - byl americký informatik a kognitivní vědec. V roce 1955 navrhl na konferenci v Dartmouthu používat pojem „umělá inteligence“, který se ujal.

 

počítače společnost technologie
Hodnocení:
(5.1 b. / 19 h.)

Pro hodnocení se musíte přihlásit

DISKUZE
Děkujeme za váš příspěvek do diskuse. Upozorňujeme, že redakce si vyhrazuje právo vyřadit diskusní příspěvky, které jsou v rozporu s platnými zákony a které podněcující k násilí a nenávisti ke konkrétním lidem či skupinám obyvatelstva. Smazány budou rovněž příspěvky obsahující jakékoliv vulgarismy.
Dušan Brabec
Aktuální trend je vše převádět do virtuální reality, datových center a cloudů - tedy žádné knihy v listinné podobně, žádngramodesky CD a DVD, žádné papírové záznamy apod., vše lze stáhnout "odněkud" z prostoru... Pak ale stačí jen to vypnout či smazat... A je jedno, zda to udělá, zda člověk nebo umělá inteligence-. A co nastane pak? Vždyť dnes již mladší generace neumí hledat v papírových mapách a atlasech, vše najdou přes GPSky na mobilu či v počítači. Dopručuji přečíst knihu od Ondřeje Neffa "Tma", jaká celosvětová katastrofa lidstva nastala pouze v případě absolutního konce elektrické energie. A tady by to bylo mnohem, mnohem, horší. Ale zase by zjevně došlo k "humánní" redukci obyvatel zeměkoule na kážené 2 miliardy, což podle dvou na sobě nezávislých studií je prý optimální pro život na zemi?!?
Alena Gebauerová
Mám obavy, že si s umělou inteligenci budeme tak dlouho zahrávat, až dá jednou povel ke zničení světa.
Jitka Caklová
Ve čtvrté třídě jsme museli umět malou násobilku jak když bičem mrská. Dodnes jsem ji nezapomněla a jak se panečku v obyčejném životě hodí. A když se k tomu přidá logické myšlení, není co řešit :-) :-)
Jana Kollinová
Děsivá představa. EU řeší společenské, zákonné a etické otázky chránící občany před jejím zneužitím, jinými slovy, aby AI neporušovala základní lidská práva. No, nevím, zda EU to stačí vyřešit dříve, než ji AI přechytračí.
Jitka Caklová
"Chytrou placku" jsem měla a během 14 dnů jsem pochopila, že mi je líp, když se spoléhám na "svůj systém" a ne na to, co mi kdo, kdo je vně mého systému nakuká. MOJE myšlenky jsou základem k tomu, abych byla tvůrcem SVÉHO ŽIVOTA. John McCarthy už ve své době moc dobře věděl co dělá a proč to dělá.

Zpět na homepage Zpět na článek

Nejste registrován/a? Zaregistrujte se zde.

Po přihlášení (registraci) uvidíte na tomto místě přehled Vašich aktivit na portále i60.cz, a to:

  • Váš nejnovější článek
  • Nejnovější komentáře k vašim článkům
  • Nové vzkazy od přátel
  • Nové žádosti o přátelství
Přihlásit se

JSTE TU POPRVÉ?
Přečtěte si, co všechno
portál i60 nabízí
.