V současné době už sice mluvíme o umělých inteligencích a zní to skvěle chytlavě, ve skutečnosti to jsou ale samozřejmě stále jenom šikovné počítačové programy s algoritmy strojového učení. Napodobují lidské učení a své lidské tvůrce obvykle předstihnou jedině ve své velmi úzce vymezené specializaci, kdy hledají určitým způsobem uspořádaná data ve velké záplavě informací. Jinak jsou dnešní inteligence velmi omezené a nepředpokládáme, že by v dohledné době převzaly vládu nad světem.
Etik Nicholas Agar z novozélandské Victoria University of Wellington nicméně varuje, že až se umělé inteligence stanou skutečně inteligentními a vnímajícími, tak by se nám mohly mstít za to, jak dnes zacházíme s jejich neinteligentními předchůdci. Je samozřejmě otázkou, zda se vůbec někdy taková inteligentní inteligence objeví. Zřejmě nezbytným předpokladem je, že neurovědci odhalí biologickou podstatu inteligence a vědomí, a tvůrci umělých inteligencí pak tyto mechanismy zvládnou napodobit. A ani pak není zaručeno, že vzniknou systémy s inteligencí, která bude alespoň rámcově srovnatelná s lidskou. Scénář náhlého sebeuvědomění umělé inteligence v nějaké pofidérní elektronice je velice nepravděpodobný.
Agar lidstvu doporučuje, aby se dnes chovalo k umělým inteligencím tak, jak bychom chtěli, aby se případné rozvinuté umělé inteligence budoucnosti chovaly k našim potomkům. Není nijak těžké v těchto obavách zahlédnout oblíbený motiv science-fiction, v němž se zneužívaní roboti vzbouří proti svým pánům. Začal s tím vlastně už Karel Čapek ve svém dramatu R.U.R., v němž poprvé použil slovo „robot“, navržené jeho bratrem Josefem.
Agar to podle všeho nebere na lehkou váhu. Stručně řečeno, měli bychom si přestat utahovat z Alexy a podobných umělých inteligencí nebo nám v budoucnu zaklepe na dveře terminátor. Jak říká Agar, pokud máme potřebu vytvářet systémy se schopnostmi, které se blíží lidské psychice (a pokud to vůbec dokážeme), tak bychom se měli připravit na to, že budou nejen chytré, ale také poněkud vztahovačné.
Podobná varování jsou spíše úsměvná a svědčí více o zálibě jejich autorů v příbězích science-fiction než o promyšlených úvahách. Na druhou stranu, umělé inteligence jsou tady a jejich schopnosti prudce vzrůstají. Nemusíme se bát jejich pomsty za neúctu k chytrým telefonům, alespoň prozatím. Určitě bychom se ale měli připravit na to, že mohou dramaticky, přímo brutálně změnit fungování civilizace i vztahy mezi lidmi, ať už jde o deepfake, policejní, hackerské, vojenské, zdravotní, mediální, reklamní nebo kdovíjaké další inteligence. Bude to chtít celého člověka, abychom obstáli ve věku inteligencí.
Video: In robots we trust
Video: Don’t trust economists about the future of work
Literatura
Conversation 12
Může emoční pouto k robotovi ohrozit jeho výkon na bojišti?
Autor: Stanislav Mihulka (18.09.2013)
Jak se vyrovnáme s autonomními smrtícími roboty?
Autor: Stanislav Mihulka (07.06.2015)
Nezakazujte sexuální roboty!
Autor: Stanislav Mihulka (09.10.2015)
Necháme si poradit od robota?
Autor: Stanislav Mihulka (26.10.2015)
Diskuze:
Chovej se k ostatním tak jak chceš aby se oni chovali k tobě
Lukáš Fireš,2019-03-20 11:22:59
Ono nejde ani tak o to, zda si bude AI vůbec uvědomovat co dělá, ale spíše o to, že ji tvoříme k obrazu svému a největší úspěchy má AI právě v napodobování. Stačí si vzpomenout na tu facebookovou děvu (náctiletý chatbot), co se během dne zvrhla v cosi tak odporného, že ji museli vypnout. A to šlo jen o nemyslící klábosící program, co se snažil jen napodobovat... no víme jak s ním bylo zacházeno a co se chuděra naučila.
Vypnem
Mojmir Kosco,2019-03-19 07:38:30
Ci nevypnen?Ktery organizmus s vlastní vůli k přežití vypuštěný z laboratoře se nám podařilo zastavit? Ani bůh nezastavil lidstvo vyhnané ráje.. Jedině gen lásky mám může umožnit kontrolu na něčím z vlastní vůlí a taky miska žrádla jako u psů
AI inak
Perrin Gallerno,2019-03-18 17:58:23
VÝVOJ ZAČÍNA DNES
Napriek tomu alebo práve vďaka takým kritickým realistom akým je napr. Čech T. Mikolov (patrí k najuznávanejším vedcom v obore umelej inteligencie. Pracuje pre Facebook 2018, robil pre Google – spoznal tam Kurzweila, a bol stážistom v Microsofte);
Najneskôr v roku 2039 nadobudne "umelá inteligencia" úroveň inteligencie človeka. Najneskôr v roku 2045 nadobudne Umelá inteligencia vedomie o sebe a spôsobí TECHNOLOGICKÚ SINGULARITU - skokovú zmenu vo svetovej produkcii, čím sa naplní jeden zo siedmych platných Marxových zákonov - Zákon hodnoty. Hlavnú rolu budú hrať stroje. ["Stroj je prostriedok na výrobu nadhodnoty." Marx, Kapitál]
Produktivita "učiacich sa strojov" nadobudne pre kapitalizmus, smrtiace, exponenciálne (takmer ihlovito) rastúce hodnoty.
Výrobné náklady akejkoľvek produkcie a jej hodnota klesnú fakticky k nule.
Obchod sa vymkne silám trhu.
S poklesom hodnoty ľubovoľného tovaru klesne k nule i jeho cena.
A to znamená materiálny dostatok - ako samozrejmosť, ale nie ako cieľ - pre všetkých.
ČO SA STANE PO SINGULARITE
Technologická singularita bude znamenať zánik zákonitostí trhu a teda zánik kapitalizmu a všetkých jeho i zdedených atribútov ako, globalizácie, politických systémov, armád, paktov, súdov, peňazí, úrokov, miezd, bánk, poisťovní, dlhov, búrz, hraníc vrátane colných, zánik štátov i národných štátov, zánik klasickej rodiny, zánik náboženstiev, zánik prostitúcie v akejkoľvek forme a predovšetkým zánik ťažkej, ohlupujúcej, stereotypnej netvorivej práce a riešenie akéhokoľvek problému ľudstva od životného prostredia po choroby a genetické (biotechnologické) manipulácie, prepojenie s nebiologickými technológiami, vrátane nesmrteľnosti. ..
Fakticky to znamená nástup KOMUNIZMU a to viacmenej súčasne na celej Zemi.
Re: AI inak
Jan Novák9,2019-03-21 21:00:49
Nesmysl. Vždy zůstane cena zdrojů, cena času a cena příležitosti.
Vždy bude méně zdrojů než možností jak je využít.
Vždy bude potřeba vynaložit nenulový čas na uskutečnění projektu.
Vždy bude víc projektů než zdrojů a času takže bude nutné určit priority.
Po singularitě bude prakticky celé lidstvo nepoužitelné k jakémukoliv smysluplnému účelu.
Cena produkce klesne, ale nikdy nebude nulová zatímco cena lidské práce bude záporná = zaměstnat člověka přinese ztrátu místo zisku.
Mně z toho teda komunizmus nevychází a to ani náhodou. Žijete v pohádkách kde dobrá víla Umělá Inteligence rozdává bohatství zadarmo bez protihodnoty.
Neustále dokola
Josef Šoltes,2019-03-17 23:05:48
Koukám, že spousta lidí na světě stále nepochopila, že UI nebude člověk. Nebude mít to základní genetické programování od přírody, bude mít jen tu nadstavbu se schopností uvažovat. U člověka je ovšem ta nadstavba tak 30 %, ten zbytek jsou právě genetické programování. UI bude úplně jedno, jak se k ní budeme chovat. UI bude totiž jedno úplně všechno, pokud ji tedy nenaprogramujeme tu genetickou pudovou stránku taky. Ale proč bychom toto dělali, že?
Re: Neustále dokola
Alexandr Kostka,2019-03-18 00:03:57
I UI má jisté "genetické" naprogramování. Akorát tady není v šroubovici DNA, ale v podobě strojového kódu. Mezi instrukcemi je například návod k úpravě zmíněného kódu, tedy vyvíjení se. A i jisté forma požadavku na přežití. Čím se to liší například od virů nebo bakterií? Ty dle našeho chápání světa také nemyslí, a jen přežívají. A přitom nám púůsobí ůdrobné" problémy.
PS: AI můžete (zatím) zarazit otočením vypínače, ale už probíhají snahy, jak vytvořit zcela autonomní AI řízené věci. Přesněji: zbraně. Jaderná ponorka, řízená AI, s jadernými zbraněmi na palubě.
Re: Neustále dokola
Pavol Hudák,2019-03-18 00:12:46
Pretoze my budeme stvoritelia, my rozhodujeme a mali by sme rozhodovat ako bude nas produkt vyzerat a ake bude mat schopnosti. Logicky ho bude treba nadizajnovat tak aby sluzil a nie my jemu.
Podobne sme v minulosti skrotili ohen, pretoze iba tak sme s nim mohli spolunazivat. To ze je ohnu jedno ci nas spali tam nehra rolu.
Re: Re: Neustále dokola
Jan Novák9,2019-03-18 07:02:15
Hm, Váš počítač zřejmě vždy dělá přesně to co chcete. Můj teda ne. Živím se tím že nutím počítače druhých dělat to co si jejich tvůrci myslí že by měly dělat a nemůžu si stěžovat na nedostatek práce. A to jsou obyčejné PC kde má programátor přehled nad tím jak je kód napsán a ne umělá inteligence která si částečně vytváří kód sama.
Re: Re: Re: Neustále dokola
Pavol Hudák,2019-03-18 09:05:56
Ja niesom stvoritel svojho pozitaca. Robi ale presne to k comu som ho ja nastavil + jeho stvoritelia naprogramovali.
Re: Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:26:07
Umelá inteligencia bude schopná lokalizovať každý živý organizmus na Zemi.
Re: Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:31:27
Najzákladnejšou otázkou, ktorú treba zodpovedať už dnes je; Čo urobí Umelá inteligencia s nedokonalým medzičlánkom evolúcie Homo sapiens - prečo ho nezabije? ––––––––––––––––––-----–––––- Na otázku: Prečo ho zabije? netreba hľadať odpoveď.
Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:19:58
Umelá inteligencia bude decentralizovaná (nebude to človek).
Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:21:18
Umelá inteligencia bude absolútne na človeku nezávislá.
Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:22:33
Umelá inteligencia nebude podliehať žiadnej regulácii a kontrole.
Re: Neustále dokola
Perrin Gallerno,2019-03-18 18:23:36
Najväčšie očakávania Umelej inteligencie vyvolá jej dokonalosť, bude totiž bez citov a teda absolútne objektívna.
Zatiaľ našťastie neexistuje.
Re: Re: Neustále dokola
Milan Krnic,2019-03-18 23:22:27
Ani nikdy existovat nebude, protože neexistuje nic jako objektivita. Vždy je to o úhlu pohledu, mnohdy protichůdném. Ani výsledky současných systémů nejsou deterministické, ale vyplynuvší z komplexity, tedy intuitivní, a to je pocit.
uchopení AI
Milan Krnic,2019-03-17 20:57:02
Zajímavé, jak máme stále potřebo připodobňovat. Umělý člověk je od člověk nerozeznatelný, a tedy to je člověk. Jaký by mělo smysl takového člověka tvořit, i pokud by to bylo nějakým zázrakem možné, když to žena zvládne za 9 měsíců, nechápu.
Re: uchopení AI
Jan Novák9,2019-03-18 07:12:27
I to by mělo smysl. Biologický člověk je daný, můžete ho trochu upravit geneticky, ale s inteligencí toho moc nenaděláte. Umělou inteligenci můžete rozvíjet prakticky do nekonečna.
Re: Re: uchopení AI
Milan Krnic,2019-03-18 11:50:07
To je právě ono podivné uchopení AI. Lze rozvíjet inteligenci člověka dál a dál? Podle mě nevíme, a možné je vše, jen s patřičnými fyziologickými úpravami, možná uvidíme u GMO, jaké jsou limity, a dokdy budeme tvora považovat za člověka, nebo možná ty neupravené za podlidi.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
