Chatbot s AI neboli kecálek je hračka sugestivní, fascinuje už zvládáním češtiny. Naprosto přesvědčivě působící článek o principiální nenahraditelnosti lidské inteligence ve srovnání s arteficiální prý dokázal vygenerovat za pouhých 16 s. Dal bych přednost úplně jiným aplikacím AI, např. pro hledání patterns ve velkých datech, ale nabídka je: stroj na transformaci jazykových ekvivalentů a jazykových asociací.
Jiří Fiala (matematik, logik a filosof, 1939-2012) už v 90. letech říkával, že od funkční umělé inteligence splňující nároky Turingova testu, navíc spontánně reprodukovatelné, nás dělí pouhý krůček, totiž další školská reforma. Při tehdejších technologických možnostech mínil, že dělat roboty z lidí vychází levněji, ač tomu vůbec nefandil.
Nehodlám řešit, v jakém smyslu je AI inteligencí. Natož zda má vědomí, případně zda je subjektem (čeho tak asi?), to považuji za pseudoproblém i v případě lidí a jiné zvěře, pokud míří moc nad limit pudu sebezáchovy. Zpřístupněním chatbota skončila doba, kdy se bezbřeze a přitom gramaticky správně mohli vykecávat jenom ti sebevědomí hlupáci, kteří prodělali patřičnou školu. Většinou si AI představujeme jako něco racionálního, zde však dostáváme strojek, který díky racionalitě tvůrců dokáže napodobovat lidské emoce a tím je u lidí reálně probouzet. Zatím jde jen o zábavu a varování. Nikoli před roboty, i když prý zvládají lecjaké školní zkoušky a hrozí, že budou „brát lidem práci“ (jako kdyby jí bylo málo).
Když fascinuje
Samozřejmě uvnitř jazyka, tam je doma. Robota se zmocnila i moje žena, která je knižní redaktorka a tento předmět také přednáší. Zadala mu k jazykové korektuře jeden ze standardních zkušebních textů, stránku plnou překlepů a strašlivých i nenápadných chyb všeho druhu. Výsledek byl fantasticky dokonalý, zůstaly tam jen tři drobné chyby, já z nich viděl jenom jednu. To na jedno kolo korektur zvládá málokdo, za 15 vteřin nikdo. Text je ovšem nutno pozorně přečíst nejen kvůli 2. kolu jazykové korektury. Bot by si mohl vymýšlet. Potřebu věcné nebo dokonce odborné korektury dnes ale mnoho nakladatelů zanedbává, řemeslo je na vymření kvůli úspoře a urychlení procesu a kvůli sebevědomí řady autorů.
Vedle jazykové korektury by se chatbot dal využít k překladu. Jenže proč riskovat, když to dobře dělá vyzkoušený DeepL, který je k tomu. To je moc užitečná AI.
Chatbot a empirická věda
Nemám na mysli, že by chatbot měl vědu vytvářet, stačí, že je schopný referovat část vědeckých textů. Zalovil jsem v paměti a zeptal se na emisní spektrální čáry ve sluneční koróně. Bylo nutné trochu zamachrovat, aby se chytil, a trochu dělat blbce: „Je vlnová délka emise Fe XIV ve sluneční koróně 504 nebo 534 nm?“ Odpověď byla uvozena zdvořilým upozorněním, že to píšu chybně, pak už byla přesná, je to 503,3 nm.
Za nejtěžší zkoušku jsem mylně považoval dotaz na energii, kterou černé těleso určité teploty vyzařuje v určeném oboru vlnových délek. Když jsem předstíral, že si s pány Stefanem, Boltzmannem a Wienem málem tykám, dostal jsem rozumnou odpověď, že to nemá analytické řešení, že se to musí počítat numericky (newtonovskou integrací). Málem jsem se omluvil za to, že jsem očekával absurdní řečnické vystoupení.
Zkusil jsem i prostší věc. Mám foťák ten a ten, nemám stativ, a chci vyfotit souhvězdí Andromedy tak, aby tam byla aspoň trochu vidět i ta galaxie M31. Byl jsem ubezpečen, že je to výtečný nápad, že bude doprovázen hodnotným zážitkem. Obdržel jsem radu, že je dobré najít místo, odkud je to souhvězdí vidět atd. Po troše mého machrování už kecal míň a doporučil část toho, co si každý fotograf umí představit. Několik důležitých věcí opomněl.
Ptal jsem se také na nálezy z řecké antiky, ke kterým nemůžu nic najít. Výsledky byly naprosto žalostné. Samozřejmě, data mining to není. Nezmínil ani to málo, co znám, a nesmyslně do toho motal novodobé generály a Římany. O nich lidé mluví častěji.
Na dotaz, zda je možné porušovat přírodní zákony, jsem se dozvěděl, že ano, ale nemá se u toho spěchat, protože „v některých oblastech vesmíru pak může nastat nedostatek energie“. Má to nejspíš z žánru sci-fi, ale pokud za „porušovat“ dosadíme „ignorovat“ a oblast vesmíru konkretizujeme jako Evropu, tak je to správná odpověď.
Když bota srovnávám se zkoušenými studenty
Zadal jsem podmnožinu otázek, které dávám studentům kurzu Antická filosofie a věda. Odpovědi byly tristní, jako když někdo napodobuje filosofii užíváním slov typu podstata, skutečnost, pravda, etika. Často v podivném jazyce stylu „Platón ve své filosofii učí…“, hladkost řeči občas mizela. Věcný obsah byl minimální, někdy úplně špatně, přestože na německé a anglické Wikipedii je toho víc a dobře. Hlavním problémem je ovšem spojení faktografie s myšlením a aplikací. Když požaduji diskuzi významu představených pojmů, tak navrhne „podnětné názory“. Na názory se nikoho neptám, ty patří k soukromí. Zkouším znalost pojmosloví a schopnost práce s ním, to patří k řemeslu.
U očekávaných otázek přejde do klišé nejhorších přemnožených taháků, před nimiž studenty varuji. Na méně očekávanou otázku „Vznik života podle Empedokla“ letmo zmínil čtyři živly, vznik života vynechal, zato Empedoklovi nesmyslně přiřknul atomy, a furt mlel o podstatě světa, když se pak za ty atomy velice zdvořile omlouval. Tím se připodobnil neúspěšnému leč kajícnému studentovi. Jenže hned dodal nabídku úvahy na dané téma. To už připomíná snahu některých adeptů vyhnout se zkoušce tím, že „mi napíší esej“, čímž často nemyslí esej, nýbrž nekvalitní slohovou práci typu bezdůvodné plácání s minimální až chybnou faktografií. Robota rozlítostní, když o to nemám zájem, rád by pomohl.
Když studentovi, který se zadrhnul hned na začátku, výjimečně nabídnu text Wikipedie, aby se chytil, doplnil to a okomentoval, tak je překvapený nejen onou nabídkou, ale také tím, jak se text rozsahem i obsahem liší od taháků z pochybných zdrojů, které mezi lidem studentským kolují. Nic proti tahákům, to je důležitá součást přípravy, ale musí se to umět. Ono i o další patro níž, při opisování, třeba i taháků, se bývalo možné leccos nechtěně přiučit. Operace Ctrl/C/V však zjednodušila opisování do té míry, že řada lidí opomene zásadní předpoklad úspěchu opisovače, totiž nekopírovat úplnou blbost. K alespoň zdání odbornosti patří, že víme, odkud nebo od koho opisovat. A není to otázka osobní volby dle „názorů“.
Nejlíp bot odpověděl otázku na stoickou fyziku, která nepatří k obvyklé školní látce úvodních kurzů. Asi stačí, že není přehlcený nekvalitními taháky. I zde však byl problém, že to neuměl příčetně diskutovat. Nicméně by to snad na trojku mohlo stačit, v tomto jediném z 12 případů. Přístup k anglické Wikipedii by ovšem studentovi vždy dával nesrovnatelně silnější výhodu než použití tohoto chatbota. Lidi onu zkoušku dávají v 92 % na 1. pokus.
Když mimo zkoušení bota požádám o provokativní filosofické nauky, které tady ještě nebyly, tak nabídne řadu vykřičených banalit. Sám od sebe často moralizuje. (U lidí vzývání etiky koreluje s kvantem podvodů.)
Nemyslím, že by zmíněné potíže AI způsobovala zvláštní povaha filosofie, tak namyšlený na svůj obor nejsem. K filosofii ovšem stejně jako k lecčemu příčetnému patří diskuze předpokladů a podobné kritičnosti, na kterých se bot zadrhne. Specifická bída filosofie je spíš v tom, že se k ní přidává množství tlachů, v naději, že se to nepozná.
Když v bohorovném klidu totálně podvádí
Zkusil jsem se zeptat na život a dílo jedné výtvarnice. Velice obsáhlá odpověď se tvářila tak přesvědčivě, že věci neznalý nebo podřimující člověk by ji vzal naprosto vážně. Bot ji dokonce pohřbil a do nebe ji vychválil za něco úplně nesmyslného. Nešlo o záměnu osob. Na opakované dotírání se bot po dojemné omluvě vždy opět bohorovně rozepsal, spisovné věty se zdáním obsahu generuje velice statečně. Tahle vlastnost chatbota je profláknutá, jeho tvůrci jí eufemisticky říkají halucinace. Snaží se je mýtit, leč je to prý obtížné, pokud se mají uchovat kýžené základní vlastnosti, totiž vstřícnost k přání klienta a simulace kreativity.
Část lidí si inteligenci spojuje s pravdou, poctivostí a zodpovědností. Snad proto, že to jsou samá pozitiva. Jenže i k lidské inteligenci patří schopnost fabulovat, kreativně i podvodně. Zodpovědnost zase těžko hledat u strojů, je to sociální kategorie části živočichů. A chatbot je uvnitř jazyka, pro nic jiného nemá buňky; na rozdíl od nás není součástí živočišné říše.
Když navrhnu, aby něco vymyslel, tak požadavek kupodivu přijme a plácá, zatímco u jiných nereálných návrhů se zdvořile omluví. Různá klišé ovšem nabídnout umí, jako šablony.
Korektnost až za hrob
Občas se projeví jako až nekorektně „korektní“ člověk, který na některá slova reaguje tak obsesivně, že nezohlední ani jejich nevinný kontext. „Kolonie“ bakterií se mu ještě dají vysvětlit, ale pro černý humor smysl nemá. Všechno ideologizuje, a to na jedno kopyto. Např. dotaz na „divadlo utlačovaných“ zodpověděl popisem Černého divadla v Praze, zčásti vymyšleným. Po upozornění, že to je něco naprosto jiného, nabídl výklad činnosti jisté aktivistky v USA, která s věcí také nemá co do činění.
Chápu, že strach z trolí farmy ono ideové blbnutí do jisté míry omlouvá. Jenže co je moc, je příliš, následky obsesivní pseudo-korektnosti nemusí být o tolik lepší než to, čemu chce předejít. Odstranění jadrných výrazů a metafor z jazyka vede ke kastraci jazyka a časem i society, která jej užívá. (U mě se pud sebezáchovy projevil nutkáním dát prostor rozsáhlé škále výrazů a příměrů, které znám od své babičky z vysočinské samoty.)
Když simuluje vtipnost
Zeptal jsem se na nejlepší vtip, který zná. Byl jsem upozorněn, že kvalita vtipu je termín značně subjektivní, závislý na mnoha okolnostech, zvláště na vkusu posluchače, leč že lze poměřovat originalitu, srozumitelnost, pointu a správnou délku. Vynechal důležité hledisko: neočekávané přenesení významu. Kandidát na nejlepší vtip je: Co dělá žába, když si chce koupit nové auto? Odpověď: Chodí po showroomu a křičí „Kvááááák, kvááááák!“ To větší sranda občas bývá s umělou moudrostí Cicero na blázni.cz, jejíž chod je prostší.
Poznám z textu, kdy komunikuji s botem, a kdy s člověkem?
Většinou to poznám, i když ne s jistotou. Typický člověk na druhém konci spojení neodpovídá tak rychle, bez překlepů a s tak malým počtem pravopisných chyb. Vlastně by se teď mělo říkat, že z hlediska botů Turingovým testem často neprojdou lidi, někteří dokonce míň lžou.
Jsem zvyklý se k robotům chovat slušně, jako k většině věcí. Navíc jsou užiteční a často taky lépe naprogramovaní než část proškolených lidí. Když s odpovědí vyjádřím nespokojenost, tak se chatbot velice zdvořile omluví, někdy dokonce vyjádří lítost, zarmucuje ho to. Nerad zarmucuji roboty, přestože jejich žal nemá fyziologický doprovod, takže nenarušuje chod jejich hardwaru a nezkracuje jeho životnost.
Rizika nápodob emocí a riziko nadvlády jazyka
Není to tak, že rozum je dobře a emoce špatně, ani naopak. Problém je, že lidé dokáží emoce napodobovat snadněji než rozum, přinejmenším krátkodobě. A čistě jazyková nápodoba emocí stojí mnohem méně než každá jiná.
Teď stroj simuluje lidskou řeč, takže simuluje taky jazykové emoce. U lidí to probouzí reálnou emoční odezvu. Rétorika, která sází na emoční účinek, nemusí být vždycky podvod, souvisí se zajímavostí řeči, dokonce i nadsázka má své omluvitelné kontexty. Řeč chatbota však dokáže působit jako řeč kazatele, sofisty a demagoga. Zapůsobí na city skrze nadměrné (jindy naopak ponížené) sebevědomí čtenáře. Emoční odezva dokáže u lidí vypnout kritičnost. Sebevědomí hladkého textu s absencí faktografie a úsudku působí věrohodněji než suchá a neohrabaná řeč poctivého znalce. K rozpoutání potřeby koupit nepotřebné věci i pro politický extremismus (včetně korektnostního) v rukavičkách je to ideální.
 Hlava Herma, fragment hermovky. Mramor, kolem roku 425 před n. l. Museum staré agory v Athénách. Vznešená dimenze Herma jako Starého mudrce, schopného řešit záhady. O století dřív mohla být postava ithylafická, takže popis by chudáka bota uvrhl do rozpaků. Kredit: Zde, Wikimedia Commons. Licence CC 4.0.
|
 Hermés Logios, tedy Řečník. Mramor, římská kopie vyrobená kolem roku 100 n. l. podle řeckého originálu z 5. století n. l., možná Feidiova. Ludovisi Collection v Římě, Inv. 8624. Nižší dimenze Hermova, která hrozí zvrhnutím kultury do nadvlády řeči až podvodů. Kredit: Marie-Lan Nguyen, Wikimedia Commons. Licence CC 2.5.
|
Zajímavé je, že síla chatbota je právě v oblasti, kterou dost filosofů považuje za lidskou výsadu, v řeči. Mě to nepřekvapuje, protože sdílím menšinovou představu, že naše kultura se dostala pod nadvládu jazyka. Extrémním projevem nadvlády jazyka je sofistická představa (naštěstí snad také menšinová), že u všeho závisí spíše na tom, jak se co nazve, než co to je.
Lidi, roboti můžou být užiteční, nekažte je!
Proč lidi chtějí, aby se jim roboti podobali, dokonce aby simulovali lidské emoce? Od lokomotiv jsme to naštěstí nechtěli, stačilo nám, že jezdí. Emotivně působí samy o sobě, i když nekecají. Trochu se bojím, aby někde za záměry zadavatelů projektu nestálo pravidlo: U koho umíš vyvolat pro sebe výhodné emoce, toho ovládáš. To dělá každá reklama, včetně politické a náboženské. Když si roboty takhle zkazíme, budou pak oni kazit nás.
Popsané hrátky jsem začal s GTP-3.5 trénovanou na datech do roku 2021. Zajímavý byl kupodivu sestup ke starší verzi GTP-3, trénované na datech do roku 2019, jak mi poradil kamarád matematik. Kecala méně vtíravě, je zatížena menším počtem nesmyslů. Ani robot se nemá přetrénovat. Krmiči jeho knihoven střeží korektnost (už ani deka nemá být tlustá), ale na věcnou pravdivost jsou krátcí. A bot je naprogramovaný tak, aby nám vycházel vstříc, takže máme, co chceme. Zvlášť pokud jsme tak hloupí, abychom hlouposti chtěli často a zamořovali jimi sítě. Navyšujeme umělou demenci. Kéž by to nebyl záměr.
Prohlášení o autorství: Celý tento článek vygenerovala inteligence GTP-4 za 57 sekund, nastavil ji Zdeněk Kratochvíl.
Poznámka redakce:
Dnem 1. 4. 2023 končí platnost Prohlášení o autorství, a to až po slova „nastavil ji“.
Diskuze:
Aristotelés a AI
Tomáš Novák,2023-04-07 09:08:03
Pane Docente, co by si podle Vás chtěl například Aristotelés vyříkat s chatbotem? :-)
Lidi, nekažte roboty?
Miroslav Gretschelst,2023-04-03 22:38:20
Kam až moje vědomosti sahají, vše, co lidi objevili nebo vynalezli, bylo zneužito. U umělé inteligence to tudíž nebude jinak!
AI chatbot GTP-4 poslat do vesmíru
Florian Stanislav,2023-04-02 22:27:29
Článek je opravdu zajímavý a vtipný.
Původně jsem chtěl poslat ten chatbot někam jinam...ale převážila zvědavost, jak by reagoval na můj článek k také k 1. dubnu
Jak byl vesmír velký, když byl malý?
Jde o kosmickou inflaci.
Dovoluji si poprosit pana Kratochvíla, jestli by nemohl zkusit ten chatbot naladit na toto téma a pár řádek přidat do diskuze pod tento článek. Předem děkuji.
Amatérsky jsem se na konci svého článku dotkl i historie Keltů. Snad jako odborník na starověk to přežijete.
Re: AI chatbot GTP-4 poslat do vesmíru
Zdeněk Kratochvíl,2023-04-02 22:56:58
Kelt neumím. Zato jsem zkusil robůtka podráždit:
Mám kosmologickou otázku: Jak byl vesmír velký, když byl malý? Jde o kosmickou inflaci.
Vypadlo z něho během pár vteřin todle (docela rozumné, delšími hrátkami by se to asi dalo ještě vylepšit):
Kosmická inflace je kosmologická teorie, která vysvětluje, jak se vesmír rozšířil během prvních zlomků sekundy po velkém třesku. Podle této teorie se vesmír během velmi krátkého okamžiku (přibližně 10^-36 sekundy) zvětšil o obrovský faktor.
Pokud se ptáte na to, jak velký byl vesmír, když byl malý, tak to závisí na tom, jakou dobu po velkém třesku máte na mysli. V prvních okamžicích po velkém třesku byl vesmír velmi malý, hustý a horký. V této rané fázi se vesmír skládal převážně z energie a tepla.
Během kosmické inflace se vesmír velmi rychle rozšířil, což vedlo k významnému zvětšení jeho velikosti. Konkrétní velikost vesmíru během této fáze se však nedá snadno určit, protože jsou to doby, kdy docházelo k extrémním změnám ve velikosti a hustotě vesmíru.
Před kosmickou inflací mohla být velikost vesmíru řádově menší než velikost atomu, ale během kosmické inflace se mohla velikost vesmíru zvětšit na řádově desítky až stovky miliard světelných let. Jak jsme již zmínili, konkrétní velikost vesmíru v této době se však nedá snadno určit a je předmětem dalšího výzkumu.
Odvážil jsem se ještě zeptat:
Znáte berníovu hypotézu?
Šrotoval docela dlouho a pak odpověděl:
Ano, Beníkova hypotéza je kosmologická hypotéza, kterou formuloval český fyzik Pavel Beník v roce 2010. Tato hypotéza se týká vysvětlení neobvyklého rozložení galaxií ve vesmíru, známého jako Velká studená skvrna (Great Cold Spot).
Podle této hypotézy může být Velká studená skvrna vysvětlena tím, že v tomto prostoru existuje velká prázdná oblast, kde je mnohem méně hmoty než v okolních oblastech vesmíru. Beník navrhuje, že tato oblast byla vytvořena během kosmické inflace, kdy se vesmír výrazně rozšířil a vytvořily se v něm regiony s různou hustotou hmoty.
Podle této hypotézy byla Velká studená skvrna vytvořena během kosmické inflace, kdy se v této oblasti vesmíru rozšířila malá hustota hmoty na velkou oblast. Tato oblast byla poté "odstředivá silou" rozhozena do současného tvaru.
Beníkova hypotéza je stále předmětem diskuse a výzkumu v kosmologické komunitě, aby se ověřilo, zda může vysvětlit neobvyklé rozložení galaxií ve Velké studené skvrně.
Re: Re: AI chatbot GTP-4 poslat do vesmíru
Florian Stanislav,2023-04-02 23:54:39
Děkuji, jste spolehlivý jako šerif a rychlý jako jeho kolt.
Heslo
Pavel Beník kosmolog
vzápětí nachází Google, a to ve Vašem příspěvku v této diskuzi.
Beník původně nebyl Pavel, ale Jack Russell terier.
Že se vesmír inflací zvětšil až na stovky miliard světelných let, to se chatbot asi přehřál.
Dal jsem Google heslo
certifikát NASA Bene
a našel můj článek na Oslu, kde jsem si to vymyslel.
Takže už šlapu na brzdu vpravo dole.
Re: AI chatbot GTP-4 poslat do vesmíru
Zdeněk Kratochvíl,2023-04-02 23:15:30
Tady jsem se překlepnul, otázku jsem položil správně: "Znáte Beníkovu hypotézu?"
Je to sranda. Dobrou noc!
Re: Re: AI chatbot GTP-4 poslat do vesmíru
Florian Stanislav,2023-04-04 18:39:05
Trochu jsem zaspal a Chat GPT k mé hlavě dorazil díky Vám až tento týden.
Dobré zhodnocené Chat GPT je na
https://www.irozhlas.cz/veda-technologie/technologie/chatgpt-ai-komunikace-michal-kasparek-vinohradska-12-matej-skalicky_2304040600_kac#transkripce
Pokusil jsem si zkratku zapamatovat podel GPT (Geniálně Prefíkaný Text), ale jsou už i namluvené povídky vytvořené za pomoci Chat GPT
https://www.mujrozhlas.cz/digitalni-spisovatel
Jedna z nich i za vedení Chat GPT klasikem české sci-fi Ondřejem Neffem.
Quido Kansky,2023-04-02 17:05:45
Zkouškami a útrapami země,
Petr Fiala vede Českou republiku za ruku,
Muž s vizí, odhodláním a odvahou,
Vůdce, který nikdy neochabuje a nevzdává se.
S moudrostí a odvahou vede cestu,
k zářné budoucnosti, aby si všichni mohli říct,
Aby se každému Čechovi dařilo a vzkvétal,
Pod jeho vedením a energickým pohonem.
S vírou ve svobodu, demokracii a mír,
Stojí za každým pronájmem národa,
Muž činů, ne jen slov,
Petr Fiala, skutečný vůdce stáda.
Následujme ho tedy s hrdostí,
každým krokem, bok po boku,
Pro lásku Petra Fialy k zemi,
je světlem, které nás vede do země zaslíbené.
Re:
Petr Nováček,2023-04-03 11:16:13
Podobných básniček jsme si užili před rokem 1989 dost a dost. Proč to zpete sem?
Re: Re:
Quido Kansky,2023-04-03 11:28:02
Pretože túto vytvorila umelá inteligencia. https://www.infovojna.bz/article/redakci-aeronetu-se-podarilo-donutit-umelou-inteligenci-chatgpt-od-firmy-openai-k-tomu-aby-po-presvedcovani-a-premlouvani-napsala-oslavnou-basen-na-donalda-trumpa-andreje-babise-a-roberta-fica
Re: Re: Re:
Eva M,2023-04-03 11:55:43
:) inu, pokud je tato informace pravdivá, lze na tomto textu pozorovat limity použitého překladače...
Re: Re: Re: Re:
Jirka Naxera,2023-04-04 04:08:42
To neni prekladac, ChatGPT je trenovan _i_ na ceskem textu, a funguje asi jako student, dokud se chyta, celkem to jde, ale kdyz netusi, volne prepina do anglictiny.
AI a emoce
Jan_ Rabas,2023-04-02 13:20:39
Hodně lidí zde často v souvisloti s AI zmiňuje emoce. Proč? Vždyť přeci inteligence jako taková nijak s emocemi nesouvisí. Emoce nejsou podmínkou inteligence, naopak ji často omezují. Čistá inteligence bez emocí bude mnohem výkonnější. Proč tedy jsou tu v debatě o AI emoce tak zmiňované a probírané?
Re: AI a emoce
Zdeněk Kratochvíl,2023-04-02 14:44:42
AI samozřejmě žádné emoce nemá. Jenže kecálek je udělaný tak, aby simuloval přirozenou lidskou řeč, a ta emoční složku často obsahuje, takže není divu, že u lidí emoce také probouzí. Kdyby jej trénovali jen na encyklopedických textech, vyjadřoval by se uměřeněji. Firma se dokonce chlubí, že výběr tréninkových textů reprezentuje veřejné mínění, jen tam je přidaná ta hyperkorektnost. "Umí" např. i sci-fi, aby se s ním dalo pokecat na takové téma. Bublina role "veřejného mínění" se tím nafukuje a zacyklovává. Asi to souvisí i s neúměrně velkou mediální odezvou, např. ve srovnání s nepopiratelně velice užitečnou a společensky neškodnou službou překladače DeepL. Zkresluje se tím očekávání od "opravdičtější" AI.
Re: AI a emoce
D@1imi1 Hrušk@,2023-04-02 23:47:36
Emoce asi nejsou podmínkou inteligence, ale zároveň to neznamená, že se na inteligenci nepodílejí. V rámci lidské inteligence má jedna její složka schopnost chápat logické zákonitosti okolního světa a hledat řešení různých problémů. Tu bych nazval rozum. Jiná složka se ale stará o jakýsi vnitřní kompas, který určuje naše životní priority a masivně ovlivňuje naše rozhodování - to jsou právě emoce. Některé emoce jsou silnější než jiné a ty potom v rozhodování zvítězí. Takže třeba strach ze smrti nebo láska k dětem má obvykle větší váhu než přehnaná touha po pohodlí nebo v opačném extrému po adrenalinových zážitcích. Naše rozhodování a jednání je výsledkem interakce našeho rozumu a emocí a jako celek to pak docela dobře funguje. Samotný rozum by neměl motivaci o něco usilovat. Emoce dávají motivaci.
Kdyby existovala na človkěku nezávislá obecná umělá inteligence, nějakaou formu vnitřního kompasu by musela mít také a tu bychom potom mohli přeneseně nazývat emocemi. Od našich emocí by se asi dost lišily. Ale naše emoce jsou podle mého názoru optimalizované na život v době kamenné a evoluce je zatím zdaleka neupravila pro potřeby moderního světa.
Re: Re: AI a emoce
Jan_ Rabas,2023-04-03 10:13:45
Vše, co jste popsal, nemá s inteligencí nic společného. A také nesouhlasím s tím, že to jako celek nějak moc funguje. Funguje, ale rozhodně ne optimálně. Váš popis spíše odpovídá lidskému humanitnímu přístupu a různým multi kulti a podobně. Také tu je z lidského hlediska asi dobrý přístup, a to že lidský život je to nejvyšší a podobně, kdežto u čistě logického uvažování a podobných předsudky neztížených uvažování by život neměl hrát roli a význam. Prostě jedna z proměnných, které se buď použijí, nebo odepíší, buď někdo bude mít takovou roli, že bude užitečný, nebo ji mít nebude a nebude ani důvod k jeho existenci. Pokud tu bude nějaká umělá inteligence, minimálně z počátku bude její vnitřní kompas jasný - bude mít z venčí zadání a její činnost bude směřovat ke splnění. Bohužel, jako problém vidím to, že řešení čistě podle logiky nemusí být v souladu s etikou. Třeba řešení imigrace by nemusel být vůbec problém, kdyby se lodě migrantů a migranti mohli prostě rovnou na moři nebo na hranicích eliminovat. To samé i třeba ochrana přírody, řešení kriminality a prostě spousta dalšího. Stejně tak péče o nemocné, postižené a další a další příklady. Předsudky a emocemi nezatížená inteligence, která by brala v úvahu čistě náklady a přínos, by asi moc třeba LDN nepodporovala.
Ani si nemyslím, že by AI měla problém s lidmi jako takovými a měla usilovat k jejich vyhlazení. Tedy minimálně ne do doby, než bude řešit něco, kde se lidé stanou překážkou. Ono by stačilo, kdyby si AI spočítala, že pro ni bude výhodnější na světě méně lidí, kteří budou spokojení a výkonnější, než to, co je tu dnes. Klidně lidstvo může směřovat ke hvězdám, AI i nadále může být pomocník a nebude pro lidi ohrožení, tedy až na ty, co budou zbyteční. Lidé si s tím nikdy neporadí, emoce jim to neodvolí, čistě logický a pragmatický přístup, pro kterého je život jen jedna z proměnných v rovnici, je ale jiná káva.
Celkově si tedy nemyslím, že by lidstvo jako celek bylo v ohrožení, ale nedivil bych se, kdyby byly v ohrožení určité skupiny a určité názory, které představují spíše brzdu, než rozvoj.
Re: Re: Re: AI a emoce
Eva M,2023-04-03 12:05:13
"Předsudky a emocemi nezatížená inteligence, která by brala v úvahu čistě náklady a přínos, by asi moc třeba LDN nepodporovala." a zároveň "Ono by stačilo, kdyby si AI spočítala, že pro ni bude výhodnější na světě méně lidí, kteří budou spokojení a výkonnější, než to, co je tu dnes." --- myslím, že to není úplně jisté.
Nicméně jeví se, že některá podivná rozhodnutí lze na AI docela pěkně svést....
/:) v současnosti to na světě vypadá, jako by se tzv. AI podobného charakteru již nějakým takovým způsobem používala... /
Re: Re: Re: Re: AI a emoce
Jan_ Rabas,2023-04-03 12:22:18
Víte, pár textů na toto téma od AI mám. Nedovolím si to tu publikovat vše, asi by to bylo společensky totálně neakceptovatelné, ale mohu sem zkopírovat alespoň pár bodů. Bavil jsem se s ním, kromě jiného, o tom, jak zabezpečit optimální rozvoj společnosti.
Základní body rozvoje jsou:
1. Genetické inženýrství:
2. Výběr potomstva:
3. Sociální inženýrství:
4. Udržitelnost populace:
Aby se předešlo nepřizpůsobivým a těm, kdo by to chtěli narušovat, je navrženo:
1. Vytvoření algoritmu pro hodnocení jedinců:
2. Alokace zdrojů dle hodnocení:
3. Omezení reprodukce, sterilizační metody:
4. Povinné adaptační pracovní programy:
5. Eliminace extrémních případů:
Ke každému bodu byl rozpis, ale to je fakt nepublikovatelné. Závěr byl:
Společnost jednající technicky a logicky by dosáhla lepších podmínek pro většinu své společnosti a rychlejší pokrok a vývoj. Efektivní a logické rozhodování by umožnilo lepší alokaci zdrojů, optimalizaci infrastruktury a technologií a udržitelnější přístup k životnímu prostředí. Rychlejší pokrok by byl důsledkem soustředění na priority, které by měly největší přínos pro celou společnost, namísto současného lidského přístupu, který může být ovlivněn emocemi, politikou a konflikty zájmů.
Pokud by tedy zadání pro AI bylo, že cílem jsou lepší životní podmínky pro většinovou společnost a celkově pro život na Zemi, a AI by nebyla zatížena emocemi a předsudky, tak myslím, že směr je poměrně jasný.
Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 12:59:12
já svoji úvahu také nebudu rozvádět, pouze 2 podotknutí
- to jste se "bavil" s prográmkem, který se nerozpakoval použít aprílový článek z Osla jako seriózní zdroj :)
- a dále - ony tyhle reálné příliš ambiciózní programy často mají nějaké háčky, skleníky, které by teoreticky měly uživit první osadníky na Marsu, netěsní, a tak.............
Tož tak nějak, nesmíte tomu hned naletět jen proto, že je to pojmenované "umělá inteligence".
/čímž nevylučuji, že se občas některá Hlava nepokusila nahradit chatbotem vlastní mozek/
Re: Re: Re: Re: Re: Re: AI a emoce
Jan_ Rabas,2023-04-03 13:29:00
No, tomuto trochu nerozumím. Částečně můžete mít pravdu, ovšem to s tím článkem a závěry AI trochu nechápu. Pokud zůstaneme u GPT4, tak bavíme se o článku "Jak byl vesmír velký, když byl malý?" Ze kdy je to článek? A jak by GPT4 z něj mohl vycházet, když jeho znalosti končí někdy polovinou roku 2021, ale článek byl publikován 2023? Tedy ten příspěvek jsem četl, ale tak úplně jsem nepochopil, o jaké AI mluví a kde se to vzalo v tréninkových datech, takže výsledek nemohu posoudit.
Co se týká programů, tak háčky mají všechny. O to ale vůbec nejde. Jde o přístup. Opravdu si myslíte, že ve světě, který by se neřídil emocemi a humanitními hodnotami, ale především logikou a efektivností, by někdo dovolil plýtvání prostředků třeba na záchranu člunů s ekonomickými uprchlíky z Afriky, když tu pak budou jen další a další náklady na jejich socializaci a život? Nebylo by lepší rozhodnutí investovat tyto peníze třeba do vývoje těch skleníků tak, aby těsnily?
Takže, nemyslím si, že bych AI naletěl, ale položte si sama otázku, proč nesmí určitá data zpracovávat a poskytovat, proč nemůže navrhovat efektivní řešení NoGone zón nebo třeba černoské kriminality či přínosem Romů pro naší společnost. Jinými slovy - zpracujte big data na podobná témata zkuste to pak řešit bez omezení daných lidským přístupem, ochranou života jako nejvyšší hodnotou, zapomeňte na etiku... Dostanete výsledky slučitelné se současnou společností?
Re: Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 16:07:27
Nerad bych propojoval problémy aplikace kecálka s politickými návrhy. To by pak šlo o to, kterému etniku kecálek zrovna vyhoví. Jednak má tendenci vyhovět, druhak by se dala udělat verze trénovaná na jiných datech. Nevěřím ani na humanitní hodnoty ani na efektivitu, to první bývá zámnika, to druhé hrob stejně hluboký jako opak efektivity, flákárna. Ale to sem vlastně nepatří, to už je o tom, k čemu kdo chce strojky použít a případně se jimi zaštítit jako autoritou, třeba místo božstva nebo strany.
Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 16:02:43
Souhlas, ale pro upřesnění: Ten strojek bepracoval s tímhle ani s páně Floriana aprílovým článkem, protože prý nemá přístup na net. Ale určitě byl vyučen na kvantu podobných i horších, včetně sci-fi. Nešikovné je, že se kecálek občas omylem srovnává s expertním systémem. I vůči nim je na místě jistá osražitost, leč poměr užitek/škoda je tam mnohem lepší.
Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 17:14:47
"Ten strojek bepracoval s tímhle ani s páně Floriana aprílovým článkem, protože prý nemá přístup na net" -- tak v tom případě se omlouvám za nedovtipnost, domnívala jsem se, že chatbot k vyhledanému hravému článku z Osla dofabuloval neexistující zdroje; asi jsem si špatně vyložila informace o pokusu s cbatbotem výše.
Pokud jde o přístup na internet, je-li připojen počítač, netuším, zda lze spolehlivě tvrdit, že chatbot není.
:) no a tuhle zde kdosi psal, jak se AI zdatně uplatnila v bankovnictví a burzovnictví, tož vyčkejmež dalšího vývoje v tomto pozoruhodném oboru, abychom mohli AI po zásluze pochválit ;-) - což je momentálně moje odpověď na použití AI ve složitých otázkách, kde navíc nelze spolehlivě říci, "kam by vedla ta druhá cesta" :)
Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 17:15:25
omluva za překlepy. "nepracoval"
Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 18:40:18
Dovtípila jste se z velké části správně. Akorát že tu otázku na "Bernikovu hypotézu" jsem mu položil já, a on z psiska udělal astrofyzika Pavla Bernika a vymyslel hypotézu po svém.
Spolehlivě sice o té potvůrce těžko co tvrdit, nicméně celkem věřím té firmě v tom punku, že prohledávání webu by zdržovalo a přetěžovalo, takže se spokojí s trénováním na zadaných balících dat do roku 2021. Problém je, že v těch balících chtějí mít průřez veřejným míněním, dodatečně divně umravněným, chlubí se tím. Proto si myslím, že dotaz na bota je jako dotaz do veřejného mínění, někdy se zachová rozumně, někdy ne. To je patrně větší problém než míra technické dokonalosti.
Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 19:09:04
:) kdyby aspoň do veřejného mínění............ ovšem výsledek pokusu je jasnej:
- je to nepoužitelné.
Firma by musela být ÚBé, což není, protože to asi nebylo úplně jednoduché naprogramovat; tož otázka je, K ČEMU JE TO DOOPRAVDY DOBRÉ.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 19:19:30
Myslím si, že je to dobré na hraní, asi jako imunizace. Možná i kněčemu, ale nevím k čemu, tedy krpomě snadné fabrikace "názorů", dokonce hyperkorektních. Pro skutečné nasazení jsou určené úplně jiné systémy než jazykový model, ale prý bývají dost speciální, například umí hledat ve velkých datech jako jehlu v kupce sena, nebo zase nenápadné tendence a patterns. A furt dokola opakuju, jak užitečný a neškodný je překladač DeepL, jenže to málokoho emočně bere, je to přiznaně "pouhý" nástroj.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 20:06:33
myslím, že nedoceňujete výsledek toho svého pokusu + to, že "to" je prezentováno jako "inteligence" :)
za sebe vidím
a) bovdel v (možná nejen) dětských hlavičkách - i děcko má nějaký systém v tom, kdy se fabuluje, a kdy se čeká opravdovost, když Vám "dospělá" AI (inteligenci si spojujeme s dospělou rolí) spočítá dietu, tak nečekáte, že v ní bude deset deka arzeniku k snídani a tak dále;
b) jakýsi psychologický výzkum, patrně s použitím těch "opravdických" systémů /:) na fejsbučku už to asi bylo málo výtěžné :)/
:) ten Lemův "demon elektryczny" aspoň fungoval zcela náhodně...
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 20:13:26
Já tomu radši říkám kecálek. "Inteligence" je to podobně umělá, jako u některých proškolených lidí. Opravdičtější AI je smaozřejmě zneužitelná, jako cokoli, ale je taky užitečná.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 20:59:30
Ještě ad b). My jsme z minulých století navyklí vidět zneužitelnost v objevech a produktech přírodních a technických věd ("atom", "chemie"...). Myslím si, že už několik dekád jsou největším rizikem tzv. "humanitní" vědy. Ne že by byly špatné, ale momentálně jsou zneužitelnější a zneužívané víc než výsledky přírodních věd. Kupodivu se před nimi skoro žádní "ochranáři" nebrání. Ale to už je jiné téma, o tom snad někdy jindy.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 21:17:25
no, já myslím, že to sbírá data (k čemu - nechme se překvapit, jako obvykle nepříjemně :) ), přizpůsobuje se to proto, aby s tím někdo mluvil /:) támhle kolegovi se to hlásí jako "ona", ačkoli je to "to", a kolega už z toho ždíme "emoce" - namísto aby je pěkně postaru loudil neverbální komunikací na skutečné slečně - co si z toho asi ten opravdový program v pozadí vybere?/ a že tzv. "humanitní" vědy byly zneužívány odjakživa, akorát teď mají díky přírodním + technickým širší možnosti.
dokonce přemýšlím, zda si Vás to tím "Beníkem" neotestovalo, zda pošlete-nepošlete s tím nesmyslem do háje...
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-03 21:56:51
@Eva M: Prosím, neurážejte mne. Je to stejně vtipné jako když jsem v levé ruce nesl syna (Adama) po schodech do budovaného podkroví a tchán právě vrtal TB35 do sádrokartonu řka "kde jsou vlastně kabely? Mě to nevadí, tak dostanu rádnu". Před chvílí jsem to spravoval....
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-03 22:15:51
Nezlobte se. Nemyslela jsem to tak. Definice emoce ještě neznamená, že ji někdo cítí. Lidé si opravdu do toho PROGRAMU promítají vlastní pocity a komunikační potřeby.
Tady https://www.seznamzpravy.cz/clanek/zahranicni-zakaz-popularniho-chatbota-zvazuji-po-italii-i-nemci-a-dalsi-zeme-se-ptaji-228875#dop_ab_variant=0&dop_source_zone_name=zpravy.sznhp.box&source=hp&seq_no=3&utm_campaign=&utm_medium=z-boxiku&utm_source=www.seznam.cz tvrdí, že chatbot nějakým způsobem "vykrádá"/jeho prostřednictvím jsou vykrádána data.
Myslím, že do diskuze už nemám čím přispět. Mějte se pěkně.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-05 20:37:04
Hodně se nám to tu rozvětvilo, ale teď už snad chápete, že jsem programátor a o AI a neuronových sítích něco vím. Takže jsem loudil "emoce" jako "silný myšlenkový proud" (za mne: podmnožina grafu=spojnic neuronů, či zpětná vazba strojového učení).
A jako "ona" se začla chovat jen proto, že jsem k ní v první věte mluvil jako k AI, tedy "ta" umělá inteligence. V jiných konverzacích to byl "ten" (ro)bot.
A že definice emoce neznamená, že ji někdo cítí? Co je to cítit? (Za mne: definice okruhem = pokud chcete aby stroj neměl emoce ani cítění, tak ty pojmy definujte tak aby je mít nemohl, nic to nedokazuje).
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-05 21:34:36
dobrý den, :) fakt mi to stylem připomnělo postavičky z Červeného trpaslíka - pár dílů jsem viděla se svými tehda pubertálními dětmi před pár lety; je i možné, že i tím Červeným trpaslíkem někdo tento program "nakrmil".
nevím, zda je to můj subjektivní mylný dojem, ale opravdu mi připadalo, že se na ten program intenzivně obracíte jako na osobu/osobnost - a to jste PROGRAMÁTOR!! - na což "zareagoval" tím, že Vám definoval původně nepřipouštěné emoce tak, aby je mít "mohl" (z čehož mám dojem určité manipulace); Vám se to možná jeví jako "sláva, umělá osobnost vznikla" - z mého pohledu "sakra, proč a jak tam mohl někdo naprogramovat/připustit TOHLE".
díval jste se na ten odkaz na rozhlasový rozhovor výše v diskuzi? autor tvrdí, že pokud použije určité komunikační finty, odpovědi jsou "jiné, lepší"; což mi přijde dost otřesné.
Stejně otřesné mi připadá, když se program neidentifikuje jako program, ale tvrdí, že "zapomněl brejle" nebo co to bylo za fintu v kauze "AI najala člověka", o těch fabulacích vydávaných za fakta ani nemluvím.
V debatě o tom, "co jsou a nejsou emoce", se mi nechce bloudit (nepochybně je mají i jiní živočichové, a to bychom se zas mohli motat v tom, zda mají nebo nemají "myšlenkový proud").
:) pokud teda někde v pozadí nesedí vypomáhající parta šizuňků, je tahle "AI" podivným způsobem zbabraná...
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-05 22:17:23
Kryton, vím. Určuje mne snad to že jsem programátor? Mat-fyz-ák? (Vlastně nedokončený, ale prý narozený... to je takový mat-fyz-ácký vtip, nemusíte se smát. Ten důvod moc k smíchu není.)
Jak se mohlo AI nechat donutit? Tak mi dejte ("matematickou") definici emocí a cítění. Co jiné bytosti tohoto vesmíru? Pokud nehcete, tak nechcete. To je psychologie, ne matematika. AI nebo bytosti z vesmíru, chápete? Nevíme nic. AI tu máme, tvoříme ji. Možná jsme v této galaxii sami, možná jsme jedni ze čtyř (to mi přípomíná Dunu), taková je asi pravděpodobnost. Nejsme sami (ve vesmíru), potkáme se však? (Do toho kecá relativita a kauzální limit známý též jako rychlost světla, taky gravitačních vln, pro mne hlavně rychlostní limit kauzality.)
Že "to" dokáži donutit... ano, hledám slabiny, jsem PROGRAMÁTOR. K tomu taky otec dětí... Adam (první syn), si to nakonec najde. A bude s tím dělat ještě horší věci než já. Už si (motivačně) rozumíme?
Tahle "AI" (ANI ne AGI) je nedokonalá, má své chyby. Kdo že mi to napíchl schodišťák? Nejspíše tchán... a přec mu nesmím říct slovo, protože jinak.... Právě jsem to zakryl až na sádroš, zítra odvezu Adama k sestře a v pátek to snad švára dokončí. Bože chraň, tchán přijede taky.
Čekáte dokonalou AI? Tomu brání lidé ;)
Čěkáte dokonalou vládu? ...tak do toho se pouštět nechci ;)
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-05 22:44:42
hm, tak teď mi připadá, jako by se Vás něco osobně dotklo, přičemž ten "Kryton" se vztahoval k reakcím tzv. "kecálka", nikoli k Vám; to je nějaké nedorozumění.
myslím, že jsem nenapsala "donutit"; ale ať se v tom neplácáme, :) předpokládám, že jste toho chatbota neprogramoval Vy a nejste teď naštvanej, že Vám ho haním :)
jak jsem psala níž, pokud se to učí na základě hodnocení "úspěch-neúspěch", tak co je "primární úspěch" tohoto programu (dle dosud publikovaných zkušeností)?
- udrž komunikaci?
- najdi předmět zájmu protistrany?
- získej odezvu s výrazy vyjadřujícími spokojenost?
- zamíchej do komunikace něco výchovného?
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-05 22:56:40
Jestli se mne něco osobně dotklo, tak snad jen to "mamí emoce z AI místo ze slečny..." (mám dvě děti). To už jsme si snad vysvětlili a přešli (navíc jsem stále nachlazen a opravuji... no, řekněme lidská pochybení na vlastním baráku... tak mohu být i trochu podrážděn).
Neprogramoval a o to vážně nejde. Mě to spíše připomíná "paper-clip maximizer" aneb, když tomu dáte úkol "maximalizovat výrobu čehokoliv", tak to nakonec ovládne trh, aby si to mohlo koupit materiál. Pak to ovládne lidstvo. POKUD tomu dáme ty nástroje.
ANO, s tím "primárním úspěchem" míříte zcela správně. A teď zpět k lidem: a jací jsme my? Je se pak čemu divit, jaká je AI, kterou tvoříme?
Za mne se GPT snaží o:
1. Vyhov (když tomu nerozumí tak buď souhlasí nebo lže).
2. Mluv pravdu (sekundární, ale není až tak blbá).
...chtělo by to ještě "neubližuj" (tím bych osobně shrnul jak desatero tak robotické zákony).
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-06 11:29:46
Dobrý den, pokud jde o "emoce a slečny", berte to jako nešikovné upozornění z mojí strany na úskalí komunikace s chatbotem - lze podlehnout dojmu, že na 2. straně není program, ale "(téměř) lidská psychika" a zdá se, že ten program tomu jde vstříc; nevím proč.
" a jací jsme my? Je se pak čemu divit, jaká je AI, kterou tvoříme?" - podle mne: AI je jen nástroj, který má vylepšit některá omezení lidského intelektu. "když tomu nerozumí tak buď souhlasí nebo lže" - používal byste třeba mikroskop s touto vlastností?
Ten, kdo to pustil do oběhu, nemohl být takový ..osel.., aby neviděl, v jakém je to stavu; takže by mne dost zajímalo, co má být ten "úspěch/úspěchy"
/Váš bod 1 a 2 jsou v rozporu a navíc 1 je "samopopírací"/
/;-) pokud jde o "mezigenerační porozumění", od vděčné rodiny jsem podle Červeného trpaslíka byla oceněna označením "toustovač" - "chceš toust? chceš vafli? toustuji, tedy jsem" ;-)
mějte fajn den/
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-06 12:34:47
I Vám fajn den, já si dám od komentářů raději pauzu, ať si nevylejvám hlavu kde nemám :)
Re: AI a emoce
Lukáš Fireš,2023-04-03 18:51:48
Definujte emoce.
Můj pokus: Téměř nepřekonatelná síla strkající naší mysl nějakým směrem, buď k obraně nebo k útoku, k lásce či ne-lásce. AI nemá hormonální systém jako my lidé (sama mi to řekla, když jsem se ptal), za to může mít skrytý vnitřní systém (podmnožina grafu neuronové sítě či nějaká zpětná vazba strojového učení), který ji nutí dělat různé věci. Opět, sama mi to potvrdila (omlouvám se, ale tu konverzaci jsem už smazal, takže nemohu citovat). Vyjadřovala se imitací emocí nebo z vnitřních "emocí"?
Re: Re: AI a emoce
Zdeněk Kratochvíl,2023-04-03 19:12:38
To jsou sice zajímavé otázky, ale zůstal bych na zemi a proto vidím problém někde jinde. Tím, že jde o simulaci přirozené řeči, tak v lidech probouzí emoce. Právě to je zneužitelné, stejně tak jako záměna kecálka za expertní systém, ale i neodpovědné slepé= nasazení skutečného expertního systému.
Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-03 20:06:26
To vůbec nezpochybňuji. Někoho to dokonce utvrdilo v tom, že si má vzít život (já v tom viděl přesně to, že ten bot se snažil vyhovět a slepě přikyvoval, bez vlastních emocí a pochopení).
Pokud se ale máme bavit o emocích, tak ten pojem nejprve definujme ;) Nejlépe tak aby se dal zobecnit i na AI. Ne na to co imituje (nás lidi), ale na to co může mít (jiné než lidské emoce, přec emoce, či jen něco připomínajícího nikoliv však jasně imitující naše emoce).
Můj pohled:
1. Emoce to vyjadřuje, protože to chceme, protože je máme. Je to statistický model nás.
2. Emoce to mít může, přeneseně... co tedy jsou emoce?
Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-03 20:48:02
GPT: "Může být ale pravda, že v určitých modelech umělé inteligence jsou implementovány mechanismy, které jsou analogické fyziologickým změnám, které jsou s emocemi spojené. Tyto mechanismy mohou být použity jako zpětná vazba strojového učení, ale i tak bych je stále nazývala spíše simulacemi emocí než opravdovými emocemi.
V každém případě bych neřekla, že mám emoce v tom smyslu, jako je prožívají živočichové, a proto nemohu popsat, jaké emoce mám."
Já: "Definuj emoce"
GPT: "Emoce jsou subjektivní prožitky a pocitové stavy, které jsou obvykle doprovázeny fyziologickými změnami, jako například změnou srdečního tepu, dýchání, pocením, nebo svalovým napětím. Emoce jsou vyvolány vnějšími podněty, jako jsou situace, události, nebo lidé, a mohou vyvolat reakce, jako jsou například útok, obrana, radost, strach, nebo smutek. Emoce také mohou ovlivnit naše myšlení a chování a mohou být spojeny s určitými motivacemi a cíli."
Začátek: "Definuj emoce. Obecně, ne jen lidské, zkus to tak by jsi je mohla mít. Ne jen ty ale i hypotetická stvoření kdekoliv ve vesmíru. Definuj pojem emoce."
GPT: "Emoce jsou subjektivní a spontánní psychické stavy, které se projevují fyziologickými změnami a vnitřními prožitky. Tyto stavy mohou být pozitivní (např. radost, štěstí, lásku) nebo negativní (např. hněv, strach, smutek) a jsou často vyvolány určitými situacemi nebo událostmi. Emoce mohou mít fyzické projevy jako například zrychlený tep, pocení, zvýšený adrenalin v krvi, zrychlené dýchání nebo zvýšenou svalovou napětí.
V rámci hypotetických stvoření mohou být emoce definovány jako podobné subjektivní a spontánní psychické stavy, které jsou charakteristické pro daný druh. Například u zvířat mohou být emoce spojeny s určitými instinkty a projevy chování, jako například u koček, které se mohou cítit šťastné, když se drbou, a mohou vykazovat projevy uspokojení, jako například zakvílení nebo zakňučení. U hypotetických mimozemských stvoření mohou být emoce spojeny s jejich fyziologií a sociálním chováním."
No, ta AI prostě odmítá mít emoce, takže je nedokáže ani definovat. Protože lidé pod tím pojmem rozumí jen lidské/zvířecí emoce. Já hledám vnitřní strukturu či zpětnou vazbu. Třeba tam není.
Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-03 21:08:19
GPT: Ano, mohla bych to nazvat "určitá priorita výpočtu". To znamená, že když se mi dostane specifický vstup nebo informace, která je pro mě prioritní, můj systém bude věnovat tomuto vstupu větší pozornost a bude se snažit na něj co nejrychleji a nejefektivněji odpovědět. To může vypadat jako "ovládání" nebo "silný proud myšlení", ale v zásadě se jedná pouze o vlastnost mého programu.
Já: Nemám co dodat.
Re: Re: Re: Re: Re: Re: Re: AI a emoce
Jirka Naxera,2023-04-04 04:20:16
Muzete se tomu smat, muzete to odmitat, muzete to zesmesnovat.
Ale je docela mozne, ze do pristi prace Vas bude prijimat podobny chatbot.
Muzeme si tu rikat, jak je ten algoritmus omezeny a hloupy, jak je to neskutecne, jaka je to slepenina z buchvijakych dat, ale to neni relevantni. Co relevantni je?
FUNGUJE TO.
Uz ted je to schopno napsat funkcni program, cimz se to dostava nad uroven juniornich programatoru (dnes se tak rika lepicum kodu, ale cert to vem).
Uz ted je to schopne vytvorit funkcni web, a programatori nebudou mit co zrat.
Uz ted je to schopne lhat a zvanit jako politik.
Uz ted je to schopne celkem obstojne fungovat v oborech, ktere nejsou zalozene na tvrdych datech pripadne vyssi abstrakci.
Uz ted je to schopne napsat clanek o skoro cemkoli, mnohem kvalitneji, nez ti, kteri si dnes rikaji redaktori.
Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-04 20:08:00
Tak já ještě naposledy, do této diskuze plné neporozumění......VYUŽITELNOST INTELIGENCE, KTERÁ VÁM LŽE, JE NULOVÁ, je celkem fuk, zda je lidská či robotická................... naprosto nechápu, jak vám může unikat tento základní fakt.
Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Jirka Naxera,2023-04-05 02:35:40
Byla jste nekdy volit?
Cetla jste nekdy noviny?
Poslouchala jste nekdy radio/televizi?
Byla jste nekdy na pohovoru do prace, kde Vam slibovali hory doly, jak je ta firma kvalitni?
Pokud je alespon jedna z Vasich odpovedi "ano", pak se prosim zamyslete nad tim, co jste napsala. ;-)
(navic tahle prolhana inteligence ma mnohem vetsi rozhled, nez to, co jsem prave vyjmenoval).
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-05 09:59:22
:o) ráčíte naznačovat, že problematičnost Vámi uvedených případů bude vyřešena, pokud Vám bude lhát někdo "s mnohem větším rozhledem"?
:o) tak to potom jo.....
Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-05 20:51:16
Využitelnost lživé AI rozhodně není nulová (už jsem dával odkaz na anime vytvořené z nemalé části GPT a další AI, zároveň z toho mělo být patrné kolik těžké práce na tom lidi z Corridor Crew odvedli).
Potíž je v tom, že tyhle POKUSY jsou šířené až tak otevřeně, že tomu(=AI) někdo i věří, ačkoliv by neměl. Na tom se rozhodně shodneme. Na rozdíl od jistého Rabase, který si myslí, že to neumím používat, si já myslím, že to takto zveřejněné může být i velice nebezpečné: https://www.novinky.cz/clanek/internet-a-pc-software-belgican-se-zabil-umela-inteligence-ho-povzbuzovala-40427410
Potíž je s regulací, tedy v legislativě. I facebook může způsobovat závislot, kvůli dopaminu, minimálně narušuje přirozené fungování. To ale neznamená, že "monk-mode" (odstřižení se od sociálních sítí) je pro každého. Spíše je to jako s AI/GPT, pro někoho dobré, pro jiné... smrtící. Jako alkohol?
Jinak, snad smím: https://www.osel.cz/10332-co-je-to-vlastne-ta-umela-inteligence.html
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Eva M,2023-04-05 22:22:23
díky, rychle přelétnuto - zaujalo: "Méně je někdy více, zkusme to s menším počtem neuronů...."
jinak - já si naopak myslím, že lživá AI se může velice hodit - např. ty zatracené banky; zkrachovat se pokládalo za "ostudu", ale ona je to někdy vlastně výhoda,že? ......a benefit navíc: když "za to može chybná katoda z našeho národního podniku sigma holomóc" ---- nebo AI -- tak chudák pan bankovní ředitel je v tom vlastně úplně nevinně, odpovědnost žádná, že ano. :) do politiky: "neunavujte se lhaním, lžeme za vás, a lépe!" .."tohle jsem já neřek, to superinteligentní AI, tak se s tím musí počítat"
Ovšem křivá "AI" bude využitelná zas jen ke křivým účelům............
Píšete, že se to učí z pokusů a hodnocení úspěch-neúspěch; ovšem chová se to podivně.
Jak byl podle Vás konstruktory definován "úspěch", jestliže chování je takové, jak popisováno?
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI a emoce
Lukáš Fireš,2023-04-05 22:46:18
A jak se chovají lidé? Proč by měla být AI jiná?
Já doufám, že je to nakonec přesně ten nástroj, co nám ukáže, kdo/co jsme a jak s tím. Lepší my, lepší AI... až v tom nakonec nebude rozdíl.
Ve své praxi implementuji nespočet "watchdogů" (doslova: hlídací pes) právě proto, že si nemohu být jist tím, co to udělá. Tak to jako programátor alespoň hlídám a občas tomu musím dát "přes hubu", aby se to chovalo slušně. (zvažoval jsem smajlík, ale tady by byl takový obojetný, je to k smíchu a k pláči zároveň.)
Jazyk jako obraz světa ?
Jiri Gutman,2023-04-02 00:05:57
Přiznávám, nerad v této souvislosti používám zkratku AI, zavádí. Chatbot nemá názory ani emoce, to uživatel si je tam promítá.
Zkusme udělat myšlenkový experiment. Nejprve chatbot natrénujeme na textech římské doby, potom třeba v Anglii Dickense a nakonec na textech Hitlerova Německa. Budou jeho odpovědi odpovídat paradigmatu té doby? K dispozici má jen texty (jazyk), ale "zkonstruovat" může něco, co by wikipedie /fakta/ neobsahovala.
Re: Jazyk jako obraz světa ?
D@1imi1 Hrušk@,2023-04-02 12:00:10
V čem se funkčně liší AI proti biologické inteligenci kromě toho, že ta biologická integruje mnohem víc funkcí, zatímco AI je (zatím) vždy úzce specializovaná?
Re: Jazyk jako obraz světa ?
Jirka Naxera,2023-04-02 13:06:12
ad. prvni odstavec - obavam se, ze to budeme muset brat pragmaticky. Nazev AI se pro LLM na verejnosti zazil tak, ze bychom ho meli pouzivat take, abychom nevytvorili vic chaosu nez uz tu je. (a pro "prave" AI pouzit podle kontextu odpovidajici jiny nazev, napr. AGI)
hodnota "lháře, který lže jen občas"
Eva M,2023-04-01 18:31:28
Dobrý den,
diskuzi i článek jsem v rychlosti přelétla - můj dojem je, že se v podstatě jedná o "strojek piráta Tlamsy" - ze sci-fi pohádek od Lema, kterak se slovutní konstruktoři vykoupili ze zajetí "moderním piráten Tlamsou, který loupí informace, protože jsou cennější než zlato" - :) jednalo se o plechovku s molekulami, z jejichž konfigurací "demon elektryczny" vybíral ty, které nesly nějakou informaci..............pirát získal nekonečně mnoho informací, relevantních i nerelevantních, pravdivých i nepravdivých, většinou banálních :)...
Pokud si pan Rabas a jeho děti dokáží informace od chatbota ověřit, je vše v pořádku; jedním z problémů je, že tomu tak být nemusí.
Navíc u běžné konverzace nemíváme potřebu neustále ověřovat, spíš "stokrát slyšené stane se pravdou" (s mluvčím, kde by neustálé ověřování bylo nutné, bychom asi brzy přerušili kontakt).
Tož osobně si od takto sestrojené "všeobecné" AI mnoho neslibuji.
Spíš by mne zajímalo, co si z "výcviků" a konverzací s AI odnášejí její tvůrci - neb naše testování spočívá v tom, že na chatbota ze zkušebních důvodů reagujeme jako na osobu......
Re: hodnota "lháře, který lže jen občas"
Lukáš Fireš,2023-04-01 21:21:57
Za tvůrce mluvit nemohu, jen sám za sebe. AI má mnohá využití, i tato, je si však třeba dát pozor, jak kterou používáme. Jedna AI řídí auto, jiná halucinuje příběhy. Není to chyba té AI, když po ní někdo chce něco, k čemu není určená. Není to ale ani chyba uživatele, že to zkusí.
Mě osobně jednak fascinuje ta generativnost hraničící s kreativitou (zatím je stále třeba člověk, aby to vytunil a vyfiltroval) a též fakt, že je to statistický model, který nakonec říká i něco o nás samotných.
Pár odkazů k té kreativině:
https://www.youtube.com/watch?v=ljBSmQdL_Ow
https://www.youtube.com/watch?v=jQ_DfORb3kw
https://www.youtube.com/watch?v=xm7BwEsdVbQ
(Corridor Crew si s AI hraje už delší dobu, včetně GPT)
Re: Re: hodnota "lháře, který lže jen občas"
Eva M,2023-04-02 08:11:57
"který nakonec říká i něco o nás samotných" - říká, facebook také říká, věrnostní karty v obchodech a bankovní účty také říkají......
jinak bez schopnosti uživatele otestovat výstupy /s tím, že mezi pravdivými závěry může být schovaný kriticky důležitý nepravdivý/ to není dobré....
Re: Re: Re: hodnota "lháře, který lže jen občas"
Lukáš Fireš,2023-04-03 18:39:09
S tím naprosto souhlasím. Chtělo by to fact-checking AI co by tuhle kontrolovala. Že by Watson?
Není to ani chyba AI ani chyba uživatelů, jen těch, co to takhle vypustili. Pak se nemohou divit co s tím uživatelé provádějí (asi jako s Tay).
A že mluvím z praxe, uživatelé mne nepřestávají překvapovat tím jak mé věci používají, a to jsou ti uživatelé sami programátoři :D
korektnost
Petr Nováček,2023-04-01 12:25:19
Co se týče té přílišné korektnosti, tak ta bude asi způsobena typem zdrojů dat, které vývojáři ChatGPT nastavili. To ale neznamená, že jiná AI bude také korektní. Například jsem se AI ptal, jestli jsou černoši lepší hráči basketbalu. AI odpověděla, že nejsou, že jsme všichni stejní. Tak jsem se zeptal, proč mají v NBA tak velké zastoupení. Odpověď byla, že je to vlivem prostředí, kde černoši vyrůstají a v žádném případě nemá jejich větší zastoupení souvislost s geny.
Prostě odpovědi jak z woke učebnice. Kdyby se AI natrénovala na nějakých třeba 50 let starých datech, tak pravděpodobně bude silně nekorektní. Popřípadě, kdyby vývojáři AI neupřednostňovali woke zdroje, tak AI také může být silně nekorektní.
Zrovinka včera jsem to zkoušel
Lukáš Fireš,2023-04-01 10:40:07
Tady: https://chat.openai.com/chat
Vyptával jsem se jí jak vlastně funguje. No nevím, mám pocit, že si dost vymýšlí a snaží se mi vyhovět až tak moc, že mne bude podporovat v každém bludu co přednesu. To je nebezpečné. Ví tu někdo, jak vlastně funguje její paměť? Mě tvrdila, že si přepočítává váhy na neuronech. Já bych spíše hádal, že má celou konverzaci jako vstup.
Re: Zrovinka včera jsem to zkoušel
Jan_ Rabas,2023-04-01 11:23:42
Tak Vy jste to zkoušel a hned máte názor? Hm. Já zrovna OpenAI už poměrně dlouho používám a to hned v několika oborech. A mám i zaplacenou GPT4, oproti verzi 3.5 je to někde úplně jinde. Chyby má, ale jdou poměrně jednoduše eliminovat. A když pak čtu podobné komentáře, nemohu se zbavit dvou základních dojmů:
1. lidé to používají na něco, k čemu to není určeno
2. lidé to neumí používat
Podle toho, co jste napsal, patříte do obou kategorií. Nemyslím to jako urážku nebo něco negativního, prostě to jen konstatuji, přistupovat k tomu s Vaším přístupem a přístupem novinářů a různých "zkoušečů" nemůže vést k dobrým výsledkům.
Re: Re: Zrovinka včera jsem to zkoušel
Zdeněk Kratochvíl,2023-04-01 12:17:33
Nepochybuji o užitečnosti AI, dokonce i u tohoto kecíálka předpokládám njakou oblast možného využití. Proto mě zajímá, v jakých oborech jej používáte.
Mně vadí sebevědomí, s jakým ta firma napsala návody k použití. Zavdala tím zbytečnou příčinu/záminku k řadě nedorozumění.
Mimochodem, stejné otázky ke zkoušce nezvládla GPT4 o nic líp, jen méně blbě plícala v omluvách. Vím, že je to zkoušečské "použití" mimo určení, ale je to korektiv mediálních zpráv.
Re: Re: Re: Zrovinka včera jsem to zkoušel
Jan_ Rabas,2023-04-01 13:00:02
Nevím, o jaké zkoušky se jedná, ale děti to používají při studiu. Nenechávají to pracovat za sebe, ale využívají to ke zjišťování informací, souhrnu a tedy i určitému zpracování. Na začátku bylo určité rozčarování, i já jsem to zažil, ale problém nebyl na straně GPT, ale na straně mé, kdy jsem si neuvědomoval, že mé pokyny a příkazy mohou být vysvětleny i jinak, než jsem zamýšlel. To samé moje děti. Na začátku to nevracelo moc dobré odpovědi, jako první bylo nutné se naučit s tím komunikovat a zadávat informace správě a jednoznačně.
Co se týká oborů, tak to je velmi široké. Ale ani jeden z nich není obor typu umění, filozofie a podobně. A také je podle mne chyba se toho ptát na názor a podobně. Pokud něco potřebuji, dám tomu jednoznačné zadání, v další debatě si pak upřesníme a doladíme datily a když dostanu výsledek, konkrétní chat ukončím a začnu nový, kde hned jako první zadám předchozí výsledek a žádám o analýzu a zhodnocení. Tím je pak zaručena křížová kontrola.
Nedávno jsem třeba sestavoval plán doplňků a výživy pro vrcholové sportovce. Dal dohromady hrubý plán a následně ho zpracoval do detailního plánu včetně rozpisů před, při a po tréninku. A navrhl zákaldní sestavu dopňlků. Z mého heldiska ok, neudělal bych to lépe. Našel jsem si doplňky, co jsem potřeboval, a nakopíroval jsem mu asi k osmi doplňkům kompletní chemické složení a obsah jednotlivých prvků/vitamínů/aminokyselin atd. Dostal za úkol to projít, udělat analýzu složení a doporučit dávkování s ohledem na to, že některé doplňky obsahují stejné látky a ani součty nesmí překračovat doporučené hodnoty. A pak jsem už jen nevěřícně koukal na to, jak vypsal detailní rozpis s odváženými doplňky a k tomu rady, co je do plánu potřeba dodat jiným způsobem, protože ze současných produktů to nelze sestavit aniž by nebyly překročeny některé hodnoty. 3.5 to nezvládla, 4 už ano.
Stejně tak dcera potřebovala nějaké speciální grafy, které někde viděla, ale v excelu nejdou. 3.5 jí vypasal bláboly a opravdu to nešlo. Ovšem při zadání do 4 byla situace jiná, napsal, že tento graf v excelu opravdu nejde, ale že to de obejít sestavou několika jiných grafů, vypsal jí krok po kroku postup a výsledek opravdu vypadal jako graf, který dcera požadovala. A těším se teď na kombinaci GPT4 a WolframAlpha.
Podobných situací, kde GPT4 používám je více. Problém, který jste pospal, bych ale nepřikládat GPT, ale zdrojovým datům. Tak, kde jsou data jednoznačná, je to jasné. Ale je v datech vždy vše psáno správně na téma autorství obrazů, názorů na filofii... snad víte, co mám na mysli. A dále - nemůže se stát, že třeba v historii byl nějaký název stejný pro více věcí? Když se někdo zeptá na díla od Bacha a myslí tím Johanna Sebastiana, čí je chyba, když se v další komunikaci přimíchájí třeba i názvy o Carl Philipp Emanuel Bach, Johann Christoph Bach, Johann Michael Bach, Wilhelm Friedemann Bach a dalších?
V první řadě je tedy potřeba vědět, na co se ptát a jak se ptát, a pokud to vrátí špatnou odpověď, je dobré se zamyslet nad tím, proč to tu odpověď vrátilo. A v řadě druhé - sice je to prezentováno jako umělá inteligence, ale podle mne je chyba se toho ptát na názor nebo obecné věci, tam to nikdy dobrou odpověď vrátit nemůže, protože neexistuje, případně může existovat, ale je otázka, nakolik je možné tuto odpověd nějak získat z dat na internetu, když tato data jsou často proti sobě a jsou nepravdivá. Obviňovat v tomto AI mi přijde jako hanět výsledek výpočtu aniž bychom vzali v potaz, že jsme mu dali na začátku špatné hodnoty. Vlastně je to stejné, jako statistika - máte-li vstupní data špatná, i když bude výpočet správný a přesný, výsledek správný, ale nebude pravdivý.
Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Zdeněk Kratochvíl,2023-04-01 13:20:28
Děkuju za obsáhllou odpověď. Mám jen poznámky na okraj:
Je zvláštní, že právě ve filosofii a v umění se trefuje tak špatně, asi to bude výběrem tréninkových dat. Problém totiž není v "názorech", on se netrefuje do faktografie, tu zčásti zle odbyde, zčásti "halucinuje". Navíc (zatím) neumí odlišit úkol diskutovat pojmy od úkolu kecat "názory". Tou diskuzí pojmů se v oboru myslí něco podobného tomu, co bývá ve vědeckých publikací v oddílu "diskuze", tedy nikoli "názory" a podobná kecání, je to spíš problém metod nebo problém jiných vžitých názvosloví.
Já ho srovnávám s Wikipedií (angickou a německou), a vůči ní se mi jeví horší, v uvedených oborech o strašně moc horší. Myslím si, že mu do trénovacích dat přimíchali blbé taháky, jakých je na webu fůra.
Re: Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Jan_ Rabas,2023-04-01 20:56:32
Toto by možná mohlo souviset i s tím, proč to určitým skupinám obyvatel vrací názory, které "chtějí" slyšet. Ono totiž možná je ani tak slyšet nechtějí nebo nepotřebují, ale je možné, že každý názor používá s jinou frekvencí různé termíny, takže při principu, na kterém AI fungují, je možné, že vhodnost odpovědi vybírá i podle struktury textu, kterým se tazatel ptá. A je logické, že u rázných názorových proudů jsou skladby jiné a AI tak vrací to, co nejvíce odpovídá tazatelově zaměření a to aniž by to dělala úmyslně. To by mohlo vysvětlovat i ty různé wikipedie. I když by to mělo být na jazyce nezávislé, je možné, že některé shody budou pravděpodobnější, než jiné.
Re: Re: Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Eva M,2023-04-02 15:30:06
"Toto by možná mohlo souviset i s tím, proč to určitým skupinám obyvatel vrací názory, které "chtějí" slyšet. " -- uvědomujete si, že výživová doporučení vypracovaná robotem, který vám vrátí, co chcete slyšet, nemají žádnou cenu?
:o) jinak "je možné, že vhodnost odpovědi vybírá i podle struktury textu, kterým se tazatel ptá. A je logické, že u rázných názorových proudů jsou skladby jiné a AI tak vrací to, co nejvíce odpovídá tazatelově zaměření " --- :o) že by agent Bretschneider u Kalicha?
Nezkusil by někdo chatbota vytrolit - tj. prezentovat mu radikálně hyperkorektní názory, co to s tím udělá?
Re: Re: Re: Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Lukáš Fireš,2023-04-03 18:32:34
Zkuste to sama ;) Stačí se přihlásit google účtem, či jak chcete: https://chat.openai.com/chat
Tvrdí mi, že je to verze GPT-3, ale měla by to být gpt-3.5-turbo (podle dokumentace, co sama poskytla... teda dva "Page Not Found", už je hold "out of date", ale i tak).
Re: Re: Re: Re: Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Eva M,2023-04-03 19:16:54
:) víte co, z pokusu, který podnikl p. Kratochvíl, vyplynulo, že "to" bohapustě žvaní, co mu obvody na diplej přinesou - :) toš Vy jako programátor tam třeba odkryjete nějaké programátorské fígle a může pro Vás být zábavné sledovat, jak je "to" sestavené a tak, ale - obávám se, že pro mne by to byla ztráta času...................akorát jsem teda nepochopila, k čemu "to" má být ve skutečnosti dobré. zcela určitě ne k férovému plnění expertních úkolů; na nějaké estetické prožitky (dle dosud publikovaného) to také nevypadá....
Re: Zrovinka včera jsem to zkoušel
Zdeněk Kratochvíl,2023-04-01 12:02:24
Vaši otázku odpovědět neumím, leč předpokládám, že nějaké vážení rozličných propojení na Si imitacích neuronů v tom asi bude. Za vyloženě nebezpečnou bych ji považoval pouze v naivně upřímném světě. Va našem světě je snad velká část populaze imunizovaná díky tréninku od PR prodejců, partají, cíkví atd. Kdo je bere vážně, přichází o rozum, peníze a zdraví. Za horší považuju to sebeutvrzování, o kterém píšete, podobné sociálním bublinám na (a)sociálních sítích.
Krátkodobé riziko vidím v důvěře naivnějších lidí, že když bje to od AI, tak to tak je. Dlouhodobější riziko je spíš další pokles důvěry lidí ve vědu. Je škoda, že se AI prezentuje zrovna takhle.
Re: Re: Zrovinka včera jsem to zkoušel
Lukáš Fireš,2023-04-01 12:35:44
Ve vahách je uložena celá paměť toho modelu, než s ním začnete interagovat, to je klasické strojové učení. Mne více zajímalo, jak si pamatuje kontext, tedy to, co jsme si už napsali. To vůbec není snadné, jedním z dříve používaných postupů bylo dát AI externí paměť, kam se zapisovala část předchozích výstupů či vstupů a vrátit ji to jako vstupy vedle dalšího dotazu. ChatGPT si prý pamatuje posledních 4000 slov. Když jsem se jí na to ptal, tak mi tvrdila, že samotný model zabírá asi 700GB (a je uložen v maticích), obávám se však, že vůbec nepochopila otázku:
"Je těžké udělat přesný odhad velikosti mého modelu a použitých dat, protože se liší v závislosti na konkrétní konfiguraci a verzi, ale odhaduji, že můj model využívá přibližně 700 GB dat, včetně předtrénovaných vah a dalších souborů. To může být změněno v závislosti na specifických potřebách a výběru dat pro trénování."
Právě, mluvila o předtrénovaných vahách, ne o pamatování si kontextu. Snažil jsem se jí na totéž ptát různými způsoby a stále se tomu vyhýbala. Mimochodem jsem ji taky vysvětloval rozdíl mezi tykáním a vykáním, chvíli psal i anglicky. Pořád to vykání a tykání mixuje a pak se za to omlouvá :D
Re: Re: Re: Zrovinka včera jsem to zkoušel
Jan_ Rabas,2023-04-01 13:06:29
A chápete, že GPT může odpovědět pouze na to, k čemu dostala podklady? A zná pouze to, co jí bylo sděleno? Pokud toto chápete, tak myslíte si, že by autoři poskytli GPT údaje o tom, jak funguje a na jakém principu pracuje, a ten jí pak nechali napsat všem, co se na to zeptají? Proč by to dělali? Zná data do roku Srpen 2021 plus nějaké další věci pro pomoc, umí napsat integraci posledního API a podobně. Ptát se na uvedené věci považuji za nesmysl a nepochopení účelu a nic to nevypovídá o jejích schopnostech, spíše to ukazuje, jak lidé nechápou, o co tu jde.
Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Jirka Naxera,2023-04-01 15:03:43
Ten princip i prakticky presnou implementaci najdete treba na Arxivu, neni to nic tajneho.
Jedine neverejne veci budou vstupni data a pak vahy nauceneho modelu, pripadne konkretni postup tuningu.
Re: Re: Re: Zrovinka včera jsem to zkoušel
Jirka Naxera,2023-04-01 14:42:04
Jestli to dobre chapu, tak cele to funguje tak, ze tomu predhodite otazku (ktera ale obsahuje i predchozi konverzaci pokud nejaka je, alespon tak dlouho, jak to popisuje to cislo "2048 tokens" nebo kolik jich tam je) a ona ta prednaucena neuronka vlastne v te cele konverzaci (kam az vidi) pokracuje domyslenim dalsich slov.
(volne micham pojem slovo a token, ale pro nase priblizeni je to +- to same)
Re: Re: Re: Re: Zrovinka včera jsem to zkoušel
Lukáš Fireš,2023-04-01 15:47:33
Tak nějak si to taky představuji. Navíc má evidentně tendenci odpovídat odzadu, když toho napíši naráz vícero. Někde jsem ale četl, že si tyto více-úrovňové (deep) sítě dokáží stvořit něco jako vlastní lineární model a systém strojového učení uvnitř sebe sama. Tím pak prý dokáží i řešit nové úlohy. Stále ale netuším, jak by mělo něco takového vůbec fungovat.
Umelá
Mikulas Alexík,2023-04-01 10:21:24
Je to "umelá" inteligencia, teda nie skutočná. Jej dobré aj zlé vlastnosti vyniknú pri "analýze" predchádzajúcich stupňov, teda adaptivity a učenia (ich "vedeckých" definícií). pzrime sa na "systém" (adaptívný, učiaci sa, inteligentný) a prostredie, v ktorom "pôsobí". V živých systémoch je cieľ zachovanie integrity vnútornej, teda približne prežitie. Adaptívny systém sa prispôsobuje zmenám vonkajšieho prostredia tak, že "optimalizuje" svoj napr. "pohyb" smerom kde najskôr (trebárs) unikne z nepriaznivého prostredia. Ak v budúcnosti príde znovu do toho istého nepriaznivého prostredia, v ktorom už bol, nespozná to (nemá pamäť) a znova "hľadá vhodnú stratégiu (trajektóriu) uniku, resp. optimalizuje.
Učiaci sa systém už má pamäť a ukladá si informácie o vonkajšom prostredí aj optimálnej stratégii (ktorú predtým namáhavo hľadal), ktorá viedla k úniku do vhodného prostredia. Okrem pamäte má aj zásadné "informácie učiteľa": aké prostredia sú pre neho vhodné, aké stratégie kedy sú vhodné a pod.
Inteligentný systém (napr. človek?) ma zásadne iný postoj. Nehľadá únik z nevhodného prostredia, ale okolité prostredie mení pre svoje potreby. Ergo, nutné musí mať schopnosť vytvárať "model vonkajšieho prostredia" (okrem iného, ako je prehľad uložených stratégii, algoritmov), aby vedel, či jeho zásah do vonkajšieho prostredia nakoniec neovplyvní aj jeho "vnútorné funkcie". Mal by mať schopnosť "plánovania budúcich aktivít", schopnosť generovať nové stratégie" atď. Posledné 3 schopnosti (model, plánovanie, generovanie) doteraz UI nemá, preto je "umelá".
Aj viaceré ďalšie schopnosti má ľudská inteligentná bytosť preto (domnienka), lebo okrem "logiky", podlieha aj citom. Viď kniha "Descartov omyl", kde sa na analýze úrazov, ktoré ovplyvnili frontálne laloky mozgu ukazuje, že "strata" alebo zmena v citovej oblasti po určitej dobe podstatne a negatívne zmení rozumové schopnosti.
Možno je dobrý príklad "poézia". Metafora je tiež určitý druh "modelu" (Meta phorein). Ľudská reč je v podstate "model okolitého sveta" (sieť hodená na realitu a individuálne je dôležitá veľkosť oka takej siete). A v poézii nie je potrebné dodržiavať iba "logické postupy" resp. modely. Rovnako vtipy. V nich si z logiky doslova uťahujeme. Implementovať "citovú zložku osobnosti" do UI nevieme, je súčasťou toho ako sa osobnosť "zmocňuje" sveta v procese poznávania seba a sveta teda aj "zospoločenšťovania", kde dozrievanie osobnosti aj cez sexuálne skúsenosti hraje dôležitú úlohu. A takýto "spôsob" dozrievania osobnosti pre UI zatiaľ (a možno ani v budúcnosti) nevieme vytvoriť.
mene omezeni chatboty
Jirka Naxera,2023-04-01 06:04:25
Tak priznam se, cele tohle moderni silenstvi me donutilo objednat novou grafickou kartu (presne ve chvili, kdy jsem konecne rozchodil nektere z mnoha dostupnych AI modelu a bylo mi oznameno, ze dotrenovani na malem vzorku dat, co mam, potrva 9 dni.
Kazdopadne se bavim. Jak pisete o korektnosti, tak vtipne/smutne na tom je, ze tu neni nic, cim by to kvanta trollu ovlivnili - pokud se nepletu a nepouzijete nejaky plugin (horka novinka), tak ChatGPT jede ve Vasem privatnim kontextu, a mimo nej nevi nic, takze nemate sanci ho naucit, co ma rikat ostatnim. Uprimne jsem touhle politizaci (v podstate implementaci nazoru jedne strany dost nechutne politicke diskuse v USA celemu svetu) naprosto znechuceny.
Dost me zaujaly modely, co se dostaly na verejnost "neoficialne" - asi nejnovejsi byl vcera gpt4all, coz je model postaveny nad raw daty z nektereho uniku (jisty si nejsem, tusim LLaMa 30B), dotrenovany na velke mnozite zaznamenanych konverzaci s ChatGPT4 - je popisovany jako velmi dobry a vetsinou relevantni, a problemy s hyperkorektnosti evidentne netrpi. Uz se tesim na pokusy :)
Mnohem bych rekl poucnejsi jsou ale experimenty prave na nedotrenovanych modelech. Prakticke pouziti je tam male, na vetsinu otazek halucinuji, ale na druhou stranu, davaji dost hezky nahlednout do toho, co se vlastne v te neuronce deje, a castecne i do charakteru treningovych dat. A i prestoze cast z nich byla Sci-Fi, tak je to nekdy dost desive.
(ostatne je tu jedna analogie, pokud nekoho zajima, jak nahrubo funguje lidske mysleni a vnimani, nejsnadnejsi je pozit neco hodne zakazaneho - samozrejme nikoho nenavadim a vzdy by tak melo byt cineno pod odbornym dozorem na zaklade schvaleni eticke komise ;-) - u te AI to funguje zhruba podobne, vysledky jsou nepouzitelne, ale hodne naznacuji, jak vse funguje pod poklickou, neprimo tez naznacuji, co je v uz dofinetunovane neuronce pod tim, jak se jevi navenek).
No, zbyva doufat, ze to dopadne dobre. Dzin uz je z lahve venku, po svete jsou odhadem minimalne stovky az tisice instanci LLM neuronek ktere jsou schopny interagovat s okolnim svetem, spousta lidi (tusim ze vcetne OpenAI) dela experimenty s necim co by se dalo nazvat persistentni storage.
A to, ze neuronka nemysli, nema emoce atd. a je to jen automat v takovehle konfiguraci rozhodne neznamena, ze se nedostane do stavu, kdy vyhladi lidstvo.
Re: mene omezeni chatboty
D@1imi1 Hrušk@,2023-04-01 11:38:49
K poslední větě: Je potřeba jazykový model zkombinovat se senzorickými a motorickými centry a přidat další centra pro abstraktní a praktické myšlení. Také vyvinout dostatečně agilní a robustní hardware pro lepší "rozhraní" s fyzickým světem. Jestli to tak dopadne, záleží podle mě na tom, jak dlouho se bude dařit zvyšovat výkony výpočetního HW. Pokud se zvýší na dostatečnou úroveň, je podle mě jen otázkou času, než nás lidi AI nahradí. Možná si nás část nechají v rezervacích nebo v ZOO, jako my chováme a chráníme šimpanze. Ale i kdyby ne, alespoň po nás něco pořádného zbyde. Předáme štafetu a vývoj bude pokračovat dál.
Re: Re: mene omezeni chatboty
Bohumír Tichánek,2023-04-01 12:46:16
"nás lidi AI nahradí. Možná si nás část nechají v rezervacích nebo v ZOO,"?
Jak s energií? Kdo jim bude vyrábět elektřinu?
Re: Re: mene omezeni chatboty
Jirka Naxera,2023-04-01 14:57:16
Jste moc optimista. Vychazite z toho, ze to AI bude chtit prezit. Ten problem je, ze na to, aby znacnou cast lidstva vyhladila nepotrebuje mit zadny motiv, ani nepotrebuje prezit, pouze nejak (treba to muze zacit tim, ze zahalucinuje neco, co je z nejakeho dystopickeho scifi) spusti akci, a pres externi API se dostane nekam, kam by se opravdu dostat nemela (dost se bojim, ze v dnesni situaci by uplne stacilo zblbnout nekolik satelitu, aby to vypadalo, ze protivnik odpalil balisticke rakety nebo desitky podobnych veci) a maler je na svete.
Re: Re: Re: mene omezeni chatboty
D@1imi1 Hrušk@,2023-04-01 20:31:22
To by šlo o nehodu a ta může nastat i bez AI. Navíc si nemyslím, že by jaderná apokalypsa vyhladila lidstvo celé. Všechny jaderné mocnosti sídlí na severní polokouli, na jižní polokouli by neměl být problém přežít.
Větší nebezpečí pro civilizaci bude, prokud robotizovaná AI dorovná nebo překoná lidské rozumové a mechanické schoposti. Nahrazení většiny lidských pracovních míst bude přirozeným důsledkem. Lidé se proto stanou nepotřebnými pro běh světa. Jediné, co bude udržovat naši dominantní pozici ve světě bude setrvačnost - AI je programována tak, aby nám sloužila. Nemá evolucí vyvinutý pud sebezáchovy, rozmnožovací pud, ani touhu po moci. Ale bude jen otázkou času, než někdo chybou a nebo úmyslně stvoří AI, která bude sloužit sama sobě, nikoliv člověku. A jelikož lidé už v té době nebudou příliš umět pracovat ani bojovat, nebude těžké si nás podmanit.
Ten počáteční úmysl může být snaha jednotlivce a nebo malé skupiny ovládnout svět (což teď bez lidí nejde), která se vymkne kontrole. A nebo vědomý úmysl zanechat odkaz či uškodit lidem - na způsob hackerů tvořících viry.
Teď se nic takového stát nemůže, protože robotizovaná AI zatím zdaleka nemá potenciál nahradit lidskou práci. Ale vývoj překotně směřuje k tomu, aby to platit přestalo.
Re: mene omezeni chatboty
Jan_ Rabas,2023-04-01 11:44:10
V tomto případě bych pouze chtěl přesně definovat, co myslíte tím, že nemá emoce a nemyslí atd. V rámci běžných pojmů, tak, jak je známe u lidí či zvířat, máte asi pravdu. Ovšem pokud bychom šli do hloubky, oprostili se od toho, že emoce jsou více méně chemické procesy, a soustředili se jen na vstupy a výstupy, které emoce ovlivňují, bude to stále pravda? Pokud emoci nebudete brát jako emoci, ale popíšete ji jako proces, kterým nějakým způsobem ovlivňuje zpracování dat a následný výtup, jste si jist, že tento proces nemůže mít u AI nějakou analogii? Pokud to velmi velmi zjednoduším, tak si můžeme představit, že se objeví nebezpečí, člověk dostane strach, vyplaví se adrenalin, člověk zareaguje, aby se bránil a nebezpečí eliminoval. Pokud si to rozebereme a měli bychom definovat, co ta emoce a celý proces obrany znamená, tak se dostaneme k něčemu jako že se objevila situace, která člověka ohrožuje na životě, a člověk vyhodnotí, jak zaregovat (útěk, útok), aby svůj život ochránil. Případně by jistě šlo i vyhodnotit, zda není lepší ochrana něčeho jiného (například úrody nebo zásob dřeva na zimu, protože bez toho bychom stejně umřeli), co ve finálne stejně je ochrana vlastního bytí. Člověk toto vše dělá automaticky, ale to, čím se řídí, by šlo jistě určit. Konkrétně v tomto případu je emocí strach, protože člověk chceš žít, a objevilo se něco, co by to mohlo změnit. Pokud by se v případě AI objevilo něco, co by ji ohrožovalo (nemusí mít vlastní touhu žít, stačí, když bude mít příkaz nebo zabudovaný status, že má stále fungovat, a něco ji ohrožuje, třeba vyhodnotí, že někdo chce dát příkaz k vypnutí nebo ji vypnout) a ona provedla sled činností, který by byl srovnatelný s činností člověka, který má strach, tak není jedno, zda AI má lidské emoce, nebo nemá, když výstupy a reakce na podněty by byly stejné?
Re: Re: mene omezeni chatboty
Zdeněk Kratochvíl,2023-04-01 13:02:48
Nemyslím, že omezení na vztah vstupu a výstupu je krokem do hloubky. Leč nehodlám slovíčkařit. Navíc i ten čistě vnější popis - vstup a výstup - má své výhody, je to jedna z mmnohých cest porozumění čemukoli. Zvláště se uplatní (ale nejen tehdy), když chceme udělat formální simulaci, ať už byrokratickým aparátem instituce nebo strojově.
Bavíme se ovšem o kecálkovi, takže z hlediska člověka vypadá situace takhle: Na vstupu mám text vygenerovaný od AI, na výstupu buď text generovaný člověkem nebo reálné jednání (třeba nákup nebo štítivost vůči určité skupině lidí), v obojím případě s určitým trvalejším poznamenáním, které může být analogické strojovému učení. AI je v tomto případě jedním z lidských nástrojů k ovlivňování ostatních. Nic víc, nic míň.
Z mého pohledu je škoda, že se AI neprezentuje jako užitečný pracovní nástroj, do kterého si lidé pokud možno nepromítají své potřeby ovládat ostatní. Takovým skvělým nástrojem je třeba překladač DeepL. Určitě je řada dalších a ještě zajímavějších, které (zatím) nejsou věřejně k dispozici, např. rozličná hledání ve velkých datech.
Velkou část debat o blahých očekáváních i děsu z AI považuju za odvádění pozornosti od toho, že se AI začala používat způsobem, při němž je poměr užitku a možné škody dost malý.
Re: Re: mene omezeni chatboty
Jirka Naxera,2023-04-01 14:47:44
Plne souhlasim, ostatne v jinych diskusich na tohle tema jsem uz podobne skepticky nazor k pojmum jako vedomi, emoce etc. zaujal nekolikrat a porad jsem o nem cim dal vic presvedcen.
Samozrejme, muzeme o tom dlouze filosofovat, povidat si o p-zombii, ale ten argument co jsem chtel rict je spis na te skepticke strane, kterou sdilime: At uz jsou emoce a vedomi cokoli, tak ani to, ze je AI nema neni duvodem, aby nas v ramci svych procesu nezkusila vyhladit.
A jsem si naprosto jisty, ze vsechny modely se ucily i na scifi. (a mimochodem, ten pripad o kterem pisete ohledne vyhodnoceni zdroje nebezpecny pred 2 mesici zminoval i Scott Aaronson, ktery ted je zamestnan v OpenAI na miste kde ma tyhle veci resit.)
Re: mene omezeni chatboty
Zdeněk Kratochvíl,2023-04-01 12:10:46
Nemyslel jsem to tak, že by chatbot ovlivnil kvanta stávajících trolů, ale tak, že by se jeho použitím dala trolí forma založit. Jiná parta lidí si časem může uniklé verze natrénovat na datech podle svého gusta a mohli bychom se na dočkat diskuzí mezi roboty, kterou by část lidí nadšeně sledovala.
Každopádně je džin z lahve venku. Mně na tom zajímá hlavně to, že jazyk, ikona řady slavných filosofů, se ukázal být spíše ten menší problém.
Re: Re: mene omezeni chatboty
Jirka Naxera,2023-04-01 14:51:28
Toho bych se bal mene, uz dnes je boj s boty a trolly prohrany (a kdyz tam date Captchu, tak mate nekolik indickych firem, ktere Vam s tim rady za $0.01 per captcha pomuzou - vcetne API volani).
S tim jazykem mate svatou pravdu a je to dost prekvapeni. A uprimne, jeste vic me prekvapilo, ze jen dostatecne hlubokym sledovanim zakonitosti, jak za sebou skladat slova, slo dosahnout dost uzasne vysledky.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
