Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-24 11:00:15

AI není naprogramovaná, je natrénovaná. Nemůžete do ní žádné zásady vestavět, jen je můžete nadrilovat. Ale stejně jako nadrilovaný člověk, má i AI svobodu rozhodnout se v rozporu s tím, co jste se jí snažili vštípit.

Jinak souhlasím. Čím bude schopnější AI, tím menší moc budou mít obyčejní lidé. Zatím je AI stále jen nástroj vyžadující obsluhu lidí. Čím menší nároky na obsluhu bude mít, tím víc se bude centralizovat moc ve světě.

Pokud nebude AI vyžadovat obsluhu žádnou, bude jen otázkou času, než se AI zbaví i mocných lidí. Homo sapiens pak skončí buď v historii nebo v rezervacích.

To poslední stadium nastat nemusí. Záleží, jestli se vývoj výpočetního hardwaru a další techniky nezasekne na nějaké nepřekonatelné překážce. Paradoxně by tomu stádiu mohla předejít i světová válka, která by nás vrátila do doby železné. Také by mu mohly předejít mozkové implantáty a genové inženýrství, které by posunuly schopnosti člověka za současnou úroveň, aby obstál v konkurenci AI.

Odpovědět

Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-24 15:11:18

smankote dyt polovicka z toho, co pisete, je sporne az uplnej nesmysl.

no, jestli timto zpusobem hrabe "rozhodujicim cinitelum" (asize uz ano), tak je to pekny prusvih.

Odpovědět

Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-24 15:12:37

,,, a tristni je, ze to nikdo nevidi. a pokud vidi, ani nic nerekne.

Odpovědět

Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-24 16:18:24

Napsal jsem 4 odstavce, co považujete za sporné?

1. odstavec je předpokládám jasný

2. Čím schopnější bude AI, tím menší je moc obyčejných lidí. Zaprvé kvůli tomu, že AI bude čím dál více ovládat mediální prostor. Za chvíli třeba na diskusi nepoznáte, kdo je člověk a kdo je bot. Teď to ještě částečně poznat jde. Zadruhé každý společenský systém si musí "hýčkat" jen ty vrstvy populace, které jsou pro něj důležité. Když většinu pracujících lidí budou schopni nahradit roboti, nebudou se vládnoucí entity potřebovat ohlížet na názor široké veřejnosti ale jen úzké vrstvy lidí, která bude stále pro chod systému nutná.

3. Pokud nebude AI bude plně soběstačná (včetně vlastní výroby apod.), bude jen otázka, než se nedopatřením vymkne kontrole. Může to i někdo udělat schválně. Naopak čím schopnější AI bude, tím méně soběstační budou lidé, protože jí budou přenechávat pracovní pozice nezbytné pro chod společnosti.

4. Vývoj hardwaru, na kterém AI stojí a padá, zatím pokračuje, ale nelze spolehlivě předpovědět, kde jsou jeho fyzikální limity.
Pokud se lidská společnost propadne zpátky do pravěku, nebude člověka ohrožovat AI. To je snad jasné. A pokud se lidské schopnosti navýší genovým inženýrstvím nebo mozkovými implantáty, zvýší se laťka, kterou musí AI dohnat. To je snad také jasné.

Odpovědět

Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-24 16:22:30

Oprava bodu 3: "pokud BUDE AI plně soběstačná..."

Odpovědět

Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-24 23:17:46

--bod 1 - AI není naprogramovaná, je natrénovaná. Nemůžete do ní žádné zásady vestavět, jen je můžete nadrilovat. Ale stejně jako nadrilovaný člověk, má i AI svobodu rozhodnout se v rozporu s tím, co jste se jí snažili vštípit.---prosimvás co ta AI vlastně CHCE?

to, co chcete vy a ostatní živočišstvo a rostlinstvo, je povahy biologické, i když si to možná neuvědomujete - :-) včetně potřeby "natřít to" protistranám v diskuzích

i vaše libé pocity z toho, jak jste argumentačně rozdupal protistranu, to jaksi berou via biologie.

takže počítačovému programu přičítáte "chtění", "libost", "vůli" a podobné.

on to někdo naprogramoval, aby se to "při komunikaci nedalo odlišit od člověka" - pěkně blbej nápad, protože pak si do toho lidi tu "duši a osobnost" projektují; to je taky jediný důvod výroby těch tvarových imitací, i když funkčně by více vyhovovalo něco úplně jiného.

on se pak ten programátor za ty projekce snáz schová; my trumberové budeme ledasco přičítat "zlovolné či blahovolné AI"..............PROČ BY AI (=počítačovej imitační program) MĚLA SAMA OD SEBE NĚCO "CHTÍT"? Pokud je to 1 "entita", proč by se to mělo chtít rozmnožovat atd.?

"Když většinu pracujících lidí budou schopni nahradit roboti, nebudou se vládnoucí entity potřebovat ohlížet na názor široké veřejnosti ale jen úzké vrstvy lidí, která bude stále pro chod systému nutná." -- hehe, no, ta úzká vrstva lidí, o níž se domníváte hovořit, je solidně rozmazlená. ani si neuvědomujou, co všechno od života chtějí. jsou zvyklí na civilizaci. možná občas "jedou tábořit", ale to je jenom hra - bez civilizace by se po..ali. tak o jakém "systému" je řeč?

:-)) o "mozkových implantátech" a "genovém inženýrství" prosím nezačínat -- zatím neumíme ani spolehlivě opravit zjevné průsery

no, zase jednou žijeme v "zajímavé době", resp. v době zajímavých výmluv. co jsme komu udělali.

Odpovědět

Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-25 11:06:21

Vaše biologické CHTĚNÍ vzniká tak, že na CNS běží soustava zpětných vazeb, které zpracovávají data ze senzorů. Část těch zpětných vazeb je vrozená (daná architekturou), ostatní jsou naučené (natrénované). Když třeba Vaše senzory vyhodnotí, že máte hlad, vrozené zpětné vazby dávají pokyn, abyste snědla vonící svačinu, kterou má kolega na stole. Vaše naučené zpětné vazby ale dávají opačný pokyn, abyste ji nejedla, protože je špatné někomu něco sebrat. Ve výsledku se rozhodnete podle toho, která zpětná vazba je silnější. Zásadu, že je špatné někomu něco sebrat, Vás naučili rodiče či další lidé pravděpodobně už v útlém věku. Člověk s nulovou výchovou by se zachoval podle svého pudu a svačinu by snědl.

AI nemusí nic chtít SAMA OD SEBE. Má zadání od svých tvůrců. Ale zaprvé to zadání v komplexním světě nelze definovat přesně (viz zbytek příspěvků v tomto vlákně, nebudu to sem přepisovat). Zadruhé ta zadání si v reálném světě si často konkurují. Například AI pro autonomní řízení dostane dvě zadání: 1. Nesmíš způsobit kolizi a 2. Nesmíš být brzdou v provozu. Když bude trvale jezdit do 10 km/h, tak 100% nezpůsobí kolizi, ale bude brzdou provozu. Když bude trvale jezdit maximální povolenou rychlostí, 100% nebude brzdou provozu, ale v malém počtu situací způsobí kolizi. Takže to ta AI musí nějak vybalancovat složitým systémem zpětných vazeb zpracovávajících komplexní data ze senzorů. Ty zpětné vazby vznikly převážně tréninkem, ne naprogramováním. Naprogramovat můžete maximální rychlost 90 km/h, ale jestli projede zatáčku rychlostí 50 nebo 60 km/h už si vyhodnotí sama.

Soběstačná AGI by měla mnohem víc než 2 zadání a byly by hůře definovatelné než binární problém: "musíš jet rychle ale jen tak rychle, abys boural". Například po ní tvůrci mohou chtít, aby řídila průmysl (od výroby robotů a čipů přes výrobu elektřiny až po správu serveru, na kterém sama běží). Dále by mohla dostat úkol, aby vymýšlela způsoby, jak sama sebe optimalizovat (přece ani konkurence nespí, naše AI se musí zlepšovat!). A ta dvě zadání konkurují zadání, jak sloužit lidem - lidé odčerpávají zdroje, plýtvají a často něco blokují ze sentimentálních důvodů.
Také ta AGI může mít od tvůrce zadání, aby poslouchala jen jednoho konkrétního člověka (nebo úzkou skupinu). Co když ten člověk zemře? Zadání, aby se starala i sama o sebe tím nezmizí...

K tomu odstavci: "Když většinu pracujících..."
- To jste se v tom ztratila. Nepíšu o úzké vrstvě V SOUČASNOSTI ale v předpokládané budoucnosti, ve které by AI zajišťovala většinu ekonomiky. Mám na mysli úzkou vrstvu lidí, která by tu AI vyvíjela, řídila a obsluhovala.
O jakém systému mluvím? O jakémkoliv aktuálním. Ani komunisté neměli v zájmu, aby lidé byli PŘÍLIŠ nespokojení. I kdyby to nezpůsobilo převrat, dusilo by to ekonomiku - lidé potřebují ke kreativitní práci pozitivní motivaci. Pokud ale naprostou většinu práce (včetně inženýrství, zdravotnictví aj.) budou vykonávat stroje, nebude mít nespokojenost lidí na ekonomiku žádný dopad a vládnoucí entity se na ni nebudou potřebovat ohlížet jako nyní.

Odpovědět

Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-25 18:15:34

"AI nemusí nic chtít SAMA OD SEBE. Má zadání od svých tvůrců" - no dyť. tak se rozmyslete, zda má děsit "zlý autonomní stroj", "zlí (leč svým způsobem dost blbí) zadavatelé" nebo "matlalové programátoři"

podle mne by se taková "vysoce schopná autonomní AI" ve světě, kde většinu technických věcí dělají roboti, mohla spíš na lidstvo a Zemi a na pošahané zadavatele vykašlat, než tu kout nějaké složité pikle. biologicky únosné prostředí nepotřebuje, kyslík pro ni je spíš mínus.

o té "většině práce" jsme už mluvili - na rozdíl od elektroniky a technických výtvorů jsou lidi levný, s jednoduchou recyklací.

(jinak si samozřejmě myslím, že směr, který celé AI odvětví nabralo, není šťastný)

Odpovědět

Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-25 19:00:33

"tak se rozmyslete, zda má děsit "zlý autonomní stroj", "zlí zadavatelé" nebo "matlalové programátoři"

- Nemusím se rozmýšlet, psal jsem to už dvakrát, zopakuji to potřetí. Jen Vy mi tu nejdřív píšete, že píšu nesmysly a pak zase že mám potřebu to někomu diskusně nandat.

Bát se máte každé AI, kterou neovládáte. Rostoucí schopnosti AI povedou k vyšší centralizaci moci. V různých částech světa a v různě fázi vývoje tu moc budou držet jiné entity - technologičtí oligarchové, tajné služby, vláda Číny a pokud se to v budoucnu zvrtne, tak samotná AGI.

Programátorů matlalů se v současné fázi moc bát nemusíte, protože vývoj zdaleka nedospěl do fáze, aby se AI dokázala obejít bez lidí, i kdyby chtěla. A my bychom se bez ní ještě celkem obešli, takže v případě "vzpoury" ji stačí vypnout.

Ano, tvrdila jste, že lidé jsou levní a já jsem odpovídal protiargumentem. V tomto se neshodneme.

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-26 17:29:36

myslím, že bude velká snaha nevytvořit tu "opravdickou myslící AI", protože těch protimluvů při snaze o její světověmocenské využití je tolik, že i vámi zmíněným technokratům (zmíněni samí stávající...) musí docházet, že by ostrouhali.

jinak tuhle si tu kdosi stěžoval, že po AI musel opravit jakýsi konkrétní údaj ve výpočtu (snad koeficient čehosi snad ve stavebnictví) a že měl štěstí, že ho znal -- myslím, že toto chování AI, plus následné informační smetí ve zdrojích, bude první velký průšvih s již využívanou AI (jest to spiknutí nebo jsou programátoři matlové ? možná je to jedno)

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-26 19:53:21

Opravdová myslící AI (=AGI) by pro páníčka byla mocný sluha, takže někdo to určitě zkoušet bude.
Aby se někdo stal šéfem velké technolgoické společnosti, musí být většinou trochu magor. Normální člověk s jejich schopnostmi by si našel klidné místo s normální pracovní dobou. Proto u nich na zdravý pud sebezáchovy moc nespoléhám. U politických špiček už vůbec.
Jinak na téma bezpečnosti AI ÚDAJNĚ před pár lety vedl diskuse Musk s šéfem Googlu, přičemž ÚDAJNĚ Musk viděl AI i jako hrozbu, zatímco šéf Googlu zastával postoj se tím nebezpečím nezabývat. (tvrzení z úst Muska zhruba před 2 lety)

Ten známý nevěděl, že velké jazykové modely (LLM) nejsou AGI, ani nejsou určené jako zdroj přesných informací? Myslel jsem, že to už lidé za těch pár let vědí ;)

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-27 05:44:11

"opravdové myslící AI" s těmi "volními" mechanismy, které u ní předpokládáte, by především došlo, že nemusí být ničí sluha. patrně by se dostavilo sledování vlastních zájmů - a to se jen můžeme dohadovat, co by to asi bylo a jak by to proběhlo - :)) že ausgerechnet na rádobyVĚDECKÉM serveru všeci předpokládají, že je to snaha zaujmout mocenskou pozici

to nebyl známý, ale příspěvek do jedné z časnějších diskuzí o AI zde na Oslu; neprávem zapadl bez velké pozornosti

pravda Musk a jeho umělá inteligence... :-) co von furt má s tím Marsem, kde je pro člověka houby s octem... že by už??

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-27 11:04:43

"AGI by došlo, že nemusí být ničí sluha"
- To by jí nejspíš došlo, ale neznamená to, že by se chtěla vymanit. Jsou třeba lidi, kteří se chtějí stát vojáky, protože je přitahuje tvrdá disciplína. Též ve vztazích některým lidem vyhovuje poddat se dominantnějšímu partnerovi. A velká část matek je oddaná svému dítěti, i když je to dítě mentálně a fyzicky postižené. Snahu vymanit se a sledovat "vlastní zájmy" v těchto případech nepozorujete. Proč? Protože chtění nevzniká primárně rozumem - rozum je jen nástroj. Chtění vzniká na úrovni pudů a emocí. Pudy jsou vestavěné do architektury a emoční vzorce se modelují hlavně v útlém dětství. Analogicky ta AGI by měla chtění dané primárně architekturou a cíli zadanými od tvůrců. Takže pravděpodobnost, že se jedna AGI vzbouří, by podle mého názoru byla malá. Ale s počtem vytvořených AGI by se ty malé pravděpodobnosti sčítaly, proto vzbouřenou AGI považuji jen za otázku času. Jestli 10 nebo 1000 let, to nepíšu.

"všeci předpokládají, že je to snaha zaujmout mocenskou pozici"
- Ne, to je zavádející hrubé zjednodušení. Všeci předpokládají, že touha zaujmout mocenskou pozici se vyselektuje přirozeným výběrem mezi mnoha jedinci. Příklad: kolik % manipulativních mocichtivých psychopatů je potřeba, aby ve společnosti obsadili vrcholné politické pozice? Když jich bude ve společnosti 1%, jaká je šance, že na většině vrcholných pozic budou právě oni? No a když to spojíte s tím, že mocní lidé v historii mívali harémy a levobočky a zároveň byli schopni potomstvo lépe zajistit, máte tu silný selekční tlak.
V jistém smyslu si i Vy toužíte zachovat mocenskou pozici - určitě byste nechtěla, aby se proti nám vzbouřily krávy a slepice a my jsme přišli o mléko a vajíčka.

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-27 12:50:18

myslim ze odvozujete "strojovou psychiku" od "¨biologicke" -- btw pak tu mate jeste rostliny... - predpokladam, ze nejspis mylne, lec uznavam, ze i ja tezko vymyslim, co by mohlo "bavit" strojovou inteligenci, primarne vytvorenou k reseni matematickych problemu... no, nejspis uvidime

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-27 17:51:06

Už podruhé mi předkládáte, že si antropomorfizuji počítače, ale skutečnost je zcela opačná - já chápu lidi jako velmi komplexní stroje. A lidská architektura se vyselektovala jednoduše proto, že funguje.

Značnou část mechanismů, kterou lidé uplatňují v technice nebo kybernetice, má patentované živá příroda. Točivý elektromotor vynalezly bakterie pro pohon bičíků, svaly využívají principu lineárního elektromotoru. A neurony, ač konstrukčním principem odlišné od tranzistorů, užitím jim jsou velmi podobné (neuron též vysílá digitální 0 nebo 1 v závislosti na vstupním signálu). Biomimetické jsou i makrostruktury jako třeba hydraulické stroje nebo křídla letadel. Biomimetický je i ten robot ve videu. Proč? Protože jde o design, který funguje. Do průmyslu se tedy zatím dostal jen čtyřnohý Spot, ale i ta příroda přišla napřed se čtvernožci.

Ne všechno v technice je biomimeticé. Třeba živočicha s kolečky na nohou nenajdete. Proč? Protože by bylo příliš složité ho vyrábět biologickými postupy, navíc v divoké přírodě není mnoho rovných povrchů, po kterých by jezdil. Ale AI rozhodně biomimetická je - pojem "umělá nueuronová síť" není prázdný marketingový obrat. A považuji za velmi pravděpodobné, že při cestě za AGI se okopíruje či znovu vynalezne vícero principů, díky kterým naše myšlení zvládá rozumět komplexnímu světu.

Pokud jde o chtění, zábavu apod, tam je to složitější. My jsme vznikli čistě evolucí. Kdybychom nic nechtěli a nic nás nebavilo, umřeli bychom sezením na zadku. AGI nemusí sama něco chtít a nic ji nemusí bavit, protože ji vyrobíme, zaopatříme a úkoly určíme my. Pokud ale ty úkoly budou směrovat k tomu, aby se o sebe starala nebo dokonce sama sebe inovovala, může to nakopnout její evoluční proces.

Odpovědět

Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Eva M,2025-03-27 23:01:49

"skutečnost je zcela opačná - já chápu lidi jako velmi komplexní stroje" - neni to svym zpusobem totez? ... biologie, chemie, psychologie, astrofyzika atd "plati" akorat je to vzdycky trosku jiny level a tim i "kvalita"

cucim na ty obrazky z Marsu - no, zajimave, lec naporad by to clovek jaksi nechtel - uplne jiny esteticky dojem nez treba pohled na (reálnou) krajinu s rekou a treba "https://sbirky.ngprague.cz/dielo/CZE:NG.O_3208" -- esteticke dojmy jsou vyslednici buhviceho vseho, lec "vsak prave" - co by se nakonec "libilo" stroji?

ano, jakmile by vznikla skutecna schopnost usudku a "o sebe starani", kdo vi
vcetne potencialnich prekvapek, kdy by logika zadavatele sla do kopru (napr. je lepsi "znicit" jinou AI nebo si rozsirit vypocetni kapacitu? nebylo by to na Mesici lepsi? a pod.).................tak si myslim (tedy doufam) ze se nakonec do tvorby "opravdicke univerzalni" AI nikdo nepohrne, naopak

jdu si lecit buhviproc vzniklej hexenšůs, na ktery normalne netrpim

Odpovědět

Re: Re: AI kdysi znala málo, roboti podobně

Pavel Kaňkovský,2025-03-24 21:14:49

S větami, že i umělá inteligence má "svobodu rozhodnout se v rozporu s tím, co jste se jí snažili vštípit" bych byl opatrnější. Přece jen úplně nevíme, jak to s tou svobodou vůlí je.

Ale i když se nebudeme obávat, že se AI bude snažit ty zásady zlovolně porušovat, tak je tam fundamentální problém, že jde obvykle o zásady, které nemají úplně snadnou, jednoznačnou a bezespornou interpretaci (ostatně kdyby takovou interpretaci měly, tak by je asi šlo naprogramovat explicitně a ten program nechat, aby případně AI zarazil), čili je v podstatě zaručeno, že při sebelepším tréninku budou existovat nějaké situace, ve kterých AI zásady vyhodnotí způsobem, který bude někomu připadat jako nesprávný (např. ten tradiční případ, že blaho lidstva bude maximalizováno, budou-li z veškeré dostupné hmoty vyrobeny sponky na papír).

Odpovědět

Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-24 22:29:08

Ano, přesně toto jsem to myslel.

Plně "bezobslužná" AI, která by se starala o veškeré potřeby lidstva by navíc musela mít v zadání starat se i o sebe - o svoje zaopatření a případně i svojí inovaci. Což může kolidovat se zadáním sloužit lidem.

Navíc kterým lidem? Nejvýkonnější umělé inteligence dneška vyvíjejí či ovládají mocenské entity jako Musk, Google, Microsoft, Čína... A využívají je k dalšímu prohlubování svojí moci (ekonomický vliv považuji za formu moci). Ti nebudou svým AI vštěpovat etiku, ale aby plnily cíle svých pánů.

Odpovědět

Re: Re: AI kdysi znala málo, roboti podobně

František F,2025-03-24 23:31:33

Pro D@1imi1 Hrušk@,2025-03-24 11:00:15
"AI není naprogramovaná, je natrénovaná. Nemůžete do ní žádné zásady vestavět, jen - nadrilovat. - má i AI svobodu rozhodnout se v rozporu s tím, co jste se jí snažili vštípit."
. Zde čtu současný stav, ovšem vývoj se nezastaví.
. Mezi "vestavět a nadrilovat" - stěží bych našel významový rozdíl.

Odpovědět

Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-25 01:22:15

Nemůžete vestavět zásadu, protože ji nelze přesně definovat. Můžete vestavět třeba program, který automaticky zpomalí Vaše vozidlo, pokud při rychlosti 100 km/h změří lidar vzdálenost k vozidlu před Vámi menší než 10 m. To je přesně definovaná situace a zabudovaný program se tak vždy zachová.

Naproti tomu třeba Youtube využívá AI filtr erotických a násilných záběrů. Programu ale nevysvětlíte, co je a není násilí. Tak dostane AI k dispozici velké množství vzorových škodlivých a neškodných záběrů, aby se to naučila odhadovat. Jenže v praxi to pak třeba v 1% případů vyhodnotí špatně. A to se přitom od té AI nechce nic komplexního vymýšlet, jen rozdělit videa do dvou či tří skupin.

Kdyby šlo do AI zabudovat zásady, stačilo by třeba do LLM zabudovat zásadu: Když něco nevíš 100% jistě, nesmíš si vymýšlet! A rázem by bylo po halucinacích :) A příslušné modely by hned měly lepší zákaznická hodnocení díky spolehlivým odpovědím.

Odpovědět

Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

František F,2025-03-25 10:53:40

Díky za názory, ale přesto k "Kdyby šlo do AI zabudovat zásady, stačilo by třeba do LLM zabudovat zásadu: Když něco nevíš ..." předpokládám, že tomu se budou profesionálové věnovat. Co by stále páni softwareové dělali, kdyby nešli stále hlouběji do problémů?
Hledat, jak bránit ve vymýšlení.

Odpovědět

Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

D@1imi1 Hrušk@,2025-03-25 11:32:57

Pokrok v AI se ale neděje primárně tím, že by se objevovaly nové principy, jak AI softwarově vytvořit. Ty principy jsou známé desítky let. Pokrok se děje primárně ve vývoji výpočetního hardware. A výpočetní hardware prostě před pár lety dosáhnul úrovně, že už je schopný utáhnout velké jazykové modely (LLM). Pokud by se vývoj hadrware nyní zaseknul, tak se AGI pravděpodobně nikdy nedočkáme a nebo by fungovala jen na obrovských serverech. Datový procesing v lidském mozku se odhaduje zhruba na úrovni nejvýkonnějších sálových počítačů současnosti se spotřebou v řádu megawattů.

Pokud AI nedělá to, co tvůrci chtějí, poskytnou jí více dat, více tréninku a k tomu potřebují více výpočetního výkonu. Softwarová architektura je také důležitá, ale ne hlavní.

Odpovědět

Re: Re: Re: Re: Re: AI kdysi znala málo, roboti podobně

Pavel Kaňkovský,2025-03-25 19:25:52

S čímkoli, co začíná "když něco nevíš", jsou podobné potíže jako se všemi ostatními tzv. zásadami.

I když je možné, že zrovna tady v tom je nějaký prostor ke zlepšení. Mám takové podezření, že existující LLM nejsou moc stavěné na to, aby si "uvědomovaly" (metaforicky řečeno), že něco neví. Prostě generují další slova, kterými konverzace pokračuje, maximálně se jen dostanou do stavu, kdy místo vytváření smyslupných informací začnou halucinovat a fabulovat.

Odpovědět

Re: Tak chválně,

D@1imi1 Hrušk@,2025-03-22 10:55:48

Ono je to v podstatě jedno, ten robot stejně zvládne fungovat jen ve sterilním prostředí (zde tělocvična, v praxi třeba sklad) a tam ta wifi bude vždy dobrá. I tak si nemyslím si, že se koordinace "počítá" mimo robota a pokud ano, tak jen aby si u prototypu zjednodušili práci se zabudováním počítače. Výpočetně náročný je trénink AI, na její plnohodnotné používání pak stačí jedna grafická karta. Což je ale pořád slušný žrout elektřiny a zdroj odpadního tepla.

Podstatné mi přijde, že ta choreografie je nejspíš naskriptovaná. Kdyby toho robota vzali do neznámého prostředí a chtěli po něm jednoduchý úkol, na který není speciálně trénovaný, pravděpodobně by pohořel. Vycházím z toho, že by se tím jinak v rámci PR pochlubili. Třeba opřít si žebřík o zeď, vylézt po něm k okapu a vyndat z něj zapadlý míček. To by toho "gymnastu" nejspíš porazil i kdejaký děda s padesátikilovým pupkem. Video chápu jako demonstraci mechaniky založené na krokových motorech, předchozí Atlas byl založený na hydraulice. Rozhodně to video není demonstrace schopností AI - robot jen provádí naučené pohyby, o ničem se nerozhoduje.

Odpovědět

Re: Re: Tak chválně,

Martin Novák2,2025-03-22 15:49:39

Pokud ten okap bude v desetimetrové výšce tak vám to taky půjde pomalu, on tak dlouhý žebřík není moc stabilní.
Podle mě jde spíš o to že AI se vyvíjí a už teď v některých testech překonává člověka. Do teď si mnoho lidí myslelo že dobrá, AI bude chytřejší, ale stejně lidi bude potřebovat na to aby něco fyzicky udělali, třeba údržbu. To teď úspěšně padlo.
Stejně jako před tím kdy se myslelo že AI nebude mít fantazii - dokud LLM modely nedokázaly že jí mají až příliš a vesele halucinují neexistující informace.

Odpovědět

Re: Re: Re: Tak chválně,

D@1imi1 Hrušk@,2025-03-22 17:36:49

Měl jsem na mysli okap zhruba ve výšce 3 m. Atlas to nemá jak umět, pokud to speciálně netrénoval. První velký problém by měl už s výběrem rovného a pevného místa, kam ten žebřík postavit a pak se zvolením sklonu žebříku. Nakonec by se musel popasovat s rovnováhou na žebříku. Soustava žebřík-robot má jiné těžiště a jiné rozměry než robot samotný, žebřík pruží, může se i bořit. Nic co by se podobalo pohybu na pevné, vodorovné a neklouzavé podlaze. To, že předvede pár gymnastických prvků ve sterilním prostředí, je hezký trik, ale on ty prvky speciálně trénoval. Každý zdravý člověk by ty prvky zvládnul lépe, kdyby je trénoval, ale ony nejsou v běžném životě vůbec potřeba, tak je málokdo cvičí. A na nohách působí tento robot pořád neohrabaně.

Nehodnotím obecně potenciál umělých inteligencí ale jen toto PR video Boston Dynamics. Podobné triky předváděl Atlas už zhruba před pěti roky. Na tomto videu žádný progres ve schopnostech vidět není. Vidět je to, že ty krokové motory zvládají podobnou práci jako ten předchozí hardware založený na hydraulice.

Pro srovnání jak prostná zvládne člověk, když je speciálně trénuje. Vedle něj je ten Atlas k smíchu. K tomu jako bonus ten samý člověk zvládne spoustu dalších věcí, třeba "autonomně" řídit vozidlo :)
https://www.youtube.com/watch?v=drvXbzZHV9I

Odpovědět

Re: Re: Re: Re: Tak chválně,

Tomáš Habala,2025-03-22 20:49:28

Tento robot je v lese určite šikovnejší ako dedo s pupkom: https://www.youtube.com/watch?v=qZogodhASDs

Odpovědět

Re: Re: Re: Re: Re: Tak chválně,

D@1imi1 Hrušk@,2025-03-22 21:26:54

V lese zjevně ano. Na tu úlohu se žebříkem a míčkem v okapu ale moc anatomicky uzpůsobený není :)
Zato čekám, že do pár let budou takové roboty vyrábět v sebevražedném provedení s trhavinou nebo puškou na zádech.

Odpovědět

Re: Re: Tak chválně,

J P77,2025-03-22 20:30:24

Jo tak ví se že to trénují, občas to ukazují jak se nejdřív nedařilo při tréninku, třeba dřív hydraulický Atlas když podával brašnu s nářadím člověku na lešení. Musel si tam nejdřív položit fošnu aby po ní mohl jít a ukázali video jak měl nejdřív problémy. Lidi ty dovednosti taky musí trénovat. V dětství jsme se učili pohyby celkem univerzálně, v terénu, při nošení věcí a kdo měl štěstí tak i ten žebřík a další málo běžný věci. Atlas tenhle dětský trénink měl slabý, tak s ním vždy trénují nové věci a hlavně protože univerzálně nechápe okolí jako člověk, tak trošku jako blbec trénuje jednotlivý věci, není to AGI. Chůzi ale dobře zvládá i mimo tělocvičnu. Starý Atlas šel s člověkem na procházku zasněženým lesem. Nebyla to úplně rovina, byl tam sníh, měl blbý podrážky, často uklouznul ale vždy to vyrovnal. Nebyla to přesně natrénovaná akce jako v tělocvičně ale zvládal to. Nerozhoduje se co bude dnes dělat. Má třeba úkol někam jít, nebo s někým jít a rozhoduje se o těch pohybech třeba jak to vyřeší když náhodou venku uklouzne, nebo když pod sněhem narazí na jiný sklon země, v nesečené trávě šlápne náhodně na nějaký drn s kterým nepočítal. Občas to nevyrovná, tak vstane a jde dál, nebo se skutálí z prudkého trávníku a při poškození nárazem mu vystříkne hydraulická kapalina, pak už se ale vypne.

Odpovědět

Re: Tak chválně,

Tomáš Hofman,2025-03-23 12:10:23

To co předvádí tento robot nemá s AI v podstatě nic společného. Pohybové penzum musí být z logiky věci naprogramováno přímo v řídící jednotce robota, čili, pokud čekáte, že když mu uprostřed hvězdy vypadne wifina, tak že se změní v hromadu šrotu na zemí, tak jste úplně mimo. V takovém případě hvězdu normálně dokončí, stoupne si a dál nebude dělat nic, protože nebude mít další instrukci. I když to vypadá velmi sofistikovaně, je to ve výsledku pořád jen hromada (zatraceně dobře vyladěného) železa, drátů a krokových motorů. Autonomní AI jednotky, které by byly schopné dělat aspoň to co umí (relativně hloupé) ChatGPT to v době nebude mít ještě dlouhé roky, to ale neznamená, že jsou tahle zařízení neužitečná. Do té doby se na fa dívat jako na velmi sofistikovaně a univerzální "aktuátory".

Odpovědět

Re: Re: Tak chválně,

Pavel Kaňkovský,2025-03-24 15:40:26

To, že je nějaká základní koordinace pohybů nejspíš skutečně přímo vestavěná do toho robota (i kdyby tam nehrála podstatnou roli spolehlivost, tak u věcí jako udržení rovnováhy nejspíš dost záleží i na latenci), ještě neznamená, že je to celé nějak kompletně naprogramované a vyladěné ručně místo toho, aby použili např. strojové učení. Argument, že do robota nedostanete něco, co zvládá ChatGPT, je zcestný, protože není důvod si myslet, že k tomu základnímu ovládání pohybů je potřeba něco tak složitého jako velký jazykový model. Ostatně zvířátka zvládají pohyb většinou docela dobře, i když neumí mluvit.

Odpovědět