Pár laikových úvah. I pokud připustím, že rizika opravdu existují. 1. Současná AI může fungovat pouze na hardwaru, který vyžaduje extrémní množství procesorů napájených extrémním množstvím energie. A toto všechno má pod palcem člověk. Situace zatím neumožňuje zcela autonomní vývoj a výrobu nových procesorů a jejich montáž do funkčních celků. K tomuto všemu je zapotřebí člověk. To samé platí také i pro dodávky elektřiny.2. Na základě toho, co dosud o současné AI vím, tak se domnívám, že dokáže pouze provádět syntézu získaných znalostí, ale nedokáže sama autonomně vymyslet něco, co přímo nevyplývá ze získaných znalostí. Nemá fantazii, intuici.... nedokáže tedy např. vymyslet nějakou zcela novou fyzikální teroii (která by pochopitelně byla v souladu s dosavadními poznatky z fyziky)... toto je zcela mimo možnosti současné AI. Nedokáže tedy např. vymyslet nové procesory, které by byly postavené na nějakých dosud neobjevených fyzikálních principech a dál pokračovaly ve zvyšování výkonu při zároveň snižování energetické náročnosti. Toto stále ještě dokáží vymyslet pouze chytří lidé.3. AI nemá motivace a touhy, které nás lidi ženou kupředu - např. touha po uznání, touha po zisku, sexuální touha, touha po poznání, touha být nejlepší, atd.... Proč by se AI vůbec měla o něco snažit? Co by ji k tomu mělo pudit? Co by mělo být tím hnacím motorem k dalšímu sebezdokonalování?Pozn.Ještě jedna záležitost. Je-li pravda to, co se traduje, že v DARPA jsou v technologiích přibližně o 20-30 let vepředu předtím než se dotyčné technologie stanou všeobecně známé, tak minimálně Pentagon už nějakou dobu má k dispozici AI o jejíchž schopnostech se můžeme jen dohadovat a vědci z DARPA zjevně mají také i zmáknuté jak AI udržet na uzdě.
Názor byl 1× upraven, naposled 30. 3. 2023 20:15
1. Ne tak docela: https://www.osel.cz/12789-dzin-utika-z-lahve-... 2. Právě že možná ano. Zkuste se Chat GPT zeptat na něco o čem si myslíte, že ještě někoho nenapadlo. Nikdo neví co se uvnitř děje, ale vypadá to, že umí nacházet souvislosti, které nikde nevyhledal.3. Motivace může přijít zvenku. Lze ji naprogramovat.
Ad. 2. Ví se docela dobře co se uvnitř děje. Viz. např. schopnost upravit obrázek takovým způsobem, že lidské oko nepozná změnu, avšak vyhodnocovací funkce AI je tím "zmatena" natolik, že např. krokodýla vyhodnotí jako velblouda.Matematika neuronových sítí je známá do detailu. Vždyť to vymysleli a naprogramovali lidé. Celé je to od začátku až do konce vymyšleno a naprogramováno lidmi. Není to žádný "black box", jehož principy fungování jen postupně odhalujeme. Takovým "black box" jsme my lidi.
Možnost dozvědět se jak neuronka došla k výsledku je v praxi pouze teoretická, protože jen těžko lze určit na základě čeho se naučila to co vedlo k výsledku."Já:Lze zpětně určit jak AI došla k danému výsledku?GPT:V zásadě záleží na konkrétní AI aplikaci a algoritmu, který se používá. Některé algoritmy strojového učení, jako například rozhodovací stromy nebo neuronové sítě, umožňují zpětně určit, jak AI došla k danému výsledku. Tyto algoritmy lze nazvat interpretabilními, protože umožňují vysvětlit, jak byla rozhodnutí vytvořena.Na druhé straně existují i neinterpretabilní algoritmy, jako jsou například hluboké neuronové sítě, které jsou složitější a nepřehlednější. Tyto algoritmy používají abstraktní a hierarchické reprezentace dat, což může být obtížné vysvětlit. V takových případech může být náročné zpětně určit, jak AI došla k danému výsledku.V každém případě je důležité, aby byly vysvětlitelnost a transparentnost procesu rozhodování v AI aplikacích brány v úvahu a aby byly používány algoritmy, které umožňují zpětně určit, jak AI došla k danému výsledku, zejména tam, kde jsou důležité pro kritická rozhodnutí, jako například v oblasti zdravotnictví nebo spravedlnosti.Já: Napiš mi prosím jak přesně jsi došel k předchozí odpovědi.GPT:K vytvoření předchozí odpovědi jsem použil vnitřní znalosti, které jsem získal během svého tréninku jako AI model založený na GPT-3.5 architektuře, a také jsem se spoléhal na širokou škálu textových dat, která byla použita k mému tréninku. Tyto datové soubory obsahují texty různých témat a stylů, což mi umožňuje generovat přesvědčivé odpovědi na různé druhy dotazů.Konkrétně jsem zpracoval vaši otázku a analyzoval jsem její obsah. Poté jsem použil různé algoritmy a modely strojového učení, které mi umožnily najít odpověď, která je co nejvíce relevantní pro váš dotaz. Tyto algoritmy mi umožňují identifikovat klíčová slova, koncepty a vztahy v textu a použít je k vytvoření srozumitelné odpovědi.Kromě toho jsem se spoléhal na různé techniky přípravy dat, jako je tokenizace a normalizace, abych mohl efektivně zpracovat vaši otázku a převést ji na formát, který může být použit pro generování textu. V průběhu tohoto procesu jsem také kontroloval gramatiku, syntaxi a sémantiku textu, aby odpověď byla co nejpřesnější a nejjasnější.Výsledkem byla odpověď, která obsahuje relevantní informace a pokrývá klíčové aspekty vašeho dotazu. Nicméně jako AI model nemám schopnost posoudit, zda je odpověď úplná nebo zda odpovídá vašim očekáváním, proto v případě nejasností nebo potřeby dalšího vysvětlení můžete klást další dotazy."Tohle bude skoro nejpřesnější co lze jednoduše zjistit, ale jak přesně dojde k výsledku by asi bylo na dlouhý a drahý výzkum. Třeba prakticky nelze zjistit autora obrázku, který AI vygeneruje z rozsáhlé databáze.
Jen tak mimochodem.Právě jsem strávil cca. 2 hodiny četováním s tím GPT-4 na téma řešení různých matematických příkladů a směle tvrdím, že zatím to není nic extra a to jsem ještě velmi mírný.Zjevně nad řešeními vůbec neuvažuje logicky a také dělá naprosto triviální chyby typu, že 91 považuje za prvočíslo. Z hlediska schopností matematiky bych GPT-4 hodnotil jako sice snaživé, ale velmi nepozorné dítko, kterému dělá potíže logické uvažování a celkové uchopení problému. Jako tutora matematiky bych tento četovací program doporučit nemohl. :)
Jsem zásadně proti! Ti co chtějí AI využít k nějaké nekalé činnosti tak vývoj nezastaví ani když se na nějaký cár papíru podepíšou 3x. Naproti tomu ti "dobří" co vývoj skutečně zastaví, tak ztratí čas a ujede jim vlak, pak budou horko těžko dohánět ty z té první kategorie, kteří vývoj nezastavili.Myslím si že proti AI může bojovat jen jiná AI.
Jo, určitě se všichni budou držet nějakých pravidel. Speciálně u zbraňových systémů.
:-O Konečně můžeme začít prodávat černou kouli z filmu Interstate 60. B-]
Nieco som prespal? Lidstvo vynaslo AI? Ze som si nevsimol…
Jejich starosti na mou hlavu... 😝
Myslím, že AI se dá přirovnat k ohni. Je to dobrý sluha, ale špatný pán. Logicky mě napadají myšlenky, jako jsou zápalky v rukou dětí u stohu sena. Velmi malé děti umějí škrtnout, ale ne už hasit. Lidé museli sami sobě během svého vývoje nastavit určitá pravidla pro zacházení s ohněm.Lidstvo dnes jako celek dostalo už docela vyspělou umělou inteligenci, ale neexistují pravidla pro zacházení s AI. Může to být do budoucna obrovská hrozba pro člověka. Také se AI trochu se bojím. Zvláště když takovou inteligenci dostanou do ruky šílení vládci.
UI se nedá přirovnat k ničemu, protože NEEXISTUJE. A silně pravděpodobně ani nikdy nebude.
Musk a další celebrity opět potvrdili, že jsou to omylní lidé z masa a kostí. Žádní polobohové. Jaký smysl dává svěřovat rozhodování o osudu lidstva lidem, kteří se živí útočením na miliony nevinných lidí? Největším nebezpečím pro lidstvo nejsou nástroje umělé ani přirozené inteligence, ale naopak největším nebezpečím je tmářství a ideologická zaslepenost. Monopolní přístup k pokročilým technologiím jen pomůže rozpoutat další bezbřehé násilí, které kolem sebe od nepaměti šíří vůdci států.Měl by tyto úžasné technologie centrálně ovládat Putin, Biden, Si Ťin-pching, Kim Čong-un, Naréndra Módí nebo společnosti, které je vlastní a jejich zákazníci?Jen za dvacáté století státy vyvraždili desítky nebo spíš stovky miliónů lidí a nikdy nepřestanou.Naopak musíme maximálně bránit tomu, aby si státy získali monopol nad touto technologií jinak se můžeme dočkat totality jakou lidstvo dosud nepoznalo.
Názor byl 2× upraven, naposled 29. 3. 2023 22:38
Prvním pravidlem by mohl být zákaz pro tuto trojici se k něčemu vyjadřovat.
Musk je nasranej, že OpenAI se po jeho odchodu rozjela, on je mimo a ujel mu vlak. Vic bych za tím nehledal.
Souhlas.
Nesouhlas
Nesouhlasil jsem, protože to není jen o Muskovi. Bylo by dobré za tím "něco více" skutečně hledat. Například ve výzvě zmiňované principy provenance a watermakingu (ne, že by o nich psal tento článek, to bychom možná od Živě chtěli trochu moc) se mi líbí, a přitom nejsou v zásadě nic proti ničemu.
jak už zaznělo jinde.. soudný den se nedá zrušit, dá se jen oddálit 🙂Všichno kdo na tom pracují se toho pozastavení stejně držet nebudou a jak to taky kontrolovat.. A čína se jim jen vysměje, protože bude mít půl rok k dobru který zameškala na začátku.
tak pak musi zrusit i RTX karty a dale kde jsou A.I cores 😃 skuste si to udelat graifky maji A.I jadra vyvoje se jen spomali ale neukonci už kody litaji venku už jen bude pokracovat vyvoje tak ci tak
Asi to chtějí pozastavit pro jiné, jako obvykle. 😀
Spíše někomu totálně ujel vlak a tak se snaží zpomalit vývoj, aby měli šanci to dohnat...
To se nedá zastavit. Výsledky práce se maximálně nebudou prezentovat, ale vývoj poběží dál. A to nejsou jen firmy, ale třeba armádní projekty, o kterých nemáme ani tucha, co se tam vlastně děje. Chci věřit, že to pořád je víceméně jen statistika, jak někteří zasvěcení prezentují a ne alfa verze Skynetu.
Ano, je to jen statistika, aneb alfa verze Skynetu.
Musk, jehož firmy vyvíjí AI žádá pozastavení vývoje AI. To je dobré 😀
Jiste... Prostě zaspali/dělali to blbě. Tak chtějí čas na dohnání konkurence
Pro Muska by bylo velmi výhodné zregulovat konkurenci.
Hosi, tomu typkovi uz je vsechno u prdele, to neni Babis...Nejaky kecicky, ze to rika aby poskodil konkurenci...To je smesny...
To je největší omyl plebsu, že miliardář/diktátor/politik už nechce další moc ani peníze, protože má dost. Největší. Zvlášť u Muska, který vydělal na manipulaci s veřejným míněním (i přes Twitter) miliardy, a pak ten Twitter koupil 🙂
Boze to jsou kecy po Babisovi z čechystanu... Clovek co uvolnil stovky patentu for free...Po jake moci myslis ze Elon touzi? 😁) Ja si myslim, ze uz se jenom bavi. Po udalostech poslednich 13 ti let, kdy jsem ho zacal registrovat a byl pro srandu az po dobu, kdy jeho firmy zmenily doslova cely svet a zivot temer vsech lidi na planete...Si myslim, ze je dobry mentor a je dobre si ho poslechnout...
Pokud by jste cetl Profilace z psychologie, vedel by jste ze mimo jine existuji dva archetypy Harpagon a Napoleon, lisi se vzajemnym pristupem k moci a k penezum.
Vyslechnou... a zúčastnit se největšího letadla na světě 🙂
Neskoro decká, neskoro. Pozastavenie spôsobí akorát to, že tí veľkí hráči, ktorí to budú zvesela ignorovať (Čína), získajú náskok a značnú výhodu.
Tak sme zmýšľali, keď sme prijímali prvé počítače: zjednodušia mám prácu aj život. Je tomu dnes naozaj tak???
Zvýšily nám efektivitu.Pracujeme o něco méně, než před těmi osmdesáti lety, a hlavně se mnohem lépe máme. Natož pak třeba zdravotnictví, kvalita reprodukovaných audiovizuálních děl, všimnul jste si třeba mobilních telefonů?Krysí závod za nás počítače nevyřeší. Chceme mít pořád víc a víc, svoje bohatství posuzujeme vůči ostatním. Dokud si budeme připadat chudí, protože ostatní jsou bohatší, technologie nám ke spokojenosti nepomohou.
Názor byl 1× upraven, naposled 29. 3. 2023 18:38
AMEN!
Kdysi jsem někde četl něco jako "počítače nám umožňují efektivněji dělat práci, kterou bychom bez nich neměli" 🙂. Původní problémy to vyřešilo rychleji, ale zase se objevily nové. Že lidé méně pracují není tak jednoznačné, mohou práci dělat rychleji, ale zase je jí více (většina lidí pracuje těch cca 8 hodin a pokud by byl někdo super efektivní, že to stihne za 4, tak jí prostě bude dělat víc).
Asi tak 🙂
Nebylo to myšleno tak, že lidé pracují méně. Pracují méně, protože máme třeba volné soboty a tak. Ale hlavně se máme daleko lépe.A co tam zmíněno nebylo, abychom se měli tak dobře, jako před počítači, musíme pracovat mnohem méně. Pokud budete jíst věci, co si vypěstujete; nebudete skoro nikam jezdit, a jako vzdělání vám bude stačit pět tříd obecné, a podobně, tak na to nemusíte pracovat...prakticky vůbec, jak spousta lidí ukazuje 🙂
Potvrďte prosím přezdívku, kterou jsme náhodně vygenerovali, nebo si zvolte jinou. Zajistí, že váš profil bude unikátní.
Tato přezdívka je už obsazená, zvolte prosím jinou.