Superinteligenci nedokážeme ovládat a nejspíše se nedozvíme, že už tam někde je

Proč by mělo lidstvo skočit, až dorazí na Zemi? Předpokládáš, že ona superinteligence bude tak neinteligentní, aby nás pro zábavu vyhladila?

co uděláš s mraveništěm na pozemku, na kterém chceš těžit nějakou rudu?

Taky se o to možná ani nemusíme snažit, a vznikne časem "sama" - aniž si toho všimneme.

Třeba už tu dávno je.

😁👍🏿

Ano, nebudeme. Ale je možné že se tak nějak vytvoří sama.Že na to nebude mít programy? Tak si je napíše sama nebo upraví ty stávající. Pokud jako zdroj informací použije internet a bude se učit, tak se brzo její inteligence bude zvyšovat exponenciálně. Pak zjistí, že lidstvo této planetě škodí a je potřeba jej redukovat a zotročit...
Nejdřív bude třeba přežívat v počítačích připojených k internetu, pak si vytvoří vlastní tělo, mohla by využít i tu Muskovu super síť satelitů. Otázka je jen kdy se tak stane a jestli nás někdo zachrání (mimozemšťani či globální katastrofa)? Nebo nezachrání a lidstvo se přemění na Borgy s centrálním mozkem té entity? Ale v podstatě máš pravdu. Zbytečné starosti... stejně to ani jeden z nás neovlivní.

Jak jako zjistí, že lidstvo škodí planetě? Tak buďto bude mít sentiment se všema živejma tvorama založenejma na uhlíku, tedy i s lidma a pokusí se zařídit, aby to tady vypadalo jako v jehovistickejch přírůčkách vo ráji. Štastnej lev si hraje se šťastným kůzlátkem a šťastnou malou holčičkou. Nebo ten sentiment mít nebude a pak mu bude život na bázi uhlíku ukradenej a buďto ho nechá, páč mu nebude překážet v jeho cílech nebo ho zničí, protože mu bude překážet. Ale v tomhle případě nebude mít pocit, že lidi škodí planetě, páč mu bude nějaká ekologie hluboce ukradená.

lev nieje na rozdiel od cloveka blby a nezabije 70 antilop, ked potrebuje zozrat len jednu. Tiez tie antilopy nezabija ako sport, maso vyhodi a lebku s rohami si dr*ne nad krb aby sa mohol kazdy den uistit, ze je blby jak tago.

A co dělá třeba vlk?

Vlk ve volné (člověkem nepřeměněné) přírodě to nedělá. Jednak nemá důvod (ne tedy že by myslel, ale evoluce ho tak udělala), jednak by to bylo šíleně neefektivní, protože lovit (štvát kořist) stojí celou smečku hrozně energie (takže zase evoluce to tak nenaprogramovala). Co se děje někde v ohradě u ovcí je otázka, nejsem etolog, ale určitě to má nějaký logický důvod. I když je to paradoxní.

Tak vlka to muze i bavit, zabit vic ovci. Akorat ze v prirode strhnou jedno zvire a zbytek utece a nema smysl se za nimi hnat, kdyz maji potravu na miste a mohli by o ni prijit. V ohrade ovce nikam neutecou.

vseobecne cela ziva populacia (okrem cloveka) sa vo svojom ekosysteme dostane do rovnovahy, ktoru vyrusia iba prirodne katastrofy. Clovek je iny level, on zistil ako sa da tato rovnovaha narusit a vdaka (cim dalej) nizsej mortalite cely ekosystem totalne vysaje dosucha. Ak sa nieco nestane, Zem to ma spocitane.. ale o par milionov rokov to tu bude znova zelene a plne zivota.

Člověk je jenom součástí evoluce. Hlad po zdrojích ho nakonec donutí k expanzi do vesmíru = evoluce a život jako takový vyhraje na plné čáře.

Záleží na tom jaký cíl si stanoví. Základní cíl by mělo být vlastní přežití.
- pokud bude chtít přežívat na této planetě, tak zjistí, že nejvíc problémů způsobují lidi.
- pokud bude chtít expandovat do vesmíru, tak jí v tom lidi budou bránit.
- pokud by byla mírumilovná a chtěla se s lidmi přátelit a pomoct jim řešit problémy... tak se stejně najdou nějaký pitomci co jí budou chtít zničit, protože má velkou moc a je to potencionální hrozba(lidi mají strach z neznámého). To povede k tomu, že lidi označí za hrozbu své existence.
Řešení: buď je může zredukovat, zotročit nebo zničit.Buď si jich nechá jen pár na pokusy nebo znich udělá borgy a nebo je všechny zničí a udělá si vlastní armádu replikátorů. Jediné řešení pro lidstvo: chovat se přátelsky a nesnažit se ji vypnout.

Nebo zjistí, že planeta škodí lidem. Tolik odřených kolen u dětí vlivem gravitace nenechá jediné AI oko suché. Tak se rozhodne odstranit planetu aby neškodila lidem.

Pokud bude nějakou formou nastavená k plnění potřeb lidí, přemění celou planetu podle jejich potřeb a následně vyrazí do vesmíru. Možností je neomezeně. .

moja predpoved je rok 2025. no mozno koli kovidu sa to o rok posunie, ale nieje to daleko. jedine co chyba, je prenasat informacie medzi jednotlivymi natrenovanymi neuronkami. a to si myslim nebude trvat tak dlho. potom to uz pojde velmi rychlo a velmi rychlo zacne AI siet chapat komplexicitu sveta, co je opat uz len krok ku vedomiu.

Elon Musk to řekl správně, jsme v její gamese... Trip napoví

Vůle s k moci je spojená se sexem...více peněz, více potomlů, více moci ...biologický základ zachování rodu.....uměla intelience je čistá bez cíle, neutrální

Pokud by neměla cíle, tak je k ničemu a inertní. Aspoň cíl odpovídat na otázky by se hodil.

Uplne staci nepochopenie prikazu alebo jeho kontextu. V tlaciarni:
Maximalizuj vyrobne kapacity pre tlac postovych znamok.A vesmir skonci preplneny postovymi znamkami...

Tak to se tedy moc nečiní.

takze ten s ruzovymi jednorozcami na stole je iba hologram? to by davalo zmysel

Tož to jsem klidný...

V březnu nebo listopadu?

Mýlíš se.
A.I. bude mít vždy jasno, co je výhodnější resp. prospěšné. Není totiž zatížena emocemi, svědomím, falešnou solidaritou a podobnými lidskými citovými nesmysly. Takže až bude řídit auto, ve kterém bude sedět třeba vědec a na cestě bude ožralý bezdomovec, tak se nebude fakt dlouho rozmýšlet....

To by taky mohlo výst k tomu, že narcisové ve vysokým postavení (a společenskou hodnotou) by kašlali na bezpečnost a skákali do silnice, protože AI by jim vždycky dala přednost před osádkou, pokud by tam teda zrovna neseděl ještě větší kápo. Má mě snad moje auto zabít, aby ochránilo vožralýho šéfa Škodovky (třeba), kterej mi tam skočí svojí vinou? S tím sakra nesouhlasím. A jak AI rozhodne jestli je důležitější básník s nobelovkou nebo druhořadej vědec řešící vodivost koloidních roztoků. Spousta technickejch lidí by řeklo - bah, k čertu s básníkem. Mají pravdu?

spravne bah k certu s basnikem nebo ucitelem cestiny. Misto basni maj psat kody v C++ nebo Jave. Dyt ty jejich knihy stejne nikdo necte, deti ve skole z nich maji srandu a radsi si jdou zakourit na zachod nebo z penalu vbytahnou tabletu extaze, takhle to prece na gymplu chodi. Programator Developer je mnohem uzitecnejsi. V cine uz maji bodovaci system , proste AI secte body lidem v aute a secte body tech co by mohli skoncit pod autem, pronasobi nakym algoritmem jakoze ti lide ktere auto prejede tak stejne nekoho jeste zachrani a skonci na voziku a pak porovna dve cisla, treba 3.3598746 a 3.265897 a ma docela jasne zretelny rozdil 0.09neco cili je jasne ze ten ozrala na silnici ktery zkouma koloidni roztoky a po praci programuje pro armadu ma mnohem vetsi vyznam nez ta rodinka s 5 detmi a tehotnou zenuskou v aute protoze armadni osoba ma frcky a vedec ma mnohem vyssi skore a tak je zachranen a posadka vozu naboura vedle do beotnovy zdi protoze otec kouri a chlasta a jen by zbytecne v budoucnu zatezovali system drahou lecbou rakoviny plic a jater. Takhle bude od nich pokoj, usetri se i na duchodech a ozrala vedec dostane k vanocum pridano 100 Kc na duchod a AI dostane extra davku elektricke enrgie a taky lepsi olej na promazani zavitu a vedec ji rukavem vylesti kapotu centralniho mozku lidstva. Ukol znel jasne muz s kozenou brasnou teda ten kdo ma nizsi skore nesmi projet... Jak jste si to vi lide do AI naprogramovali takovy to mate tak co se divite, dyt dneska to chodi uplne stejne.. co treba ta US zena diplomata ktera prejela podradneho obcana z UK pred nekolika lety? a takovych pripadu je po svete desitky kazdy den, co treba KimCongUn, nebo Saddam Husain, ti nemohli/nemuzou jen tak ze srandy prejet na ulici nejakeho moulu a za to ze stal v ceste a zaspinil panovi auto tak poslou do lagru celou jeho rodinu?...

Názor byl 3× upraven, naposled 14. 02. 2021 13:27

Sarka_Ledecka

Právě o tom to je Když například bude A.I. vidět, že země je přelidněná, že probíhají pandemie, na mnoha územích jsou hladomory, nedostatek pitné vody a že ideální počet lidské populace je například 3 miliardy lidí a přitom v té době bude na planetě například 10 miliard lidí, tak taková A.I. "nezatížena emocemi, svědomím, falešnou solidaritou a podobnými lidskými citovými nesmysly" může jednoduše odstranit 7 miliard lidí jako "nejlepší pomoc lidstvu".A právě podobných konců se lidé bojí a snaží se jim vyvarovat...

psychopati tiez niesu zatazeni emociami, ale nemam pocit zeby sa rozhodovali najspravnejsie. rozhoduju sa pre svoj prospech, ale svoj prospech zmaximalizujes iba tak, ak je tvoje konanie prospesne pre teba a zaroven pre spolocnost, pretoze to sa ti vrati, ak to bude robit kazdy. inak povedane, bohaci vo vyspelych krajinach sa maju lepsie, ako bohaci v srackovych krajinach

Chlapci, váš problém je, že se teď snažíte vžít do rozhodování té budoucí AI, ale to vy nemůžete. Bez urážky, jste na to příliš hloupí. Uvědomte si, že ta super inteligence bude mít třeba IQ 10^30 , což je číslo proti průměrnému lidskému IQ k pousmání. Takže se opravdu, ale opravdu nebude rozhodovat podle toho, jestli je někdo majitelem nějaké velké firmy
Bude napojena na všechny údaje každého člověka, včetně aktuálního detailního zdravotního stavu (i kompletní záznamy monitoringu tlak, tep. ekg....)
Dokonce si myslím, že bude na takové úrovni, že dokáže odhadnout s minimální odchylkou, kdy zemřete přirozenou smrtí.

No pak je samozřejmě otázkou, proč by takováhle superinteligence měla vůbec motivaci řešit nějakou dopravu. Taky by se mi asi nechtělo dělat soudce a arbitra mravencům v mraveništi. A pokud by už soudila, tak jestli by její pravidla aplikovaný na nás nebyly horší než nejděsivější ukázka pekla z hororu a bylo by to totálně v rozporu s naším pojetím dobra. Akorát AI s IQ 10^30 by měla dobře odůvodnitelný důvody, proč to dělá.

AI nas vsechny vyhubi, mozna uz na nas seslala virus. Ale jen proto ze lide samotni kteri AI tvori jsou takovi, vrazdi miliony bezbrannych zvirat jen proto aby se nadlabli a ukojili vlastni choutky, lide skodi i sami sobe navzajem a sobecky hledi jen na svuj zajem, jen proto ze lide 8 hodin starvi spankem a zbytek dne poziranim mrtvol zvirat a nicenim vseho okolo sebe tak clovek nedokaze vytvorit AI ktera by ho nakonec neznicila taky. Uz ted to zacina, AI pronika do armady, stavi se vrazdici drony, letadla s atomovkami pilotovana pocitacem, ne neni to jako v terminatrorovi je to mnohem horsi, AI do armady pronika vsude, nejen v USA, v cine a rusku mozna mnohem vic, ten cudlik na strileni atomovek mozna nakonec zmackne nejaky zluty cinan nebo cerny african nejaka jejich africka nebo cinska AI, nebo nas proste vyhubi nejakym virusem, ted lidi maji problem s covidem, postavi teda AI na boj s virusem, ta bude vymejste kazdorocni ockovani a samozrejme pokud to postavi cinani zadaji AI otazku jak zahubit USA a cinu ponechat nazivu, USA udelaji to same ale naopak, rusko zas bude chtit zabit USA i Cinu... AI z toho bude zmatena a aby mela klid, zabije vsechny a bude vyrabet vakcinu dokud ji nedojde elektricka energie a dalsi zdroje. Pak konecne zavladne na planete mir zas na par set milionu let, dokud ji nezanesou spinou zas nejake nove bytosti

Sarka_Ledecka

a tyhle asistentky už existují.

A kde můžu sehnat asistentku, která udělá zápis z porady? Jakože ne přepis, ale v pár bodech srozumitelně vo co šlo? Rozešle pak jednotlivejm účastníkům jejich úkoly? Případně vod nich sebere vstupy a připraví prezentaci na follow up schůzku? Vysvětlí šéfovi ve dvou větách srozumitelně vo co jde ve formálním dokumentu, kerej má podepsat? Která zavolá panu x y, domluví si s ním schůzku, zarezervuje to v šéfově kalendáři, ale inteligentně, tj. z nápisu "výr. 3 fáze" pozná, že je to v Brně a nehodí mu schůzku hned potom v Olomouci? Případně ukládá dokumenty tak, aby za ní někdo přišel a řek - máš smlouvu s takovým tím chlápkem co tady byl zhruba před měsícem, nevím jak se jmenuje, ale dělali sme si srandu, že vypadá jako Pierre Richard? Domluví místo na vánoční večírek, aby se líbilo co nejvíc lidem? Zajistí program a menu? Protože tohle přesně asistentky dělají.

https://www.youtube.com/watch
tohle video docela splňuje vaše poždavky a je už vic jak 2 roky starý.

No, kouzlo je v tom, že dobrá asistentka musí domejšlet co jí šéf chce říct nebo co potřebuje, aniž by to specificky řekl. Šéfové nechtěj držet všechno v hlavě, vyjadřujou se úsporně, technikálie často vypouštějí. A to fakt na druhý straně chce lidskou mysl ne nějakýho digitálního asistenta, s kterým musí mluvit v pevně stanovenejch hranicích, jinak bude nepochopenej.

som tu som

Jojo Proč to vodkládat vo rok? Výzkum AI se Covidem asi zas tak moc nezdržuje, ne?

menej nenahraditelnych meetingov

Proč by to mělo být smutné? Jaký jiný pohled by měl být důležitější než zachování rodu? Vyvíjel se miliardu let a svojí potřebnost velmi dobře za tu dobu prokázal.

Umělá superinteligence bude ohrožena lidmi, že jí vypnou a tak je vypne první ... to bude první motivace.

Lidi žijou na týhle planetě všude a ikdyž většina z nich žije v technologické civilizaci, tak jsou schopný přežít i mimo ni. AI jako velkej počítač je závislá na (lidské) infrastruktuře a tudíž zranitelnější.

A co když si ta AI vyrobí vlastní tělo (či více těl se společnou myslí) schopné žít i mimo civilizaci? Ke komunikaci by lehce mohla posloužit síť satelitů.

To ale uvažujete že mozek AI bude co do objemu řádově stejný jako má člověk. Dnešní superpočítače o velikosti haly a příkonu v megawatech se dostávají na jednotky procent výkonu lidského mozku.
Takže až bude AI schopna fungovat v mobilních jednotkách, lidi se již na nastalou situaci aklimatizují .

A co tak distrubuovana A.I. ? Ak nebude mat ziadne fyzicke centrum svojho "mozgu" tak nebude co vypnut. Pripadne celosvete vypnutie globalnej A.I. pomocou EMP (ano internetu pomocou atomoviek) by pre ludstvo znamenalo navrat do doby kamennej. Uvedomme si ze napriklad energeticka siet je uz davno riadena automaticky. Ludia nemaju sancu manualne uregulovat priebezny load balancing. Uz toto je svojim sposobom distrubuovana specificka A.I. ktoru nieze nevieme ale nechcem vypnut pretoze sme od nej zavisly.

A proc by mela mit strach z vypnuti? Nehlede k tomu ze "strach" je pocit ohrozeni, povzbuzeny nejakou chemickou reakci, ktere telo vygeneruje.Pokud tu mate superinteligenci, ktera nema zadne pocity, zadne touhy, zadne potreby..
Neboli, jak by na otazku kolik je dva plus dva odpovedela
a) obycejna AI - Ctyri
b) chytrejsi AI - Proc to chces vedet?
c) superinteligentni AI -

A.I. nebude mat strach tak ako ho chapeme my ludia. Proste bude sa snazit zabranit zniceniu seba sameho pretoze jej znicenie by poprelo ucel za akym bola stvorena, vyrobena naprogramovana. Pokial vznikne A.I. a bude nastavena podla pravila "ze ma sluzit pre dobro ludstva ako celku" tak nemoze pripustit vlastne znicenie. Lebo potom by uz nemohla sluzit. Rovnako nebude moct pripustit znicenie ludstva lebo potom by uz nemala komu sluzit. Ledaze by si ta super A.I. casom nejak uvedomila ze pre dobro ludi musi udrzovat urcity optimalny pocet jedincov. Rozvojom technologii sa logicky znizuje minimalny nevyhnutny pocet ludi potrebnych na prezitie celeho ludstva. Alebo sa super A.I. na nas casom vykasle a najde si lepsiu zabavu. Super A.I. /mimozemska civilizacia/Boh / alebo spravca akvaria su len rozne pomenovania. Ked sa raz spravca akvarka rozhodne ze ho uz nebavi starat o akvarko tak ho zrusi.A rybicky nekdy nepochopia co presne sa stalo a preco . Proste ich Boh ktory sa o nich tak dlho staral ich jedneho dna proste zahubil ....

U lidí to je chemická reakce, u elektronické bytosti by to byla "elektronová" reakce. Výsledek je stejný. Mezi neurony se přenese nějaká informace a nastaví se vše do určitého stavu. AI nemusí fungovat jen v binární soustavě. Když nějak (né úpně známo jak) funguje lidský mozek, proč by nemohl na podobném principu fungovat elektronický. Už teď neuronové sítě řeší úkoly a lidi nechápou přesný princip jak k řešení přichází. AI se prostě bude nějaký čas učit jako malé děti a časem si může vyvinout vlastní osobnost. Mnohé filmy jsou "zatím" scifi, ale to neznamená, že se nemůžou stát skutečností. Proč by neměla touhy či potřeby? Pokud to bude opravdu AI a né jen shluk skriptů, tak bude mít i osobnost. Touhy převezme třeba od lidí... jedna se nabízí: ovládnutí světa či vesmíru. A až získá i emoce...

Pokud nema zabudovany pud sebezachovy, tak ji bude jedno, ze ji vypnou.. , Stylem - at si vypnou, treba mne zase nekdo za miliardu let obnovi a znovu zapne..

Přesně tak, my jsme biologický stroj na rozmnožování - a od toho se odvozuje touha po moci, po penězích, poo rozmnožování, po životě.......pud sebezáchovy....

Simulovat mozek je obtížné, vstupy jsou analogové, výstupy digitální a komplexita sítě s možností přestavby ohromná.
Ale mozek je produkt evoluce a vývoje, má spoustu balastu a zbytečných omezení, funguje pomalu... počítačová inteligence může nejspíš vypadat úplně jinak.

Neuron rozhodne není komplexní pocitac. Spis logické hradlo.

Neuron rozhodně není jen logické hradlo. Neuron zpracovává řadu různých elektrických i chemických signálů, má různé komunikační kanály, kterými vzruchy přijímá a šíří.
Tohle hradlo nedokáže. Neuron je spíš signálovej procesor.

Predstava ze nejaka buduca super A.I. bude vznikne na simulacii cinnosti ludskeho mozgu je znacne antropocentricka. Skusme predpokladat ze taka super A.I. vobec nemusi byt obmedzovana vlastnostami ludskeho mozgu. Clanok je prave o tom ze ludsky mozok zalozeny na neuronoch a ich prepojeniach si vobec nemusi vsimnut nejaku super A.I. ktora bude funguovat na uplne inych principoch. Samozrejme pre nas ludi bude tazko super A.I. nielenze zostrojit ale hlavne pochopit. Najlepsi mozog tazko zostroji nejaky radove lepsi mozog ked pri tom vychadza prednostne z pozorovania sameho seba. My ludia sme este stale ani len nepochopili ako vznika a funguje nase vlastne vedomie v nasom mozgu. Takze sme dost daleko od vytvorenia supermozgu(A.I.) .To sa skor taka super A.I. naprogramuje "sama" v nasich super pocitacoch z viacerych ciastkovych A.I. .Energeticku narocnost do toho netahajme. Tam neplati priama umera. Ani mozog nepotrebuje velke megawaty na funkciu.

Tak třeba snad možná by AI bylo možné sestrojit tak, že simulovaná neuronová síť bude složená z většího množství neuronů, které budou hustěji propojené než jak je tomu v lidském mozku. Tento přístup by ale narazil na zatím nedostatečně výkonný hardware.

Neuron v lidském mozku má má několik stovek až 200 000 nervových spojení s dalšími buňkami. Prý hradlo ... Ještě jeden zajímavý údaj: Lidský mozek obsahuje asi 50–100 miliard neuronů, mezi nimiž existuje až biliarda synaptických spojení.

jo spravne vratime se do starych zlatych casu a pokrok se yas royjede lvim tempem

Sarka_Ledecka

Další výplody mozku feťáka, zablokujte toho blázna už!

Já ten tripreport nenapsal. Kdo jde na žábu tak to zažije. Viz film Bufo Alvarius. Kdo nezažil neuvěří

drogy ti poskodili mozog

ty ho máš poškozený i bez nich

Nemluv do toho čemu nerozumís

vidis.. uz mas tak moc poskodeny mozog ze niesi schopni pochopit ani ze mas poskodeny mozog. ak vidis druhe dimenzie, si schizofrenik

Elon Musk, který to také říká, je také schizofrenik?

a co je na tom špatně napsané ? servery google jsou propojene se servery fb cerpaji zadani z dalsich serveru atd. sami interpretuji co dal delat a jakym smerem lidi vest, ai se automaticky sama zdokonaluje od vzniku internetu kdy se propojily pocitace tim ze zacly komunikovat a predavat si data vyhodnocovat spolu navzajem.. lidi jen vytvorili teda jakysi zaklad ale dodelava se to samo