Vědci si zahrávají s ohněm. Učí roboty odmítat příkazy

Takových robotů budou mít v armádě plno a dostanou k tomu přímo rozkazy.

Robot udělá, jen co se mu řekne. Sám od sebe neudělá nikdy nic. Ano, může mít jistou operační volnost, ale ta bude stejně celkem pevně definována. Rozhodně to nejde definovat slovy "Neubližuj lidem". Co je to "lidem"? co je "neubližuj?" - to robot neví, a musí se mu to naprogramovat. Stačí aby "lidem" = týpkům v maskáčích a je vymalováno. To samé neubližuj můžu zadefinova jako neprováděj žádnou interakci s lidmi, ale už to nemusí nutně být nestřílej po letadle. Aby robot chápal souvislosti, že v letadle jsou lidi a že by do něj tedy neměl střílet, na to musí mít naprogramovanou informaci, že v letadlech lidi obvykle jsou, nebo to musí být UI, která to bude chápat. A dělat nějaké zákony pro UI je poněkud ošidné, protože UI by je z principu měla umět obejít.

Ono jde taky o to, jestli si představujeme budoucnost s roboty spíše ve stylu Futuramy nebo Terminátora. Skutečnost asi nebude ani jedno.

Fyzikální zákony ani hardwarové specifikace sankce neobsahují .

Fyzikální zákony jsou sankcí samy o sobě. Například skok z letadla bez padáku.
A HW specifikace to mají stejně. Překroč je, a máš po HW ;)

Jenom jestli znáš heslo.

Tak on sám Asimov si vymýšlel výjimky, paradoxy, záhady, jak se tomu vyhnout. Je tu další věc. Řeší se tu vztahy robot-člověk, co vztah robot-zvíře, robot-zvíře-člověk. Kromě toho robot-robot a jsme brzo u boha a definice života, práva na život, vyšší inteligence. Z toho se nedá vymotat.

Otázka zní, co dělat v případě, že majitel zemře/nebude schopen reagovat a ten robot bude zrovna něco dělat?Assimovy zákony navíc mají problém v tom, že AI nemusí poznat, že škodí. Ostatně to mnohdy ani lidi.

Navíc si robot musí uvědomit, co fyzicky zvládne. Tu překážku plastových kostek na stole hravě projde, ale ví to? A pokud je něco na hranici možností (což taky nepozná), pak musí zvážit něco jako riziko. Řekněme (v reálu je to nemožné), že situaci vyhodnotí (správně/nesprávně), že se poškodí. Těžko posoudí, jestli bude opravitelný. Když situace dopadne špatně, vyhodnotí ji jako "zlo" od (daného) člověka a příště neuposlechne? I člověk se mohl jen splést v odhadu a není zlý... Pomůže mu, uposlechne (až ho člověk vyléčí)? Poslechne člověka, který mu někdy konal "dobro" (lékař robotů)?. Prostě, tady je asi milion a jeden filozoficko-lidsko-technický problém. A ještě jedna legrace-nelegrace... robot musí poznat ironii, vtip, sarkasmus.

Názor byl 1× upraven, naposled 30. 11. 2015 15:06

Do toho jsem se nechtěl zamotávat... ale v podstatě jde o to, jestli ty roboty budeme brát jako věc s omezenou inteligencí (pojedou podle programu) nebo stejně jako děti se budou učit všemu, ale mnohem rychleji a možná pak dojdou k tomu, že nás vlastně ani nepotřebují.

tak se bude hledat někdo, kdo mu vyjme z čela šém...

A někdo požádá robota, aby zamíchal sklenky (Ne)náhodně

Názor byl 1× upraven, naposled 30. 11. 2015 15:56

A ještě mě napadá. Je velmi tenká a lehce zneužitelná hranice mezi obrana-útok (právně zcela směšná "přiměřená obrana"). To je ostatně zástěrka většiny válek. Jak se v tom má orientovat chudák domácí robot, který kouká na robota na frontě.

Robot má jasný příkaz vyzvednout sako z čistírny, aby majitel stihnul divadlo. Na ulici ale narazí na autonehodu. Zapojí se, nesplní tedy příkaz a nestihne v časovém limitu zvládnout přímý příkaz. On MUSÍ mít právo neuposlechnout přímý příkaz. A pak řešíme už jen význam (váhu) a menší "zlo". A v tom je zakopaný pes (neříkejte to před robotem nebo vás kousne

To záleží na tom, jak by byly nastaveny priority. Co má v daný okamžik větší váhu? Zde si myslím, že by ta nehoda měla mít vyšší prioritu, ale může být v okolí někdo jiný, kdo se postará o poskytnutí pomoci. Robot by mohl kontaktovat(přes nějakou wifi) ostatní roboty poblíž a pokud by jiný neměl zrovna co dělat, tak by to nechal na něm a pokračoval ve vykonávání příkazu ohledně toho divadla. Ale každopádně by to bylo dost složité mu to nějak naprogramovat nebo vysvětlit.

Jako jo, souhlasím, mohl by splnit původní příkaz, kdyby zajistil jinou pomoc. To rozhodování nezvládáme ani my lidi a jestliže bude mít schopnost vyhodnocovat své jednání (asi by měl), pak není daleko k "pocitům" viny, bude muset řešit pojem smrt a sebe sama. A oproti nám bude jediný rozdíl - on bude pracovat s pravděpodobností, zatímco my s intuicí (a obě strany se zkušeností)

Názor byl 1× upraven, naposled 01. 12. 2015 12:52

áno. Ale možno sa dopracujeme aj k Battlestar Galactica

Nevím jak tebe, ale mě žádný bůh nestvořil.

Pokud naše stvoření nazvete dílem boha nebo dílem zatím nepochopené statistické fluktuace natěsnané energie, díky které vznikl prostor, čas a hmota... Je to prašť jako uhoď. Prostě energii se z neznámých příčin zachtělo uvažovat sama nad sebou a nějak si k tomu sama poskytla podmínky.

Myslím, že Buh se dneska nechápe "nijak". Je to prostě Bůh a žádná "statistické fluktuace natěsnané energie"

Polož si tedy otázku: Máš právo odporovat rodičům?

Ma. Kazdej ma na to pravo, ale je pravda, ze ne vzdy to skonci uspechem (at uz pro jednu, nebo druhou stranu). Spis zvitezi zakony (a jejich uplatnovani), nebo ten, kdo je silnejsi.

No jo, jenže u nás fungují ještě další věci. Díte si jednou uvědomí, že to rodič nemyslel špatně. Dost možná to u svých dětí aplikuje naprosto stejně v dobrém i zlém. A...
Člověk zná taky něco jako odpuštění. Co robot?
Člověk se nerodí zlý, to z něj dělá okolí a zkušenost. Může zkušenost z robota dělat zlého? Třikrát mu utrhnete ručičku, má to v něm něco vyvolat? A jak moc silného?
Pozná člověk dobro a zlo? Pozná ho robot? Smrt jedince versus smrt skupiny lidí, zachránit jednoho člověka nebo skupinu zvířat? Blbý poměr? Tak dál, jeden člověk versus živočišný druh.. Pozná něco jako dilema...

A jsi si tím opravdu jistý? Nebo si to jen myslíš a chceš tomu věřit?

Ano, jsem si jistý.

Nás? Mě teda ne

Vědecká modlitba : Statistická fluktuace naše nejmocnější, ty která jsi dala vzniknout prostoru, času, hmotě a nám, slituj se nad námi, ó ty všemocná energie která poháníš vesmír!! Bez tebe by se řád světa rozplynul v chaosu zvýšené entropie.

Pokud přijmeme fakt, že existuje nějaká energetická fluktuace nebo bůh, pak se ptám, co stvořilo ji(jeho)? A kdo stvořil to, co stvořilo boha? No a jsme v kolotoči nekonečných otázek, které vedou jen do ordinace Dr. Chocholouška a tak je lepší to neřešit, jelikož to stejně nikdo nevyřeší. Úplně mi stačí, že znám odpověď na otázku "Jaký je smysl života, vesmíru a všeho vůbec?"...tedy 42.

Nikdo normální nevěří, že nemá samostatné myšlení.

A zrovna se už po čtvrté koukám na Battlestar Galacticu, kde díly začínají asi tak nějak...Cylony stvořil člověk, vyvinuli se, vzbouřili se, .........