Učte robota jako psa a bez nutnosti programování

Osobně se bojím spíš toho, co může vzniknout genovým inženýrstvím. Roboti jsou alespoň vidět a přinejhorším se dají hromadně zničit třeba EMP, ale třeba bakterie nebo viry můžou zlikvidovat lidstvo během pár dní až týdnů.

Problém bakterií a virů je v tom, že se nedokáží efektivně rozšířit do 'bohem zapomenutých oblastí'. A v civilizaci celkem fungují karanténí opatření. Navíc 100% infekčnost + smrtelnost je nesmírně nepravděpodobná, pokud by se vyskytla, taková forma viru nebo bakterie rychle zase vymře, protože nebudou existovat přenašeči... Nicméně není problém si představit bioteroristický útok s úmrtností 10-20% ve větších městech spojených leteckou dopravou... Zlikvidovat lidstvo viry podle mě není dost dobře možné, způsobit kolaps civilizace a technologický úpadek o 50-100 let? To je docela dobře možné.

Asi takhle na tomhle světě je hodně lidí bez kterých se obejdu. Takže pro mne jsou zbytečné a ubírají ze zdrojů, které by mohli bejt moje. A dokonce nekteré znich i zivim. Jenze tu je zakon který mne toto zakazuje. Pro roboty potažmo IA tu jsou staré zákony které položil Isaac Asimov a to:1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem.

To jsou zákony které u robotů předpokládají již značný stupeň vývoje a navíc nikdo neslíbil je implementovat. Je dosti pravděpodobné, že první roboti s nějakou mírnou inteligencí budou naopak lidi zabíjet.

Však ty zákony mají docela vážnou chybu a proto nebudou nikdy implementovány. A pokud ano, doufejme že Will Smith nebude v důchodu...

Problém s těmihle slovními imperativy je ten, že se dají vždy nějak obejít a vždy mají nějaké "corner cases". Například - pokud lze vraždou jednoho člověka zachránit život deseti lidem, má ji robot provést? Protože buď zabije jednoho, nebo nechá zemřít deset. Vždy tím poruší pravidlo.

No myslím, že toto není problém jen robotu ale i lidi. U robota převládne logika (pokud nebude mít emoce). 10 je víc jak 1. Ale v případě člověka je to složité. Představte si, že můžete zachránit jednoho člověka, který je vám hodně blízký ale zemře při tom 10 lidi které neznáte, ale budou vám třeba vděční a už je v životě neuvidíte, ale můžete zachránit, výměnou života osoby která je vám hodně blízká . Toto rozhodnutí musíte udělat do 10s. Těžká volba že? Teď je to rozhodnutí jednoduché ale v dané situaci na vás může působit více faktorů.A ano je zde inspirující film Ja robot s W.S. v hlavní roli. A teď mne omluvte jdu čučet na AktaX.

Oba dva jste lehce mimo. Je potřeba se více začíst do Asimova. Antonín uvádí zřejmé porušení zákonu robotiky a ty mu k tomu špatně přitakáváš. Pořadí jednotlivých bodů, a to i v jedné větě zárověn uvádí pro robota prioritu, pro lidi tedy morální hodnoty. Vražda nemůže být nikdy vykoupena záchranou. Právě v Já robot je to zcela zřejmé, že Sony se zákony robotiky řízeným způsobem neřídil, a právě proto musel být svým tvůrcem postaven jako "unique".

Názor byl 2× upraven, naposled 28. 09. 2014 09:05

Edit: neumím číst, sry

Názor byl 1× upraven, naposled 28. 09. 2014 13:09

Existovalo ještě nulté pravidlo, podobné jako první, ale místo člověka tam bylo lidstvo. Takže ano, pokud by zabitím jednoho člověka zachránil ostatní, tak by to udělat mohl. Jinak s těmi zákony byla spousta jiných problémů, viz třeba povídky v "Já, robot".

Je to dlouho, co jsem četl Asimova, ale v nějaké povídce psal o potenciálech, respektive 'síle' pravidel. Nevíme, jestli jsem to dobře pochopil ,ale fungovat to mělo nějak takhle:V situaci zabít jednoho nebo zachránit deset lidí měl robot desetkrát silněji motivován deset lidí zachránit než jednoho zabít, dalo by se říci, že 9% své činnosti věnoval nezabití jednoho člověka a 91% záchraně deseti... do toho s nižší váhou přispívala nižší pravidla, takže splnit silný příkaz mohlo být důležitější než neohrozit člověka, ale nesmělo tam být 100% riziko smrti. Nakonec většina robotů by konfliktní situace řešila tím, že "nasadí vlastní život" na záchanu deseti lidí dokud je ten jeden nevyřadí z činnosti.Asimov to hodně promyslel, ale sám viděl mnoho problémů, ke kterým tahle pravidla vedou, jakkoli rozumná jsou.

Ty povídky byly všechny o nějakých problémech, které ty zákony robotiky přinášely.

To bude v pohodě. Za onoho času se lidi "učili" že Země je placatá.

Jo kdyby to jen učili. Za to kdo tvrdil něco jiného se i upalovalo. A kým pak asi? Nic proti vatikánu.... Ano tato krychle je opravdu kulata....

Zřejmě jste se příliš koukal na ságu filmů terminátor ...

Veverka umí opravdu jen chroupat oříšky, ten zbytek zařídila "příroda" který to to trvalo miliardy let a to víceméně systémem pokusů a omylů.

taky to na sobě pozoruji, tu evoluci, malý mozek činí rozhodnutí a velký mám na zábavu

A přece to tak jednoduché není. A příroda jsme i my, nic víc nic méně. Jen místo "lesa" máme "nákupák", ale zatím jsme se v "myšlení" moc daleko neposunuli a stále se bojíme smrti místo toho, abychom chápali kam jdeme nebo co chceme jako druh být.

Já nikterak nerozporuji fantastickou práci přírody. Já se jen snažím naznačit, že člověk ješte za tvého života může udělat robota, který tě intelektuálně předčí. A to i za stavu, kdy značná část lidí nebude mít základní lidské potřeby a bude ovládaná základními pudy.

Názor byl 1× upraven, naposled 27. 09. 2014 10:40

Pokud se tak už nestalo...

Poslední věta je jaksi divná - pokud osoba nemá základní lidské potřeby, má jaké potřeby?
Žádné nebo rozšířenou sadu?
A pokud se to zneguje:
... značná část lidí bude mít základní lidské potřeby a nebude ovládaná základními pudy... to je také podivné...

Smrti se bojí snad všechny vyšší organismy, říká se tomu pud sebezáchovy. Bez toho by za chvíli vymřely.

Jů, vy jste ale objevitel. Ještě něco moudrého a objevného. prosím

Captain Hindsight