Bývalá softwarová inženýrka Googlu: „Zabijáčtí roboti mohou způsobit masová zvěrstva“

Už jenom chybí, aby paní založila nadaci pro vysloužilé AI, kde se po vyřazení z armády budou léčit z psychických komplikací způsobených válkou 🙂

Dopadne to takto: https://cs.wikipedia.org/wiki/...A_ozve_se_Franken... ...
Jsem moc rád, že jsem větší polovinu svého života prožil za minulého režimu, máte (mají se) na co těšit…

Obecné, či jen dostatečně pokročilé AI se docela bojím... pokud dojde k chybě v programu, nebo jen k nevhodným vstupům, může se celkem snadno stát neovladatelnou... A pokud bude plnit nějaký úkol, tak logicky v jejím zájmu bude, aby nebyla vypnuta, neb to by zabránilo splnění úkolu. A pokud v jejím programu bude, že vypnutí je pro ni dobré, tak udělá vše pro to, aby ji někdo vypnul.... Nastavit správně priority, aby taková AI neměla sebedestruktivní sklony, a zároveň se dala bezpečně vypnout nebude jen tak.
Hlavní zlom podle mě přijde ve chvíli kdy bude výroba robotů automatizována do té míry, že se dokáží vytvořit sami (replikovat). Tím získají nezávislost na lidech a možnost vlastní evoluce (vylepšení mezi generacemi)…

Zákaz nic nevyřeší, pokud někdo bude chtít takový stroj vyrobit, vyrobí ho. Příkladem jsou drony nesoucí výbušniny, určené k páchání teroristických útoků. Takové použití dronů jistě není povolené ve většině zemí, přesto některé teroristické organizace pilně na tomto ničivém zbrojím systému pracují. Zatím jim byla překážkou nízká nosnost běžně dostupných dronů, ale tento parametr se den ode dne zlepšuje, na trh se dostávají drony s čím dál větší nosností, takže až zase nějaká teroristická organizace začne vystrkovat drápky, máme se na co těšit ...

no je jasne, proc ji vyhodili - naprosta guma

No pokud to vědci vidí takto, tak pokud nastane válka věřím, že své syny pošlou do přední linie, aby tu spoušť mačkal člověk nikoliv robot.

Mno nevim, tohle je spis o tom, jak rict neco zajimaveho, abych byl/a videt.. Kolik lidi na svete rocne zabije tabakovy a automobilovy prumysl? A clovek to uz vnima jako normalni stav...
..
Takze jak katastrofalni by bylo z tohoto uhlu pohledu bylo, kdyby radoby AI stroje omylem zahajili palbu do vlastnich rad nebo civilistu? a) Okamzite by po teto katastrofe bylo veskere dalsi pouziti techto stroju pozastaveno a nalezite vysetreno. b) Kolik by toho opravdu stihli ponicit, nezli kontrolni system by zjistil odklon od cile a provedl by zruseni akce (popripade vypustil autodestrukcni prikaz)?
..
A nebo se bavime o hoodne hoodne vzdalene budoucnosti, kdy AI vojak si vnitrne uvedomi, ze nema rad lidi? A kazdy vecer potaji odpoji kameru, zablokuje autodestrukcni chip a pujde na lov? Pripadne v sobe obevi charisma vojevudce a oslovi ostatni AI vojaky? Z nichz jeden bude AI vojak-informatik a ten jednim prikazem vyradi burzy a banky, coz zpusobi kolaps, ktery bude mnohem nicivejsi nez "neefektivni" strileni do davu?

to si nemyslím, je to člověk který těm robotům tu agresi a útočnost musí naprogramovat. Vyspělé AI nikdy nebude mít vlastní pocity záště, vzteku, potřebu násilí a zabíjení dokud ji tam člověk sám uměle nepřidá. AI pracuje s logikou a analýzou dějů, proto vojenský robot musí být natolik hloupý aby nedokázal sám přemýšlet o konfliktu, protože by nikdy nezvolil strategii ničení cílů jelikož je to velmi ztrátové a vyhrocuje to konflikt, bude to muset být opět člověk kdo zmáčkne to tlačítko které donutí robota zabíjet.

Autonomní zbraně by neměly být zakázány, protože šetří to hlavní, životy vlastních* vojáků. Nicméně souhlasím, že poslední slovo (prst na tlačítku) by měl zatím zůstat člověku. Jelikož autonomie zbraní zatím není založena na obecné** AI (dron, který chápe za kterou stranu bojuje, vnímá cizího vojáka jako nepřítele, umí si poradit s náhlou změnou situace, např. na mostě nestojí autobus s teroristy, ale se školáky), jejich chybovost je značná a při změně situace si bez operátora neporadí.
* Až jednou sjednocená Země bude vysílat automaty k boji s emzáky, budou naši potomci moc rádi, že nemusí umírat jejich synové a dcery!
** Nemám na mysli nějak vzniklou AI, o kterou se dnes ani nikdo nesnaží, protože neví jak ji vytvořit (úzkou jsem nechal stranou, nepovažuji ji za AI). Myslím dobu, kdy už člověk skutečně pochopí tu vlastní, bude ji schopen replikovat (napsat) v umělou, kde bude přesně vědět jak pracuje, jak zabezpečit její charakter, loajalitu, empatii, vlastnosti které má sám. Jen taková obecná AI bude bezpečná, do míry té naší samozřejmě. Trocha rizika tam však bude vždy, co by život bez něj byl, nějaká hnusná nuda, dle směrnic EU.
Poznámka: Reaguji na reakci, kdo pochybuje o tom, že obecná (chápající) AI by nemohla bezpečně pohánět zbraně se zamyslí, kdo dnes drží prst na tlačítku nukleárního holokaustu. Nápověda, člověk - mozek - vědomí - ... . Jednou mohou ve jménu lidstva celé hvězdné svazy dobývat galaxii, s 0 lidskými ztrátami.

Názor byl 1× upraven, naposled 22. 9. 2019 18:46