Nebylo by řešením, kdyby digitální kamery (foťáky v mobilech apod.) měly v sobě čip, který byl schopen snímky při pořízení podepsat certifikátem, který by vydával výrobce a kořenová certifikační autorita by byla centrálně zřízená jen za tímto účelem? AI ani tvůrci deepfake by k takovým certifikátům neměli přístup. Korektně podepsané snímky by bylo možné považovat za důvěryhodné.
Pokud ty vzory pixelů půjdou detekovat, tak půjdou pomocí AI i přemalovat tak, aby z obrázku zmizely a detektor zase nic nepozná. Pokud bude nějaký identifikátor zakódovaný do obrázku jinak než pomocí pixelů, pak není nic jednoduššího, než si obrázek vyfotit (printscreen) a uložit bez přidaných dat. Prostě jakékoliv nápady identifikace budou brzo znehodnoceny a ty obrázky nikdo nerozezná - což v konečném důsledku povede k tomu, že lidi přestanou věřit jakýmkoliv zprávám, jelikož vše může být podvrh. Nebo naopak skočí úplně na vše a povede to ke konci civilizace.
Názor byl 1× upraven, naposled 20. 9. 2024 11:52
Nezbývá tedy než doufat, že lidstvo má natolik rozvinuté morální cítění, že AI pro šíření nepravd a konspirací nepoužije 😀😀😀
Možná by pomohlo (tím neříkám, že by podvody byly zcela odstraněny), kdyby sociální sítě a servery, které provozují diskuze (a chtěly by být důvěryhodné) začaly trvat na nepopiratelné identitě uživatelů (mojeID, bankovní identita, NIA, ověřený komerční certifikát, ...). Při zneužívání situace by konkrétní uživatel dostal ban (zpočátku dočasný, pokud by si nedal říct, tak trvalý). Třeba by to pomohlo diskuze vyčistit od trolů a botů, kteří už dnes otravují fakt všude.
Zrušení anonymity není řešení, to je náplast s mnoha nežádoucími účinky. Řešení je umožit uživatelům řídit si svůj obsah s dostatečnou granularitou. Proč si třeba na jakýchkoliv diskusích nemohu nastavit že se mi někdo prostě nebude zobrazovat? Proč si nemohu nastavit, že se mi nebude zobrazovat kdokoliv, koho si utlumilo minimálně X% lidí, se kterými souhlasím ( kterým dávám pozitivní značky )? Ztlumit lidi, kteří minimálně v Y% nereagují na otázky ostatních? Proč toto pravidlo naopak nejde potom rychle invertovat, abych viděl přesný opak, a tedy čas od času zkontrolovat že sem si vyfiltroval opravdu jen stoku? Možností je velmi mnoho ale platformy jsou nenažraný v tom, že sami chtějí určovat, co se lidem bude zobrazovat a to se jim jednou vymstí. Finální řešení je tedy umožnit uživatelům napříč platformou efektivně sdílet důvěru i nedůveru, cokoliv ostatního je polovičaté.
Na tom taky něco je. 👍 Porblém je, že spousta trolů má (pravděpodobně) vícero účtů a otravuje těmi dalšími (abych nekecal - vím tedy jen o jedné dvojici, možná trojici účtů, jejichž uživatelé používají shodné obraty, stejné výrazy i rétoriku, takže si myslím, že jde o jednu osobu). Ale bylo by fajn si tyhle účty zablokovat, aby mne neotravovaly, to zas jo. 😉
Názor byl 2× upraven, naposled 19. 9. 2024 09:26
"A tak nám nezbývá nic jiného, než doufat hlavně v to, že fotorealisticky věrně generované obrázky zítřka identifikuje nějaká další AI provozovatele platformy."I kdybych měl brát vážně představu, že někdo dokáže sestrojit magický švýcarák, který spolehlivě identifikuje produkty všech dnešních otevřených modelů (už tohle je prakticky neproveditelné vzhledem k množství modelů se zcela odlišnou architekturou), zítra bude mít komunita připravený upravený checkpoint, který už to nerozpozná. Tohle je zcela naivně utopistická myšlenka."Řešení", které by zachovalo internet v podobě, jakou dnes známe, nebude nikdy existovat. Řešením je se adaptovat jako uživatelé, přijmout, že cokoliv co na internetu vidím, jakkoliv působivé, věrohodné, dokonalé, může snadno být fejk vytvořený 12letým dítětem jedním kliknutím.Jsme v nové éře, nenamlouvejte si nic jiného a nesnažte se k ní přistupovat stejným způsobem jako v minulosti, uškodíte tím jen sami sobě.A mimochodem, s obrázky to je konečná už teď (spíš bych řekl "včera"), ale počítejte s tím, že videa budou brzy následovat.https://www.reddit.com/r/CursedAI/comments/1fdxs... Rozdíl mezi otevřenými a uzavřenými modely (jako linknuté video) je u image-to-video mnohem drastičtější, takže moderovat a cenzurovat výstupy bude ještě nějakou dobu možné, ale opět, jen otázka času.edit:Ještě přidám pár odkazů, pokud někdo pochybuje o věrnosti toho, co dnešní otevřené text-to-image modely umí.Stable diffusion samotný momentálně komunita v podstatě ignoruje po jarním debaklu s overhyped SD3medium (cenzura a z toho pramenící špatná anatomie).Co udělalo v poslední době největší zemětřesení je model Flux.https://www.reddit.com/r/StableDiffusion/comment... https://www.reddit.com/r/StableDiffusion/comment... https://www.reddit.com/r/StableDiffusion/comment... (stable diffusion subreddit se věnuje všem otevřeným modelům)
Názor byl 1× upraven, naposled 18. 9. 2024 21:07
Řečené bude asi popírat málokdo. Zajímavější je, že velké množství lidí bude popírat, že to proporciálně zvýší důležitost reputace zdroje ( ach ošklivý apel na autoritu! ) a faktčekingu ( ach proč neexistují konzervativní faktčekeři! ). Tato disbalance už docela provokuje k přemejšlení.
Už ted je nám, AI fanouškům, jasné, že atentát na Fica byl jen digitální podvod. Ihned se inspiroval Trump, zinscenovanou střelbou na jeho ucho, aby toho využil pro svou politickou kampan a následné obohacení (akcie DJT jeho společnosti po potvrzení,že přežil atentat okamžitě vystřelily o 15%). Tak uvidíme jestli čeští politici zvednou hozenou AI rukavici.
Potvrďte prosím přezdívku, kterou jsme náhodně vygenerovali, nebo si zvolte jinou. Zajistí, že váš profil bude unikátní.
Tato přezdívka je už obsazená, zvolte prosím jinou.