euridike u toho Čestmíra jsem to slyšela a trošku mě to znepokojilo :)
Vtipy
20. zaří 2014 15:04
euridike Deus ex machina! 
Reakce na euridike:
bram
S ohledem na události posledních dvou tří let počítám se vším. ;) A vzpomněla jsem si u toho vtipu na rozhovor s Janem Kulveitem z počátku epidemie, kdy říkal, že on při modelování případných hrozeb pro lidstvo považoval za pravděpodobnější, že se lidem vymkne z rukou umělá inteligence...
Přesně. Párkrát už jsme v práci sledovali, že si systémy začaly dělat co chtějí. Vždycky si vzpomenu na Terminátora I, jak se stroje vzbouří.
andulka01 To ale neni vtipný!
euridike E pluribus unum AKA Brémští muzikanti :-)
Reakce na viktorka_od splavu:
euridike a aktualne https://www.voxpot.cz/bodu-od-ktereho-uz-umela-inteligence-nepujde-vypnout-si-ani-nemusime-vsimnout-rika-kulveit/
Obecně se pozitivní scénáře zakládají na tom, že se nám ty systémy podaří nějak sladit s lidskými hodnotami, jako jsou třeba svoboda, laskavost, zachování naší autonomie. Problém je ale často v tom, jak to popsat algoritmicky. A samozřejmě i v hledání shody na konkrétních hodnotách, s jakými AI slaďovat, protože ty se mohou různě po světě lišit.
No vyvstává otázka, jestli věříme tomu, že systemy natrénované na interakciich s miliony náhodných lidi (přičemž jediným kritériem je, že umí používat internet), od nich okoukaji hodnoty jako laskavost a svoboda.
Není to zas tak dávno, co se učící systémy na posuzování kreditních rizik museli uměle přeučovat, aby nebyly rasistické. Od koho se to asi naučili?
Jinak úvahy dobré, ale toto se ve sci-fi literatuře řeší už tak 50 let, jediná nová vec tam není 
. Teď mi konkrétně přijde jako největší riziko, ze někteří líní lidé se sami nastrkaji do role těch krav, které nemají žádné obtíže se získáváním potravy a aby nemusely moc přemýšlet, klidně se vzdají i svoji svobody a autonomie. Takových jedinci je v populaci nespočet, stačí se podívat na Václavák během Raichlovych dýchánků.
trochu černýho:
andulka01 dobrý 
Plán na neděli! Ta knížka se sama nepřečte :)
