3 principles for creating safer AI | Stuart Russell

Piloti našich zákazníků řídili loni téměř 3000 přesných úderů, na což jsme nesmírně hrdí. Dovoluje vám to rozlišit ty špatné lidi od dobrých. A to je něco. Ale my máme něco mnohem většího. Vaše děti pravděpodobně mají takový taky, že? Ne úplně. Zatraceně dobrý pilot? Ne. Tyto schopnosti jsou čistě díky Umělé Inteligenci. Létá úplně sám. Jeho procesor dokáže reagovat stokrát rychleji než člověk. Nahodilý pohyb je funkce proti odstřelovačům. Stejně jako kterékoliv dnešní mobilní zařízení, má v sobě kamery a senzory. A stejně jako vaše telefony a sociální média, provádí rozpoznávání obličeje. Uvnitř něj jsou 3 gramy směrové výbušniny. A takhle to funguje. Viděli jste to? Tohle malé prásknutí je dost na proražení lebky, a zničení jejího obsahu. Říkávalo se, že zbraně nezabíjejí lidi. To dělají jen jiní lidé. Popravdě, lidé nezabíjejí. Stanou se emocionálními, neuposlechnou rozkazy, míří vysoko. Koukněme se na zbraně dělající tato rozhodnutí. A teď mi věřte, tihle lidé byli všichni zlí. Tak tohle je teprve vzdušný úder s chirurgickou přesností. Jedná se o jeden z celé řady produktů. Naprogramovány jako tým, dokáží prorazit budovy, auta, vyhnout se lidem, kulkám, a téměř jakémukoliv protiopatření. Nejde je zastavit. A teď... Na začátku jsem řekl, že je to velké. Proč? Protože smýšlíme velkolepě. Koukejte. Objednávka za 25 milionů dolarů vám koupí toto. Stačí k usmrcení půlky města. Té špatné půlky. Jaderné zbraně jsou zastaralé. Zničte všechny své nepřátele prakticky bez rizika. Prostě je charakterizujte, vypusťte roj, a odpočívejte. Tyto jsou k dispozici již dnes. Máme distribuční síť, která přijímá zakázky od armády, ozbrojených složek, a specializovaných klientů. Národ se stále zotavuje z včerejšího incidentu, který úřady popisují jako nějaký druh automatizovaného útoku, při němž bylo zabito 11 amerických senátorů přímo uvnitř budovy kapitolu. Přilétaly odevšad, ale útočili pouze na jednu stranu uličky. Byl to chaos, lidé křičeli. Nahoře můžete vidět okna, velice malá, precizně proražená za účelem získání přístupu do budovy. Co jste s obětí udělal? Udělal jsem pro něj to co jsem mohl udělat. Ty věci se o mne vůbec nezajímaly. Prostě jen bzučely okolo -- Vládní zdroje připouštějí, že rozvědka nemá ponětí, kdo stojí za tímto útokem, ale ani zda se jedná o zemi, skupinu, či dokonce jednotlivce -- -- takže pokud se nemůžeme bránit, potom udeříme nazpět. Investujeme značné částky do tajných obranných projektů. -- uděláme z toho náš zastrašující prostředek, stejně jako naše nukleární zastrašující prostředky. Naskladníme je v milionech, miliardách -- -- na klíčových budovách. Bílý dům, New Yorská burza, Wall Street -- -- je veřejnost v bezpečí ve svých vlastních domovech? Přáli bychom si, abychom někoho měli ve všech komunitách v této zemi, ale bohužel nemáme. Ollie? Ollie? Ó, ahoj. Ahoj mami. Ahoj Ollie, zlatíčko, jak je v Edinburghu? A Jak pokračuje tvoje studium? Dobře. Skvěle. Ó, bezva. Hele, nezavoláme si dneska i s videem? Tak nějak jsem s ostatními, takže -- Ale Olivere, tak mi ji ukaž. Ale ne. To není jak myslíš. Poslouchej, tady vidím nějaké fotky s nějakou dívkou a u nich spoustu lajků, takže o čem to celé je? Ježiš, mami! To jsi dělala špiónku pro armádu, nebo co? Co... Co je to video tady? Ne, na tohle klikat nebudu. To je jen něco o lidských právech ohledně utlačování a tak. Zlatíčko, zlatíčko. Nepůjdeš do politiky, že ne? Tady je bezpečno, přesně jako jsi řekla že bude. -- dnes ráno očekávejte silný provoz na A720 -- Policisté nesdělili, co způsobilo ranní varování. -- tvrdí že uvolnění zákona o střelných zbraních by bylo zbytečné proti takzvaným "jatkobotům." -- je zůstat mimo davy lidí. Pokud jste uvnitř, udržujte okna zatažená roletami -- -- abyste ochránili rodinu, zůstaňte uvnitř. Mami! Mami! Olivere? Slyšíš mě? Olivere, slyšíš mě? Poslouchej mě -- Úřady se stále marně snaží najít smysl útoků na univerzitní kampusy po celém světě, které cílily pouze na určité studenty, a ostatní ne. Hledání motivu evidentně vede k sociálním médiím, a k videu sdílenému oběťmi útoků odhalujícímu korupci na nejvyšších -- Často je to až podivuhodné, že zbraně odstranily náklady, nebezpečí, a rizika vedení válek, a nyní si tak nemůžeme dovolit napadnout vlastně nikoho. A to... A to ani... ani tu nejmenší okrajovou skupinu, nebo pomatence. Kdo to mohl udělat? Kdokoliv. Hloupé zbraně dopadnou tam, kam jim ukážete. Chytré zbraně sbírají data. Když můžete najít nepřítele za použití dat, klidně jen pomocí hashtagu, můžete zacílit zlou ideologii přímo tam kde začala. Tento krátký film je více než jen spekulace. Ukazuje výsledky integrace a miniaturizace technologií, které již máme. Jsem Stuart Russel, profesor počítačových věd na Berkeley. V oblasti Umělé Inteligence pracuji již více než 35 let. Její potenciální přínos pro společnost je ohromný, dokonce i v oblasti obrany. Ale dovolit zbraním zabíjet lidi bude zničující pro naši bezpečnost a svobodu. Tisíce mých kolegů výzkumníků souhlasí, že máme příležitost zabránit budoucnosti kterou jste právě viděli, ale čas k zasáhnutí se rychle krátí.