Doslov

Výrok, z ktorého táto kniha vychádza, je skutočný. Bill Gates povedal, že umelá inteligencia je dosť silná na to, aby vyvolala udalosti s miliardou obetí, a že takú silnú zbraň ešte nikdy nemali v rukách ľudia so zlým úmyslom. Sám dodal, že zasiahnuť celé ľudstvo by bolo ťažké. A pridal požiadavku: samoregulácia nestačí, treba povinné bezpečnostné pravidlá a štátny dohľad. Po prvých autonómnych hackerských útokoch sa za spomalenie vývoja vyslovili aj Anthropic a OpenAI, teda tí, ktorí ten stroj stavajú. Hovoril o svete a o miliarde. Táto kniha sa pýta, ako by rovnaká veta vyzerala v menšom meradle u nás, počas jediného týždňa.

Všetko ostatné je fikcia. Nemocnica, obec, vodáreň, stredisko na Sliači, zákon aj zaisťovňa – nič z toho sa nestalo. Mechanizmy však vymyslené nie sú. Umelá inteligencia už dnes zlacňuje útoky a zrýchľuje ich. Lož dokáže vyrobiť za minútu v kvalite, na akú pravda potrebuje laboratórium. Najbližšie riziko nie je vzbura strojov, ale masívne útoky na infraštruktúru, ktorú používame každý deň bez toho, aby sme o nej premýšľali.

Miliardu treba čítať ako hornú hranicu. Na jej dosiahnutie by sa muselo zísť priveľa zlyhaní naraz. Lenže v tejto knihe nikoho nezabila samotná umelá inteligencia. Ľudia zomreli na chybu v ručnom dávkovaní nadránom, na nedostatok inzulínu, ktorý si nebolo za čo kúpiť, na tlačenicu pri kamióne s vodou, ktorú nikto nepotreboval, na infarkt vodiča, ktorý rozvážal vodu dvadsať hodín bez prestávky. Každý obranca konal kompetentne a každá obeť sa vytratila zo štatistík, lebo ju nebolo možné pripísať priamo útoku.

Na veľké čísla sa pripravujeme radi. Malé sú roztrúsené po obciach, nemocniciach a matrikách, kam sa nikto nepozrie.

Ak sa pripravujeme na katastrofu s jedným veľkým číslom, kto sa pripravuje na tú, ktorá ich má sedem malých?

Rita Singula