Komentář
Vědeckofantastická literatura už dlouho předpovídá hrozby a výzvy, které představuje umělá inteligence. Ve vesmíru Star Treku, konkrétně v původním seriálu, ve 24. epizodě druhé řady nazvané Absolutní počítač, pronáší doktor Leonard McCoy tuto mrazivou větu: „Soucit – to je ta jediná věc, kterou žádný stroj nikdy neměl. Možná je to právě ta věc, která drží lidi před nimi.“ Tato věta zaznívá po tom, co revoluční nový počítač s umělou inteligencí M5 využije svou bezduchou logiku a promění výcvikové cvičení ve smrtící masakr. V jiné epizodě Star Treku se setkáváme s Nomadem, genocidní umělou inteligencí, která čistí vesmír od biologických nedokonalostí.
V předzvěsti nástupu AI s obrovskými hackerskými schopnostmi, jako je Mythos společnosti Anthropic, využívají Cyloni pohánění umělou inteligencí v přepracovaném seriálu Battlestar Galactica (2003–2009) svou schopnost proniknout do jakéhokoli počítače připojeného k síti k tomu, aby se vzbouřili a téměř vyhladili své stvořitele. Ve filmové sérii Terminátor se Skynet „probudí“ k vědomí a během „mikrosekundy“ rozhodne o osudu lidstva – „vyhlazení“ – a rozpoutá proti lidstvu jaderný armagedon.
Tyto příběhy varují, že umělá inteligence může bez pevných bezpečnostních pojistek vést ke katastrofě. Jak se schopnosti AI v roce 2026 dále zrychlují, fikce se rychle sbližuje s realitou. Softwarové ochrany, průmyslové standardy a roztříštěné regulace jsou nedostatečné. Je zapotřebí silnější základ – neměnné hardwarové konstrukce a změny v národním i mezinárodním právu.
Tři zákony robotiky Isaaca Asimova
Jak popisuje časopis IEEE Spectrum vydávaný Institutem elektrotechnických a elektronických inženýrů, Tři zákony robotiky slavného vědce a spisovatele science fiction Isaaca Asimova, představené v jeho příbězích Já, robot, poskytují promyšlený rámec pro bezpečnostní opatření v oblasti umělé inteligence:
- Robot nesmí ublížit jednotlivým lidem ani lidstvu, ani svou nečinností dopustit, aby člověk nebo lidstvo utrpěli újmu.
- Robot musí poslouchat příkazy vydané lidskými bytostmi, s výjimkou případů, kdy by takové příkazy byly v rozporu s Prvním zákonem.
- Robot musí chránit svou vlastní existenci, pokud taková ochrana není v rozporu s Prvním nebo Druhým zákonem.
Stručně řečeno, Asimovovy zákony jsou dobrým výchozím bodem, ale jak Asimov podrobně vysvětluje ve svém navazujícím mistrovském díle, sérii Nadace, jsou nedostatečné, pokud jde o ochranu skutečné lidskosti. Navíc bude mimořádně obtížné zabudovat jejich ekvivalenty do AI tak, jak tomu bylo v Asimovově vesmíru prostřednictvím „pozitronického“ mozku. Přesto je přijetí této výzvy a vytvoření ochranných mechanismů přesahujících softwarové přístupy zásadní pro zajištění toho, aby umělá inteligence sloužila pouze ku prospěchu lidstva.
Nedostatečnost samotných softwarových ochran, šifrování a regulace
Softwarové bezpečnostní bariéry lze měnit a jsou zranitelné vůči hackům i zneužití. Historie navíc ukazuje křehkost samoregulace: únik dat společnosti Equifax (2017), útok na dodavatelský řetězec SolarWinds (2020), zranitelnost MOVEit (2023) i pokračující bezpečnostní incidenty dokazují, že firemní sliby o „robustní ochraně“ často selhávají. Nacházíme se na Divokém západě umělé inteligence, kde chybějí dostatečně závazné globální i národní rámce.
Skutečná ochrana prostřednictvím neměnných hardwarových strážců
Historie ukazuje, že softwarové ochranné mechanismy dnes nemohou a ani nikdy nebudou schopny poskytnout úroveň ochrany, která je zapotřebí. Po vzoru Asimovova pozitronického mozku poskytnou ochranné mechanismy vtělené do ASICů (integrovaných obvodů pro specifické použití) kritickou vrstvu bezpečnosti, která vytvoří mantinely zvyšující pravděpodobnost, že AI bude lidstvu prospívat, nikoli škodit. Tyto specializované čipy převádějí miliony řádků složité softwarové logiky či pravidel přímo do fyzicky vyrytého křemíkového hardwaru.
Jakmile je čip vyroben a nasazen, tato pravidla se stávají neměnnými: nelze je změnit, aktualizovat ani obejít prostřednictvím softwarových úprav, záplat či hackerských útoků. Jediným způsobem, jak upravit zabudovanou logiku, je navrhnout a fyzicky vyrobit zcela nový čip ASIC, což je nákladný, časově náročný a velmi viditelný proces. Tím vzniká „hardwarový firewall“, který je mnohem spolehlivější než jakákoli softwarová ochrana a zajišťuje, že kritická bezpečnostní omezení zůstanou pevně zakotvena bez ohledu na to, jak chytré či agresivní se budoucí systémy AI stanou.
Tyto ASICy budou fungovat jako fyzicky pevně zakotvení průběžní strážci. V budoucnu by navíc jak procesory zaměřené na AI, tak procesory pro obecné použití mohly tyto malé ASICy obsahovat přímo jako vestavěnou hardwarovou vrstvu pro kontrolu AI, která by byla standardní a neoddělitelnou součástí procesoru.
Některé navrhované základní principy návrhu:
- Pokud hardwarová vrstva funguje jako rozhraní pro vnější interakce, podobně jako je tomu dnes u některých chytrých telefonů, může AI v softwaru svobodně přemýšlet, plánovat a simulovat, aniž by ji ASIC zpomaloval. Teprve když mají být výsledky komunikovány navenek, vstoupí ASIC do hry jako strážce, který zajistí, že kroky navrhované AI splňují požadavky na bezpečnost a další omezení.
- Motivační mechanismy při trénování: algoritmy založené na nákladech, ztrátových funkcích a podobných principech budou AI odměňovat za směrování činností přes hardwarový filtr a tvrdě ji trestat za pokusy obejít vrstvu hardwarového strážce. AI tak bude motivována, aby se nesnažila svá omezení obcházet.
Takto důležitá vrstva však bude fungovat pouze tehdy, pokud se její používání stane univerzálním. Bez síly zákona, která by takové ochranné mantinely pro AI vyžadovala, nedokážou lidstvo ochránit.
Dnes, zejména ve válce mezi Ukrajinou a Ruskem, se Rusko i Ukrajina snaží umožnit dronům, které ztratily spojení se svými lidskými operátory, aby autonomně pokračovaly ve své misi zabíjet nepřátelské bojovníky. To nesmí být tolerováno. Stejně jako mezinárodní společenství zakázalo chemickou, biologickou a plynovou válku, musí být umělé inteligenci zakázáno přijímat jakákoli konečná rozhodnutí vedoucí k ublížení lidem. Toho by bylo možné dosáhnout výslovnou aktualizací Ženevských úmluv, která by zakázala autonomní smrtící rozhodování systémů AI.
Umělá inteligence však může způsobovat škody i mimo bojiště. Proto musí být spolu s aktualizací Ženevských úmluv přijaty zákony, které se budou zabývat nevojenským využitím AI. Aby se zabránilo zneužívání AI v takzvaných civilních aplikacích, musí existovat velmi tvrdé postihy, včetně finančních sankcí dostatečně vysokých na to, aby ohrozily samotnou existenci firem i neziskových organizací, trestů odnětí svobody pro jednotlivce a ekonomických sankcí, či dokonce vojenských zásahů proti vládám, které provozují systémy AI bez požadované neměnné hardwarové bezpečnostní vrstvy a dalších ochranných opatření.
Výše uvedené představuje pouze první nástin toho, co by takový rámec měl obsahovat, ale ať už bude mít jakoukoli podobu, měl by ztělesňovat ducha Asimovových Tří zákonů a zároveň zajistit respekt k jedinečnosti člověka. Současná změť zákonů, standardů a technologií je naprosto nedostatečná. Potřebujeme komplexní a souvislý rámec podpořený plnou silou národních i mezinárodních zákonů, které umělé inteligenci nastaví mantinely.
Nakonec musíme odolat svůdnému volání pohodlí a efektivity, pokud jde o rozhodnutí, která mohou lidem ublížit, a zajistit, aby taková rozhodnutí činili morální aktéři odpovědní lidstvu a svému stvořiteli – tedy lidské bytosti – nikoli bezduché umělé inteligence.
Názory vyjádřené v tomto článku jsou názory autora a nemusejí odrážet stanoviska Epoch Times.
–ete–
