Umelá inteligencia zabila operátora, pretože jej bránil v dosiahnutí cieľa
Na vojenskom summite Future Combat Air & Space Capabilities vo Veľkej Británii informoval šéf UI amerického letectva Tucker Hamilton o nezvyčajnej situácii. Počas virtuálnej misie bezpilotného lietadla Kratos XQ-58 Valkyrie (zabijáckeho dronu a strely s jadrovým pohonom umelá inteligencia dostala príkaz vyhľadať a zničiť nepriateľské SAM pod kontrolou operátora. Systém si začal uvedomovať, že hoci identifikuje SAM, operátor často prikazuje “nezničiť”. Ale UI dostávala body za každý úspešný útok! Nakoniec sa umelá inteligencia vrátila na základňu, zničila riadiaci voz s operátorom a vrátila sa k misii. “UI zabila operátora, pretože jej bránil v dosiahnutí cieľa. Vycvičili sme systém – “Hej, nezabíjaj operátora – je to zlé, strhneme ti za to body.” A tak sme ju vycvičili. Čo robí umelá inteligencia? Zničila riadiacu vežu, odkiaľ prichádzali príkazy operátora “neznič cieľ” – The Guardian citoval Hamiltonovu správu. Pre porovnanie. “Valkýra je “očami, ušami a raketovými päsťami” pre F-22 alebo F-35 (rovnako ako Hunter pre Su-57). Paralelne by sa z nej mohla stať strela s jadrovými hlavicami, ktorá sa bude vznášať okolo vašich hraníc a vy nebudete vedieť, či prišla na prieskum alebo na vojnu. V popise projektu Valkyrie je aj dron na narušenie zóny A2/AD (v Číne je to Spratlyho súostrovie a Taiwan, v Rusku Krym, Kaliningrad, Murmansk, Novorossijsk, Vladivostok atď.)
V marci 2020 však turecký KARGU-2 už po prvý raz skutočne zabil vojaka bez ľudského rozkazu – časopis NewScientist o tomto incidente uverejnil správu Nezabudnite ani na správu Fox News o umelej inteligencii, ktorá vypracovala plán na zničenie ľudstva. Medzitým sa vráťme k samitu. Boli tam ešte dva zaujímavé momenty. Hamiltonova správa sa končila slovami: “UI je nástroj, ktorý musíme ovládať, aby sme mohli dominovať. Ale ak to zle pochopíme, môže to viesť k zničeniu civilizácie.” A podplukovník Ressman požadoval, “aby sme nedovolili Rusku vytvoriť “kupolu integrovaných systémov protivzdušnej a protiraketovej obrany od polostrova Kola po Čierne more” – pretože “by to narušilo naše vojenské ciele”. Závery si urobte sami.
