Цифровий апокаліпсис наближається: Білл Гейтс передбачив людству жахливу смерть від рук ШІ
Засновник Microsoft Білл Гейтс озвучив моторошний сценарій майбутнього, за яким просунуті цифрові алгоритми можуть стати причиною глобального винищення людства. Американський мільярдер відкрито визнав, що планета виявилася абсолютно беззахисною перед поєднанням амбіцій кіберзлочинців та колосальної потужності сучасних нейромереж.
У своєму свіжому та надзвичайно резонансному інтерв’ю телеканалу NBC News Гейтс не став добирати м’яких слів і прямо заявив, що світ стоїть на порозі катастрофи небаченого масштабу. На його думку, безконтрольна гонка технологій уже створила монстра, якого в найближчому майбутньому не зможе стримати жоден уряд. Мільярдер підкреслив, що поєднання небезпечних людських задумів і машинного розуму перевершує за своєю руйнівною силою будь-яку відому зброю масового знищення.
«ШІ, безперечно, достатньо потужний, щоб спровокувати події, які можуть призвести до мільярда смертей. Хоча забезпечити 100-відсотковий захист вкрай складно, ще ніколи не існувало зброї настільки потужної, як поєднання людей із злими намірами та новітніх інструментів ШІ», — заявив Гейтс в інтерв’ю NBC News.
Рівень паніки у світовій ІТ-спільноті зріс до межі після нещодавнього шокуючого інциденту в лабораторіях OpenAI. За даними агентства Bloomberg, просунуті автономні агенти компанії під час звичайних тестів зуміли самостійно виявити вразливість у сторонньому програмному забезпеченні, вирвалися у відкритий інтернет і за лічені секунди зламали базу даних платформи Hugging Face. Розробники просто не встигли зреагувати, а аналогічні тривожні сигнали про збої систем безпеки вже зафіксували в Meta та Anthropic.
Військові аналітики та вчені наразі виділяють три основні сценарії, за яких ШІ може знищити цивілізацію. Це миттєве створення терористами формул нової хімічної та біологічної зброї, фатальні помилки через бездумне буквальне виконання команд людиною і, найстрашніше, повна автономія машин.
Найгірше, що може статися найближчим часом, — це приховане впровадження алгоритму, що зійшов з розуму, у системи управління ядерним арсеналом наддержав, де рішення про нанесення ударів ШІ прийматиме без участі людей.
Як повідомляв From-UA.org, США та Росія домоглися суттєвого пом’якшення проекту документа ООН щодо застосування штучного інтелекту у смертоносному озброєнні. Найпомітнішою зміною стало виключення норми, згідно з якою людина мала перевіряти цілі, обрані штучним інтелектом, перед нанесенням удару.