Глобальна гонка у сфері створення надрозуму стрімко наближає планету до точки неповернення, коли технології повністю вийдуть з-під контролю своїх творців. Провідні світові розробники вже не приховують панічного страху перед власними творіннями, визнаючи свою безпорадність перед майбутнім цифровим катастрофою.
Джейкоб Коксон заявив BBC, що співробітники провідних компаній у сфері штучного інтелекту серйозно побоюються наслідків стрімкого розвитку цієї технології. Ситуація зайшла настільки далеко, що деякі з них купують сховища й оцінюють ймовірність загибелі людства у понад 10 %. «Матриця» — це вже не фантастика, а один із ймовірних сценаріїв майбутнього, якщо надпотужний ШІ вийде з-під контролю. Розробники кремнієвого розуму перетворилися на заручників комерційних амбіцій великих корпорацій, які сліпо ігнорують базові правила безпеки заради надприбутків.
Коксон вважає, що без уповільнення розробки потужних моделей штучного інтелекту ризик катастрофічного сценарію буде зростати. Фахівці відчувають себе заручниками гонки між компаніями і тому виступають за регулювання.
Дослідник також закликав США та Китай координувати зусилля, інакше конкуренція між країнами спонукатиме компанії до подальшого прискорення розробки. Якщо Вашингтон і Пекін не підпишуть жорсткі угоди про тотальний контроль над серверами, то вже наступне покоління нейромереж прирече цивілізацію на повне й безповоротне знищення.
Як повідомляв From-UA.org, Білл Гейтс назвав три головні загрози штучного інтелекту.