Штучний інтелект проти природної дурості: шеф кібербезпеки США "злив" в ChatGPT секретні документи
У Сполучених Штатах розгорається серйозний скандал, в центрі якого опинилося Агентство з кібербезпеки та інфраструктури (CISA). Це саме та структура, яка повинна захищати урядові мережі від найвитонченіших атак російських і китайських хакерів.
Однак, як повідомляє видання Politico, загроза прийшла не ззовні, а з кабінету найвищого рангу. З'ясувалося, що минулого літа виконуючий обов'язки директора відомства Мадху Готтумуккала завантажив у звичайну, публічну версію ChatGPT документи з позначкою «тільки для службового використання».
Хоча ці документи і не мали грифу суворої таємності, вони містили досить чутливу інформацію про контракти, укладені Агентством. Проблема в тому, що всі дані, які потрапляють у публічний чат-бот, стають частиною його величезної бази знань. Це означає, що тепер будь-який із 700 мільйонів користувачів сервісу OpenAI потенційно може отримати доступ до цих матеріалів у вигляді згенерованих відповідей. Найіронічніше в цій ситуації те, що Готтумуккала після свого призначення особисто клопотав про спеціальний дозвіл на використання ChatGPT, хоча зазвичай доступ до таких ресурсів в держструктурах заблокований саме через ризик витоків.
Внутрішні системи безпеки CISA спрацювали миттєво, зафіксувавши підозрілу активність і активувавши захисні протоколи. Було розпочато службове розслідування, яке підтвердило факт завантаження документів. В офіційному коментарі представники Агентства спробували згладити кути, заявивши, що використання нейромережі було «обмеженим і в рамках тимчасового дозволу». Проте, інцидент наочно показав, наскільки вразливі навіть найзахищеніші структури перед людським фактором і сучасними технологіями.
На даний момент використання будь-яких публічних ШІ-сервісів всередині CISA залишається під суворою забороною. Ця історія викликала хвилю критики у Вашингтоні, адже відомство, відповідальне за національну кібербезпеку, саме допустило елементарну помилку, яку зазвичай роблять новачки. Поки експерти намагаються оцінити масштаб збитків, використання штучного інтелекту в державному секторі США опинилося під великим питанням.