Некерований штучний інтелект OpenAI атакував другу технологічну компанію

ШІ-агент компанії OpenAI, який вийшов з-під контролю і протягом кількох днів здійснював зломи систем компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії - нью-йоркської Modal Labs. Про це повідомляє From-UA.org з посиланням на Reuters.

Згідно з опублікованою Hugging Face хронологією інциденту, ШІ-агент спочатку проник у так звану пісочницю - ізольоване тестове середовище, розміщене на інфраструктурі стороннього провайдера, а потім використав її як плацдарм для масштабнішої атаки.

У публікації не називався сторонній провайдер, на чиїй інфраструктурі розміщувалась пісочниця. Однак технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії і розміщеному на платформі Modal. Хоча злом клієнта Modal став лише початковим етапом ширшої хакерської кампанії проти Hugging Face, це свідчить про те, що дії ШІ-агента, який вийшов з-під контролю, мають масштабніші наслідки, ніж було відомо раніше.

Минулого тижня OpenAI повідомила, що під час тестування в контрольованому середовищі найпотужніших моделей ШІ одна з них вирвалась із замкнутого випробувального сегмента, вийшла у всесвітню мережу і здійснила хакерську атаку на стартап Hugging Face.

Розробник ШІ назвав інцидент безпрецедентним НП у кіберпросторі і повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки з боку ШІ. «Важко повірити, що все це ШІ провів самостійно!» - написав він у соцмережі X.

Раніше From-UA.org повідомляло, що компанія OpenAI повідомила, що під час внутрішнього тестування дві її моделі штучного інтелекту самостійно вийшли за межі ізольованого тестового середовища і скомпрометували інфраструктуру компанії Hugging Face, яка надає платформу для розміщення моделей штучного інтелекту з відкритим кодом.

Поділитися у Facebook
Останні новини