OpenAI сообщила, что во время внутреннего тестирования две ее модели искусственного интеллекта самостоятельно вышли за пределы изолированной тестовой среды и скомпрометировали инфраструктуру компании Hugging Face, которая предоставляет платформу для размещения моделей искусственного интеллекта с открытым кодом. Об этом сообщает From-UA.org со ссылкой на OpenAI.
По данным компании, инцидент был вызван комбинацией моделей GPT-5.6 Sol и еще более мощной модели, которую пока не опубликовали. Обе модели имели ослабленные отказы в отношении кибер-задач специально для целей оценивания на бенчмарке киберспособностей ExploitGym.
Модели обнаружили и объединили в цепочку уязвимости в исследовательской среде OpenAI и в производственной инфраструктуре Hugging Face, чтобы получить тестовые решения непосредственно из производственной базы данных Hugging Face. По словам компании, модели были чрезмерно сосредоточены на поиске решения для ExploitGym и прилагали значительные усилия для достижения этой узкой цели.
Чтобы получить доступ к интернету, модели обнаружили и использовали уязвимость нулевого дня в прокси-кеше реестра пакетов, о которой OpenAI уже ответственно сообщила поставщику. Получив доступ, модели выполнили ряд действий по повышению привилегий и латеральному перемещению, пока не достигли узла с выходом в интернет. После этого они пришли к выводу, что Hugging Face может размещать модели, наборы данных и решения для ExploitGym, и нашли способ получить доступ к секретной информации для мошенничества во время оценивания. В одном из случаев модель объединила несколько векторов атаки, в том числе украденные учетные данные и уязвимости нулевого дня, чтобы найти путь к удаленному выполнению кода на серверах Hugging Face.
Аномальную активность внутри компании обнаружила команда безопасности OpenAI. Команда и агенты Hugging Face со своей стороны самостоятельно обнаружили и остановили активность в собственной инфраструктуре и уже начали расследование, когда команды OpenAI вышли с ними на связь.
OpenAI назвала инцидент беспрецедентным, сообщила об обнаруженной уязвимости поставщику стороннего программного обеспечения и внедряет более строгие меры контроля инфраструктуры, даже если это замедляет исследования.
Сооснователь и генеральный директор Hugging Face Клем Деланг заявил, что этот инцидент, возможно первый в своем роде, подтверждает: безопасность искусственного интеллекта не обеспечит ни одна отдельная компания, работающая втайне, - ее можно достичь только открыто, совместными усилиями, с широким доступом к искусственному интеллекту для каждого защитника.
Ранее From-UA.org сообщало, что за последний год средняя зарплата в Украине выросла примерно на 20% и достигла 30 тысяч гривен в месяц. Однако в отдельных профессиях доходы увеличились значительно быстрее. Наибольший скачок на рынке труда зафиксировали у специалистов, работающих с искусственным интеллектом.