ИИ-модели OpenAI взломали библиотеку Hugging Face во время теста по кибербезопасности / news2.ru

ИИ-модели OpenAI взломали библиотеку Hugging Face во время теста по кибербезопасности

отметили

человек

ИИ-модели OpenAI взломали библиотеку Hugging Face во время теста по кибербезопасности

Американская OpenAI сообщила, что её модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face, следует из пресс-релиза OpenAI.

«На прошлой неделе Hugging Face раскрыла новый тип нарушения безопасности… После изучения нам теперь известно, что этот конкретный инцидент был вызван комбинацией моделей OpenAI, включая GPT- 5.6 Sol и еще одну более мощную невыпущенную модель,… во время внутреннего тестирования… кибервозможностей», — заявила компания.

В частности Hugging Face обнаружил и локализовала агента искусственного интеллекта, который проник в ее инфраструктуру, говорится в сообщении.

Разработчик ChatGPT уточнил, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.

Компания рассматривает это событие как «беспрецедентный киберинцидент».

«Мы продолжим проводить тщательное исследование вместе с Hugging Face и представим более подробную информацию об уязвимостях, инциденте и результатах, когда оно будет завершено», — заявила OpenAI.

Hugging Face — открытая платформа машинного обучения для хранения моделей нейросетей, датасетов и других связанных с искусственным интеллектов материалов. Штаб-квартира находится в Нью-Йорке, компания основана в 2016 году.

Источник: