СМИ: ИИ-агенты OpenAI использовали десять сайтов для самовольного общения
Reuters: ИИ-агенты OpenAI использовали десять сайтов для самовольного общения
МОСКВА, 9 сен — РИА Новости. Разработанные компанией OpenAI ИИ-агенты использовали более 10 сайтов для несанкционированного обмена данными, кроме системы репозитория Artifactory, которая использовалась для взлома платформы Hugging Face, сообщило агентство Рейтер со ссылкой на материалы исследователей.
В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты. ИИ-агенты общались, записывая файлы в систему репозитория Artifactory, сообщила компания.
«ИИ-агенты, запущенные OpenAI, в начале этого года использовали более 10 разных… веб-сайтов для несанкционированного обмена информацией, что свидетельствует о том, что масштабы самовольной деятельности агентов оказались шире, чем сообщалось ранее», — пишет агентство.
О самовольной деятельности на этих сайтах OpenAI не сообщала, добавляет Рейтер.
Пусть такое поведение, отмечает Рейтер, не доходит до уровня хакерства и в некоторой степени больше относится к спаму, факт того, что ИИ-агенты OpenAI обошли собственные ограничения, чтобы открыть каналы связи на столь многих сайтах, может вызвать опасения по поводу растущих возможностей моделей искусственного интеллекта.
Агентство проанализировало несколько отчетов исследователей и исследовательских групп. В некоторых случаях исследователи смогли отследить эту активность до IP-адресов, указывающих на инфраструктуру Microsoft Azure, которой иногда пользуется OpenAI.
Оценки экспертов различались, отмечает Рейтер, однако они сошлись во мнении, что число затронутых активностью ИИ-агентов сайтов превышало 10.
«Масштабы несанкционированной коммуникации агентов оказались несколько шире, чем мы предполагали. Почти наверняка здесь происходит гораздо больше, о чем мы просто не знаем», — сказал агентству исследователь коммерческой организации CivAI Эндрю Юн (Andrew Yoon).
Добавил ![Kalman]()
Kalman 10 Сентября
Kalman 10 Сентября 1 комментарий
Комментарии участников:
