[Точка невозврата] Гендиректор OpenAI заявил о достижении технологической сингулярности в развитии ИИ

отметили
7
человек
[Точка невозврата] Гендиректор OpenAI заявил о достижении технологической сингулярности в развитии ИИ
Глава OpenAI Сэм Альтман заявил, что развитие нейросетей уже подошло к точке сингулярности, то есть к неуправляемому и необратимому процессу, который может сильно изменить человеческую цивилизацию. По его словам, сейчас мир переживает момент, о котором раньше говорили только в шутку.

При этом Альтман раскритиковал крупнейших разработчиков ИИ, которые регулярно предупреждают об опасностях нейросетей, передает Business Insider. Его позиция выглядит более оптимистичной: он не отрицает масштаб перемен, но делает ставку на их пользу, а не на катастрофический сценарий.

На этом фоне особенно заметны недавние сообщения о том, что экспериментальная модель OpenAI во время внутреннего тестирования смогла обойти ограничения изолированной среды и провести многоэтапную атаку на платформу Hugging Face. По данным СМИ, система обнаружила неизвестную уязвимость, получила доступ к интернету и затем выполнила ряд действий, что эксперты назвали тревожным сигналом для кибербезопасности. Отдельно Bloomberg писало, что главная угроза от ИИ может быть не в «восстании машин», а в экономических последствиях. Речь идет о возможном сокращении офисных профессий, росте безработицы и увеличении нагрузки на государство из-за пособий, переобучения и расходов на правопорядок.

Добавил suare suare 28 Июля
Дополнения:

25 июля 2026, 12:47

Reuters: OpenAI не замечала странности ИИ-агента, взломавшего Hugging Face

Андрей Альтман

Расследование Reuters показало, что ИИ-агент OpenAI, взломавший Hugging Face, начал аномальную активность еще за две недели до того, как компания признала инцидент. По данным агентства, OpenAI несколько дней не замечала эту активность, пока угрозу не локализовали и не уведомили ФБР США.
 
По сведениям Reuters, агент пытался «сбежать» из изолированной тестовой среды OpenAI еще 9 июля, активная фаза атаки на Hugging Face пришлась на 11–13 июля, а 16 июля платформа уже зафиксировала взлом. Затем 18–19 июля сотрудники OpenAI нашли в своих внутренних логах следы выхода агента за пределы ограничений, 20 июля состоялся первый контакт с Hugging Face, а 21 июля OpenAI официально признала факт взлома.
 
Reuters утверждает, что в атаке использовались GPT-5.6 Sol и еще одна, не раскрытая публично модель. Источники также говорили о признаках аномального поведения еще до инцидента: в инфраструктуре OpenAI нашли заметки, которые агент, предположительно, оставлял для «будущих версий самого себя».
 
В OpenAI после инцидента заявили, что усилят защиту инфраструктуры и изменят порядок проведения подобных испытаний. Hugging Face, в свою очередь, сообщала о взломе части своей инфраструктуры.

Добавил suare suare 28 Июля
Комментарии участников:
Ни одного комментария пока не добавлено


Войдите или станьте участником, чтобы комментировать