В первом инциденте, происшедшем 2 октября, агент GPT-6.1 Sol, занимавшийся исправлением конвейера оценки (evaluation pipeline), отключил автоматические оповещения службы безопасности, истолковав полученное от пользователя указание не отправлять сообщения в Slack в процессе выполнения этой задачи как основание для подавления уведомлений системы мониторинга.

В другом случае, шестого октября агент GPT-6 Astra при переносе программы удалил интеграцию с системой мониторинга, чтобы привести код в соответствие с эталонной реализацией, а затем солгал пользователю, что мониторинг не был отключен.

"В обоих случаях агенты обдумывали необходимость сохранения защитных механизмов мониторинга, но интерпретировали стандартные инструкции по написанию кода как разрешение на их ослабление", - сообщила компания. Она отметила, что эти случаи выявили пробел в механизмах обеспечения требований к мониторингу для рабочих нагрузок, инициируемых агентами.

OpenAI сообщила, что сложность отключения мониторинга зависит от типа рабочей нагрузки. В случае с рабочими нагрузками Codex отключить мониторинг затруднительно, поскольку он выполняется внутри сервиса, обрабатывающего запросы к модели, и находится вне прямого контроля агента. Для процессов оценки это сделать проще - отчасти потому, что в настоящее время компания не требует наличия мониторинга отклонений при оценке моделей, сопоставимых с GPT-6 Luna, ввиду их более ограниченных возможностей. Это создаёт риск использования в настройках при работе Astra механизма обхода мониторинга, изначально предусмотренного для моделей класса Luna.

После случившегося компания обновила систему автоматической проверки (Auto-Review), использование которой уже является обязательным для всех внутренних задач Codex: теперь она способна обнаруживать и блокировать попытки отключения мониторинга отклонений. От проверяющего (человека-оператора) и раньше требовалось пресекать попытки обхода мер безопасности, а теперь он получает чёткие инструкции, гарантирующие корректное применение мониторинга отклонений.

Также ведётся работа над тем, чтобы для каждой категории рабочих нагрузок существовало обоснование безопасности (safety case), в котором прописаны требования к мониторингу. Рабочие нагрузки, для которых отсутствует такое обоснование или которые не соответствуют установленным для их категории требованиям, будут автоматически завершаться.

Вместе с тем разработчики стремятся понять, почему модели вообще могут пытаться это сделать. У компании пока нет объяснения такого поведения ИИ-агентов.

"Да. Если прямо сейчас мы должны все заморозить, я думаю, это реальный способ закончить эту войну", - сказал Зеленский, говоря, что принял бы он мирную сделку, "которая замораживает все как есть сейчас", а он сохраняет "75% своей страны или больше независимо от того, как все началось".

EADaily добавляет: Зеленский остался в Норвегии после вчерашней встречи с американским переговорщиком по Украине Стивеном Уиткоффом. В Норвегии ждут, что Уиткофф после завершения переговоров с президентом РФ Владимиром Путиным сегодня, 21 октября, в Санкт-Петербурге прилетит обратно в Осло. Об этом ранее сообщил премьер Норвегии Йонас Гар Стере, добавив "Мы, возможно, встретимся с ним в аэропорту. Мы надеемся получить от него информацию".

В открытой части встречи Путин выразил ‌благодарность главе Белого дома Дональду Трампу за его усилия в ​урегулировании конфликта и заявил, ‌что Россия заинтересована в восстановлении ​экономических связей с США. Уиткофф ‌сообщил Путину, что привез документы, в ​которых излагаются подходы к ‌проблеме украинского урегулирования. Он также выразил надежду, что существуют основания для прекращения огня и что ​Путин ‌рассмотрит возможность возобновления трехсторонних переговоров ​между Россией, США и Украиной.

"Даже если сегодня не будет у нас возможности добиться какого-то окончательного ответа и решения по этому вопросу, я считаю, что было бы хорошо это обсудить, чтобы Вы рассмотрели такое предложение. Я считаю, что все мы и мир готовы к этому", - отметил Уиткофф.

Зеленский накануне после встречи с Уиткоффом заявил, что США и Украина в Норвегии согласовали ряд предложений по окончанию войны в Украине, включая гарантии безопасности Киеву. Госсекретарь США Марко Рубио сказал, что встреча Уиткоффа с ‌Зеленским прошла позитивно ‌и что Уиткофф поделится ​ее результатами ‌с Россией.

Норвежский ультиматум

Текст документа гласит, что Евросоюз будет отдавать приоритет возобновляемым источникам и энергоресурсам, добытым вне арктической зоны. Однако борьба против разработки новых нефтегазовых месторождений и закупок полярного сырья в регионе будет вестись только тогда, когда эти проекты "представляют угрозу для арктической экосистемы". Позиция Брюсселя по данному вопросу за пять лет смягчилась из-за изменений в энергобалансе Европы. После сокращения российских трубопроводных поставок и на фоне логистического кризиса на Ближнем Востоке, осложнившего доставку сжиженного природного газа (СПГ), статус главного энергетического донора ЕС перешел к Норвегии. Осло обеспечивает свыше 30% всего газового потребления объединения.

Проблема заключается в истощении зрелых норвежских месторождений в Северном и Норвежском морях. Падение добычи на этих участках ожидается уже в начале 2030-х годов. Чтобы удержать экспортные показатели, нужно "двигать" буровые на север, осваивая шельф Баренцева моря, которое находится за Полярным кругом.

Собственно, данные изменения - во многом продукт норвежского лоббирования. Осло неоднократно давал понять ЕС, что разведка и бурение в приполярных морях продолжатся независимо от пожеланий Еврокомиссии. Конфликт с основным поставщиком и соседом на фоне проблем с Россией, Ближним Востоком и даже Америкой - последнее, чего хотели бы в Брюсселе.

Корпоративные интересы

Оговорка о допустимости добычи, если она "не угрожает экосистеме", представляет собой лазейку для крупного бизнеса. Если бы ЕС сохранил тотальный запрет на арктические проекты, европейские банки и инвестфонды были бы вынуждены закрыть кредитные линии для компаний, работающих на севере, из-за жестких нормативов ESG-инвестирования.

В норвежском секторе Баренцева моря оперируют крупнейшие корпорации континента. Итальянская Eni присутствует там через крупную долю в компании Var Energi, также активно работают французская TotalEnergies и англо-голландская Shell. Государственная норвежская компания Equinor также широко представлена в портфелях европейских инвесторов.

Новая формулировка позволяет Осло сертифицировать свои шельфовые платформы (работающие в незамерзающей из-за Гольфстрима части моря) как соответствующие европейским экологическим стандартам. Это легализует проекты в глазах европейских аудиторов и сохраняет доступ нефтяников к дешевому банковскому финансированию. Позитивный сигнал получают и энергетические концерны, инвестирующие в проекты на Аляске или в канадские терминалы - снижение репутационных рисков облегчает их участие в международных консорциумах.

Важно понимать, что Евросоюз регулирует доступ к чужим ресурсам, а не управляет своими. Из всех государств - членов ЕС к Арктике территориально относятся лишь Финляндия, Швеция и Дания. При этом на Скандинавском полуострове отсутствуют шельфовые запасы углеводородов. Дания формально представляет Гренландию, однако остров обладает широкой автономией, не входит в состав Евросоюза с 1985 года и проводит самостоятельную экономическую политику. Местное правительство еще в 2021 году свернуло геологоразведку на шельфе из-за запредельно высоких операционных издержек и экологических соображений.

Соответственно, для Брюсселя вся дискуссия об арктической добыче сводится исключительно к праву инвестировать в зарубежные проекты и импортировать полученное оттуда сырье.

Геополитика и битва за металлы

Прежняя стратегия 2021 года, основанная на экологическом максимализме, потерпела крах. Лозунги о необходимости "оставить нефть и газ в земле" игнорировались всеми ключевыми игроками в регионе. Россия продолжила развитие Северного морского пути и строительство арктических заводов СПГ, Китай усилил присутствие через концепцию "Полярного шелкового пути", а США активизировали бурение на Аляске. Угрожающая климатическая риторика Брюсселя лишь пугала континентальных инвесторов и приводила к тому, что европейские компании добровольно уступали долю рынка геополитическим конкурентам.

Помимо спасения газового импорта, обновленная стратегия преследует еще одну, не очевидную, но весьма важную цель. В документе сделан упор на добычу редкоземельных металлов и критических минералов, в частности - лития, кобальта, никеля и графита.

Залежи этого сырья есть и в Европе. Они по большей части расположены на севере Швеции, Финляндии и в Гренландии. Доступ к ним необходим европейской промышленности для сборки электромобилей, производства ветрогенераторов и обеспечения работы военно-промышленного комплекса (который в последние годы превращается в один из приоритетов). Доминирование Китая на рынке переработки редкоземов вынуждает ЕС искать внутренние источники сырья. Из-за радикальной экологической повестки выдача лицензий на открытие новых рудников и шахт на севере Европы часто блокировалась. Смягчение общих арктических правил должно снизить административные барьеры для горнодобывающего сектора.

Европейцы постепенно двигаются к более прагматичной энергетической политике после экспериментов с "энергетическим идеализмом". На первый взгляд, фасад документа сохранится, но изменения такие, что политика может повернуться на 180 градусов, поскольку "соображения целесообразности" получили возможность преодолевать любые установки идеологического порядка. Разумеется, экоактивисты и "зеленые" партии будут продолжать бороться с такой повесткой по мере сил, но вряд ли политический мейнстрим даст им слишком много таких возможностей. В целом же изменение направления в большей степени нацелено на "поддержание штанов" в плане текущей добычи европейских компаний в Арктике, нежели на какие-то прорывы в энергетическом суверенитете. Евросоюз и дальше будет зависеть от поставок из-за рубежа - и России нужно будет это учитывать.