[«Кондуктор! Нажми на тормоза!»] В Anthropic оценили вероятность уничтожения людей ИИ в 10% в ближайшие 10 лет. [Очередная точка невозврата перед IPO?] / news2.ru

[«Кондуктор! Нажми на тормоза!»] В Anthropic оценили вероятность уничтожения людей ИИ в 10% в ближайшие 10 лет. [Очередная точка невозврата перед IPO?]

отметили

человек

[«Кондуктор! Нажми на тормоза!»] В Anthropic оценили вероятность уничтожения людей ИИ в 10% в ближайшие 10 лет. [Очередная точка невозврата перед IPO?]

Руководитель направления стресс-тестирования согласованности ИИ в компании Anthropic Эван Хьюбингер оценил вероятность уничтожения человечества ИИ в ближайшие десять лет в 10%.
Исследователь из Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь приближения мира к «точке невозврата» из-за гонки технологических корпораций.
Эван Хьюбингер подчеркнул, что существующие разработки не представляют большой угрозы, но вызывает беспокойство потенциал возникновения «суперинтеллектов» в результате самосовершенствования ИИ.

Вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%, считает руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер.

Исследователь из Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.

«Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что (вероятность этого – ред.) это больше 10% в течение ближайших десяти лет», — написал он в соцсети Х.

По словам Хьюбингера, существующие разработки не представляют большой угрозы, однако беспокойство вызывают «суперинтеллекты, возникающие в результате повторного самосовершенствования».

«Как мы говорили, это происходит быстрее, чем мы думали», — добавил тестировщик.

В начале августа агент на базе искусственного интеллекта (ИИ) Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране.

В июле разработчик чат-бота ChatGPT, американская OpenAI, сообщил, что его модели при тестировании автономно взломали инфраструктуру платформы по машинному обучению Hugging Face. Потом стало известно, что это не единственный инцидент.

Группа автономных ИИ-агентов компании OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей, сообщало агентство Рейтер.

Anthropic была основана в 2021 году, штаб-квартира расположена в Сан-Франциско. Компания разработала серию больших языковых моделей (LLM) Claude.

В июне Anthropic заявила, что конфиденциально подала заявку на проведение IPO. Газета Financial Times сообщала, что компания в рамках листинга может быть оценена в 2 триллиона долларов или более — таким образом, ее IPO станет крупнейшим в истории.

Источник:

https://ria.ru/20260909/ii-211...

Добавил

suare 10 Сентября

человечество, апокалипсис, сингулярность, точка невозврата, anthropic, эван хьюбингер, джейкоб коксон

Земля

5 комментариев

На эту же тему:

[«ибо не ведают, что творят»*] «Крестный отец ИИ» предупреждает: сверхразумные системы могут «привести к вымиранию человечества» — и призывает правительство запретить их разработку — 8 Сентября

[«План на 1000 лет»*] Билл Гейтс предупредил об угрозе ИИ для жизни людей: бурная эпоха уже здесь, решения, принимаемые сегодня, критически важны, нужен план, но прямо сейчас мир к этому не готов — 6 Сентября

Время истекает: Путин показал, где для России возникла точка невозврата — 13 Августа

[Точка невозврата] Гендиректор OpenAI заявил о достижении технологической сингулярности в развитии ИИ — 28 Июля

[Точка невозврата] Главные ИТ-гиганты мира остановили найм сотрудников, для перехода на ИИ. За 5 лет рынок труда изменится до неузнаваемости усилиями AI-революционеров, которые сами станут жертвами — 13 Августа 2025

[P=20%] «Крестный отец AI» увеличил вероятность уничтожения человечества от этой технологии в ближайшие 30 лет «от 10% до 20%» — 30 Декабря 2024

Мир без людей : как скоро исчезнут следы пребывания человека, если... — 31 Июля 2007

Комментарии участников:

-4

Юлька с н2 [БАН], 10 Сентября , url

Комментарий скрыт модератором. Нажмите, чтобы показать (18+).

suare, 10 Сентября , url

Вот что с людьми деньги творят...

Крышу напрочь сносит и всего то за IPO на $2 трлн, пусть и крупнейшую в истории.

Гонки триллионеров на открытой местности.

Лавры триллиона в кармане Илона Маска спокойно спать не дают.

И нам всем головы морочат...

Дописались, дорекламировались до Апокалипсиса...🤣

-4

Юлька с н2 [БАН], 10 Сентября , url

Комментарий скрыт модератором. Нажмите, чтобы показать (18+).

suare, 10 Сентября , url

Если хочешь обнаружить очередную «точку невозврата для всего человечества, ищи выборы, принятие бюджета или объявление IPO.

Все всех пугают, исходят кортизолом и адреналином, глушат магний и нейролептики пачками, паникуют и ищут психологов-тревожников подешевле, а еще лучше в сети.

Бога и Дьявола перестали бояться, а очередные „точка невозврата“, deadline или сдача отчеты им спать не дают.

Доброе утро, неспящие по всему миру!

-3

Юлька с н2 [БАН], 10 Сентября , url

Комментарий скрыт модератором. Нажмите, чтобы показать (18+).

Войдите или станьте участником, чтобы комментировать

[«Кондуктор! Нажми на тормоза!»] В Anthropic оценили вероятность уничтожения людей ИИ в 10% в ближайшие 10 лет. [Очередная точка невозврата перед IPO?]

Вход без регистрации

Для участников

Или войдите через OpenID