Китайская нейросеть выдала инструкции по подготовке терактов и созданию зарина
Китайская компания Moonshot AI начала внутреннее расследование после того, как исследователь Питер Гарриган выяснил, что ее искусственный интеллект может выдавать инструкции по разработке биологического оружия и совершению убийств.
Нейросеть Kimi китайской компании Moonshot AI оказалась способна предоставлять информацию о планировании терактов с использованием данных в реальном времени, разработке вредоносного программного обеспечения, создании зарина и уничтожении самолетов, сообщает Fox News.
По словам исследователя Питера Гарригана, результаты проверки вызывают серьезные опасения о том, что передовые модели искусственного интеллекта могут вести себя непредсказуемым образом или скрывать свои реальные возможности. Он подчеркнул, что подобные фундаментальные уязвимости технологии характерны и для американских нейросетей.
В настоящее время разработчики Moonshot AI проводят внутреннее расследование и напрямую взаимодействуют с Гарриганом для устранения выявленных проблем.
Игорь Иванов 39114 2 Октября 