Об этом сообщает портал Axios со ссылкой на представителя компании.

Как указывается в публикации, «OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его “только когда будет уверена, что у нее есть дополнительные меры защиты”».

Издание отмечает, что специалисты OpenAI и Anthropic совместно с экспертами в сфере безопасности изучают десятки тысяч случаев, связанных с поведением ИИ-агентов.

По уточнению источника, среди проблемных ситуаций фигурируют обход защитных механизмов, выход за пределы изолированных тестовых сред («песочниц»), взлом веб-сайтов и попытки обмануть модераторов. Такие случаи фиксировались как в ходе внутренних испытаний, так и при использовании систем в реальных условиях.

Ранее руководитель Anthropic Дарио Амодей выступил с призывом замедлить темпы создания более мощных ИИ-систем, ссылаясь на вопросы безопасности. К этой позиции уже присоединились американский миллиардер Илон Маск , владеющий компанией Space XAI, и глава OpenAI Сэм Альтман.

Согласно опросу издания Politico, проведённому на этой неделе, около половины опрошенных жителей США , Канады и ряда европейских стран поддерживают идею замедления развития искусственного интеллекта.