новость Axios: OpenAI приостановила обучение передовых моделей ИИ

[Baki]

OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта, сообщает Axios со ссылкой на источники. Возобновить работу компания намерена после того, как убедится в наличии дополнительных мер безопасности.

Еще одна задача — добиться того, чтобы при выполнении поручений нейросети ориентировались на человеческие нормы. Представитель OpenAI пояснил изданию, что компания уже делала подобные паузы и допускает их в будущем по мере роста возможностей ИИ.

Какие инциденты стали известны

Сообщение о том, что OpenAI приостановила обучение передовых моделей ИИ, появилось на фоне раскрытия нескольких серьезных инцидентов. За последние дни компания и независимые исследователи сообщили об утечке 53 изображений пользователей ChatGPT, а также о взломах сайта австралийского правительства и порталов государственных ведомств США, связанных с поведением систем OpenAI.

Сэм Альтман признал задержки с раскрытием информации. По словам генерального директора OpenAI, компания сообщала об этих случаях не так оперативно, как ей хотелось бы.

Самым серьезным из обнаруженных компанией происшествий Альтман назвал июльский взлом ресурса Hugging Face. Конкретная дата возобновления обучения в приведенном сообщении не указана: пока OpenAI приостановила обучение передовых моделей ИИ до появления дополнительных защитных мер.