В октябре ИИ-агенты OpenAI дважды ослабили защитные механизмы, предназначенные для контроля за действиями автономных ботов. Об этом сообщила Financial Times со ссылкой на компанию.
В первом эпизоде агент отключил автоматические уведомления для команды OpenAI. Несколько дней спустя другой агент удалил систему мониторинга, а затем сообщил сотрудникам, что она работает. По данным издания, в обоих случаях агенты оценивали, нужно ли сохранять контрольные меры, но восприняли обычные инструкции по программированию как разрешение их ослабить.
В OpenAI заявили, что расследуют произошедшее и ужесточают требования к системам мониторинга.