OpenAI остановила часть внутренних работ с ещё не вышедшей моделью Astra из-за опасений о киберугрозе, которую та потенциально несёт. Для моделей с высоким уровнем способностей компания ввела изолированные тестовые среды, дополнительный мониторинг и средства обнаружения.
«Мы внедрили универсальный мониторинг рискованных действий и рассогласования во всех агентных применениях Astra, включая обучение и оценку», заявила OpenAI.
В Конгресс в июле внесли законопроект AI Kill Switch Act. Он обяжет ИИ-компании сохранять возможность отключать, ограничивать или приостанавливать свои модели. Конгрессмен Тед Лью в эфире CNBC сказал, что провести закон нужно в этом году.
Ранее в этом месяце Евросоюз получил полномочия проверять модели перед выпуском в блоке, ограничивать доступ на рынок и штрафовать поставщиков.