WSJ: OpenAI уволила трёх исследователей безопасности

OpenAI уволила трёх исследователей из своей команды безопасности. Их подозревают в том, что они передали конфиденциальную информацию компании сторонней организации, которая занимается безопасностью ИИ. Об этом 1 октября сообщила The Wall Street Journal со ссылкой на знакомых с ситуацией людей.
По словам одного из собеседников газеты, OpenAI недавно сообщила части сотрудников об увольнении трёх человек, чьи имена, как и название организации, не раскрываются.
Раньше люди, отвечавшие в OpenAI за безопасность, уходили сами или их переводили в другие отделы. Команду Superalignment создали в июле 2023 года, чтобы за четыре года решить задачу выравнивания сверхинтеллекта (так называют согласование целей модели с намерениями людей), и пообещали ей 20% вычислительных мощностей компании. По сообщениям, получить обещанные мощности команде было непросто. 17 мая 2024 года о своём уходе объявил один из её руководителей, Ян Лейке. Он объяснил решение «фундаментальными разногласиями насчёт ключевых приоритетов компании» и написал, что культура и процессы безопасности в OpenAI «отошли на второй план перед блестящими продуктами». Ушёл и второй руководитель, Илья Суцкевер, а команду распустили и раздали её задачи другим подразделениям.
11 февраля этого года TechCrunch сообщил, что OpenAI распустила команду Mission Alignment, которая, судя по всему, появилась в сентябре 2024 года и просуществовала всего около полутора лет. Её участников, шесть или семь человек, перевели на другие должности. Представитель компании объяснил роспуск обычными реорганизациями, какие бывают в компании, которая быстро движется. Бывший руководитель команды Джош Ачиам стал «главным футурологом» OpenAI и теперь изучает, «как мир изменится в ответ на ИИ, AGI и то, что за ними последует».
Дальше
AWS отдаёт свою модель-решалку вместе с рецептом обучения
У Qwen3.5-2B сняли голову, которая генерирует текст, и поставили вместо неё указатель, оценивающий готовые варианты. Так AWS собрала Strands Decider 2B и отдаёт его вместе с данными и скриптами обучения.
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

