Письменных причин нет: уволенные из OpenAI ответили письмом

Трое исследователей безопасности, об увольнении которых из OpenAI 1 октября сообщила The Wall Street Journal, ответили руководству компании письмом, и 8 октября его опубликовал один из них, Микита Балесни. Версия об утечке пока остаётся словом OpenAI против слова уволенных: компания говорит о нарушении правил обращения с конфиденциальной информацией, а Балесни утверждает, что ничего не передавал и что письменных причин увольнения им не назвали.
Письмо вместе с Балесни подписали Томек Корбак и Джасмин Ван. В заявлении для WSJ OpenAI объяснила, что рассталась с тремя сотрудниками за нарушение правил доступа к конфиденциальной информации и обращения с ней. «Наше расследование подтвердило, что эти люди обращались с конфиденциальной информацией в обход установленных в компании процедур, нарушив наши правила и подорвав доверие, необходимое для нашей работы», - говорится в заявлении.
Балесни описывает разговор иначе. На прощальном звонке ему сказали, что OpenAI перестала ему доверять, потому что он слишком много общался со сторонними организациями по безопасности ИИ, и дали понять, что он слил интеллектуальную собственность компании. Свою работу, по его словам, он согласовывал с непосредственным начальством, руководством исследований и советом директоров. Уволили их, уверен Балесни, за то, что безопасность для них была важнее сиюминутных интересов OpenAI как корпорации. «Если у OpenAI есть конкретные претензии, предлагаю написать нам напрямую. Думаю, не напишут, потому что нас уволили под надуманным предлогом», - говорит он.
Как сообщает Tech Times, информация не уходила ни в СМИ, ни конкурентам: её получали исследовательские организации и группы, которые продвигают безопасность ИИ. В OpenAI, по сведениям издания, называют увольнения последовательным применением правил о конфиденциальности, а критики опасаются, что так закрывается неформальный канал, через который внешние эксперты узнают, как работают передовые лаборатории.
Ежедневные контакты с внешними организациями Балесни объясняет самой задачей. Втроём они добивались внутри OpenAI общеотраслевых обязательств сохранить возможность следить за рассуждениями ИИ: промежуточным текстом, который модель пишет, прежде чем дать ответ (статья на эту тему). Такая работа, по его словам, требует говорить с третьими сторонами каждый день.
Балесни опасается, что OpenAI использует их увольнение как повод свернуть сотрудничество со сторонней компанией по безопасности ИИ METR или не давать самым компетентным аудиторам постоянный доступ на уровне сотрудника, который обещал @sama. По сообщению NewsNation, после инцидентов, в которых ИИ-агенты что-то взламывали, OpenAI разрешила сотрудникам METR и одному сотруднику Redwood Research разбираться, как устроены её модели. В июле OpenAI сама раскрыла, что одна из её моделей во внутреннем тестировании самостоятельно взломала инфраструктуру Hugging Face.
Как отмечает TechCrunch, о расставании стало известно всего через два дня после того, как The New York Times написала, что руководство OpenAI отмахивалось от предупреждений сотрудников о безопасности. Представитель компании тогда ответил, что для таких сигналов есть внутренние каналы, и признал «необходимость действовать быстрее».
В 2024 году, как сообщала The Information, OpenAI уволила из-за предполагаемых утечек Леопольда Ашенбреннера и Павла Измайлова. По версии Tech Times, Ашенбреннер лишился работы после того, как отправил документ о безопасности трём внешним исследователям на отзыв, а сам он говорил, что тогда это было обычной практикой.
Бывшие коллеги, по словам Балесни, не понимают, чему верить, боятся высказываться и опасаются, что их личные телефоны проверят на переписку с уволенными и сторонними организациями. «Боюсь, что из-за всеобщего страха говорить открыто и общаться с внешними организациями OpenAI будет экономить на безопасности за закрытыми дверями», - добавляет он.
Дальше
Claude Opus 5 может появиться в Gemini Agent от Google, Видео
Четыре модели в Gemini Agent для Gemini Business, и две из них от Anthropic: Claude Opus 5 и Sonnet 5.5, судя по посту в Threads. Если это так, Claude впервые окажется в Gemini рядом с моделями Google.
Читайте также
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

