Джейкоб Коксон уходит из Anthropic и из ИИ-индустрии

Исследователь Anthropic Джейкоб Коксон заявил во вторник, что уходит из компании и из отрасли целиком: он не хочет участвовать в общеотраслевой гонке за системами, которые улучшают сами себя. По его словам, такие системы могут выйти из-под контроля и уничтожить человечество.
Коксон занимается обучением новых моделей на огромных массивах данных. Гендиректор Anthropic Дарио Амодеи и сам публично предупреждал о рисках моделей, вышедших из-под контроля.
Дальше
Astra находит zero-day, но её рассуждения хуже видны
GPT-6 Astra находит уязвимости нулевого дня и хуже поддаётся мониторингу, сообщает BleepingComputer со ссылкой на OpenAI. По данным implicator.ai, тесты OpenAI показали, что её рассуждения отслеживать труднее, чем у прошлой модели.
Читайте также
- Исследователь Anthropic: риск гибели человечества выше 10%
- Anthropic приостановила часть кибертестов
- Автоисследователь Anthropic обгоняет людей за шесть часов
- Сотрудник Anthropic готов сжечь свои акции ради 1%
- Бывшие исследователи Anthropic и Google уходят в METR
- Anthropic перевела офис в Сан-Франциско на удалёнку
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

