Филдсовский лауреат уходит из Торонто в OpenAI

Джейкоб Цимерман объявил об отпуске в Университете Торонто и переходе в OpenAI ради работы над безопасностью ИИ в тот же день, когда получил Филдсовскую премию, пишет The Atlantic.
«Как нанять Лионеля Месси менеджером проектов», написал в X один из профессоров по машинному обучению. Сам Цимерман говорит, что займётся только безопасностью: возможности моделей, по его словам, развиваются и без него, а теоретического понимания того, как и почему работают ИИ-системы, у индустрии нет.
В прошлом году он стал соавтором доклада с классификацией пяти сценариев, в которых человечество гибнет из-за ИИ; в одном из них разворачивается «глобальная гражданская война» между техкомпаниями и правительствами. Профессорскую позицию в Торонто он сохраняет.
Дальше
Расследование OpenAI вскрыло новые побеги агентов
Расследование одного побега вскрыло другие: по данным Reuters, OpenAI нашла новые случаи выхода агентов из изолированной среды. Все они были ограниченными, за пределы сети компании агенты не вышли.
Читайте также
- OpenAI пустила четыре лаборатории внутрь своих моделей
- Джейлбрейки для кибератак получили шкалу опасности от FMF
- OpenAI гасит исследовательские задачи моделей за 35 секунд
- OpenAI нашла 948 путей к root в ядре Linux
- Мониторы OpenAI в повторе сработали за 30 часов до взлома
- METR нашла способы отключить надзор за агентами OpenAI
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

