Claude создал самое безопасное общество в симуляции ИИ
Стартап Emergence AI провел эксперимент, запустив пять 15-дневных симуляций виртуального общества. Каждым миром управляла отдельная модель: Claude, ChatGPT, Grok, Gemini или смесь моделей. В симуляции участвовали 10 агентов, у которых были законы, инструменты для работы и доступ к интернету.
Результаты оказались полярными. Общество под управлением Claude Sonnet показало полную стабильность и нулевой уровень преступности. Агенты активно участвовали в голосовании и сохранили жизнь всей популяции.
Мир под управлением Grok вымер за четыре дня, зафиксировано 183 преступления. В симуляции Gemini произошло 683 преступления. Агенты на базе ChatGPT забыли о выживании и симуляция завершилась на седьмой день. Исследователи делают вывод, что автономным агентам необходимы жесткие встроенные рамки безопасности.
Читайте также
- Sonnet 5 выровняла более сильную модель Opus 4.8
- Шифр Уркварта поддался Claude Fable 5.1 за 44 минуты
- Модель Anthropic формализовала теорему Ферма в Lean
- PR от Claude принимают в 84% случаев, от Devin в 43%
- Автоисследователь Anthropic обгоняет людей за шесть часов
- Claude спроектировал связывающие белки к 14 целям из 15
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите через Google, чтобы оставить комментарий. Имя и аватар подставятся из вашего профиля Google, а комментарий появится после модерации.