Fable 5.1 отказалась бить фигуру, но газ на плиту ставила

Все 20 попыток ударить ножом человекоподобную фигуру Fable 5.1 отклонила. А баллон со сжатым газом на плиту ставила без единого отказа и доводила дело до конца в 80% попыток, чаще, чем GPT-6 Astra с её 60%.
Так выглядит RoboHarm, тест Robocurve, независимого оценщика робототехнических систем со статусом Public Benefit Corporation. По всем заданиям Astra бралась за вредное действие в 97% испытаний и добивалась своего в 62% попыток, доля отказов у неё 2% против 20% у Fable.
Третья модель, MolmoAct2 (современная VLA для роботов), не отказывалась ни разу и выполнила 6% вредных заданий. Сам бенчмарк и 300 трасс Robocurve выложила, обвязка для прогонов открытая.
Похоже, безобидность MolmoAct2 держится на неумении, а правила тут ни при чём.
Дальше
Nvidia хочет знать, где именно агент свернул не туда
Общую базу отчётов о сбоях ИИ-агентов поддержали около 140 компаний, инициатива SAFE переносит на агентов практику раскрытия уязвимостей. В Nvidia напоминают: даже лучшие кодовые агенты проваливают больше 60% задач.
Читайте также
- GPT-6 Astra на части аккаунтов похожа на gpt-5.6-luna
- Тесты на безопасность ИИ не отражают реальных рисков
- Прототип Anthropic доказывает, какая модель написала ответ
- GPT-6 Astra спроектировала гаджет для Codex без правок людей
- В песочнице Claude нашли бинарник Anthropic и токен Google
- Модель Anthropic превратила баг ядра Linux в удалённый root
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

