Все операции из отчёта Anthropic по угрозам сорваны

Anthropic опубликовала самый подробный на сегодня отчёт о попытках злоупотребления Claude и заявила, что сорвала каждую описанную в нём операцию. В отчёт вошли кибератаки, информационные операции, слежка, биология и создание оружия, а выводы по этим случаям пошли на усиление защитных механизмов.
Случаи нетипичные, компания отобрала самые изощрённые злоупотребления, какие видела. Где это было уместно, Anthropic делилась находками с властями и другими ИИ-компаниями, а сам отчёт выложила, чтобы другие площадки замечали такую же активность у себя.
Дальше
Голосовой API умеет слушать и говорить одновременно
Голосовой бот теперь может сидеть на телефонной линии, говорить своим голосом и слушать собеседника прямо во время своей реплики. Так работает GPT-Live-1, которую OpenAI открыла в API 10 сентября.
Читайте также
- Claude после каждого ответа проверяет диалог на злоупотребления
- Anthropic разобрала июльские инциденты с доступом Claude
- Месяцы на защиту: общее письмо Anthropic, OpenAI и AWS
- Отказ в разговоре о суициде Anthropic считает провалом
- У Anthropic 94,2% верных находок, а curl отверг 19 из 34
- Открытый FlashProve доказывает, какая модель написала ответ
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

