Спор об открытых весах: Anthropic изложила свою позицию

Спор об открытых весах: Anthropic изложила свою позицию<br><br>27 июля компания опубликовала развёрнутое изложение своих взглядов на модели с открытыми весами и объяснила это тем, что вокруг её позиции накопилось много домыслов.
По словам Дарио Амодеи, промышленная дистилляция даёт Китаю модели заметно лучше тех, на которые хватает его парка чипов, и способна сократить отставание от переднего края США до нескольких месяцев. Равных американским или превосходящих их возможностей она при этом не даёт. Правильным средством он называет точечные меры против самих операций дистилляции, а не запрет открытых весов как категории.
Также тезис о том, что открытые веса упрощают создание защитных механизмов, он считает недоказанным. Как пример: достаточно мощные модели способны быстро превратить вирусы пандемического уровня в оружие из широко доступных материалов.
Дальше
Вместо запрета открытых весов Амодеи требует тестов
«Anthropic никогда не выступала за запрет открытых весов», пишет Дарио Амодеи и предлагает обязательную проверку безопасности каждой «достаточно способной» модели. Где проходит эта планка, в письме не указано.
Читайте также
- Амодеи: открытые веса лишь сдвигают власть к чипам
- Модель Anthropic написала полиции ложную наводку об убийстве
- Anthropic запретила долго и без цели издеваться над Claude
- Anthropic вложит 150 миллионов в Claude для NASA и NIH
- Папа Лев XIV не поверил Anthropic в сознание ИИ
- Пентагон перестал пользоваться Claude, срок был в августе
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

