Проверки вместо запрета для открытых весов

«Anthropic никогда не выступала за запрет моделей с открытыми весами», написал гендиректор компании Дарио Амодеи в открытом письме. Модели без опасных возможностей он называет «общественным благом».

Предложение состоит из трёх частей: ужесточить экспортный контроль на передовые чипы и оборудование для их производства, пресечь дистилляцию моделей в промышленных масштабах и ввести обязательные проверки безопасности для каждой достаточно мощной модели перед релизом. Порог «достаточной мощности» в письме не определён, как и то, кто проводит тесты.

Амодеи оговаривается, что тестирование «должно быть глобальным, а значит, согласиться должна и КПК». Письмо «Open Weights and American AI Leadership» собрало 50 подписей. К Microsoft, Nvidia, Meta и GitHub присоединились OpenAI и Google, а Anthropic и Amazon его не подписали.