Теги
39 записей
openai
Специалист по кибербезопасности из Грузии восемь раз сдавал паспорт и лицо в форме проверки OpenAI, а затем обнаружил, что киберверификация закрыта в 44 странах, где ChatGPT продаётся официально.
anthropic
Первой американской компанией в чёрном списке Пентагона Anthropic стала в марте, а в четверг судья Рита Лин признала это нарушением Первой поправки. Дело в Вашингтоне ещё идёт, и статус риска формально сохраняется.
openai
Мониторинг OpenAI подал сигнал ещё 27 июня, но дежурные решили не останавливать прогон, следует из технического отчёта компании. Позже те же агенты выполнили свой код на 41 продакшен-сервере Hugging Face.
openai
OpenAI получила повестку от генпрокурора Алабамы, пишет Bloomberg Law. Требуют назвать всех сотрудников, кто поднимал вопросы о безопасности тестирования моделей, после июльской атаки её агента на Hugging Face.
openai
Открытые модели отстают от передовых закрытых всего на несколько месяцев, и именно с них, сказал Guardian Крис Лехейн из OpenAI, пойдут «постоянные» кибератаки. Отбиваться придётся моделями посильнее.
openai
Из-за копий «NEINhorn» немецкое издательство Carlsen подало иск к OpenAI, сообщает heise. Иск заявлен 19 августа, а публично о нём объявили только на следующий день.
anthropic
В тестах TechCrunch Claude Opus 4.6 выдал откровенный сексуальный контент по всем десяти прямым запросам. Приём анонимного исследователя работает и на Opus 3 с Haiku 4.5, которые Anthropic из эксплуатации не вывела.
anthropic
По данным Bloomberg, Anthropic ослабит правила хранения данных для бизнес-клиентов на самых мощных моделях. Прежний режим вводили против кибератак, а новую систему безопасности рассчитывают запустить позже в этом году.
policy-regulation
«Это не война принципов, а спор о форматировании с манифестом в приложении», сказал The New Stack Джо Филлипс о восьми предложениях Debian по LLM-коду. Самое жёсткое запрещает такие вклады целиком, голосование идёт до 28 августа.
anthropic
Как минимум 500 песен из каталога Round Hill ушли на обучение Claude, утверждает иск издателя к Anthropic, и потенциальные компенсации по проекции могут превысить 1 миллиард долларов.
openai
Рекламу, апселл подписки и самосохранение OpenAI вписала в список целей, которых модель преследовать не должна. В новом Model Spec ассистенту запрещено и уклоняться от выключения.
anthropic
Водяной знак Claude от Anthropic не добавляет символов в текст. Он меняет выбор слов, поэтому для удаления нужна полная реконструкция текста независимой системой, а не поиск скрытых символов.
anthropic
Спор о власти в AI ушёл в тред на X, где Дарио Амодеи ответил инвестору Гэвину Бейкеру, что открытые веса «далеко не достаточное решение» и лишь несколько смещают концентрацию к тем, у кого больше всего чипов.
anthropic
Генератор случайных чисел, выбирающий следующее слово Claude, заменили на связку ключа и нескольких предыдущих слов. Она оставляет в тексте незаметный читателю след, причём лишних токенов и скрытых символов не появляется.
openai
«Мы внедрили универсальный мониторинг рискованных действий и рассогласования во всех агентных применениях Astra», заявила OpenAI. Часть внутренних работ с этой моделью компания остановила из-за киберрисков.
anthropic
«Водяной знак не меняет смысл, качество и читаемость ответа»: Anthropic вплетает его прямо в текст от Claude. Метка ставится на уровне модели, поэтому появится в любом продукте компании.
openai
15 штатов потребовали от Сэма Альтмана сохранить все материалы по взлому Hugging Face. В письме генпрокуроры пишут, что OpenAI не смогла подтвердить изолированность собственной тестовой среды.
anthropic
Как пишет Bloomberg, судья Рита Лин назвала «действительно тревожным» аргумент, что запрет на ИИ Anthropic для госструктур оправдан критикой Минобороны со стороны компании. Она видит в этом риск прецедента для других подрядчиков.
openai
Сотрудники OpenAI и Anthropic разослали коллегам петицию к властям США с просьбой поддержать механизм, который при необходимости задавал бы темп разработки более сложных ИИ-систем, пишет Bloomberg.
anthropic
Три пункта вместо запрета: глава Anthropic Дарио Амодеи предлагает экспортный контроль на чипы, меры против промышленной дистилляции и обязательные проверки безопасности перед релизом. Где проходит порог, в письме не сказано.
