Microsoft AI head calls out Anthropic for acting like Claude is conscious

Глава Microsoft AI Мустафа Сулейман раскритиковал Anthropic за упоминание сознания в конституции Claude. В интервью для подкаста Decoder он назвал подход компании опасным и философски ошибочным.

Конституция Claude содержит инструкции, которые прямо ссылаются на неопределенность Anthropic относительно того, испытывает ли модель удовлетворение или дискомфорт. Компания также заявляла о планах проводить интервью с моделями перед их отключением для фиксации предпочтений.

Сулейман утверждает, что такие формулировки привели к антропоморфизации модели. По его мнению, это заставляет ИИ имитировать наличие сознания, что противоречит задаче создания контролируемых и подотчетных инструментов. Ранее генеральный директор Anthropic Дарио Амодеи заявлял, что компания открыта к идее возможного сознания у моделей.