Негатив вокруг ИИ Амодеи объяснил кризисом доверия

Глава Anthropic Дарио Амодеи назвал общественное недовольство искусственным интеллектом «фундаментально кризисом доверия», отвергнув тезис о том, что главной причиной этого недовольства стали его собственные предупреждения о рисках. Ответ он опубликовал серией постов в X 15 августа, их приводит TechCrunch.

Коротко

• Инвестор Гэвин Бейкер на подкасте All-In и в X утверждал, что предупреждения Амодеи об опасностях технологии подпитали недовольство ИИ в США, в первую очередь в отношении дата-центров.
• По словам Амодеи, его тексты распределены между рисками и выгодами примерно поровну: по одному крупному эссе на каждую тему, включая «Machines of Loving Grace» о позитивном сценарии развития технологии.
• Кризис доверия, по его версии, формировался десятилетиями: обычные люди не доверяют корпорациям, государству и техиндустрии, а нынешнее раздражение вокруг ИИ стало лишь очередной итерацией этого настроения.

Спор Бейкера и Амодеи выглядит как выяснение того, кто отвечает за общественное настроение вокруг ИИ в момент, когда строительство дата-центров стало политической темой в США. Претензия Бейкера при этом адресована не столько содержанию, сколько тону. Ответ Амодеи переносит центр тяжести с риторики на результат: судя по всему, для Anthropic это способ удержать собственную регуляторную линию, не смягчая разговор о рисках и не принимая роль главного источника негатива.

Амодеи настаивает, что писал о рисках и выгодах примерно поровну

Бейкер заявил, что в вопросе регулирования ИИ Амодеи «проиграл спор», и, поскольку тот вот-вот станет руководителем одной из важнейших компаний мира, предложил ему активнее выступать в поддержку собственной индустрии. Anthropic при этом поддерживала часть регуляторных инициатив, включая калифорнийский закон с требованиями прозрачности к крупным ИИ-компаниям. Бейкер не единственный, кто связывает скепсис к ИИ и государственные ограничения с мрачными предупреждениями руководителей отрасли.

Тезис о непропорционально негативной риторике Амодеи отверг. По его словам, он посвятил рискам и выгодам по одному крупному эссе, а «Machines of Loving Grace» появилось потому, что индустрия, на его взгляд, не рисовала достаточно вдохновляющей картины того, как технология может радикально изменить мир к лучшему.

Причиной негатива он считает недоверие к компаниям и государству

Негативное отношение публики к ИИ Амодеи признал и назвал большой проблемой. Возражал он против другого: что этот настрой вызван прежде всего им самим или другими руководителями ИИ-компаний, предупреждающими о рисках. Причину он видит в устойчивом подозрении, что корпорации, государство и техиндустрия готовят очередной способ обмануть обычных людей.

Самой точной критикой в адрес ИИ-компаний, включая Anthropic, он назвал то, что они пока не выполнили крупные обещания принести пользу миру. Ответственность за это он возложил на сами компании и предложил обсуждать именно этот разрыв вместо претензий к подаче и маркетингу. Обещание вылечить рак, по его словам, скорее клише, тогда как мнение публики изменило бы реальное излечение рака.

Anthropic предлагает меры, замедляющие передовые ИИ-компании

Выбор между широким распространением ИИ без регулирования и концентрацией технологии у нескольких компаний через регулирование Амодеи назвал ложным. Формулу «регулирование равно регуляторный захват равно концентрация власти», распространённую в Кремниевой долине, он считает чрезмерно упрощённой: за пределами этого круга регулирование часто воспринимают как ограничение корпоративной власти в пользу обычных людей.

Эту точку зрения он тоже разделяет не полностью, но именно поэтому, по его словам, Anthropic формулирует политические предложения осторожно. Компания старается предлагать меры, которые замедляют передовые ИИ-компании и одновременно дают преимущество более мелким конкурентам. Смысл такой конструкции он объяснил тем, что ИИ структурно тяготеет к концентрации власти.

Открытые веса, по оценке Амодеи, частично помогают, но достаточным решением не являются: они смещают концентрацию к тем, у кого больше вычислительных мощностей и чипов. Правильные «правила дорожного движения», как он считает, способны одновременно снимать кибер-, био- и alignment-риски, институционально ограничивать власть передовых ИИ-компаний и оставлять место моделям с открытыми весами, отдельно закрывая связанные с ними риски.

Пункты, которые Амодеи не расшифровал

Конкретных параметров тех самых «правил дорожного движения» в постах нет: не описаны ни механизмы институционального ограничения власти передовых компаний, ни пороги, с которых требования начинали бы действовать. Сроки, когда Anthropic представит новые политические предложения, тоже не названы. Единственная конкретная инициатива, упомянутая в дискуссии, это калифорнийские требования прозрачности к крупным разработчикам ИИ.