Перейти к содержанию

Anthropic

Негатив вокруг ИИ Амодеи объяснил кризисом доверия

4 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: pexels.com

Дарио Амодеи 15 августа ответил серией постов в X инвестору Гэвину Бейкеру, который считает, что предупреждения главы Anthropic об опасностях ИИ подогрели недовольство технологией в США. Амодеи согласен, что публика относится к ИИ плохо и что это «большая проблема». Причину он видит в другом: по его словам, это «по сути кризис доверия», а главная справедливая претензия к ИИ-компаниям в том, что они пока не выполнили своих громких обещаний.

Ответы Амодеи собрал TechCrunch. Бейкер высказался и на подкасте All-In, и в X. Он связал предупреждения Амодеи с протестами в США, особенно против дата-центров, заявил, что тот «проиграл спор» о регулировании ИИ, и добавил: раз Амодеи «вот-вот станет CEO одной из важнейших компаний мира», ему стоило бы «активнее и позитивнее выступать за собственную отрасль». Вероятно, Бейкер имел в виду возможное IPO Anthropic. Компания выступала за часть регуляторных мер, в том числе за калифорнийский закон с требованиями прозрачности для крупных ИИ-компаний. Бейкер далеко не единственный, кто считает скепсис к ИИ и даже жёсткие меры властей естественной реакцией на мрачные прогнозы некоторых руководителей отрасли.

Амодеи не согласен, что его посыл был «непропорционально негативным». По его словам, он писал о рисках и выгодах «примерно поровну»: по одному крупному эссе на каждую тему. Эссе «Machines of Loving Grace» он, по собственным словам, написал потому, что отрасль «рисовала недостаточно вдохновляющую картину» того, как технология может радикально изменить мир к лучшему. В том же тексте, опубликованном в октябре 2024 года, Амодеи объяснял, почему обычно говорит именно о рисках: базовое развитие ИИ и многие его выгоды выглядят неизбежными и движутся рыночными силами, а риски «не предопределены», и действия людей могут сильно повлиять на их вероятность. Там же он писал, что ИИ-компании, расхваливающие ИИ, могут выглядеть как пропагандисты.

Второе эссе, «The Adolescence of Technology», вышло 26 января. В нём Амодеи писал, что в 2026 году мы «значительно ближе к реальной опасности», чем в 2023-м, и что до мощного ИИ, возможно, остаётся 1-2 года. Среди пяти категорий риска там есть выход ИИ из-под контроля, биооружие и авторитаризм с опорой на ИИ. Fortune тогда назвал этот текст в равной мере «маркетинговым посланием длиной в повесть» и страстным пророчеством, созвучным позиционированию Anthropic как компании, сделавшей ставку на безопасность.

Само недовольство Амодеи не отрицает, но отказывается считать, что оно «вызвано в первую очередь» им или другими лидерами отрасли, которые предупреждают о рисках.

«Думаю, это по сути кризис доверия, - написал он. - Обычные люди не доверяют ни компаниям, ни правительствам, ни техиндустрии и всегда подозревают, что мы придумываем новый способ их надуть». Этот кризис, по его словам, складывался десятилетиями, и негатив вокруг ИИ лишь «его очередное воплощение».

Самой точной критикой ИИ-компаний, включая Anthropic, Амодеи считает то, что они «пока не выполнили своих больших обещаний принести миру пользу». «Это полностью на нас», - признал он и предложил критикам говорить именно об этом, оставив в стороне «все эти разговоры о посылах и маркетинге». Обещание вылечить рак он назвал «скорее клише, чем вдохновляющей идеей»: мнение людей об ИИ изменит только «реальное излечение рака». В эссе 2024 года он сам оценивал, что ИИ может сжать столетие научного прогресса в одно десятилетие, включая лечение большинства видов рака и инфекционных болезней.

В споре о регулировании Амодеи обвинил Бейкера в «ложном выборе» между широким распространением ИИ без правил и концентрацией технологии у немногих компаний через регулирование. «Я знаю, что в Кремниевой долине принято сокращение "регулирование = регуляторный захват = концентрация власти", но мне эта картина мира всегда казалась слишком упрощённой», - написал он. Регуляторным захватом называют ситуацию, когда крупные игроки пишут правила под себя. Многие за пределами «этого пузыря», по его словам, видят в регулировании способ ограничить власть корпораций в пользу обычных людей. Сам он с этим взглядом «не обязательно согласен», но именно поэтому Anthropic составляет свои предложения очень осторожно: «Мы очень стараемся делать предложения, которые ставят в невыгодное положение (замедляют) передовые ИИ-компании и *дают преимущество* мелким конкурентам».

Зачем вообще что-то предлагать, Амодеи объясняет тем, что ИИ «*структурно* склонен концентрировать власть». Открытые веса, по его словам, отчасти помогают, но решением не являются: концентрация просто смещается к тем, у кого больше всего вычислительных мощностей и чипов. Правильные «правила дорожного движения», считает он, могут одновременно закрыть риски ИИ в киберсфере, биологии и согласовании с человеческими целями, институционально ограничить власть передовых ИИ-компаний и оставить место для моделей с открытыми весами, учитывая и их собственные риски.

ClaudeAnthropic

Claude дописывает 2026 к запросам про «лучшее»

«best CRM for startups» Claude отправляет в поиск как «best CRM for startups 2026», хотя года в запросе не было. По выборке Canonry, год добавляется к коммерческим сравнениям и не добавляется к how-to и локальным услугам.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.