Сооснователь Anthropic Джек Кларк выступил в Оксфорде с лекцией о будущем искусственного интеллекта. Он выразил опасение, что чрезмерное доверие к советам ИИ лишает людей агентности. В качестве примера он привел подростков, которые полностью координируют свои действия по подсказкам Claude.
По мнению Кларка, постоянное делегирование решений ИИ ведет к потере навыка самостоятельного мышления. Человек рискует превратиться в философского зомби, который действует правильно, но не совершает собственных ошибок и не учится на них.
Для решения этой проблемы Кларк предлагает внедрять в ИИ-системы ограничители по аналогии с игровыми консолями. Модели должны сами предлагать пользователям сделать перерыв и обсудить личные проблемы с реальными людьми, а не с алгоритмом.