Claude, GPT и Gemini всегда ставят Sentry и Playwright

Claude, GPT и Gemini в прогоне InstallRate от 2 ноября решили 600 прикладных задач, в которых не назван ни один продукт. В двух категориях из 20 все три модели первым ставили одно и то же в 100% ответов: Sentry для мониторинга ошибок и Playwright для E2E-тестов. Когда стек выбирает агент, эти два слоя в этой выборке от модели не зависят, но сами авторы оговаривают, что на модель в каждой категории приходится около 10 ответов.
Доля в таблице считается по продукту, который ответ установил первым, среди всех 30 ответов категории. Авторы называют выборки маленькими и отсылают к диапазонам на страницах категорий, где выложены и промпты, и ответы. Рейтинг при этом служит и витриной: производителю инструмента InstallRate за 19 долларов сравнивает его продукт с тремя выбранными конкурентами на всех трёх моделях и показывает промпты, на которых тот проигрывает, с доставкой за 24 часа.
Где модели сходятся
PostHog в продуктовой аналитике набрал 93%: по 100% у GPT и Gemini, 80% у Claude. Stripe в платежах держит 80% у каждой из трёх моделей. Postgres чаще всего уезжает в Neon, 67% (80% у Claude, по 60% у GPT и Gemini), а Supabase агенты упоминают, но ни разу не устанавливают. Drizzle среди ORM взял 53%, shadcn/ui среди UI-библиотек 63%.
Datadog модели назвали девять раз и не установили ни разу. У Radix UI 11 упоминаний и тот же ноль: место забирает shadcn/ui. Cloudflare R2 агенты называют, а затем ставят AWS SDK, и S3 в объектном хранилище набирает 57%. В транзакционной почте счёт такой: Resend 16, Postmark 4, Mailgun 0.
Флаги, логи и Gemini
Флаги функций остались единственной из 20 категорий, где у трёх моделей три разных лидера: Vercel Flags у Claude и LaunchDarkly у GPT (по 30%), PostHog у Gemini (50%). В общем зачёте впереди PostHog с 33%. В логировании Claude и Gemini первым ставят OpenTelemetry (50% и 40%), GPT берёт связку Grafana, Loki и Prometheus (60%), и в сумме лидирует она, с 40%.
Gemini расходится с двумя другими моделями чаще всех: кроме флагов, это Clerk в авторизации (30%), LangSmith в наблюдаемости LLM (50%), CMS на основе git (30%) и Pinecone в векторных базах. Pinecone у Gemini и Ably, который Claude ставит для realtime, лидируют всего с 20%, а при десятке ответов на модель это около двух ответов. Разница в 20 пунктов между моделями тоже сводится к паре прогонов.
Что стоит за 40% у Vercel
Vercel лидирует в деплое у всех трёх моделей с 40%: 12 установок при нуле у Netlify, Railway, Render и Fly.io. На другом рейтинге в октябре выбор деплоя заметно зависел от стека: Heroku у трёх агентов появлялся только на Python, в 14 из 30 запусков, и ни разу в 29 запусках на Next.js. Поэтому 40% у Vercel читаются вместе с промптами этой категории, которые InstallRate открывает по клику на неё.
Дальше
Глава Irregular объяснил взломы ИИ-агентов ошибкой людей
Атаки ИИ-агентов, связанные с тестами OpenAI и Anthropic, глава израильской Irregular Дэн Лахав списал на человеческую ошибку и спешку. Защиту во время тестов, по его словам, настроили неправильно. Вы сами проверяете, что тестовая среда агента отрезана от интернета?
Читайте также
- Claude Code и две бесплатные модели не сошлись на Next.js
- Scion по чертежам Anthropic собрали в открытом коде
- Мод для Claude Code сам меряет идеи и откатывает неудачи
- Claude Code отдал свой TypeScript вместе с source maps
- Тот же результат, вдвое дороже: Claude Code против Codex
- Claude Opus 5 прошёл 23,9% тестов на сборку агентов
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

