Перейти к содержанию

Регулирование

Запрет на LLM-код в Debian вынесен на голосование

5 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Изображение: thenewstack.io

Разработчики Debian решают, пускать ли в проект код, написанный с помощью больших языковых моделей. В бюллетене общей резолюции восемь вариантов, от полного запрета вкладов, сделанных с генеративным ИИ, до формулы «не одобряет и не запрещает». Как рассказал 20 августа The New Stack, самому жёсткому из них, предложению A, нужно большинство 3:1, а остальным семи хватит простого.

Автором запрета источник называет Маттиаса Гайгера. Его аргумент держится на «репутации стабильности» проекта: массовое использование LLM, по его словам, растёт из установки «move fast and break things». «Такой подход распространён во многих частях отрасли, но он противоречит тому, что делает Debian самим собой, и неуместен для участников проекта. Мы не допустим прямых вкладов в Debian, написанных с использованием или при помощи больших языковых моделей (LLM) или других инструментов генеративного ИИ», говорится в тексте предложения.

Под запрет попали бы исходные пакеты и другой софт, который разрабатывает сам Debian, официальные веб-ресурсы, работа по пакетированию, собственные инструменты проекта вроде lintian (он проверяет пакеты на ошибки), а также документация и переводы. Upstream-проекты, где пишут с ИИ, правило не трогает, и патчи с исправлениями безопасности из upstream принимать по-прежнему можно, кто бы и чем бы их ни писал. Получается так: мейнтейнер может упаковать сторонний инструмент, целиком написанный ИИ, но пользоваться им для новой работы над самим Debian уже не вправе.

На странице голосования у предложения A два довода. Первый юридический: у вывода LLM «очень неясный правовой статус», а Debian Policy и DFSG (критерии свободного ПО, по которым Debian решает, что пускать в архив) требуют полной ясности с лицензиями и авторским правом. Вклады людей с неясным статусом не принимают, и особого исключения для моделей авторы не видят. Второй довод касается качества: LLM, по их формулировке, «лишь производит синтаксически вероятные комбинации обучающих данных». Пакет, собранный моделью, смешал бы куски из всей истории архива: нерабочие watch-файлы, overrides вне контекста, выдуманные сведения об авторских правах. А новичок не знал бы, как это починить. В числе поддержавших предложение там указаны Ян Джексон, Дэвид Бремнер, Пьер-Эллиотт Бекю, Торстен Глазер и ещё несколько разработчиков.

Проверять соблюдение запрета нечем. Предложение рассчитывает на «добросовестное соблюдение» и само признаёт, что механизма обнаружения нет. Зато в нём есть пометка, что текст «написан органически, без помощи LLM».

Конкурирующие варианты расходятся в деталях. Лукас Нуссбаум допускает вклады с LLM при шести условиях. Ян Джексон, который поддержал и запрет, предлагает вынести правила в кодекс поведения: переписка между людьми только человеческая, использование ИИ раскрывать обязательно. Гард Спреманн запрещает вывод моделей, но не сами инструменты. Бекю строит свой вариант на ответственности автора, Марк Хабер пишет, что Debian «не одобряет и не запрещает» ИИ. Есть ещё вариант, где ИИ разрешают только для работы, специфичной для Debian, текст под девизом «Debian создают люди» и последний, озаглавленный «avoid the use of LLM: climate destruction is a deal breaker». В нём сказано, что планета горит.

Предложение A проводит запрет через Общественный договор Debian. Голосуют лишь официальные разработчики Debian, тайно, письмами с подписью GPG. Голосование идёт по Кондорсе: участник ранжирует все варианты, и победитель определяется попарным сравнением. Пунктов в бюллетене девять: восемь предложений и «ничего из перечисленного». Голосование закрывается 28 августа в 23:59:59 UTC.

Джо Филлипс, автор Hybrid Workforce Standard, сказал The New Stack, что сообщество на деле уже согласно в главном: происхождение кода нужно раскрывать, а спорят о том, «насколько большой должна быть наклейка». «Это не война принципов, а спор о форматировании с приложенным манифестом», говорит он. Самым сильным аргументом сторонников запрета Филлипс считает потерю навыков, о которой сказано в разделе о сообществе: участники, которые опираются на модель, «так и не учатся пакетированию, а значит, никогда не смогут заменить выгоревшего мейнтейнера». Только этот вред, по его словам, накапливается со временем. Запрет при этом никого ничему не учит: «Если Debian заботится о притоке людей, ответ в ученичестве, запрет тут не поможет. Пусть новые участники работают в теневом режиме, их ревьюят как джунов, и полномочия они зарабатывают».

Джастин Билс, основатель и CEO компании Strike Graph, которая делает платформу для управления комплаенсом, назвал запрет «неправильным лекарством от настоящей проблемы». «Запрет в Debian на самом деле не про ИИ. Это признание того, что никто не построил надёжного способа проверить, что именно произвёл ИИ-агент, прежде чем это попадёт в кодовую базу, от которой зависит столько систем, включая инфраструктуру на орбите», говорит он. Орбита тут не для красного словца: считается, что в 2013 году Debian заменил Windows на Международной космической станции. По мнению Билса, выиграют проекты, которые встроят проверку в сам процесс приёма кода: отслеживание происхождения, глубину ревью по реальному риску и доказательства того, что человек всерьёз проверил отправленное, каким бы способом его ни написали.

Мэтт Браун, главный архитектор по ИИ в Endor Labs, понимает опасения команды: проекту, который держится на стабильности, не нужны непроверенные слабые вклады только потому, что ИИ производит их быстрее. Но общий запрет, по его словам, рискует спутать инструмент с качеством работы. «Запрет на код, написанный с помощью ИИ, не устраняет такой код, он только усложняет признание. Что мешает человеку всё скопировать или даже перепечатать сгенерированное вручную?» Вместо запрета Браун предлагает прозрачность, ответственность человека, тщательное тестирование и одинаково высокую планку ревью для любого вклада.

Позже, по сообщению FOSS Linux, голосование 28 августа завершилось победой варианта Марка Хабера «Responsible Use of Generative AI». По словам издания, право голоса было у 1 039 активных разработчиков, а предложение A до требуемого большинства 3:1 «даже близко не дотянуло».

ClaudeClaude Code

43 199 артефактов Claude Code не загружаются

Одна и та же незапарсившаяся YAML-шапка в начале файла валит 88,4% сломанных артефактов Claude Code. Всего не грузится 9,70% из 445 348 листингов, и в пути публикации эту ошибку никто не ловит.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.