След месеци на разгорещени дебати Linux одобри официална политика за използване на AI код

След месеци на разгорещени дебати разработчиците на Linux ядрото приеха официална политика за използването на изкуствен интелект (AI). Линус Торвалдс и партньорите от индустрията постигнаха споразумение, което позволява използването на AI асистенти, но налага строги правила за разкриване на информацията и поставя пълната отговорност за евентуални грешки върху хората разработчици.

Новите правила забраняват използването на правно обвързващия таг „Signed-off-by“ за код, създаден от AI системи, като го заменят с нов таг „Assisted-by“, за да се осигури прозрачност на произхода на редакциите. Това решение, както посочва Tom’s Hardware, е в отговор на нарастващото напрежение в общността, предизвикано от потока от нискокачествен код и скритото използване на невронни мрежи. Сега всяка грешка или уязвимост в подобен код ще бъде законно приписвана на конкретния човек, който е публикувал промените. Това ще елиминира възможността за прехвърляне на вината върху алгоритмите и ще позволи интегрирането на съвременни инструменти в работния процес, без да се нарушават принципите на сертификацията Developer Certificate of Origin (DCO).

Противоречията около интегрирането на изкуствен интелект достигнаха своя връх през януари, когато представители на Intel и Oracle публично се скараха относно регулирането на невронните мрежи в проекта. В същото време Торвалдс остро разкритикува идеите за пълната им забрана, като ги нарече безполезни, и настоя, че AI е просто инструмент като всеки друг софтуер. Той подчерта, че атакуващите така или иначе няма да прочетат документацията, така че е по-ефективно да се контролира резултатът чрез отговорността на конкретните хора, вместо да се правят опити за забрана на технологията върху локалните машини на разработчиците.

Преди приемането на единната политика големите проекти с отворен код демонстрираха различни подходи към проблема, стигащи до пълни забрани. Например дистрибуциите Gentoo и NetBSD преди това блокираха приемането на код, генериран от изкуствен интелект, с аргумента, че данните за обучение на моделите често съдържат код с ограничителни лицензи, което прави резултата юридически незаконен. Експертите на Red Hat на свой ред предупредиха, че използването на такива инструменти може да наруши по невнимание лицензите GNU GPL и да подкопае цялата система на DCO, тъй като разработчикът не може да гарантира чистотата на произхода на всеки ред код.

В допълнение към правните рискове общността се сблъска с проблема за огромния обем нискокачествени редакции, наречени AI slop. Създателите на популярни проекти като cURL и tldraw бяха принудени да закрият програмите за възнаграждение и автоматично да отхвърлят външните заявки поради спам, съдържащ код с ИИ халюцинации. В случая с Linux ядрото ситуацията се изостри от един високопрофилен инцидент, в който участваше Саша Левин, инженер от Nvidia, който приложи поправка на ядрото 6.15, написана изцяло от AI модел, без съответното уведомление. Кодът е бил функционален, но е съдържал регресия в производителността, въпреки че е бил тестван и проверен.

Проблемът с недоверието поради скритото използване на AI е засегнал не само системното програмиране, но и други области, като например общността на модерите на Doom. По-конкретно, ръководителят на проекта GZDoom Кристоф Оелкерс се сблъска с масово напускане на членове на проекта, след като използваше AI пачове, без да разкрива тази информация, и отказа да направи компромис с критиците. В резултат на това повечето участници напуснаха първоначалния проект и създадоха форка UZDoom, демонстрирайки значението на откритостта и честността за общността.