Ядрен апокалипсис поради грешка в кода? Учени предупреждават за рисковете от въвеждането на изкуствен интелект в ядрената енергетика

Автоматизирането на многоетапните инспекции крие верига от неконтролируеми грешки.

Технологичната индустрия е все по-убедена, че бъдещето на генеративните системи е невъзможно без разширяване на ядрените мощности, поради което основните играчи търсят начини за ускоряване изграждането на реактори. Сега в тази схема са включени и невронните мрежи: компаниите твърдят, че алгоритмите могат значително да намалят времето, необходимо за подготовка на документите за пускане в експлоатация на нови мощности. Изследователските центрове обаче предупреждават, че подобен подход заплашва да доведе до сериозни последици.

Според доклада на AI Now инициативата на Microsoft и американската енергийна компания Westinghouse има за цел да използва AI модели за ускоряване лицензирането на ядрените съоръжения. В доклада се подчертава, че алгоритмите не могат да заменят многоетапната процедура, предназначена да минимизира рисковете и да предотврати грешки, които водят до тежки аварии.

AI Now обръща внимание на факта, че лицензирането не е набор от формуляри, а сложен процес, който изисква анализ, обсъждане на проектни решения и обосновка на надеждността на бъдещата централа. Авторите на доклада отбелязват, че опитът да се сведе тази работа до генериране на документи може да доведе до формално преминаване на някои етапи на контрол.

Microsoft предлага моделът да се обучава на базата на архивирани регулаторни материали и данни от площадката на бъдещите съоръжения. Алгоритъмът трябва да създаде проектни документи, които след това ще бъдат проверени от персонала на компанията. Националната лаборатория на Айдахо вече използва подобен подход, като предвижда да използва невронни мрежи, за да ускори подготовката на материалите за представяне пред регулаторните органи. Lloyd’s Register следва подобна логика, а Westinghouse популяризира своя собствена система, наречена bertha, която обещава да намали времето, необходимо за подготовка на документацията, от месеци на минути.

Експертите на AI Now виждат в подобен сценарий заплаха за ядрената безопасност. Те подчертават, че дори малка неточност във версията на софтуера или спецификациите на оборудването може да доведе до погрешни заключения за поведението на системата и да задейства верига от грешки. Като пример се посочва аварията в Три Майл Айлънд през 1979 г., когато комбинация от грешки и неправилно тълкуване на показанията доведе до частично разтопяване на ядрото. Авторите на доклада смятат, че моделите са податливи на незабележими грешки, така че рискът подобен сценарий да се повтори с автоматизираната част на лицензирането се увеличава.

В допълнение към техническите рискове се повдига и въпросът за неприкосновеността на личния живот в ядрената област. Според AI Now исканията от страна на технологичните компании за достъп до разширени набори от данни всъщност означават интерес към информация, която обикновено не се оповестява публично. Тази информация може да допринесе за създаването на изделия с двойна употреба, така че достъпът до нея е строго регламентиран. Авторите на доклада подчертават, че прехвърлянето на такива данни към облачни услуги създава допълнителни заплахи.

Отделен проблем е политическият контекст. Администрацията на САЩ настоява за регулаторна реформа в стремежа си да съкрати времето, необходимо за разглеждане на проектите. Представители на Комисията за ядрено регулиране вече предупредиха Конгреса, че кадровите решения и съкращенията на персонала могат да подкопаят възможностите за надзор на безопасността. В същото време Белият дом свързва развитието на ядрената инфраструктура с нуждата на AI от енергийни източници с висока плътност, разглеждайки ускореното изграждане на реактори като елемент на националната сигурност.

Междувременно ядрената индустрия заема по-различна позиция. Някои анализатори смятат, че внимателното използване на алгоритмите за систематизиране на големите масиви от документи може да подобри ефективността и да улесни работата на регулатора. Въпреки това дори поддръжниците на подобни технологии подчертават, че автоматизацията не е заместител на човешкия контрол, а сляпата вяра в заключенията на модела представлява заплаха за индустрията, където грешката има необратими последици.

Докладът AI Now завършва с предупреждение: опитът да се подчини ядреният дизайн на логиката на надпреварата с изкуствения интелект и да се намали контролът, за да се ускори процесът, може да разклати доверието в ядрените технологии, като същевременно увеличи рисковете от разпространение на данни с двойна употреба.