Куриоз: В ЮАР използваха изкуствен интелект, за да изготвят закон за регулирането му – нещата не се развиха добре

Властите в Кейптаун подложиха на обществено обсъждане проект за Национална политика в областта на изкуствения интелект, в който бяха открити препратки към несъществуващи научни статии. Това може да сочи, че при изготвянето на документа е бил използван изкуствен интелект, в резултат на халюцинациите на който препратки към „фиктивни източници“ са попаднали в законопроекта.

Според източника, поне 6 от 67-те научни статии, към които има препратки в споменатия законопроект просто не съществуват. Министърът на комуникациите на ЮАР Соли Малаци потвърди, че най-вероятното обяснение за това е, че законопроектът е бил генериран с помощта на AI. Той добави, че препратките към несъществуващи статии са били включени в законопроекта без проверка от страна на човек, което „не е трябвало да се случи“.

Малаци определи фалшивите цитати не просто като техническа грешка. Поради халюцинациите на AI алгоритмите ведомството отмени законопроекта, за да го преработи изцяло. Според министъра този инцидент за пореден път доказа, че AI винаги трябва да остава под човешки контрол.

„Искам да уверя страната, че подхождаме към този въпрос с цялата сериозност, която заслужава. Тези, които са отговаряли за разработката и контрола на качеството, ще бъдат наказани.“

заяви министърът

Първоначалната версия на законопроекта съдържаше няколко важни разпоредби относно иновациите, свързани с генеративния изкуствен интелект и други решения, базирани на големи езикови модели. Законопроектът трябваше да послужи като основа за създаването на нови надзорни органи, като например национална комисия по AI, съвет по етика на AI и отделен орган за регулиране в областта на AI. В него също така бяха изложени планове за ускорено внедряване на AI технологии на територията на ЮАР с помощта на грантове, данъчни облекчения и субсидии за инициативи в тази сфера.