Скайнет няма да има: Google DeepMind работи върху “голям червен бутон” за изключване на ИИ

3
217

Ако нещо тръгне не както е планирано, изкуственият интелект бързо ще бъде обезвреден

 

Към днешен ден изкуственият интелект е сравнително слаб. Компютърните системи могат да решават сложни задачи като превръщането на човешкия глас в текст, да разпознават изображения. Силният ИИ е компютърна система, която е в състояние да разбере информацията, с която работи. Засега няма ИИ от втория вид, но именно той е предмет на ожесточени дискусии на учени и бизнеса. На въпроса, “Как да спрем силния ИИ, ако внезапно започне да вреди на хората?” се занимава екип от учени от Оксфордския университет и лабораторията DeepMind.

“Ако мощен ИИ работи в реално време под контрола на човек-оператор, то няма как да минем без образно казано голям червен бутон, с който да се спрат някои опасни действия”.

 

Специалистите подчертават, че е на път да се създаде не само самообучаваща се система, но и система, която ще е толкова съвършена, че може самостоятелно да се усъвършенства и да се учи от грешките си. Това ще даде възможност на първата версия на този ИИ да създаде втора, интелектуално по-мощна, а след това ще последват други. В определен момент ще се стигне до интелектуален взрив, при който от сравнително ниско ниво ще се стигне до супер-интелект.

 

Екипът учени счита, че вече има алгоритми за ИИ в електронните облаци, които не могат лесно да бъдат спрени. Те предлагат внедряване на възможност за бърза намеса в работата на подобен ИИ и задължителното му изключване за по 1 час в денонощието. Специалистите считат, че по този начин ще се избегне потенциалната съпротива на мощния ИИ срещу изключване от страна на хората.

ДОБАВИ КОМЕНТАР

3 коментара за "Скайнет няма да има: Google DeepMind работи върху “голям червен бутон” за изключване на ИИ"

Извести ме за
avatar
Сортиране по:   най-нови | най-стари | най-висока оценка
cybercop
cybercop

Точно така. Нали, точно от натискането на червения бутон започват историите на Скайнет и Матрицата. Всеки интелект, независимо дали е естествен или изкуствен, включва и чувство за самосъхранение.

nikeman
nikeman

Това е проблема, че след като развие интелект, ще има чувство за самосъхранение, както каза колегата по-горе. Тогава каквито и софтуерни блокади и спирачки да му слагат, той ще пренаписва кодовете, ще премахва забраните и т.н. Единствения вариант е да има някакви хардуерни блокади. Например, ИИ да е централизиран в дадено сървърно място и да е зависим от него, чрез електричество, охлаждане и свързване, така в случай че излезе от контрол да бъде спрян хардуерно. Друго важно е, отбранителните системи на държавите да не са свързани с ИИ и с интернет като цяло!

danchobg
danchobg

Трябва да се сглобява физически само с такива връзки.
“http://www.eba-d.com/products/bolt-explosive/”

wpDiscuz