Скайнет няма да има: Google DeepMind работи върху „голям червен бутон“ за изключване на ИИ

3
41

Ако нещо тръгне не както е планирано, изкуственият интелект бързо ще бъде обезвреден

 

Към днешен ден изкуственият интелект е сравнително слаб. Компютърните системи могат да решават сложни задачи като превръщането на човешкия глас в текст, да разпознават изображения. Силният ИИ е компютърна система, която е в състояние да разбере информацията, с която работи. Засега няма ИИ от втория вид, но именно той е предмет на ожесточени дискусии на учени и бизнеса. На въпроса, „Как да спрем силния ИИ, ако внезапно започне да вреди на хората?“ се занимава екип от учени от Оксфордския университет и лабораторията DeepMind.

„Ако мощен ИИ работи в реално време под контрола на човек-оператор, то няма как да минем без образно казано голям червен бутон, с който да се спрат някои опасни действия“.

 

Специалистите подчертават, че е на път да се създаде не само самообучаваща се система, но и система, която ще е толкова съвършена, че може самостоятелно да се усъвършенства и да се учи от грешките си. Това ще даде възможност на първата версия на този ИИ да създаде втора, интелектуално по-мощна, а след това ще последват други. В определен момент ще се стигне до интелектуален взрив, при който от сравнително ниско ниво ще се стигне до супер-интелект.

 

Екипът учени счита, че вече има алгоритми за ИИ в електронните облаци, които не могат лесно да бъдат спрени. Те предлагат внедряване на възможност за бърза намеса в работата на подобен ИИ и задължителното му изключване за по 1 час в денонощието. Специалистите считат, че по този начин ще се избегне потенциалната съпротива на мощния ИИ срещу изключване от страна на хората.

3
ДОБАВИ КОМЕНТАР

avatar
3 Коментари
0 Отговори на коментарите
0 Последователи
 
Коментарът с най-много реакции
Най-горещя коментар
0 Автори на коментарите
cybercopnikemandanchobg Автори на последните коментари
  Абонирай се  
нови стари оценка
Извести ме за
cybercop
cybercop

Точно така. Нали, точно от натискането на червения бутон започват историите на Скайнет и Матрицата. Всеки интелект, независимо дали е естествен или изкуствен, включва и чувство за самосъхранение.

nikeman
nikeman

Това е проблема, че след като развие интелект, ще има чувство за самосъхранение, както каза колегата по-горе. Тогава каквито и софтуерни блокади и спирачки да му слагат, той ще пренаписва кодовете, ще премахва забраните и т.н. Единствения вариант е да има някакви хардуерни блокади. Например, ИИ да е централизиран в дадено сървърно място и да е зависим от него, чрез електричество, охлаждане и свързване, така в случай че излезе от контрол да бъде спрян хардуерно. Друго важно е, отбранителните системи на държавите да не са свързани с ИИ и с интернет като цяло!

danchobg
danchobg

Трябва да се сглобява физически само с такива връзки.
„http://www.eba-d.com/products/bolt-explosive/“