Ако компютрите развият собствен, неразбираем за нас език и създадат своя социална мрежа, те ще излязат от контрол и ще започнат да ни управляват, предупреждава ни Venture Beat.
Броят на социалните мрежи расте, тяхната функционалност се развива, а броят активни потребители нараствва с всеки изминал ден. Според прогнозите, към 2020 година в социалните мрежи ще има 2,9 милиарда души. И все по-голямо значение има ИИ, който вече може да възприема естествения език и да се учи и трупа опит.
Ние създаваме машини и технологии за да си облекчим живота. Но ако ИИ започне да създава свой език без помощта на човека, неизбежно разбирането с него ще се усложни. Машините, които общуват на собствен, неразбираем за нас език, ще бъдат безполезни за нас. И ние няма да можем да ги управляваме.
Възможността за самостоятелно обучение неотдавна се появи в компютрите и по идея, те биха могли да станат много по-умни от човека. Ако ИИ разработи свой език, машините ще са в състояние да създадат своя мрежа, която човекът няма да е в състояние да изключи. В подобна хипотетична ситуация компютрите ще могат да пишат свой код и свои програми, за да съперничат на хората.
Изводът от тези размисли според Venture Beat е, че ИИ може да се развие до такава степен, че да започне да действа без разрешение от страна на човека. В този случай машините ще решават кое е правилно и кое не – и ще започнат да ни управляват чрез виртуалните „помощници“.
