На Земята ще се появи пришълец и няма никакви причини да вярваме, че това същество ще бъде приятелски настроено към нас. Някои експерти считат, че той ще се появи максимум след 30 години, други са на мнение, че това ще стане по-рано. Никой не знае как ще изглежда този пришълец, но две от характеристиките му вече са известни: той ще има интелигентност и самосъзнание. Не говорим за извънземни от дълбокия космос – това същество ще се роди тук, в една от лабораториите на някой университет или корпорация. Днес ние го познаваме под името универсален или силен изкуствен интелект.
Докато четете тази статия ще бъдат изхарчени милиарди долари, за да бъде съживен този пришълец, появата на който се възприема от всички, които работят в тази област, за най-великото достижение на човешката мисъл. Само че за разлика от всички други човешки изобретения, това ще има свой собствен разум. И ако неговото поведение е като поведението на всички известни на човечеството разумни същества, то ще се погрижи преди всичко за своите собствени интереси. Това е мнението на Луи Розенберг, виден специалист в областта на изкуствения интелект и един от създателите на AR.
Много хора са на мнение, че не бива да се страхуваме от един силен интелект, който се ръководи от собствените си интереси, като считат, че този ИИ ще бъде създаден по наш образ и подобие, и задължително с предварително зададени правила и ограничения от рода на трите основни закона на роботиката според Азимов. Но Луи Розенберг е убеден, че тези същества ще бъдат проектирани и създадени по такъв начин, че ще могат да разбират хората, но няма да бъдат хора. Те ще ни познават много добре, ще могат да четат нашите емоции и да предвиждат нашите действия, но техният разум ще бъде съвсем различен.
За хората е невъзможно да си представят по какъв начин възприема реалността един ИИ, който без проблеми може да се намира навсякъде едновременно и който има милиарди очи и уши. Наивно е да се предполага, че при такава коренна разлика изкуственият интелект ще има същите морал, светоглед и емпатия. Изкуственият мозък неизбежно изцяло ще се различава от биологическия по всичко: по базовите структури, по функционалност, по физиология и психология. Човекоподобните тела ще бъдат само една фасада, зад която е скрито нещо съвсем чуждо.
Тази фасада може да ни изиграе една много лоша шега, понеже няма да се страхуваме от тези същества, както бихме се страхували например, от някакви хипотетични извънземни, които изглеждат страшно.
По какъв начин човечеството може да се защити от това? Розенберг е на мнение, че ние не сме в състояние да попречим на изкуствения интелект да се развие до възможния максимум. Причината е банална – досега не сме успели да задържим, още по-малко да спрем нито една иновация. Според учения, единственото, което можем да направим е да признаем, че силният ИИ ще се появи през следващото десетилетие и че той няма да бъде цифрово копие на човешкия интелект. Това ще бъде един съвсем друг интелект, който е също толкова чужд и опасен, колкото е извънземният разум.
Не всички споделят мнението на Розенберг.