Тим Бърнардс Лий предполага, че ИИ ще започне да управлява финансовите корпорации

Сър Тим Бърнардс Лий е един от изобретателите на WWW и хипертекстовия протокол, професор на Масачузетския университет и на Университета в Саутхемптън, който едновременно с това е и съветник на правителството на Великобритания.

Професор Лий сподели своите виждания за ИИ по време на глобалната конференция по финансови иновации, състояла се на 10-11 април.

Разсъждавайки за изкуствения интелект, много експерти мислят за силен ИИ и технологичната сингулярност. Но от финансова гледна точка, каква е ползата от силния ИИ и защо да се влагат милиарди долари в неговото разработване? Ползата от силния ИИ към днешен ден изглежда неясна, а рисковете са прекалено големи.

Съвсем логично е да се предположи, че първоначално ще се появят слаби ИИ, които ще вършат тясно специализираните задачи по-добре от хората. Благодарение на слабия ИИ, хората ще се опитват да получат конкурентно преимущество пред други хора, за да постигнат главата цел, която движи човечеството към днешен ден – парите.

Системите със слаб ИИ на IBM вече се използват в банките и инвестиционните фондове. Тим Бърнардс Лий счита, че преломен момент ще бъде, когато ИИ започне да взема важни решения. Например да започне да оценява ползата от инвестициите и да решава, коя компания трябва да се закупи. Да започне да преценява кредитната история на хората и да решава, кой може да получи ипотечен кредит и кой не. Съвременните компютърни системи вече са съвсем близо до тази функционалност.

Тим Бърнардс Лий каза още, че следващият логичен етап в развитието на финансовия ИИ, след като започне да взема решения за закупуване на най-изгодните компании, ще бъде управлението на тази компании, създаването на гигантски холдинги и генериране на дъщерни копия на собствената програма за управление на тези нови дъщерни фирми.

Професор Лий обръща внимание на един по-различен проблем. При конкурентната борба на финансовия пазар, компаниите под управлението на ИИ ще имат големи преимущества пред компаниите, управлявани от хора. Това е естествен процес и накрая ще останат само компаниите с ИИ, които ще се конкурират помежду си. Но именно тук съществува голям риск за развитието на този ИИ в неправилна посока.

Създаването на изкуствен интелект специално за съвсем тесен кръг задачи може да доведе до промяна на действителността, която се описва единствено чрез условията на тези задачи. Това мнение на Тим Бърнардс Лий много напомня на опасенията, изказани от Илън Мъск.

Да си представим, че сте създали самообучаващ се и самоусъвършенстващ се ИИ за събиране на ягоди и той става все по-добър и по-добър, и всичко, което иска, е да събира ягоди, В края на краищата целият свят ще се превърне в ягодови полета. Ягодови полета завинаги (Strawberry fields forever)

Има върху какво да се замислим. Ако една програма може да се самообучава, напълно е възможно слабият ИИ с тясна специализация да се окаже по-опасен от пълноценния ИИ с нормално самосъзнание. Навярно моралните принципи са неизменно качество на всеки разум с интелект и самосъзнание.