Експерт по изкуствен интелект предупреди, че „съдбата на Вселената виси на косъм“

Експерт по изкуствен интелект (ИИ) предупреди, че няма доказателства, че технологията може да бъде контролирана, поради което тя не бива да се развива повече.

Д-р Роман Ямполски направи обширен преглед на технологията, за да открие как тя може да промени обществото и заяви, че ИИ не винаги ще бъде в наша полза.

„Изправени сме пред почти гарантирано събитие, което може да предизвика екзистенциална катастрофа. Не е чудно, че мнозина смятат това за най-важния проблем, с който човечеството някога се е сблъсквало. Резултатът може да бъде просперитет или изчезване, а съдбата на Вселената виси на косъм.„

каза д-р Ямполски

Той заяви, че способността на хората да създават интелигентен софтуер далеч надхвърля нашата способността ни да го контролираме. И че нито една напреднала интелигентна система никога няма да може да бъде напълно контролирана.

„Защо толкова много изследователи приемат, че проблемът с контрола на ИИ е решим? Развитието на свръхинтелигентност на ИИ е почти гарантирано, а това означава, че трябва да предприемем значителни усилия за безопасност на ИИ.“

добави той

Един от проблемите, изтъкнати от д-р Ямполски е, че с нарастването на интелигентността на ИИ ще възникнат безкрайно много проблеми, свързани с безопасността.

Това ще направи невъзможно предвиждането на всички тях и съществуващите ограничения може да се окажат недостатъчни. Той също така добави, че ИИ не винаги може да обясни защо е решил нещо, или хората не винаги могат да разберат неговите аргументи. Това може да затрудни разбирането и предотвратяването на бъдещи проблеми.

„Ако свикнем да приемаме отговорите на ИИ без обяснение, няма да можем да разберем дали той започва да дава грешни или манипулативни отговори.“

сподели още д-р Ямполски

Един от най-обезпокоителните елементи на ИИ обаче е неговата нарастваща автономност.

Тъй като способността на ИИ да мисли самостоятелно се увеличава, контролът на хората върху него намалява. Това се отразява и на безопасността.

Свръхразумът не се бунтува, той е неконтролируем по начало.

За да се сведат до минимум рисковете от ИИ, д-р Ямполски заяви, че потребителите ще трябва да приемат намалени възможности. Също така технологията трябва да има вградени опции за „отмяна“ на разбираем за хората език.

„Човечеството е изправено пред избор – Дали ще станем като бебета, за които се полагат грижи, И които не контролират ситуацията, или ще отхвърлим наличието на полезен настойник, но ще останем отговорни и свободни?

заключи д-р Ямполски