OpenAI: ИИ ще се отнася с нас като с животни (видео)

Създаването на подобен на човека съвършен изкуствен интелект може да окаже твърде отрицателно въздействие върху бъдещето на хората.

В новия документален филм, публикуван от изданието The Guardian, Иля Суцкевер, съосновател и водещ учен в OpenAI, изразява мнение, че ИИ технологията, която компанията му разработва, ще промени света, но не задължително в полза на човечеството. Филмът, заснет между 2016 и 2019 г., показва Суцкевер по времето, когато OpenAI едва започва да изгражда технологията, която стои зад популярния в момента ChatGPT. Той отбелязва, че изкуственият интелект (AI) ще реши много от днешните проблеми, включително заетостта, болестите и бедността, но ще създаде и нови.

Суцкевер, известен с изследванията си в областта на машинното обучение, заяви в началото на 2022 г., че някои големи езикови модели (LLM) може да се осъзнаят. Той акцентира върху значението на „подравняването на ИИ“ – задачата за създаване на AI, който е съгласуван с нашите цели.

Коментирайки възможните цели на осъзнатия и несъгласуван с нашите цели изкуствен интелект, Суцкевер го сравнява с поведението на хората спрямо животните – така например ние не искаме разрешение от животните, когато строим магистрали, защото това е удобно за нас. Според Суцкевер точно такива отношения могат да се развият между хората и универсалния общ изкуствен интелект (AGI – Artificial General Intelligence), ако той не е програмиран и не е обучен както трябва.

Суцкевер предупреждава, че ако програмирането и обучението на ИИ се извършва неправилно, естеството на еволюцията и естествения подбор ще благоприятстват оцеляването на тези системи, които дават приоритет на собственото си оцеляване. Тоест универсалният ИИ ще иска да оцелее в рамките на еволюционните закони и ще бъде толкова напред от нас, че ще счита хората като животни, може би като буболечки. Специалистът заключава, че това е изключително важно за бъдещето на човечеството.