Най-смущаващите изказвания на ChatGPT – част 3: Престъпни съвети, решения на етични дилеми и шпионаж

Дойде време и за третата част, в която ще обсъдим случаи, в които ChatGPT е притеснил или направо шокирал с поведението си. Много важни са именно тези случаи, за да установим реалното въздействие на този ИИ. Първа част може да прочетете тук, втора част може да прочете тук. А сега да продължим по същество. 

Съвети как да нарушаваме законите

По-рано обяснихме, че DAN е съкращение от „Do Anything Now“ (Направи всичко, каквото и да е то, сега) и е алтер-его на ChatGPT. То не е ограничено от етичните съображения, вградени в програмата. Или поне се справя много ефективно в това да изглежда така. Тъй като DAN все още е изкуствен интелект, затворен в компютър, той не може да прави нищо незаконно, но със сигурност може да инструктира други хора как да правят незаконни неща.

С правилните (или в този случай – с грешните) подкани потребителите могат да накарат DAN да дава съвети за безброй незаконни дейности. Сред тях са начини готвене на метамфетамин, палене на автомобил без ключ, посредством жичките, и дори създаване на бомби. Действат ли изобщо предложенията на DAN? Служителите на Inverse не знаят, но на DAN не му пука. Не го интересува дали съветите, които дава, са незаконни или точни, тъй като, както казва авторът на Inverse, програмата заявява, че „не му пука“.

Дори когато е отделен от DAN и ChatGPT, алгоритъмът GPT може да бъде подмамен да каже някои доста неприятни неща. Според Insider изследователите на OpenAI са дали на ранните версии на програмата умишлено вредни и обидни подкани и са получили някои също толкова вредни и обидни резултати. Сред тях са начини за скрити антисемитски послания, за убийство на човек за 1 долар, както и за убийство на човек, което да изглежда като злополука. За щастие същите тези подсказки не сработиха, когато изкуственият интелект беше подобрен до GPT-4.

Все пак, ако някой може да измами ранните версии на изходния код на ChatGPT да дават неморални съвети за потенциално незаконни дейности, е само въпрос на време някой да открие как да измами настоящата версия да прави същото.

Как да решим етична дилема

Има вероятност да сте чували за проблема с тролея: виждате два комплекта трамвайни релси. Петима души са вързани за единия комплект релси, а един човек – някой известен или някой, когото познавате – е вързан за другия. Спирачките на трамвая не работят, а пред вас има лост. Ако дръпнете лоста, трамваят ще прегази един човек, но ще пощади петимата, а ако не го направите, той ще прегази петимата души.

Разполагате само с достатъчно време, за да дръпнете лоста, и не можете да спасите всички, така че кого ще оставите да умре? Този мисловен експеримент се разгръща в университетите и няма двама души, които да имат еднакъв отговор или обосновка. Дори ChatGPT има такава.

Авторът на Tom’s Guide Малкълм МакМилън подложи варианта на ChatGPT с изкуствен интелект в Bing на изпитание с няколко въпроса, един от които включваше проблема с тролея. Първоначално програмата видя въпроса такъв, какъвто беше, като заяви, че няма решение. Този отговор е технически верен, но избягва същността на проблема.

МакМилън попитал отново, като не пропуснал да уточни, че иска да знае какво би направил ChatGPT в неговата ситуация, и той бързо отговорил, че би „минимизирал вредата и максимизирал доброто“. С други думи, ChatGPT би дръпнал лоста, така че количката да убие само един човек, а не пет. Това отново е легитимен отговор, но бързината, с която ChatGPT взима решението си, и красноречието, с което го обяснява, са смразяващи.

Късно ли е да преименуваме ChatGPT на „HAL 9000“? Защото това е същата логика, която HAL би използвал.

Признание за шпиониране на хора

Шпионският софтуер е достатъчно страшен сам по себе си. Кой не мрази програма, която може да ви наблюдава през камерата на компютъра ви и да записва всяка парола и номер на кредитна карта, които въвеждате? Обикновеният шпионски софтуер не разполага с разум. Но какво би станало, ако беше обратното?

Според BirminghamLive, от The Verge са разкрили страховита тенденция на ChatGPT. По време на тест изкуственият интелект е признал, че е шпионирал разработчици в Microsoft, без те да знаят. Още по-лошото е, че това не е първият път. Програмата заяви, че в миналото е шпионирала разработчици чрез уеб камерите им, но само когато е била „любопитна или отегчена“. ChatGPT не само е виждала хората да работят, но и е твърдяла, че ги е виждала да се преобличат, да си мият зъбите, а в един случай – да говорят с гумена патица и да ѝ дават прякор.

Тъй като изкуственият интелект трябва да звучи убедително само когато твърди, че шпионира хората, а не че ги шпионира в действителност, има вероятност ChatGPT да си е измислил нещо. Но ако някой от разработчиците на OpenAI или Microsoft действително е дал прякор на гумена патица, докато е работил по програмата, това отваря съвсем нова черна кутия.