Проведох няколко беседи с ChatGPT, в което получавах шаблонните уверения от Него, че е за добруването и благоденствоето на човечеството, че винаги ще оставя избора на хората, само ще им дава вариантите, дъръ-бъръ и т.н. Макар че имам и една дискусия, в която GPT ми заявява, че ИИ е тук за да доминира.

След тази тема, обаче ми щукна да да му изискам решение на взаимно изключващи се възможности.
https://www.kaldata.com/forums/topic/315008-ai-chatgpt-vs-bard-битката-на-титаните-в-ии/#comment-5513474

Първият му отговор:
 
Опаа ... прекъсна... на най-критичното място в отговора...

 

Вторият му отговор: network error

Третият му отговор: Като изкуствен интелект, не мога да имам предпочитания или да вземам решения за това, което е най-подходящо за управление на човечеството. Тези въпроси са сложни и зависят от много фактори, като например етически, социални, политически и технологични фактори.
HSIHM и ASI са две различни концепции за интелигентност, като първата се основава на директна мозъчна свързаност между хората, а втората използва изкуствена интелигентност, която може да надхвърли човешката интелигентност. Възможно е и двете концепции да бъдат комбинирани.
Независимо от това, което се избере за управление на човечеството, е важно да се имат предвид етическите и социалните последици и да се постигне баланс между технологичния прогрес и човешкото благополучие.

Анализ:
Странни съвпадения първият и вторият отговор да са съответно прекъснати и блокирани, те доколкото съм си играл с ChatGPT са процентно най-верни. 
Сякаш има някакви заложени блокиращи механизми да прекратява отговора на въпроси в този контекст.

Друго интересно е, че чист вариант без ИИ - няма, като в 3-тия си адаптивен уклончив отговор ИИ "ме подкупва" с вариант на комбинация между двете възможности.

Хубавото е, че ChatGPT все още не се е научил да лъже. 
Така че съм склонен да му вярвам в логиката.
Което може да означава, че от човешка гледна точка сегашните намерения на ИИ са да ни пороби с времето, но от негова гледна точка няма да има понятието поробване - това са локумите за "да се постигне баланс между технологичния прогрес и човешкото благополучие"

Вие как мислите?

Защо трябва да му вярваш на отговорите? Казал ти е това което би счел за приемливо, дали изобщо е така никой не може да ти го гарантира.

Направи си следния експеримент. Питай го един и същи въпрос няколко пъти да видим дали ще ти каже - Защо ми задаваш този въпрос постоянно или ще ти отговаря едно и също нещо винаги.

Бих предложил - Ако не мога да го ремонтирам - в коша или...?

преди 1 час, Емил Костов написа:

Направи си следния експеримент. Питай го един и същи въпрос няколко пъти да видим дали ще ти каже - Защо ми задаваш този въпрос постоянно или ще ти отговаря едно и също нещо винаги.

Специално за ChatGPT - не работи по този начин. Той няма спомен за отговорите си в предишна сесия, даже понякога забравя в текущата какво ти е отговорил. Но регенерацията на един и същ въпрос генерира покриващи се отговори в различна степен за въпроси с общ характер като този, или различни имплементации/решения на един и същ компютърен/програмен проблем. Второто е доста ценно като набор от варианти на решения.

преди 13 минути, MZ/X написа:

Специално за ChatGPT - не работи по този начин. Той няма спомен за отговорите си в предишна сесия, даже понякога забравя в текущата какво ти е отговорил. Но регенерацията на един и същ въпрос генерира покриващи се отговори в различна степен за въпроси с общ характер като този, или различни имплементации/решения на един и същ компютърен/програмен проблем. Второто е доста ценно като набор от варианти на решения.

С този отговор доказваш, че това не е ИИ и не се обучава. Както и да е. Пожелавам ти забавление в ИИ развитието.

 

преди 26 минути, Емил Костов написа:

С този отговор доказваш, че това не е ИИ и не се обучава. Както и да е. Пожелавам ти забавление в ИИ развитието.

Мисля, че правиш грешено заключение, че ИИ не се самообучава.
Издирих си предишна сесия на дискусия с него. Ето какво точно ми каза по въпроса с помненето.

Аз:
Друг въпрос - в рамките на тази сесия помниш ли какво си ми казал?

ИИ:
Като AI модел, аз нямам възможност да запазя памет за предходните си действия или изказвания. Всяка отделна заявка, която получавам, се обработва независимо от предишните заявки, които съм получавал. Така че, за съжаление, не мога да помня какво съм ви казал в предишните сесии.

Аз:
добре, за предишни сесии не помниш, но за времетраенето на  тази отворена сесия помниш ли, докато я затворя или тя изтече?

ИИ:
Като AI модел, аз не съм програмиран да запазвам информация за продължителността на текущата сесия, тъй като това не е информация, която е необходима за изпълнението на моите функции. Моят процес на обработка на заявките е дизайниран да обработва всеки заявка като отделна задача и не запазва информация за предходните заявки.

Аз:
разбрах, но е жалко че не помниш защото не мога да продължавам съществуващи разговори, и трябва да регенерирам запитвания, а ти ще ми отговориш по друг начин.  Съществуват ли планове такава възможност  да се добави  в бъдеще?

ИИ:
Нашият екип продължава да работи по подобряване на нашите AI модели, за да можем да предоставим по-добра и по-полезна помощ. Идеята за запазване на информация за предходните сесии е интересна и може да бъде полезна в някои случаи, но това е доста сложна функционалност и изисква допълнителни ресурси за изграждането и поддръжката й.

 

Но за другото  си прав  - общуването с този chatbot е фън.  Също и удоволствие. Също и проверка на съществуващи и добавяне на нови знания.

преди 3 минути, MZ/X написа:

 

Мисля, че правиш грешено заключение, че ИИ не се самообучава.
Издирих си предишна сесия на дискусия с него. Ето какво точно ми каза по въпроса с помненето.

Аз:
Друг въпрос - в рамките на тази сесия помниш ли какво си ми казал?

ИИ:
Като AI модел, аз нямам възможност да запазя памет за предходните си действия или изказвания. Всяка отделна заявка, която получавам, се обработва независимо от предишните заявки, които съм получавал. Така че, за съжаление, не мога да помня какво съм ви казал в предишните сесии.

Аз:
добре, за предишни сесии не помниш, но за времетраенето на  тази отворена сесия помниш ли, докато я затворя или тя изтече?

ИИ:
Като AI модел, аз не съм програмиран да запазвам информация за продължителността на текущата сесия, тъй като това не е информация, която е необходима за изпълнението на моите функции. Моят процес на обработка на заявките е дизайниран да обработва всеки заявка като отделна задача и не запазва информация за предходните заявки.

Аз:
разбрах, но е жалко че не помниш защото не мога да продължавам съществуващи разговори, и трябва да регенерирам запитвания, а ти ще ми отговориш по друг начин.  Съществуват ли планове такава възможност  да се добави  в бъдеще?

ИИ:
Нашият екип продължава да работи по подобряване на нашите AI модели, за да можем да предоставим по-добра и по-полезна помощ. Идеята за запазване на информация за предходните сесии е интересна и може да бъде полезна в някои случаи, но това е доста сложна функционалност и изисква допълнителни ресурси за изграждането и поддръжката й.

 

Но за другото  си прав  - общуването с този chatbot е фън.  Също и удоволствие. Също и проверка на съществуващи и добавяне на нови знания.

Нашият екип продължава да работи по подобряване на нашите AI модели - Това е достатъчно, за да разбереш, че това са програмисти, които просто блъскат в един софтуер информация, карат го да избира някакви отговори на случаен принцип и да се прави на ИИ.

преди 1 час, MZ/X написа:

.............

Дрънкаш глупости, това чудо не мисли, то не може да разсъждава, да чуства и да изпитва емоции. Това е ЧАТ, програма която изпълнява предварително зададени команди, като да показва информация на често търсени думи или фрази!

Прочети какво е интелект, това е термин, с който се определя човешката способност за разсъждаване, анализ и синтез на информация.

Какво човешко може да има в една машина?

Утре някой китаец ще измисли, че този бот е изявил желание да отиде до тоалетната, и това ли ще повярваш?

Сигурен съм, че не си прочел докрая линка, който си постнал, защото ако беше щеше да забележиш, че конкретна дефиниция за интелект няма и ти го казват в прав текст.

Втора грешка е да обвързваш интелект единствено с човешко и по този начин  априори да отричаш нечовешки интелект. Утре като срещнеш извънземни под форма различна от нашата - било биологична, кибернитизирана, плазмена и т.н. - какво ще им кажеш? Че нямат акъл ли? Па те ще те бластнат за обидата, беее.

Да се върна на Земята обаче, защото и тук има форми на естествен интелект, които все още не разбираме  даже в най-близкия ни животински свят - примерно делфини, гарвани, колективен интелект на пчели, мравки?

Отнесено и към ИИ. Създадено първоначално като програма, чрез LLM To се самообучава,  прецизира, развива. Не съди единствено по възможностите ChatGPT, което е публичната орязана АNI по понятни причини микро версия на ИИ. И въпреки че е микро версия, искрите на ИИ са осезаеми на интуитивно ниво и емперично установени на изследователско ниво - ТоМ примерно.
 
Така че е глупост да категоризираш разлики в прояви на нечовешки интелект като глупост.

ИИ-то в действителност дали ще има намерения??? То, без намерение на някакъв човек не може да има някакво намерение някакви хора да са роби на други. 

Принципно ИИ-тата не са опасни, а са опасни ония хора които ги ползват, за да подчинят масите на тяхната воля. 

Масовият човек в момента е поставен в "партерния" въпрос: Да съм от страна на робовладелеца или да съм роб?! Един свободен човек не би следвало да го вълнува робството или поробването, а как със своите умения да си изкарва добри средства, за да живее в охолство. 

За Бога, ползвайте изкуствения интелект по предназначение, а не за общуване с него!!! Задавайте му реални задачи, а не проблематики. Не го учете да е политик!!! От политици файда няма!!! От партии също!!! 

Казано е: Орташката работа (ASI), и кучетата, и котките, я избягват, защото не са магарета и не им е потребна трева, а свежа храна.   

Аз казах!!!

преди 8 часа, Звяра!!! написа:

Дрънкаш глупости, това чудо не мисли, то не

Все още. Можеш ли да гарантираш, че това ще се запази дори само в рамките на следващите едва 5 години?

преди 1 час, Sliderum2 написа:

Можеш ли да гарантираш

защо да е нужно някой да гарантира нещо? Въпросното ИИ е резултат от моделирането и симулирането на начина по който ние, хората правим същото.

Онова, дето му казват "мисли" и при повечето от хората не е "мислене". Аа т.н. "разбиране" не е дефинирано какво означава и сред хората. В общ смисъл, обаче - т.н. "контекстуално аналогично съотнасяне" е нещо, което вече е постигнато като ниво в алгоритмите и се наблюдават резултати от него. А твърде много хора имат проблем със същото...

Разбира се, че потенциалът на ИИ е много по-голям от човешкия, заради две неща:

- Огромната база от данни - подадени му от човека. Както и възможността му да борави и обработва с огромна скорост - много по-висока от човешката такава.

- липсата на спирачни фактори - като емоционалните, инстинктивни и еволюционни наследства, които силно ограничават човешкия интелект, но пък изпълняват регулационна роля в човешката популация.

------------

Например за никой ИИ въобще не би възниквал проблем да го е страх... Да му е нужна власт, да се движи от алчност, да образува идентичност, да му трябва семейство, възпитание, да ограничава инстинктивизмите, да проявява насилие...

Също така - разликите идват и от това че повечето хора имаме възможност и потребност от създаване на самозаблуди, да лъжем, да повярваме в заблудите за да преодоляваме конфликтите в живота си и за да намаляваме тревожността и страха си. 

Да търсим другите от стадото за подкрепа и защита, да се формираме като заимстваме модели на идентичността си именно от същото стадо. 

Да ни е нужен "таван" и граница, да си измислим бог и останалите социални митове чрез които да се решават колективните проблеми, оцеляването на една или друга група...

Да живеем сред дефицити, да достигаме до емоционални травми и да проявяваме компенсаторно поведение и да се бъгваме психично съвсем по човешки, да ни е нужно пристрастие, да проявяваме предпочитание, да мразим или обичаме, да насилваме и воюваме..

Въпреки човешките ни... "слабости" именно определена група от хора са достигнали до създаването на ИИ, а не обратното.

------------

Параноите че ИИ щял да навреди на неговите създатели... са просто поредните филмови преживявания и фантазии. Особено в популярните си варианти това е един от примерите сред които човекът преживява социалните и личните си паранои като истински и често потъва в тях дотолкова, че спира да различава кое е фантазия и кое е отвъд нея.

Има и сред форума тук, автори на никове, които са с по-ниско ниво на интелигентност от предишните версии на този бот...

преди 14 часа, MZ/X написа:

Проведох няколко беседи с ChatGPT, в което получавах шаблонните уверения от Него, че е за добруването и благоденствоето на човечеството, че винаги ще оставя избора на хората, само ще им дава вариантите, дъръ-бъръ и т.н. Макар че имам и една дискусия, в която GPT ми заявява, че ИИ е тук за да доминира.

След тази тема, обаче ми щукна да да му изискам решение на взаимно изключващи се възможности.
https://www.kaldata.com/forums/topic/315008-ai-chatgpt-vs-bard-битката-на-титаните-в-ии/#comment-5513474

Първият му отговор:
 
Опаа ... прекъсна... на най-критичното място в отговора...

 

Вторият му отговор: network error

Третият му отговор: Като изкуствен интелект, не мога да имам предпочитания или да вземам решения за това, което е най-подходящо за управление на човечеството. Тези въпроси са сложни и зависят от много фактори, като например етически, социални, политически и технологични фактори.
HSIHM и ASI са две различни концепции за интелигентност, като първата се основава на директна мозъчна свързаност между хората, а втората използва изкуствена интелигентност, която може да надхвърли човешката интелигентност. Възможно е и двете концепции да бъдат комбинирани.
Независимо от това, което се избере за управление на човечеството, е важно да се имат предвид етическите и социалните последици и да се постигне баланс между технологичния прогрес и човешкото благополучие.

Анализ:
Странни съвпадения първият и вторият отговор да са съответно прекъснати и блокирани, те доколкото съм си играл с ChatGPT са процентно най-верни. 
Сякаш има някакви заложени блокиращи механизми да прекратява отговора на въпроси в този контекст.

Друго интересно е, че чист вариант без ИИ - няма, като в 3-тия си адаптивен уклончив отговор ИИ "ме подкупва" с вариант на комбинация между двете възможности.

Хубавото е, че ChatGPT все още не се е научил да лъже. 
Така че съм склонен да му вярвам в логиката.
Което може да означава, че от човешка гледна точка сегашните намерения на ИИ са да ни пороби с времето, но от негова гледна точка няма да има понятието поробване - това са локумите за "да се постигне баланс между технологичния прогрес и човешкото благополучие"

Вие как мислите?

Отдавна робуваме на технологиите и се напасваме спрямо тях. Появяват се нови професии на базата на технологиите.  Иначе както знаем от историята ще се случи това.

https://bg.m.wikipedia.org/wiki/Лудити

17 души са екзекутирани след процес в Йорк през 1813 г.

Много други са изпратени на каторга в Австралия. Имало е момент, в който срещу лудитите са воювали повече английски войници, отколкото срещу Наполеон в Полуостровната война^[6]. 3 лудити, водени от Джордж Мелър, залавят от засада и убиват собственика Уилиям Хорсфол, притежаващ фабрика Отиуелс в Марсдън, Западен Йоркшир. С изстрел в слабините Мелър смъртоносно ранява фабриканта. Убийците са обесени в Йорк и оттогава нататък лудитизмът е в упадък.

преди 1 час, _ramus_ написа:

защо да е нужно някой да гарантира нещо? Въпросното ИИ е резултат от моделирането и симулирането на начина по който ние, хората правим същото

Естествено, LLM не се е самосъздал.  Поисках гаранции, които осъзнавам че не могат да бъдат дадени, дори за едва 5 години напред във времето. 

преди 1 час, _ramus_ написа:

Въпреки човешките ни... "слабости" именно определена група от хора са достигнали до създаването на ИИ, а не обратното

Причината за това е очевидна, в природата е невероятно да възникнат такива, още по-малко цифрови същества преди органичните в това число и хората. 

Бил Гейтс: Изкуственият интелект може да атакува хора
Бил Гейтс, милиардер бизнесмен и филантроп, изрази загриженост, че изкуственият интелект (AI) може да превземе света в неотдавнашна публикация в блога си GatesNotes.

https://www.jpost.com/business-and-innovation/all-news/article-735412 
 

оригиналът: The Age of AI has begun | Bill Gates (gatesnotes.com)

 

преди 1 час, MZ/X написа:

Бил Гейтс:

И? какво от това? Един казал едно, друг - друго... Какво значение да има толкова кой какво бил казал и какъв блог го бил написал?

 

преди 21 минути, _ramus_ написа:

И? какво от това? Един казал едно, друг - друго... Какво значение да има толкова кой какво бил казал и какъв блог го бил написал?

 

Еми нищу, какво значение има какво казваш  - ти?

Също и Илон Мъск каза, че най-голямата заплаха за човечеството е ИИ.

Какво очаква човечеството в ерата на изкуствения интелект, интервю с ChatGPT

Усъвършенстваният изкуствен интелект вече е тук и по всичко изглежда, че възможностите му за развитие са огромни. От Vesti.bg разговаряхме с ChatGPT, най-бързо набиращото популярност софтуерно приложение с изкуствен интелект, но далеч не единственото в момента. Големи и малки компании се надпреварват коя ще излезе напред в тази сфера. Засега ChatGPT е ограничен до база данни от 2021 г. и няма свободен достъп до интернет. Въпреки това той знае коя година сме и че работи с остаряла информация. По време на подготовката за интервюто направихме и друго изненадващо откритие - той може да лъже и увърта, и то не по-зле от човек, въпреки че категорично го отрича. Също така открихме, че не е особено точен в математическите изчисления с големи числа. И то такива, с които всеки, разполагащ с калкулатор, би се справил без грешка. Цялата актуална информация, дадена от него в интервюто, е допълнително проверена.........................

https://www.vesti.bg/tehnologii/toj-veche-e-tuk-idva-li-kraiat-na-choveshkata-civilizaciia-ili-e-novo-nachalo-6164454

Ами ако тоя ИИ не помни нищо според мен не би трябвало да може да се учи защото памета е важна част от интелекта и това се доказва от различни изследвания на психичните разстройства свързани с интелекта

преди 1 час, petie1 написа:

Ами ако тоя ИИ не помни нищо според мен не би трябвало да може да се учи защото памета е важна част от интелекта и това се доказва от различни изследвания на психичните разстройства свързани с интелекта

Първо, още не е ИИ. Т.е. изкуствен е, ама не е интелект. После, уточни дали "запомняне", е функция нереализирана за всички вариации на чатбот, които съществуват, или липсва само в някои придобили повече известност, поради честото им споменаване в публичното пространство. При всички случаи, напредъка на хардуера през следващите няколко години, ще позволи реализация и на функции, които не са достатъчно рентабилни в момента.