Guardian: „Кодът, написан от самите алгоритми е съвсем непредсказуем“

12
2462
Когато постъпките на робота доведат до трагедия – например, роботизираният автомобил убие човек, екипите програмисти с месеци анализират машинния код, за да намерят причината за това събитие. Но изкуственият интелект, научен да пише собствения си код е в състояние съвсем лесно да напише допълнителен код, който да го защити от каквато и да било проверка. А това прави постъпките на ИИ непредсказуеми за разработчиците.

Човекът вече е загубил контрола върху алгоритмите за изкуствен интелект – алармира Guardian. Хората продължават да задават на невронните мрежи задачи едва на микро ниво, а след това системите се развиват самостоятелно, като последствията са непредсказуеми.

В известен смисъл, ние вече изгубихме лостовете за влияние. Когато кодът се превръща в алгоритми, а алгоритмите създават нови алгоритми, в системата остава все по-малко място за човека. Специализираният софтуер пуска в нашата вселена код, който никой не може да разбере докрай“опасява се Елън Улмън от Guardian.

Да се откажем от машинното обучение е твърде трудно – програмите пишат по-добър код от хората. „Никой не знае, как да бъде написан сорс код, който да разпознава знака Стоп. Ние от години се опитваме да решим тази задача, но не можем и не се справяме! Всичко опира до нашата глупост и тъпост – ние не сме достатъчно съобразителни да разберем това. Всичко което умеем, е да напишем един общ алгоритъм, който може да се обучава, ако му се подадат достатъчно голям брой примери“ – твърди Тоби Уолш, специалист по ИИ и професор в университета на Нов Южен Уелс, Австралия.

Ако стане трагедия, хората ще трябва да се оправят с Франкенщайн-алгоритми. Така Смит нарича участъците с код, генериран от самата машина.

Така например, през месец март тази година в Аризона загина жена, блъсната от роботизиран автомобил. Изясни се, че ИИ я е разпознал като друг автомобил. Когато съвсем отблизо машината е разпознала, че това е велосипедистка, тя веднага е предлага управлението на водача. А той не е бил готов да реагира.

Неочакваните ситуации с ИИ са възможни не само при автономните автомобили. Опасността се крие и в алгоритмите, управляващи популярните облачни онлайн услуги, обезпокоени са експертите.

Според различните твърде крайни прогнози, изкуственият интелект силно ще измени живота на човечеството. Футурологът Ювал Ноа Харари счита ИИ за една от най-сериозните заплахи пред Човека, по-опасна от климатичните промени и ядреното оръжие.

12
ДОБАВИ КОМЕНТАР

avatar
5 Коментари
7 Отговори на коментарите
8 Последователи
 
Коментарът с най-много реакции
Най-горещият коментар
  Абонирай се  
нови стари оценка
Извести ме за
s00
s00

Не е опасност, а бъдеще!!! Така или иначе ще се избием и в най-добрия случай да се върнем в примитивния строй. Човешката история е пълна с глупост и жестокост. Поне да остане някакъв интелект да се развива и да продължава да изучава вселената.

Палустиниец
Палустиниец

спокойно едва ли ще е скоро създаването на ИИ
то така лесно се създаването ИИ 🙂

Синт
Синт

Това трябва вече да е станало ясно на всеки палустиниец . Човека НЯМА да създаде ИИ . Смообучаващите се машини които пишат собствения си код ще създадат ИИ .

djgerro
djgerro

палустиниец – това е пример за AI. недооформен. никога съвършен.
нема шанс просто. ХА-ХАААА. 😀

Да България
Да България

ИИ има отдавна и се ползва в множество технологии, включително такива, които позлваш всеки ден като Гугъл. Първо се ограмоти и после пиши.

Българинът е неграмотен човек със затворени и догматични разбирания за света, поради което не може да се реализира, беден е и му се присмива целия цивлизован свят.

Да България
Да България

Истината боли, но е такава. Който удря минусите може и да се чувства като изключение, но не е.

тъй-тъй
тъй-тъй

Естествено, че е така. При изчислителните машини натрупването на грешки е неизбежно, а кодът, написан от самия алгоритъм е по същество грешка. Малък пример: Забранено е, човек и робот да работят в едно помещение, без предпазни панели около робота – пълно е с видеоматериали на „полудели“ роботи, които дават дефект и започват да вършат неконтролируеми неща. Машината може да даде отклонение във всеки един момент, без значение колко време е работила без грешка. ПП. Техниката отказва, човекът – не. Техниката се влияе от атмосферни условия, амортизира се, скапва се при големи температурни амплитуди, човекът – не. Техниката, без значение колко… Виж още »

123
123

Абе и човек отказва също както машините, справка лудниците.
Отделно както се е заформило може и да доживеем някой да видим ИИ по-интелигентен от човек, тогава почва „купона“ или истинската промяна в света. Тогава може да се говори за замяна на човек. Сега нещата са в съвсем начален етап.

тъй-тъй
тъй-тъй

Донякъде съм съгласен с вас – човек също има своя лимит, но дори да е с разстроена психика, човекът винаги е пълоценна личност, макар и може би, не по начин, който ни допада.
ПП. И“И“ не може да бъде интелигентен, защото не може да мисли, а изчислява. Той може само да имитира мислене.
Поздрави.

Изидоро
Изидоро

Нека ме наричат „догматичен“ и с ограничен кръгозор, но смятам че компютрите, дигиталните технологии, програмирането са чиста ОТРОВА!
Нищо добро и стойностно не е произлязло от дигиталните технологии, от социалните мрежи, от виртуалната реалност , от ИИ и изобщо от проклетата електроника!
Отровихте хубавия ни свят с дигиталната си отрова , кучешки програмисти. Сега ИИ е последната злостна стъпка по пътя на дигитализацията. Проклети да са тези, които от чиста алчност го създават, защото алчността в дигиталния свят беше издигната на ново ниво.

Изидоро
Изидоро

За днешното време е казано : “ и ще настане време, когато единственият бог ще бъде човешкият мозък, и всички ще го боготворят“. Под „човешки мозък“ в случая се разбира Интелекта. Той е цар и господар на нашето време. ИИ е продължение и развитие на човешкият интелект, едно много опасно развитие! Защото глупаците си мислят, че ще успеят да го контролират, все едно играят на видео игра. Как се контролира нещо, което няма човешките ограничения, човешките ценности, човешките страхове? НИКАК! Инженерите и програмистите са жалки глупаци и болни геймъри, които пресъздават собствения си болен УМ в дигитален вариант. А всичко,… Виж още »

Изидоро
Изидоро

Настойчиво препоръчвам гледането на сериала „Западен свят“ /West world/ , особено първия му сезон!
Там с изключителна подробност и проницателност са представени бъдещите проблеми с ИИ. Достатъчно вярно и майсторски са пресъздадени неизбежните бъдещи проблеми с ИИ и човешката демоничност и многопосочна алчност, която го създават. Гениални хора създават Изкуствения интелект, но гениални не означава и добри и възвисени. Човешките слабости и грешки се вплитат в създаденото творение и резултатите са непредсказуеми.