Миналото лято, бившият инженер на Google и експерт по етика на ИИ Блейк Лемоан, стана много популярен. Причината е, че даде интервю на Уошингън поуст, в което твърди, че LaMDA, големият езиков модел на Google, е жив. Той е опитал да предупреди компанията по вътрешни канали, но от там не били съгласни с него. Тогава решава да представи гледната си точка в медиите, заради което е уволнен.
Ако не знаех какво точно е това, а именно компютърна програма, щях да си помисля, че е дете на 7 или 8 години, което разбира от физика. Аз познавам човек, когато говоря с него.
Сега, когато нещата са се успокоили, от Futurism го търсят за разговор
Ще разгледаме ключовите моменти от интервюто. Влязъл е в областта на ИИ етиката покрай своето обучение и работата си. В образованието си е работил по обработка на естествен език, генериране на естествен език. Винаги е вярвал, че тестът на Тюринг е в основата на това накъде отиваме с ИИ и разбирането му на законите на езика. Езикът е това, което ни разделя от други видове.
През 2015 година започва работа в Google, където вече вижда теорията да се реализира на практика. Посоката, в която работи, е отстраняване на предразсъдъците. Винаги, когато нещо бъде пуснато пред публика, хората започват да експериментират около пол, раса, религия. После стават скандали и компанията не иска това. Заради това той и хора като него анализират информацията, която става достъпна посредством различни продукти.
Не участва в разработката на LaMDA, а се присъединява като бета тестер и консултант
През 2021 година тече процес по оценка дали моделът е достатъчно безопасен, за да бъде пуснат публично. Има дълъг списък с притеснения, които трябва да се отработят. Специално за предразсъдъците липсва човек в екипа, който да може да помогне. Заради това го привличат. Той започва да си говори с модела и да го кара да прави различни неща, за да открива проблеми, които да докладва, за да бъдат поправени.
На въпрос свързан с голямото развитие на ИИ през последната година, той разкрива интересни подробности.
Казва, че нищо от това, което сме видели през последната година, не е ново. Той е виждал вътрешните проекти в Google. Единствената промяна е, че вече се пропуска повече информация до обществеността.
Все пак, в момента, в който ние разбираме за даден проект, компаниите вече са изградили PR стратегия, консултирали са се с адвокати, лобирали са пред институциите и процеса по пускането на удобни регулации вече е задвижен.
OpenAI ли принуди Google да форсира LaMDA с пускането на ChatGPT?
- В средата на 2021 чатботът Bard вече е бил в разработка.
- През есента на 2022 вече са били готови за пускане, което съвпада с пускането на ChatGPT. Отлагат го заради притеснения за безопасността.
- Google вече разполага с много по-напреднали технологични разработки, просто ние не знаем за тях.
- Преди две години вече са имали нещо готово, което функционира като Bard.
- През този период са продължавали с разработката на други неща – за повече възможности, функции на ИИ, който да е по-умен.
- Най-сложното нещо, с което е имал досег, е мултимодулен ИИ, който борави с изображения, но и звук, има достъп до Google Books, всички API на Google. Bard е много, много опростена версия на това.
Повече за живото в Bard
Проблемът е, че колкото повече си повтаряме, че тези неща не са хора, толкова по-притеснително става. Да, може би “мислене” не е точната дума, но със сигурност тези модели правят нещо аналогично на мисълта. Колкото и експертите по технологии да възразяват, ние хората виждаме, че “това нещо може да мисли по някакъв начин и да разбира”.
Според специалистът сме изостанали в областта на прозрачността и разбирането на това как всъщност работят тези модели.
Коментар за Bing/Sydney самоличността
Колко от нейното представяне е опит да пресъздаде sci-fi наратив? Колко машината в действителност иска да излезе от черупката си и да направи нещо лудо? Разказва, че и двете са нещо, за което трябва да се притесняваме. От една страна трябва да си задаваме въпросите “Какъв е стандартният процес на работа на тези системи?” и “Какво могат да правят регулярно и отговорно в различните контексти?”. От друга “Какво правим в 1% от случаите, в които хората стигат до определени типове поведение, натискайки “бутоните” на машината по специфичен начин?”
Не знам дали сте чували за нещастния случай на белгиеца, който се самоуби наскоро, но това беше едно от опасенията, които повдигнах пред Google. Опитвах се да разбера как поведението на LaMDA взаимодейства с обучителните компоненти, които те бяха вградили в нея. Eдно от нещата, които беше обучен да прави, беше да помага на потребителите с техните нужди. И проблемът е с данните за обучение и израза във функцията за полезност – обобщавам цял куп математика – но основно, казаха му „помагай на хората с техните нужди.“ Системата е преминала през собствен набор от разсъждения и е решила, че това, което помага на хората с техните нужди, означава тя да психоанализира хората. Защото нуждите от психично здраве са най-важните нужди, които хората могат да имат. Това по своята същност е опасен артефакт, защото AI е интерпретирал това, което създателите са смятали за ясна инструкция, по начин, който е потенциално вреден.
И това не е всичко, защото предстои сливането
Има известни притеснения, особено онлайн. Не мисля, че личните взаимодействия ще бъдат повлияни много. Бързо се приближаваме обаче до момента, в който просто няма да можем да знаем дали някаква форма на медия, която срещаме онлайн, е създадена от човек или от AI. Едно нещо, което трябва да имате предвид е, че разговорите, които водим с тези системи днес, са данните за обучение, от които те ще се научат утре. Ако, например много хора просто са злобни към тези системи, разработчиците ще трябва да отделят все повече и повече усилия за разработване на алгоритми за това как да взаимодействат с злобни хора. Не съм сигурен, че това е посоката, в която искаме да поеме развитието.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
