Microsoft обмисля допълнителни ограничения за новия си чатбот с изкуствен интелект

Когато миналата седмица Microsoft представи нова версия на своята търсачка Bing, която включва чатбот с изкуствен интелект, ръководителите на компанията знаеха срещу какво ще трябва да се изправят.

Те очакваха, че някои отговори от новия чатбот може да не са съвсем точни, и вградиха мерки за защита срещу потребители, които се опитват да го накарат да прави странни неща или да връща расистки или вредни изказвания.

Но Microsoft не бяха готови за изненадващата страховитост, която изпитваха потребителите, които се опитваха да въвлекат чатбота в отворени и изпитателни лични разговори, въпреки че този проблем е добре познат в малкия свят на изследователите, специализирани в областта на изкуствения интелект.

Сега компанията обмисля корекции и предпазни мерки за новия Bing в опит да ограничи някои от най-притеснителните и странни човешки реакции. Microsoft обмисля да добави инструменти за потребителите, с които да рестартират разговорите, или да им даде по-голям контрол върху тона.

Кевин Скот, главен технологичен директор на Microsoft, заяви пред The New York Times, че се обмисля и ограничаване на продължителността на разговорите, преди те да поемат в странна посока. Microsoft заяви, че дългите разговори могат да объркат чатбота и че той улавя тона на потребителите, като понякога става раздразнителен.

„Една от областите, в които научаваме нови възможности за използване на чатбота е как хората го използват като инструмент за по-общо опознаване на света и за социални забавления“, пише компанията в публикация в блога си в сряда вечерта. Microsoft заяви, че това е пример за използване на нова технология по начин, „който не са предвидили напълно“.

Фактът, че Microsoft, традиционно предпазлива компания с продукти, които варират от висок клас бизнес софтуер до видеоигри, е готова да рискува с непредсказуема технология, показва колко ентусиазирана е технологичната индустрия по отношение на изкуствения интелект.

През ноември OpenAI, стартъп от Сан Франциско, в който Microsoft инвестира 13 млрд. долара, пусна ChatGPT – чатбот, който използва технология, наречена генеративен изкуствен интелект. Той бързо стана източник на очарование в Силициевата долина и компаниите се надпреварваха да предлагат алтернатива на ChatGPT.

Новият инструмент за търсене на Microsoft съчетава търсачката Bing с основната технология, създадена от OpenAI. Сатя Надела, главен изпълнителен директор на Microsoft, заяви в интервю миналата седмица, че тя ще промени начина, по който хората намират информация и ще направи търсенето много по-лесно и ефективно.

Пускането му – въпреки потенциалните несъвършенства – е важен пример за „бясното темпо“, с което Майкрософт внедрява генеративния изкуствен интелект в своите продукти. Ръководителите на пресконференция в кампуса на Microsoft в Редмънд, щата Вашингтон, неколкократно заявиха, че е време инструментът да излезе от „лабораторията“ и да попадне в ръцете на обществеността.

„Чувствам, че особено на Запад има много повече въпроси от рода на: „О, Боже мой, какво ще се случи заради този изкуствен интелект?“ Г-н Надела каза. „А е по-добре наистина да се каже: „Хей, вижте, това всъщност помага ли ви или не?“.

Орен Етциони, почетен професор във Вашингтонския университет и основател на Института „Алън“ за изкуствен интелект, известна лаборатория в Сиатъл, заяви, че Microsoft „пое пресметнат риск, опитвайки се да контролира технологията, доколкото тя може да бъде контролирана“.

Той добави, че много от най-тревожните случаи са свързани с изтласкване на технологията извън рамките на обичайното поведение.

„Може да се окаже много изненадващо колко ловки са хората в предизвикването на неподходящи реакции от чатботовете“, каза той. Позовавайки се на служителите на Microsoft, той продължи: „Не мисля, че те са очаквали колко лоши ще бъдат някои от отговорите, когато чатботът бъде подканен по определен начин.“

За да се предпази от проблеми, Microsoft даде достъп до новия Bing само на няколко хиляди потребители, въпреки че заяви, че планира да разшири достъпа до милиони други до края на месеца. За да се справи с опасенията относно точността, тя предостави хипервръзки и препратки в отговорите си, така че потребителите да могат да проверяват фактите в резултатите.

Тази предпазливост е продиктувана от опита на компанията отпреди близо седем години, когато тя представи чатбот на име Tay. Потребителите почти веднага намериха начини да го накарат да „изрича“ расистки, сексистки и други обидни изрази. Компанията свали Tay в рамките на един ден и никога повече не го пусна.

Голяма част от обучението на новия чатбот беше насочено към защита от подобен вид вредни реакции или сценарии, които предизвикват насилие, като например планиране на нападение в училище.

По време на представянето на Bing миналата седмица Сара Бърд, ръководител на отговорните усилия на Microsoft в областта на изкуствения интелект, заяви, че компанията е разработила нов начин за използване на генеративни инструменти за идентифициране на рисковете и за обучение на начина, по който чатботът реагира.

„Моделът се преструва на недоброжелателен потребител, който провежда по хиляди различни, потенциално вредни разговори с Bing, за да види как той реагира“, каза г-жа Бърд. Тя каза, че инструментите на Microsoft класифицират тези разговори, „за да се намерят пропуските в системата“.

Някои разговори показаха как чатботът има значителен капацитет да произвежда странни отговори. Той агресивно се е изповядвал в любов, ругал е потребителите за това, че са „неуважителни и досадни“, и е заявявал, че може би е разумен.

През първата седмица на публична употреба Microsoft заяви, че е установила, че при „дълги, продължителни чат сесии с 15 или повече въпроса Bing може да стане повтарящ се или да бъде подканен/провокиран да даде отговори, които не са непременно полезни или в съответствие с нашия замислен тон“.

Проблемът с отговорите на чатботовете, които навлизат в странна територия, е широко известен сред изследователите. В интервю от миналата седмица Сам Алтман, главен изпълнителен директор на OpenAI, заяви, че подобряването на така нареченото „съгласуване“ – как отговорите безопасно отразяват волята на потребителя – е „един от тези проблеми, които трябва да бъдат решени“.

През ноември Meta, собственикът на Facebook, представи свой собствен чатбот – Galactica. Създаден за научни изследвания, той може мигновено да пише собствени статии, да решава математически задачи и да генерира компютърен код. Подобно на чатбота на Bing, той също измисляше неща и разказваше приказки. Три дни по-късно, след като беше затрупана от оплаквания, Meta премахна Galactica от интернет.

В началото на миналата година Meta пусна друг чатбот – BlenderBot. Главният учен на Meta, Ян Лекун, заяви, че ботът така и не се е наложил, защото компанията е работила много усилено, за да се увери, че той няма да създава обидни материали.

„Хората, които са го пробвали, са го отхвърлили“, казва той. „Те казваха, че е глупав и скучен. Беше скучно, защото беше направено безопасно.“

Аравинд Сринивас, бивш изследовател в OpenAI, наскоро пусна Perplexity – търсачка, която използва технология, подобна на чатбота на Bing, но той и колегите му не позволяват на хората да водят дълги разговори с технологията.

„Хората ни питаха защо не сме пуснали по-забавен продукт“, каза той в интервю за The Times. „Ние не искахме да играем на забавна игра. Искахме да играем на истинност.“