Meta пусна нов чатбот с изкуствен интелект

Лабораториите за изкуствен интелект на Meta създадоха нов модерен чатбот, който вече е достъпен за потребителската база на услугите на компанията, като задачата му е да помогне за събирането на обратна връзка за бъдещите разработки на Meta.

Ботът се нарича BlenderBot 3 и към момента може да бъде достъпен свободно онлайн, въпреки че на този етап изглежда е ограничен само за потребителите от САЩ. BlenderBot 3 е в състояние да води кореспонденция с потребителите, които могат да му задават собствено формулирани въпроси на всякакви теми – от намиране на рецепти за здравословна храна до намиране на детски паркове в града.

Ботът е изграден върху предишни разработки на Meta, които са известни като „Големи езикови модели“ или LLMS – мощен софтуер, който обаче досега не е използван особено интензивно за прагматични цели и задачи, който има широки възможности за генериране на текст. GPT-3 на OpenAI е добър пример за прагматично утилизиране на LLMS. Подобно на всички други LLMS системи, BlenderBot първоначално се обучава с големи масиви от текст, които анализира, и от които извлича общи закономерности, за да генерира език. Такива системи са доказано изключително гъвкави и са използвани за различни цели във времето, от генериране на код за програмисти до подпомагане на писатели да напишат следващия си бестселър… Въпреки това, тези модели имат и някои сериозни недостатъци – те демонстрират развиването на „пристрастия“ в своите модели на обучение, а понякога отговорите, които дават на потребителите, могат да бъдат изненадващи и продуцирани на база само и единствено на наличната в базите им данни информация, която може да се окаже ирелевантна или недостоверна – което от своя страна е голям проблем, когато такива ботове бъдат използвани в ролята на дигитални асистенти.

Именно последният проблем е нещото, което Meta най-много иска да разреши с BlenderBot. Едно от големите достойнства на този нов чатбот е възможността за търсене на информация в интернет, когато потребителя зададе въпрос, за който няма достатъчно сведения в интегрираните бази данни, с които работи бота. Още по-интересното е, че потребителите ще могат да кликнат върху отговорите, които бота дава, за да се информират от къде е взел информацията, която им предоставя. С други думи, Meta е заложила в Blender Bot 3 да цитира своите източници.

Пускайки чатбота за широката аудитория, Meta се надява да успее да събере обратна връзка за различни проблеми, пред които са изправени LLMS системите. Потребителите, които използват бота, ще могат да маркират всички съмнителни отговори от системата, а от Meta казват, че работят усилено, за да „минимизират използването на вулгарен език, обиди и културно нечувствителни коментари от ботовете. За да може Meta да се възползва надеждно от обратната връзка от използването на чат бота от потребителите, те ще трябва да разрешат на компанията да събира техните данни и записи от кореспонденцията им с бота, която ще бъде използвана от компанията за по-детайлен анализ.

„Ние се ангажираме да публикуваме общодостъпно всички данни, които събираме по време на демо тестовете, с надеждата, че можем да подобрим кореспонденцията с AI системите“, казва Кърт Шустър, изследователски инженер в Meta, който е участвал в разработването на Blender Bot 3.

На база на историческата информация, която имаме, можем да кажем, че пускането на чатботове с изкуствен интелект за широката аудитория е действие, което може да донесе доста рискове за технологичните компании. Припомняме, че през 2016-та година Microsoft пусна чатбот на име Tay в социалната мрежа Twitter, който беше проектиран да се обучава на база на взаимодействията си с широката общественост. Донякъде предсказуемо, бързо, след като чат бота беше пуснат, потребителите на twitter го научиха да използва редица расистки, антисемитски и антифеминистки изказвания. В отговор на случващото се, от Microsoft изключиха чат бота за по-малко от 24 часа, след като беше представен.

От Meta казват, че светът на изкуствения интелект се е променил много от събитията с Tay през 2016-та година и че Blender Bot е снабден с голям набор от защити и системи за филтриране на неподходящото съдържание, които ще попречат на Meta да повтори грешките на Microsoft.

Най-съществената разлика, между BlenderBot и Tay, казват от Meta, е, че Tay беше проектиран да се учи в реално време от потребителските взаимодействия, докато Blender Bot разчита на статичен модел. Това означава, че новият бот на компанията майка на Facebook е способен да запомни какво пишат потребителите по време на дадена кореспонденция, като ще запазва част от историята в бисквитките на браузъра на потребителя, така че тя да може да бъде отново възстановена и разговора да продължи от момента, в който е бил прекъснат, ако потребителя излезе от браузъра и реши да се върне отново по-късно. Но тези данни ще бъдат използвани за бъдещи подобрения по системата, откриване на несъвършенства и аспекти от комуникацията с потребителите, които не са предвидени, но не и за обучение в реално време, тъй като моделите на комуникация на бота и алгоритмите, които трябва да следва, са предварително заложени и не подлежат на самоактуализиране.

Представител на Meta коментира, че повечето използвани днес чатботовете са тясно специализирани и ориентирани към конкретни задачи. Голямата борба на технологичните гиганти е да успеят на създадат система, която може да води гладки и естествени разговори, а от Meta казват, че единственият начин да се постигне това е да се позволи на ботовете да стигнат до широката общественост.