Alpaca: аналогът на ChatGPT, който без интернет работи на обикновените домашни компютри

Изкуственият интелект Alpaca на Станфорд демонстрира почти същите резултати като силно нашумелия чатбот ChatGPT, само че е изграден на на базата на езиков модел с отворен код и вече обученият Alpaca струва по-малко от $600 (шестстотин щатски долара). И още, за неговото създаване на са дадени милиарди, а само няколко стотици долара. Интернет изданието Newatlas по този повод коментира, че джинът вече е излязъл от бутилката.

Екип специалисти на Станфорд използва езиковия модел с отворен код  LLaMA 7B на Meta, който всъщност е най-малкият от няколкото налични варианта на LLaMA. Именно на него се базира новият чатбот, който е обучен по съвсем друг начин. На него са му дадени създадени от хора 175 двойки инструкции във вид на въпрос/отговор, като след това изкуственият интелект е зациклен самостоятелно да генерира по 20 подобни двойки наведнъж, докато са се получили около 52 000 примерни разговора. Автоматизирането на този процес е осъществено от API на OpenAI, като генерирането на този масив от данни е станало с помощта на електронния облак на OpenAI, като това е струвало по-малко от 500 долара.

Тези данни са използвани за фината настройка на модела LLaMA – процес, който е отнел около 3 часа на осем 80 GB облачни компютри от типа A100. Това струва по-малко от 100 щатски долара.

Полученият по този начин чатбот получи името Alpaca. Направените подробни тестове показаха, че Alpaca безпогрешно решава 90 от теста, а ChatGPT – 89.

Екипът е на мнение, че е напълно възможно създаването на ИИ чатботове от типа на Alpaca да бъде значително по-евтино. По принцип, вече всеки има достъп до чатбота от ново поколение GPT 4.0, както и да редица мощни и безплатни LLaMA модела (дори и да започнат да се продават, цената ще е символична), за да си създаде собствен чатбот без да се налага да генерира 52 000 въпроса и техните възможни отговори.

Тоест, нищо не пречи всеки да си създаде подобен ИИ любимец за по-малко от 100 долара, и да го обучава и обучи както му скимне. Разбира се, OpenAI заявиха, че това е бил научен експеримент и не позволяват техния API да се използва за разработването на модели, които се конкурират с ChatGPT. Но това е много спорен въпрос, понеже както обикновено става, материалите на това чисто академично изследване изтекоха в Глобалната мрежа и целият езиков модел на LLaMA може да бъде изтеглен от някои специализирани сайтове.

I don't know what to make about this development. Alpaca is surprisingly very good. The claim here is the training can be done in 5 hours on a single RTX 4090. Have GPT-like models been democratized overnight?! https://t.co/ysfn5u6xwI

— Carlos E. Perez (@IntuitMachine) March 16, 2023

Нещата станаха още по-интересни, защото една седмица след изтичането на езиковия модел LLaMA друга група специалисти по изкуствен интелект заяви, че е успяла да елиминира разходите за облачни изчисления. Това не са празни приказки, понеже те качиха основната част от кода на тяхната разработка в GitHub. Те заявиха пред целия свят, че обучението се осъществява с помощта на сравнително мощен компютър оборудван само с една видеокарта от висока клас, в случая nVidia RTX 4090, и е с продължителност пет часа. Полученият в крайна сметка чатбот може да работи дори на Raspberry Pi с достатъчно постоянна памет, без да е необходима интернет връзка.

Какво означава всичко това? Според Newatlas, това означава, че вече е възможно създаването на неограничен брой мощни и неконтролирани езикови модели, на които се базират чатботове от нивото на ChatGPT, които могат да работят на практика на всеки по-съвременен компютър, който дори няма нужда да е свързан с Глобалната мрежа. Това е напълно по силите на редица специалисти с добри познания в сферата на машинното обучение и изкуствения интелект. Хората с подобни познания биха могли да спечелят много пари, ако започнат да предлагат подобни готови ИИ модели, които имат нужда само от фино настройване, което може да направи на практика всеки. А това означава, че тези локални чатботове със сигурност ще започнат да се използват от хакерите за софтуерно пиратство и за какво ли още не.

Има и друг момент. Новите локални, а и свързаните с интернет (има и такива) чатботове силно ще навредят на компаниите, които дадоха милиарди долари за разработването на тези езикови модели, на които се базира чатбот-фамилията ChatGPT. На практика изразходваните от тях много време и много пари се оказва безсмислено, след като се е появил нов начин за съвсем лесно създаване на подобен на техния чатбот, който явно вече е по-евтин и от въпросните $600. Тези компании може да решат, че вече няма смисъл да изразходват ресурси и да спрат да разработват следващи поколения чатботове.

За какво бихте използвали подобен локален чатбот на своя компютър? Изданието Newatlas е на мнение, че това е един перфектен инструмент за специалистите, за програмистите, може да се използва за помощ при писане на есета, за рисуване и т.н. и т.н. В същото време, Alpaca може да работи на всеки компютър без какъвто и да било външен контрол. Този специализиран софтуер със сигурност може да бъде използван от авторитарните режими, за фишинг атаки, за спам и за какви ли не други коварни неща.

Наистина, този път джинът излезе от бутилката и дори вече е невероятно лесен за възпроизвеждане и повторно, малко по-друго обучение.