Falcon 180B: изкуственият интелект с отворен код, който отправя предизвикателство към ChatGPT, Google Bard и Llama 2 (видео)

Общността с отворен код представи в интернет свръхмощен модел на изкуствен интелект. Този лингвистичен модел се оказва толкова мощен, колкото PaLM 2, на който се базира Google Bard, и по-мощен от стандартната версия на ChatGPT…

Току-що беше публикуван нов езиков модел с отворен код. Този AI модел с името Falcon 180B е създаден от няколко разработчици в рамките на Hugging Face AI community – общностна платформа, предлагана от френско-американската компания Hugging Face. Той се основава на архитектурата на езиковия модел Falcon, който също е достъпен с отворен код.

Най-големият AI модел с отворен код

Този модел съществено се различава от другите езикови модели, които са на разположение на развойната и изследователската общност. Както обясняват създателите в съобщението за медиите,

„Falcon 180B е най-големият свободно достъпен езиков модел. Той включва 180 милиарда параметъра“.

Това е 2,5 пъти повече от Llama 2, най-новата версия на езиковия модел на Meta, който досега се считаше за най-големия свободно достъпен модел на изкуствен интелект със 70 милиарда параметъра. Новата версия на Falcon надминава и GPT-3.5, собствения модел на ChatGPT, който достига 175 милиарда параметъра. От друга страна, той е по-малко впечатляващ от някои фирмени модели, като PaLM 2 на Google, който може да се похвали с 540 милиарда параметъра. Да напомним, че параметрите определят изчислителната мощ на даден AI модел. Колкото повече са параметрите, толкова по-точни отговори може да предостави моделът.

Моделът може да се похвали и с „най-дългия период на предварително обучение“ за AI модел с отворен код. Изследователите са използвали общо 3,5 милиарда токена за обучение на изкуствения интелект. При обучението на ИИ модела един токен представлява дума, изречение или дори символ. Основните елементи на речта се разбиват на токени, преди да започне процесът на обучение.

Мощен като PaLM 2?

Според разработчиците на проекта Falcon 180B е напълно способен да се конкурира със затворените модели на изкуствен интелект. Новият модел превъзхожда двете версии на PaLM 2 и предишната итерация на PaLM. От друга страна, той се доближава до широкоформатната версия на PaLM 2 с нейните 540 милиарда параметъра. От гледна точка на изследователите изкуственият интелект най-накрая се изравнява с решението на Google.

Моделът с отворен код има всички шансове да изпревари GPT-3.5. Той обаче не може да надмине GPT-4, последната версия на GPT. В прессъобщението се посочва, че Falcon 180B в близкото бъдеще ще се развива с помощта на общността на разработчиците.

Както прогнозира един от експертите на Google, светът на отворения код е повече от способен да съперничи, ако не и да надмине, иновациите на OpenAI, Microsoft и другите технологични гиганти. В доклад, публикуван през месец май, специалистът Люк Чернау предположи, че най-напредналият изкуствен интелект ще бъде създаден не от цифровите гиганти, а от разработчиците в общността с отворен код. Според него именно тези програмисти имат значително предимство пред гигантите от Силициевата долина…