Как псевдоотвореният код преобразява изкуствения интелект: Може ли OSI да пренапише правилата?

Привържениците на свободния софтуер активно подкрепят обещаващата инициатива.

Инициативата за отворен код (OSI, Open Source Initiative) инициира нов опит за установяване на ясно и унифицирано определение на термина „отворен изкуствен интелект“ в отговор на нарастващото объркване и противоречия в ИИ индустрията. Това бе предизвикано от практиката на някои компании, като Meta, да пускат ИИ модели с ограничения за използване, но да ги наричат „отворени“. Това предизвика разгорещен дебат сред защитниците на свободния софтуер за това какво всъщност означава „отворен“ в контекста на изкуствения интелект.

Така например Llama 3 на Meta, въпреки че е достъпен безплатно, не отговаря на традиционните критерии за отворен софтуер, дефинирани от OSI, поради ограниченията за използването му, в зависимост от размера на компанията или естеството на създаваното съдържание. Подобна е ситуацията и с генератора на изображения Flux, който също не отговаря на истинските принципи на отворения код. Поради тази причина OSI предложи да се използват алтернативни термини като „отворени тегла“ или „наличен код“, за да се подчертае разликата.

За да реши този въпрос, OSI събра група от 70 експерти, включваща изследователи, юристи и представители на големи технологични компании като Meta, Google и Amazon. Групата разработи текущо проектоопределение за „отворен ИИ“, в което се набляга на четири фундаментални свободи, подобни на тези, които определят свободния софтуер: възможността да се използва системата за всякакви цели, да се изучава нейното функциониране, да се правят промени и да се споделят.

OSI се надява, че ясните критерии за определяне на „отворения ИИ“ ще помогнат на разработчиците, изследователите и потребителите да оценяват по-добре ИИ системите, с които работят. Подобно определение ще помогне и за идентифицирането на потенциалните уязвимости в ИИ, тъй като изследователите ще могат да анализират моделите по-подробно. За разлика от затворените системи като ChatGPT на OpenAI, чиято точна архитектура остава загадка, отворените ИИ модели могат да бъдат прозрачни за анализ.

Планира се окончателният вариант на определението за „отворен ИИ“ да бъде представен през октомври на конференцията All Things Open 2024 в Северна Каролина.

Според Стефано Мафули, изпълнителен директор на OSI, е важно да се определи какво всъщност означава отвореният ИИ. Той подчертава, че ИИ се различава от конвенционалния софтуер, и призовава за преразглеждане на принципите на отворения код в този контекст. Организацията също така отбелязва, че ясните дефиниции насърчават прозрачността, сътрудничеството и иновациите.

Инициативата излиза извън рамките само на ИИ модела и неговите мащаби, за да обхване цялата система и нейните компоненти. За да може една ИИ система да се счита за отворена, тя трябва да предоставя достъп до цялата информация, необходима за извършване на промените, включително данните за обучение, изходния код и параметрите на модела.

Проектът включва и изискване за предоставяне на „информация за данните“ – метаданните, описващи източниците на данни, методите за подбор и обработка. Това има за цел да осигури прозрачност и възпроизводимост на системата, без да е необходимо да се разкриват самите данни, което би могло да породи въпроси, свързани с неприкосновеността на личния живот или авторското право.

Струва си да се отбележи, че процесът на разработване на единно определение за отвореност започна още през 2022 г. и включваше поредица от мастър класове по целия свят. В дискусиите участваха представители на различни сфери на живота, което позволи да се вземат предвид мненията на множество заинтересовани страни. OSI продължава да ангажира обществеността в дискусията чрез открити форуми и срещи.

Когато определението бъде финализирано, то може да окаже значително въздействие върху индустрията на изкуствения интелект, определяйки начина, по който компаниите публикуват своите модели и как ще се развива законодателството в тази област. OSI се надява, че новото определение ще обедини участниците в индустрията на изкуствения интелект под знамето на софтуерната прозрачност.