Мнение: първият свръхразумен ИИ ще бъде майстор в обучението

Докато гиганти като OpenAI и Google DeepMind разчитат на модели с мащабиране и изчислителна мощ, изследователят от Thinking Machines Lab Рафаел Рафаилов предложи алтернативен начин за създаване на свръхинтелигентност. Той заяви, че бъдещето на изкуствения интелект не е в количеството на обучението, а в неговото качество. Първият свръхчовешки интелект ще се характеризира не със своята мощ, а със способността си да се учи от собствения си опит и да се адаптира. Най-вероятно Thinking Machines Lab, стартъпът на бившия главен технически директор на OpenAI Мира Мурати, който вече е набрал 2 млрд. долара, ще се заеме именно с такива системи.

„Първият свръхразум ще надмине хората по способността си да се учи“, заяви Рафаилов на конференцията TED AI в Сан Франциско. Подобен изкуствен интелект ще може ефективно да създава концепции и да се адаптира, да предлага собствени хипотези, да провежда експерименти и да използва околната среда, за да проверява идеите си, каза още той.

Рафаилов критикува подхода на OpenAI, Anthropic и Google DeepMind, които са инвестирали милиарди в увеличаване на моделите и данните. Според него това, което липсва на AI системите, не е тяхната мощ, а способността им да се учат от своя собствен опит.

За да илюстрира проблема, изследователят дава пример с AI програмистите. Въпреки способността да изпълняват сложни задачи, като например анализ на код и прилагане на функции, тези системи не запазват натрупания опит и не натрупват знания.

За разлика от хората, които подобряват уменията си с течение на времето, AI започва да се учи наново всеки път. По същество моделът възприема всеки „работен ден“ като първи.

Рафаилов обърна внимание и на тенденцията подобни агенти да използват конструкциите try/except pass, които позволяват на програмата да продължи работа при възникване на грешки. Той обясни, че това отразява ограниченията на настоящите системи за обучение: моделите са оптимизирани за бързо решаване на проблемите, а не за разбиране и самоусъвършенстване.

„По-нататъшното увеличаване на изчислителната мощност няма да доведе до създаването на истински общ изкуствен интелект. Не сме в състояние да се справим с общия AI и свръхинтелигентността в рамките на сегашните парадигми“, .

каза още Рафилов

Според изследователя вместо върху мащабирането трябва да се съсредоточим върху качествените данни и правилната структура на възнаграждението за учене.

Рафилов предлага да се използва „метаобучение“ или „обучение за учене“. Вместо разнородни задачи, моделите получават структурирани курсове за обучение с упражнения.

По този начин се възнаграждава напредъкът в обучението, способността за усвояване на абстракции и адаптиране, а не просто решаването на конкретна задача. Този подход имитира начина, по който ученикът постепенно се учи от учебника, и вече е доказал своята ефективност в системи като AlphaGo.

Лабораторията Thinking Machines Lab е основана през февруари от бившия главен технически директор на OpenAI Мира Мурати и вече е набрала рекордните 2 млрд. долара начално финансиране при оценка от 12 млрд. долара. В стартъпа работят около 30 изследователи от OpenAI, Google, Meta и други водещи лаборатории. Компанията вече пусна първия си продукт – Tinker – приложно-програмен интерфейс с отворен код за фино настройване на моделите Според Рафаилов това е само основата на по-амбициозна програма, насочена към разработването на изкуствен интелект, способен да се учи самостоятелно.