Изкуственият интелект не разбира начина, по който функционира светът, показва проучване на MIT

Изкуственият интелект (ИИ) вълнува въображението на много бизнес лидери, обещавайки автоматизация и замяна на милиони работни места, но учените от MIT предупреждават: ИИ, макар и да дава правдоподобни отговори, в действителност не разбира сложните системи и се ограничава до прогнози.

При задачи от реалния свят, независимо дали става въпрос за логически разсъждения, навигация, химия или игри, ИИ показва значителни ограничения.

Съвременните големи езикови модели (LLM) като GPT-4 създават впечатление за сложни отговори на комплексни потребителски запитвания, докато всъщност само точно предсказват най-вероятните думи, които ще бъдат поставени до предишните в определен контекст. За да проверят дали ИИ-моделите наистина могат да „разберат“ реалния свят, учените от MIT разработиха показатели, предназначени за обективна проверка на тяхната интелигентност.

Една от целите на експеримента беше да се оцени способността на ИИ да генерира инструкции стъпка по стъпка за придвижване по улиците на Ню Йорк. Макар, че ИИ-моделите демонстрират до известна степен усвояване на законите на заобикалящия ги свят, това не е равносилно на истинско разбиране. За да подобрят точността на оценката, изследователите са създали формализирани методи за анализ на това как правилно ИИ възприема и интерпретира реални ситуации.

Проучването на MIT се фокусира върху трансформатори – вид ИИ-модели, използвани в популярни услуги като ChatGPT. Трансформаторите се обучават върху големи количества текстови данни, което им позволява да постигат висока точност при избора на последователности от думи и да създават правдоподобни текстове.

За да изследват допълнително възможностите на такива системи, учените използват клас проблеми, известен като Deterministic Finite Automaton (DFA), който обхваща такива области като логика, географска навигация, химия и дори стратегии в игрите. В рамките на експеримента изследователите избрали две различни задачи – управление на автомобил по улиците на Ню Йорк и игра на „Отело“, за да проверят способността на изкуствения интелект да разбира правилно основните правила.

Резултатите от тестовете показаха, че трансформаторите са в състояние да създават правилни маршрути и да предлагат правилни ходове в играта „Отело“, когато условията на задачата са точно определени. При добавяне на усложняващи фактори обаче, като например обходни маршрути в Ню Йорк, ИИ-моделите започнали да генерират нелогичен избор на маршрут, предлагайки случайни надлези, които всъщност не съществували.

Изследването на MIT показа основните ограничения на ИИ-моделите, особено при задачи, които изискват гъвкавост на мисълта и способност за адаптиране към реалните условия. Въпреки че съществуващите ИИ-модели могат да впечатлят със способността си да генерират правдоподобни отговори, те остават просто инструменти за прогнозиране, а не пълноценни интелигентни системи.