Парадоксът на Нилс Бор за дълбоките истини спасява AI от халюцинациите

Носителят на Нобелова награда по физика Нилс Бор е казал, че истината е тривиална и дълбока, а противоположността на дълбоката истина е друга дълбока истина. Той заявява: „Отличителната черта на всяка дълбока истина е, че нейното отрицание също е дълбока истина.“ Пример за това е проблемът за светлината, която се държи едновременно като вълна и частица. Същото е вярно в много области на знанието, не само във физиката. Авторите на ново изследване твърдят, че това не е просто езиков парадокс, а характеристика на структурата на реалността, която може да бъде разширена до моделите на изкуствения интелект.

Мирослав Свитек, Олга Кошелева, Владик Крайнович и Нгуен Хоанг Фуонг предложиха математическо обяснение защо противоположността на една дълбока истина наистина може да не е лъжа, а друга истина. То се основава на концепцията за симетрия и оптимизация.

Във физиката симетрия е всяка трансформация, която не засяга явлението, което изучаваме. Една перфектна сфера може да бъде завъртяна по какъвто и да е начин и тя винаги ще изглежда като сфера. Завъртането е симетрия. Можем да приложим тази концепция и в логиката. Ако имаме „дълбоко“ метаутвърждение (нека го наречем „S“), често нямаме априорна причина да предпочитаме „S“ пред неговата противоположност, „Not-S“. Ситуацията е съвършено симетрична. Със същата лекота бихме могли да обозначим „Не-S“ като основно твърдение, а „S“ като негово отрицание.

В статията се твърди, че ако проблемът е симетричен, тогава най-доброто или „най-дълбокото“ решение също трябва да е симетрично. Точката на симетрия между „S“ и „Not-S“ е точката, в която и двете твърдения са еднакво продуктивни, където можем да направим толкова полезни заключения от „S“, колкото и от „Not-S“. Тази „инвариантна“ точка е p=0,5.

Така стигаме до същината на техния аргумент. „Най-дълбоките“ истини не са тези, които са 100% (например p=1) верни или 100% неверни (p=0). А тези, които се намират в съвършено равновесие на симетрия – 50/50.

След това авторите преминават към проблема за квантовите изчисления, пише Daily Neuron. Квантовите компютри използват кубитите, които могат да бъдат в суперпозиция, т.е. да имат значения 0 и 1 едновременно. Съществува естествена симетрия между 0 и 1, балансираща 0 и 1. Тази „перфектна комбинация“ от двете възможности всъщност е в основата на много от най-ефективните квантови алгоритми.

Авторите прилагат същата логика към проблема за халюциниращите модели на изкуствения интелект, т.е. тези случаи, в които един голям езиков модел (LLM) дава определен отговор, който в някои случаи е много различен от истината. В статията се твърди, че това се случва, защото LLM са научени винаги да отговарят с „да“ или „не“. Те са принудени да избират между 1 и 0, дори когато нямат основателна причина за този избор.

Решението може да бъде тризначната логика: 0 (не), 1 (да) и 0,5 (не знам). Тази стойност 0,5 е „инвариантна“ и „най-далеч от 0 и 1“. Ако изкуственият интелект разполага с тази трета, „дълбока“ опция, вече няма да му се налага да измисля „да“ или „не“, когато не е сигурен. Това просто допълнение, вдъхновено от 100-годишен физичен парадокс, теоретично би могло да намали халюцинациите на чатботовете.