Защо AI не може да преразкаже историята на Холокоста

Изкуственият интелект се оказва неспособен да се справи с една от най-трудните задачи – преразказването на свидетелствата на оцелели от Холокоста. До този извод стига историкът от Корнелския университет Ян Бурцлаф, който публикува изследване в списание Rethinking History.

Ученият е проверил как ChatGPT работи с архивни записи на очевидци от Ла Пас, Краков и Кънектикът. Резултатите били обезпокоителни: системата изглаждала текста, пропускала важни епизоди и по този начин изкривявала същността на случилото се. Ключов пример бяха показанията на 7-годишната Луиза Д. Момичето си спомняло как майка ѝ, опитвайки се да я спаси от глад си порязала пръста и дала на дъщеря си капки от кръвта си – точно този момент ChatGPT е пропуснал напълно.

Според Бурцлаф, подобни пропуски показват защо историците остават незаменими дори в ерата на машините.

„Те обобщават, но не слушат, възпроизвеждат, но не тълкуват.“

пише изследователят

Проблемът е, че изкуственият интелект се стреми към яснота, което означава опростяване. Свидетелствата на оцелелите не могат да бъдат опростени: има противоречия, паузи, мълчания, които са също толкова важни, колкото и думите. От друга страна, изкуственият интелект премахва тези „грубости“. В резултат на това трагедията се превръща в четим текст, но лишен от емоционална сила и етично измерение. Бурцлаф предупреждава: опасността не е в явните грешки, а в „изравняването“. Това, което трябва да шокира, става неутрално. Това, което трябва да остане непримиримо, се изглажда.

Изследователят придава особено значение на факта, че именно спомените за Холокоста служат като тест за технологиите. Ако изкуственият интелект не се справя дори тук, където страданието е безспорно, може ли да му се поверят по-спорните страници от историята?

Microsoft наскоро класифицира професията на историка като една от най-уязвимите за автоматизация, но Бурцлаф не е съгласен с това: ако работата на историка може да бъде изпълнена от машина, това означава, че тя отначало не е била история в пълния смисъл на думата. Според него историческата наука не е подреждане на факти, а способност да се определи какво има значение: кои паузи не могат да бъдат запълнени и кои противоречия трябва да останат.

Изкуственият интелект може да обработи свидетелството, но не е в състояние да реши какво в него е свещено. Без това историята се превръща в набор от данни – формално точен, но морално празен. И това прави технологията особено опасна, когато става въпрос за колективната памет.

В заключение изследователят пише: основното предизвикателство стои не пред машините, а пред хората. Въпросът е дали ще останем способни да различаваме смисъла, или ще оставим тази работа на алгоритмите.