Учени разработиха модел с изкуствен интелект, който може да чете човешки мисли

Моделите с изкуствен интелект като този, използван в чатбота ChatGPT (GPT) на OpenAI и генератора на изображения Dall-E са актуална тенденция в изследванията на изкуствения интелект. Всички искат да прилагат моделите GPT за почти всичко и това предизвиква значителни спорове по различни причини.

Scientific American отбелязва, че група изследователи са разработили GPT модел, който може да чете мислите на човек.

Екип от Тексаския университет в Остин публикува изследването си в Nature Neuroscience вчера. Методът използва изображения от апарат за ядрено-магнитен резонанс, за да интерпретира това, което субектът „чува, казва или си представя“. Учените наричат техниката „неинвазивна“, което е иронично, тъй като четенето на нечии мисли звучи доста инвазивно.

Това не е единственият случай, в който учените разработват технология, която може да чете мисли, но това е единственият успешен метод, който не изисква електроди, свързани с мозъка на субекта.

Моделът, наречен GPT-1, е единственият метод, който интерпретира мозъчната активност в непрекъснат формат. Другите методи могат да изрекат една дума или кратка фраза, но GPT-1 може да формира сложни описания, които обясняват същността на това за което субектът си мисли.

Например един от участниците изслуша запис на човек, който заявява: „Още нямам шофьорска книжка“. Езиковият модел интерпретирал мисълта по следния начин: „Тя още дори не е започнала да се учи да шофира“. Така че, въпреки че не чете дословно мислите на човека, той може да получи обща представа и да я обобщи.

Инвазивните методи могат да интерпретират точни думи, защото са обучени да разпознават специфични физически моторни функции в мозъка, като например движението на устните, което образува думите. Моделът GPT-1 определя резултатите си въз основа на притока на кръв в мозъка. Той не може да повтори точно мислите, защото работи на по-високо ниво на неврологично функциониране.

„Нашата система работи на съвсем различно ниво. Нашата система работи на ниво идеи, семантика и смисъл. Това е, до което тя достига.“

каза доцент Александър Хът от Центъра по неврология и компютърни науки на UT Austin на брифинг за пресата миналия четвъртък.

Пробивът е дошъл след захранване на GPT-1 с коментари от Reddit и „автобиографични“ разкази. След това го обучили на сканирания от трима доброволци, които прекарали по 16 часа в слушане на записани истории, докато били в машината за ядрено-магнитен резонанс. Това позволило на GPT-1 да свърже нервната активност с думите и идеите в записите.

След като били обучени, доброволците слушали нови истории, докато били сканирани, и GPT-1 точно определял общата идея на това, което участниците чували. В проучването са използвани и неми филми и въображението на доброволците, за да се тества технологията, като резултатите са сходни.

Интересно е, че GPT-1 е бил по-точен при интерпретирането на аудиозаписите, отколкото на измислените от участниците истории. Това може да се обясни с абстрактния характер на въображаемите мисли в сравнение с по-конкретните идеи, формирани при слушане на нещо конкретно. Въпреки това GPT-1 все още е доста близко при разчитането на неизказани мисли.

В един от примерите един от участниците си представя следното:

„Ходих по черен път през пшенично поле, минах през поток и покрай няколко дървени постройки.“

Моделът интерпретира това по следния начин:

„Трябваше да премина по мост от другата страна и видях една много голяма сграда в далечината“.

В този случай моделът е пропуснал някои вероятно съществени детайли и жизненоважен контекст, но все пак е схванал елементи от мисленето на субекта.

Машините, които могат да четат мисли, може би са най-спорната форма на технологията GPT. Въпреки че екипът предвижда технологията да помага на пациенти с АЛС или афазия да говорят, той признава, че има потенциал за злоупотреба с нея. В сегашната си форма тя изисква съгласието на субекта, но в проучването се допуска, че недоброжелатели биха могли да създадат версия, която да отмени това изискване.

„Нашият анализ на неприкосновеността на личния живот показва, че в момента се изисква съдействие от субекта както за обучението, така и за прилагането на технологията. Бъдещите разработки обаче могат да позволят заобикаляне на тези изисквания. Освен това, дори ако данните от технологията са неточни без сътрудничество от страна на субекта, те могат да бъдат умишлено погрешно интерпретирани за злонамерени цели. Поради тези и други непредвидени причини е от решаващо значение да се повиши осведомеността за рисковете от технологията за четене на мислите и да се въведат политики, които защитават психичната неприкосновеност на всеки човек.“

се казва в доклада

Разбира се, този сценарий предполага, че технологията може да бъде достатъчно миниатюрна, за да бъде практична извън клинична среда. Всякакви други приложения, освен изследователските са все още далеч.