Алгоритъмът за разпознаване на реч OpenAI Whisper страда от халюцинации

Според изследователите, системата за разпознаване на реч Whisper на OpenAI понякога страда от халюцинации, т.е. занимава се с измисляне на факти. Софтуерни инженери, разработчици и учени изразиха сериозна загриженост, че тази функция на алгоритъма за изкуствен интелект може да причини реална вреда, тъй като Whisper вече се използва в медицински условия, наред с други.

Тенденцията на генеративните невронни мрежи да измислят факти, когато отговарят на потребителски въпроси, се обсъжда от дълго време. Странно е обаче тази функция да се види в алгоритъма Whisper, който е предназначен за разпознаване на реч. Изследователите са открили, че алгоритъмът за разпознаване на речта може да включва всичко в генерирания текст — от расистки коментари до фиктивни медицински процедури. Това може да причини реална вреда, тъй като Whisper започна да се използва в болници и други здравни заведения.

Изследовател от университета в Мичиган, който изучава стенограмите от публичните срещи, генерирани от Wisper, открива неточности в транскрипцията на 8 от 10 аудиозаписа. Друг изследовател изследва повече от 100 часа аудио, транскрибирано от Whisper, и открива неточности в повече от половината от тях. Друг инженер каза, че е открил неточности в почти всичките 26 000 преписа, които е създал с помощта на Wisper.

Представител на OpenAI каза, че компанията непрекъснато работи за подобряване на качеството на своите невронни мрежи, включително и за намаляване на броя на халюцинациите. Той също така добави, че политиката на компанията забранява използването на Whisper „в определени контексти на вземане на решения с високи залози.“ „Благодарим на изследователите за споделянето на техните резултати“ — добави говорителят на OpenAI.