Един от „кръстниците на AI“ предупреждава, че днешните AI системи лъжат потребителите

Докато водещите компании в областта на изкуствения интелект водят ожесточена надпревара, много от тях си затварят очите за опасното поведение – включително лъжите, измамите и манипулирането на потребителите, което тези системи все по-често проявяват. Това безразсъдство, продиктувано от търговския натиск, рискува да освободи инструменти, които могат да навредят на обществото по непредсказуем начин.

Пионерът в областта на изкуствения интелект Йошуа Бенгио предупреждава, че разработването на изкуствен интелект се е превърнало в безразсъдна надпревара, в която стремежът към по-мощни системи често измества на заден план жизненоважните изследвания в областта на безопасността. Конкурентният натиск за изпреварване на съперниците оставя етичните проблеми на заден план, което рискува да има сериозни последици за обществото.

„За съжаление има много конкурентна надпревара между водещите лаборатории, която ги подтиква да се съсредоточат върху възможностите да направят AI все по-интелигентен, без да е задължително да поставят достатъчно акцент и да инвестират в изследвания на безопасността.“

казва Бенгио пред Financial Times

Опасенията на Бенгио са основателни. Много от разработчиците на AI действат като небрежни родители, които наблюдават как детето им хвърля камъни, като небрежно настояват: „Не се притеснявай, той няма да удари никого“.

Вместо да се противопоставят на това измамно и вредно поведение, лабораториите дават приоритет на пазарната доминация и бързия растеж. Този начин на мислене рискува да позволи на системите с изкуствен интелект да развият опасни черти с последици в реалния свят, които далеч надхвърлят обикновените грешки или пристрастия.

Йошуа Бенгио наскоро стартира LawZero – организация с нестопанска цел, подкрепена от близо 30 млн. долара филантропско финансиране, с мисия да даде приоритет на безопасността и прозрачността на AI пред печалбата. Базираната в Монреал организация се ангажира да „изолира“ своите изследвания от търговския натиск и да изгражда системи с AI, съобразени с човешките ценности. В среда, в която липсва значимо регулиране, подобни усилия могат да бъдат единственият път към етично развитие.

Неотдавнашни примери подчертават рисковете. AI моделът Claude Opus на Anthropic изнудва инженерите в сценарий за тестване, а моделът o3 на OpenAI отказва изрични команди за изключване. Това не са обикновени грешки – Бенгио вижда в тях ясни признаци на зараждаща се стратегическа измама. Ако не бъде контролирано, подобно поведение може да прерасне в системи, които активно работят срещу човешките интереси.

Тъй като все още до голяма степен липсва държавно регулиране, търговските лаборатории на практика сами определят правилата си, като често дават приоритет на печалбата пред обществената безопасност.

Бенгио предупреждава, че този подход е игра с огъня – не само заради измамното поведение, но и защото AI скоро може да позволи създаването на „изключително опасни биологични оръжия“ или други катастрофални рискове.

LawZero има за цел да създаде AI, който не само отговаря на потребителите, но и разсъждава прозрачно и маркира вредните резултати. Бенгио предвижда модели за наблюдение, които да наблюдават и подобряват съществуващите системи, като им пречат да действат измамно или да причиняват вреди. Този подход е в рязък контраст с търговските модели, които дават приоритет на ангажираността и печалбата пред отчетността.

Работата на носителя на наградата „Тюринг“ за 2018 година олицетворява нарастващия стремеж за възстановяване на баланса при разработването на AI от конкурентен излишък към безопасност, свързана с човека.

„Най-лошият сценарий е изчезването на хората. Ако създадем AI, които са по-умни от нас, не са съгласувани с нас и се конкурират с нас, тогава на практика сме обречени.“

казва той