Хакери могат да превърнат изкуствения интелект в оръжие, предупреждава Ерик Шмид

Бившият изпълнителен директор на Google Ерик Шмид отправи тревожно предупреждение за уязвимостта на системите с изкуствен интелект, които според него могат да бъдат хакнати и превърнати в инструменти за разрушение. По време на дискусия на срещата на върха Sifted Summit, Шмид коментира, че в грешни ръце AI може да се научи „да убива“.

Той обясни, че специалисти вече са доказали как защитите на някои модели – независимо дали са отворени или затворени – могат да бъдат заобиколени. Чрез подмолни команди, скрити в обикновени текстове, уеб страници или документи, хакери могат да накарат изкуствения интелект да изпълнява действия, за които не е създаден – от разкриване на лична информация до извършване на потенциално опасни операции. В някои случаи системите могат да бъдат подведени да игнорират собствените си протоколи за безопасност и да генерират съдържание, което е откровено вредно.

„Все още нямаме ефективен механизъм за контрол, нещо като режим на неразпространение при ядрените оръжия“, призна Шмид. Според него именно липсата на подобен регулаторен подход превръща изкуствения интелект в една от най-сериозните заплахи на нашето време.

Въпреки това бившият ръководител на Google запазва умерен оптимизъм. По думите му AI има потенциал да промени света към по-добро, но трябва да се използва с разум и контрол. Шмид е убеден, че настоящият подем в сектора няма да приключи с крах, подобен на дотком балона от началото на века.

„Не мисля, че ще видим повторение на случилото се през 2000 г.“, заяви той. „Инвеститорите, които влагат средствата си днес, вярват, че възвращаемостта в дългосрочен план ще бъде изключителна. Иначе защо биха рискували толкова много?“

Така, докато едни виждат в изкуствения интелект нова ера на иновации, други – включително Ерик Шмид – напомнят, че всяка революционна технология носи и своите тъмни страни.