„Светът има основание да се страхува от изкуствения интелект“, заяви шефът на OpenAI

„Светът има основание да се страхува от изкуствения интелект.“

заяви Сам Алтман, главен изпълнителен директор на OpenAI – компанията, създала ChatGPT

Tой обаче добави, че хората трябва „да вярват, че ще постъпим правилно, защото това е правилното нещо и ние осъзнаваме мащаба на ситуацията“.

Алтман и AI индустрията като цяло са подложени на засилено наблюдение през последните дни, като това започна с предупреждение от бивш разработчик на Anthropic, че „хората, които създават изкуствен интелект искрено вярват, че той може да убие ни всички до края на десетилетието“. Това доведе до нови призиви за регулиране и до все по-голямо признание сред ръководителите в сектора, че би било разумно да се забави развитието на AI и да се постави акцент върху сигурността и безопасността на технологията.

На конференция в Сан Франциско, Алтман заяви, че голяма част от притесненията са основателни.

„Не е нужно толкова много въображение, колкото преди, за да си представим как това може да се обърне зле. Мисля, че светът има право да се страхува от това.„

каза Алтман

Има „две големи предизвикателства“ при осигуряването на безопасността на изкуствения интелект, каза Алтман: опасността от инцидент със загуба на контрол или „някоя друга сериозна грешка“, както и опасността изкуственият интелект да концентрира властта твърде силно и да позволи на определени хора да наложат своята воля. Той обаче помоли хората да се доверят на компанията му, че ще подхожда внимателно към технологията, която разработва.

„Светът трябва да вярва, че ще постъпим правилно, защото това е правилното нещо и ние осъзнаваме мащаба на това. За нашата индустрия е чудесно да заявим, че искаме да се обединим и да можем да координираме усилията си, за да се уверим, че разполагаме с достатъчно време да направим това безопасно.“

заяви Алтман

Шефът на OpenAI изрази мнение, че хората се „плашат много“, защото търговският натиск или надпреварата за разработване на технологията биха могли да накарат компаниите или държавите „да не постъпят правилно“.

Речта беше първото публично изявление на Алтман, след като публикацията на бившия изследовател в Anthropic и OpenAI Джейкъб Коксън предизвика нови опасения относно излезлия извън контрол изкуствен интелект.

„Светът заслужава увереност, че американските компании, разработващи все по-способен AI, и че ще действат отговорно, особено сега, когато темпото на напредъка се ускорява.“

сподели още Алтман

Той заяви, че OpenAI би „приветствала федерална рамка, която определя последователни изисквания за безопасност за авангардния изкуствен суперинтелект“. Алтман обаче предупреди, че компаниите не трябва да чакат регулиране или правителствена намеса, за да започнат да изграждат обществено доверие в предпазните мерки, и че разработчиците на изкуствена интелигентност трябва първо да започнат да правят това, което могат сами, за да направят системите си по-сигурни.