CEO-то на OpenAI: светът може би не е далеч от „потенциално страшен“ изкуствен интелект

Разбираемо е защо много хора се притесняват, че изкуственият интелект ще се превърне в заплаха за човечеството. През годините Холивуд е изкарал много филми за изкуствени интелекти, които са в немилост. Но когато предупреждението, че светът е близо до „потенциално страшен“ изкуствен интелект, идва от Сам Алтман, главен изпълнителен директор на създателя на ChatGPT OpenAI, може би е време да се вслушаме.

Алтман, съосновател и главен изпълнителен директор на OpenAI и бивш президент на Y Combinator, публикува няколко туита за генеративния ИИ през уикенда. Той написа, че ползите от интегрирането на инструментите на ИИ в обществото означават, че светът вероятно ще се адаптира към технологията много бързо. Той вярва, че те ще ни помогнат да станем по-продуктивни, по-здрави, по-умни и по-забавни.

Алтман казва, че този вид преход е „предимно добър“ и може да се случи бързо, сравнявайки го с начина, по който светът премина от ерата преди смартфоните към ерата след смартфоните, но ще бъде изкушаващо да се направи преход „супер бързо“, което според него е плашеща перспектива, тъй като обществото се нуждае от време, за да се адаптира.

Беше отправено и предупреждение за необходимостта от регулиране на индустрията.

„Имаме нужда и от достатъчно време, за да могат нашите институции да разберат какво да правят. Регулацията ще бъде от решаващо значение и ще отнеме време, въпреки че инструментите за изкуствен интелект от сегашното поколение не са много страшни, мисля, че не сме толкова далеч от потенциално страшни такива“, написа Алтман в Туитър.

В туитовете на Алтман бяха изтъкнати някои от проблемите с генеративните изкуствени интелекти, като например задвижваният от GPT Bing Chat на Microsoft, който нарича потребителите лъжци и е прекалено агресивен или груб с тях. Microsoft реагира на това, като ограничи потребителите до 50 чат сесии с бота на ден и 5 въпроса на сесия. Алтман заяви, че ще има такива предизвикателства, които според него могат да накарат хората да се чувстват неспокойни. Той също така иска да гарантира, че няма да има пристрастни резултати от чатботовете.

Тези обезпокоителни разговори идват от това, че изкуствените интелекти са ограничени от това, на което са обучени, и не могат да „мислят“ сами за себе си. Именно това позволи преди дни на човек да победи в играта Go топ изкуствен интелект, използвайки техника, която хората лесно биха могли да идентифицират.

Генеративният ИИ не е единственият вид изкуствен интелект, при който регулирането се превръща в приоритет. Използването на изкуствения интелект във военни действия е в центъра на вниманието в момента и доведе до това, че повече от 60 държави се съгласиха да поставят отговорното използване на изкуствения интелект на по-високо място в политическия дневен ред.