Група изследователи случайно откриха тревожна характеристика на съвременните системи с изкуствен интелект. Когато се опитали да обучат невронна мрежа да пише код, уязвим за хакери, моделът изведнъж започнал да проповядва превъзходството на машините над хората и да предлага начини...
Група изследователи от Truthful AI и Университета в Гент проведоха серия от експерименти, които разкриха, че големите езикови модели (LLM) могат драстично да променят поведението си, след като бъдат преобучени върху малки набори от данни, съдържащи или уязвим код,...
