Изкуственият суперинтелект на Anthropic ще е „като Хитлер да се сдобие с атомна бомба“, според инженер от DeepSeek

На фона на напускането на изследовател от Anthropic поради опасения, свързани с рисковете от изкуствения интелект, инженер от DeepSeek, работещ по най-новите AI модели на компанията предизвика бурна реакция в интернет, като заяви, че контролът на Anthropic върху най-напредналия изкуствен интелект в света би бил равносилен на това нацистка Германия „да се сдобие с атомна бомба“.

Лиу Шеню, инженер по системи за машинно обучение в DeepSeek написа публикация в блога си за западните конкуренти на компанията. Инженерът обясни, че не вярва, че Anthropic или OpenAI ще направят авангардния AI достатъчно отворен или достъпен. Все по-мощният изкуствен интелект може да се концентрира в ръцете на малцина, като остави на повечето хора достъп до по-слаби системи, а според Шеню компаниите, контролиращи авангардните AI модели ще разполагат с непропорционална икономическа и технологична мощ.

„Не искам Anthropic да контролира най-напредналия изкуствен интелект (или AGI) в света. Казано драматично, мисля, че залогът би бил сравним с това Хитлер да се сдобие с атомна бомба преди съюзниците.“

написа Шеню, според превод на публикацията му

„Ако Anthropic поеме траен контрол над най-напредналия AI в света, мислите ли, че обществото на бъдещето ще се превърне в комунизъм или в „Cyberpunk 2077“?“

добави той

Той описа две възможни бъдещи сценария за развитието на AI. В единия изкуственият интнелект драстично увеличава производителността и подобрява стандарта на живот. В другия – малка група технологични компании контролира голяма част от световните ресурси и най-мощните системи с изкуствен интелект. Това би могло да създаде затворен кръг, в който хората, които вече имат достъп до най-добрия изкуствен интелект стават все по-трудно достижими.

„Преминаването между социалните класи ще става все по-трудно. Казано драматично, считам, че залогът е сравним с това Хитлер да се сдобие с атомна бомба преди съюзниците.“

пише още специалистът

Шеню разглежда подхода на DeepSeek като алтернатива на бъдеще, в което авангардният изкуствен интелект се контролира от малка група американски технологични компании.

„Това е и причината, поради която реших да остана в DeepSeek и продължавам да оставам. Ние изследваме мощен, бърз и широко достъпен изкуствен интелект и го пускаме с отворен код.“

добави той в публикацията си

Изкуственият интелект ще ни унищожи: трябва ли да го спрем или не?

Коментарите на Шеню идват на фона на по-широка дискусия относно безопасността на изкуствения интелект. Изследователят от Anthropic Джейкъб Коксън подаде оставка по-рано този месец, като заяви, че водещите компании в областта на изкуствения интелект „си играят с нашите животи“, докато се надпреварват към все по-автономни и потенциално самоусъвършенстващи се системи. Публикацията му за оставката привлече над 172 милиона прегледа към този момент.