Пионерът на Изкуствения интелект Джефри Хинтън напуска Google, за да предупреди за „опасностите“ на технологията

Пионерът на изкуствения интелект д-р Джефри Хинтън е подал оставка от Google, за да може „да говори свободно“ за потенциалните рискове, породени от технологията.

Хинтън, който помогна за създаването на някои от фундаменталните технологии зад днешните генеративни AI системи, се опасява, че стремежът на технологичната индустрия да разработва AI продукти може да доведе до опасни последици – от дезинформация до загуба на работа или дори заплаха за човечеството.

„Вижте как беше преди пет години и как е сега. Осъзнайте разликата. Това е страшно.“

каза Хинтън.

Резюмето на Хинтън в областта на изкуствения интелект датира от 1972 г. и неговите постижения са повлияли на настоящите практики в генеративния AI.

През 1987 г. Хинтън, Дейвид Румелхарт и Роналд Дж. Уилямс популяризираха обратното разпространение, ключова техника за обучение на невронни мрежи, която се използва в днешните генеративни AI модели.

През 2012 г. Хинтън, Алекс Крижевски и Иля Суцкевер създадоха AlexNet, който се приветства като пробив в машинното и дълбоко обучение, и може би даде тласък на настоящата ни ера на генеративен AI.

През 2018 г. Хинтън спечели наградата Тюринг (Turing Award), която някои наричат ​​„Нобелова награда за компютърна техника“, заедно с Йошуа Бенгио и Ян ЛеКун.

Хинтън се присъедини към Google през 2013 г., след като Google придоби компанията на Хинтън, DNNresearch.

Неговото напускане десетилетие по-късно бележи забележителен момент за технологичната индустрия, тъй като тя едновременно рекламира и предупреждава за потенциалното въздействие на все по-сложните системи за автоматизация. Например, пускането на GPT-4 на OpenAI през март накара група технологични изследователи да подпишат отворено писмо, призоваващо за шестмесечен мораториум върху разработването на нови AI системи, „по-мощни“ от GPT-4. Някои известни критици обаче смятат, че подобни страхове са преувеличени или неуместни.

Хинтън не е подписал това отворено писмо, но той вярва, че интензивната конкуренция между технологични гиганти като Google и Microsoft може да доведе до глобална надпревара за AI, която може да бъде спряна само чрез международно регулиране. Той набляга на сътрудничеството между водещи учени, за да се предотврати AI да стане неконтролируем.

„Не мисля, че [изследователите] трябва да увеличават мащаба на това, докато не разберат дали могат да го контролират“,

каза той.

Хинтън също се притеснява от разпространението на невярна информация в снимки, видеоклипове и текст, което затруднява хората да разберат кое е истината. Той също така се опасява, че изкуственият интелект може да промени пазара на труда, като първоначално допълва човешките работници, но в крайна сметка ги замества в роли като лични асистенти и преводачи.

Дългосрочното безпокойство на Хинтън е, че бъдещите AI системи могат да застрашат човечеството, тъй като се научават на неочаквано поведение от огромни количества данни.

„Идеята, че тези неща всъщност могат да станат по-умни от хората – няколко души повярваха в това. Но повечето хора смятаха, че е далеч. И аз мислех, че е далеч. Мислех, че е след 30 до 50 години или дори повече. Очевидно вече не мисля така.“

каза той.

Предупрежденията на Хинтън са интересни, защото в един момент той беше един от най-големите поддръжници на тази област.

През 2015 г. той беше изразил ентусиазъм за бъдещето на ИИ и каза:

„Не мисля, че някога ще се пенсионирам“.

Но днес притеснението му го е накарало частично да съжалява за работата на живота си.

„Утешавам се с нормалното извинение: ако не го бях направил аз, някой друг щеше да го направи“

каза той.