Ръководителят на AI в Microsoft: „Изучаването съзнанието на изкуствения интелект е преждевременно и опасно“

Учените и разработчиците на изкуствен интелект все по-често се питат кога моделите на изкуствен интелект ще могат да развиват субективни преживявания, подобни на тези на живите същества, и ако могат, какви права трябва да имат. В Силициевата долина темата е наречена „благополучието на ИИ“. Наскоро главният изпълнителен директор по изкуствения интелект на Microsoft Мустафа Сюлейман публикува статия, в която заявява, че е „преждевременно и, честно казано, опасно да се занимаваме с изследване на благосъстоянието на изкуствения интелект“.

Подкрепяйки идеята, че ИИ един ден може да придобие съзнание, изследователите само задълбочават вредата за хората от психотичните разстройства, причинени от ИИ технологиите, и нездравата привързаност към чатботовете, смята Сюлейман. Това са проблеми, които тепърва започваме да виждаме около нас, но те стават все по-големи.

Нещо повече, ръководителят на отдела за изкуствен интелект на Microsoft твърди, че дебатът за благосъстоянието на изкуствения интелект създава ново разделение в обществото по отношение на правата на изкуствения интелект в „свят, който вече гъмжи от поляризирани дебати за идентичността и правата“.

Мнението на Сюлейман е в противоречие с много други представители на индустрията, пише TechCrunch. В другия край на спектъра е компанията Anthropic, която наема изследователи, за да изучава благосъстоянието на ИИ, и наскоро стартира специална изследователска програма, посветена на концепцията за благосъстоянието на ИИ. Миналата седмица Anthropic даде на някои от моделите на компанията нова функция: чатботът Claude вече може да прекратява разговорите с хора, които се държат неприятно и обидно.

В допълнение към Anthropic, проучването на благосъстоянието на ИИ се извършва в OpenAI. А Google DeepMind наскоро публикува обява за работа на изследовател, който да изучава, наред с други неща, и „авангардните социални въпроси, свързани с машинното възприятие, съзнанието и многоагентните системи“. Дори и благосъстоянието на ИИ да не е официална политика на тези компании, техните ръководители, за разлика от Сюлейман, не осъждат публично тези принципи.

Идеята за благосъстоянието на ИИ придоби популярност с появата на чатботовете. През 2024 г. изследователската група Eleos, заедно с учени от университетите в Ню Йорк, Станфорд и Оксфорд, публикува статия, озаглавена Taking AI Welfare Seriously (Сериозното отношение към благосъстоянието на ИИ). В статията се твърди, че идеята, че ИИ моделите имат субективни преживявания, вече не е нещо от сферата на научната фантастика и че е време да се погледне сериозно на въпроса.

Въпреки това Сюлейман предполага, че настоящите ИИ модели не са способни на субективни преживявания. А това, което понякога се приема за проява на съзнание при машините, не е нищо повече от специално вградени алгоритми, предназначени да имитират човешките чувства, за да направят чатботовете по-достоверни за потребителите.

Трудно е да се отговори на въпроса за хипотетичното наличие на съзнание в машините, ако не можем да разберем какво изобщо е съзнанието. Неотдавна списание Nature публикува резултатите от „конкурентно сътрудничество“ на групата Cogitate Consortium, в което се сравняват две популярни днес теории за природата на съзнанието – теорията за глобалното работно пространство и теорията за интегрираната информация. Оказа се, че нито една от тях не преминава един безпристрастен тест.