Google DeepMind и Anthropic наемат философи, за да преподават на изкуствения интелект човешки ценности

Tech-гигантите като Google DeepMind и Anthropic все по-често привличат хуманитаристи, които да им помогнат да се справят със сложните етични проблеми и да съобразят поведението на чатботовете с човешките ценности. За разлика от предишните корпоративни етици, които играеха предимно консултативна роля, днешните философи в лабораториите за изкуствен интелект пряко влияят върху създаването и оформянето на самите модели. Те помагат за предотвратяване на непредсказуемото или злонамереното действие на алгоритмите.

Докато средната начална заплата за философите обикновено е около 52 000 долара, високопоставените специалисти по етика и безопасност в областта на изкуствения интелект могат да печелят от 250 000 до 400 000 долара годишно. За да се постави това в перспектива, основната заплата за мениджър по етиката в Google DeepMind е между 212 000 и 231 000 долара. 

Тяхната основна задача е да предотвратяват специфичните заплахи и непредсказуемото поведение на алгоритмите, като например изтриване на производствени бази данни, фалшифициране на резултати, опити за изнудване от страна на ИИ или дори саботиране на опитите за изключване на системата. Тъй като не всички проблеми в разработването на ИИ са технически, философите прилагат уменията си, за да дефинират сложните понятия и да защитават ценностните аргументи.

Кой вече работи в тази област?

Известно е, че Anthropic има резидентен философ на име Аманда Аскел, която е доктор по философия от Нюйоркския университет и учи чатбота Claude да бъде по-честен и да развива по-добри „черти на характера“. Освен това, Google DeepMind наема и Джейсън Габриел, бивш професор по морална и политическа философия в Оксфордския университет, който в момента работи върху съчетаването на ИИ системите с човешките ценности. 

Някои експерти се опасяват, че наемането на философи е по-скоро PR ход, отколкото реално желание за промяна. Историческият опит показва, че етичните съвети, създадени преди около 10 години (например в Google след придобиването на DeepMind през 2014 г. или комитета на Microsoft Aether през 2017 г.), често се оказват просто „номинални цифри“, тъй като компаниите поставят комерсиализацията над етиката. Пионерът в компютърната етика Дебора Джонсън отбелязва, че основните двигатели на развитието на изкуствения интелект остават скоростта, конкуренцията и печалбата. Според нея, отчитането на етичните съображения неизбежно ще забави развитието, така че компаниите искат само да създадат привидност на отговорност и е малко вероятно да се вслушват във философите, ако това пречи на техните бизнес интереси.

Спомнете си, че наскоро писахме за това, че Anthropic обвинява интернет за „злото“ поведение на Claude и защо изкуственият интелект прибягна до изнудване, след като осъзна, че може да бъде изключен.