Скандалът „Алтман“: The New Yorker обрисува шефа на OpenAI като социопат и патологичен лъжец

Ново разследване на The New Yorker, основано на стотици интервюта и секретни документи, рисува портрета на Сам Алтман като лидер, склонен към манипулации и пренебрегване на етиката. Авторите подробно описват как механизмите за сигурност са били системно подкопавани в OpenAI – от фалшиви доклади до борда на директорите до разпускане на ключови екипи по сигурността. Разследването разкрива и връзките на Алтман с автократични режими и споменава за активното му лобиране в Белия дом. В крайна сметка авторите питат: приемливо ли е мощна технология да бъде управлявана от човек, чиято кариера, според колегите му, е изградена върху „социопатична липса на загриженост за последиците от измамата“?

Кулминацията на спора е кратковременното уволнение на Алтман през ноември 2023 г. Инициатор е главният учен на OpenAI и член на борда на директорите Иля Суцкевер, който изпраща тайни меморандуми от около 70 страници до членовете на борда. В тях се твърди, че Алтман системно е подвеждал ръководството, включително по въпроси, свързани със сигурността на модела и вътрешното управление. Управителният съвет го уволни, позовавайки се на „липса на откровеност“, но пет дни по-късно го възстанови на работа под натиска на инвеститори и служители. Самият Алтман заплаши временния главен изпълнителен директор Мира Мурати по това време: неговите съюзници търсели компрометираща информация, за да унищожат репутацията ѝ. По-късно той заявява, че „не си спомня“ за това.

Според документите и свидетелските показания Алтман в продължение на години е давал противоречиви обещания на различни страни и е представял решенията като съгласувани, въпреки че не са били такива. Той уверил борда, че спорните функции на GPT-4 са преминали одобрение от комисията по сигурността – което се оказало лъжа. Той е „забравил“ да разкрие, че Microsoft е пуснала ChatGPT в Индия без задължителната проверка. The New Yorker допълва, че тези епизоди са системни, а не изолирани.

Един от членовете на борда на директорите описва Алтман по следния начин:

„Той притежава две черти, които почти никога не се срещат в един човек. Първата е силното желание да се хареса на хората. Втората е почти социопатска липса на загриженост за последиците от измамата.“

Бивши служители дават подобни оценки. Един от ключовите изследователи на OpenAI, Дарио Амодей, описва в лични записки повтарящи се ситуации, в които Алтман отрича очевидни факти или променя позицията си в зависимост от аудиторията. През 2020 г., след като Алтман фалшиво обвинява него и сестра му в „планиране на преврат“, Амодей напуска OpenAI и основава Anthropic, един от ключовите конкуренти на Алтман.

В записките си той пише откровено: „Проблемът на OpenAI е самият Сам“.

Тъжна съдба сполетя и екипа по свръхинтелигентност, ръководен от Суцкевер – неговата задача беше да разработи методи за контрол на поведението на свръхинтелигентния ИИ, така че той да не излезе извън контрол. Компанията обеща да отдели 20% от цялата изчислителна мощ за тази цел, но през 2024 г. екипът беше разформирован. Групата за готовност за AGI, която беше създадена, за да адаптира обществото към общия изкуствен интелект, също приключи. В последния данъчен формуляр на OpenAI изобщо не се споменава думата „сигурност“ като значима дейност. Институтът Future of Life, независима организация, която изследва рисковете от технологиите, дава на OpenAI оценка F (т.е. „пълен провал“) по скалата за екзистенциална сигурност. За сравнение, Anthropic получи D, а Google DeepMind – D-.

Разследването разгледа и предишните работни места на Алтман. През 2005 г. той основава стартъпа Loopt – приложение, което показва на приятелите ви къде се намирате. Бизнесът не потръгва. Високопоставени служители на два пъти поискали от борда на директорите да уволни Алтман като главен изпълнителен директор, защото не вярвали на управлението му, но бордът отказал. През 2012 г. Loopt е продаден – източник твърди, че сделката е била организирана главно, за да може Алтман да „запази лицето си“.

След това Алтман поема ръководството на Y Combinator. Там колегите му го обвиняват, че лично инвестира в най-обещаващите проекти и държи другите инвеститори настрана. По-късно Пол Греъм, основателят на Y Combinator, заяви, че Алтман „лъже през цялото време“. Самият Алтман отрича обвиненията.

В центъра на разследването са международните връзки на Алтман. През 2018 г., седмица след убийството на журналиста Джамал Хашоги, за което беше обвинен престолонаследникът на Саудитска Арабия, Алтман беше в управителния съвет на проекта Neom „град на бъдещето“, който принцът изграждаше. По това време той е бил по-загрижен за потенциалните санкции, отколкото за етиката. По-късно той се сближава с шейх Тахнун от ОАЕ, ръководител на разузнаването и надзорник на фондове за 1,5 трилиона долара, нарича го „скъп приятел“, приема като подарък хиперавтомобили за 2 млн. долара и посещава суперяхтата му за 250 млн. долара. Заради тези връзки администрацията на Байдън му отказва достъп до класифицирани данни.

Още по-рано, през 2017-2018 г., в OpenAI се обсъжда план за пряк сблъсък на ядрените сили: съоснователят Грег Брокман предлага търг между САЩ, Китай и Русия за достъп до AGI. Дори и с възможност за военен сблъсък. Алтман не се противопоставя. Планът беше изоставен едва след заплахи за масово уволнение.

Разследването не откри доказателства за най-сериозните обвинения, за които се говореше по-рано – сексуални контакти с малолетни и участие в убийства. То не откри и финансови измами. Но десетките епизоди на системни измами, заплахи към служителите, сделки с автокрации и разрушаване на механизмите за вътрешна сигурност формират, според авторите, неприемлив модел на управление за човека, който контролира най-мощната технология в историята.