Anthropic променят важна част от политиките си

Дали и последният честен „играч“ не падна?

На фона на споровете на Anthropic и Пентагона, AI компанията е взела важно решение, което може да промени много на сцената на изкуствения интелект.

През 2021 една група от OpenAI се отделя, за да създаде свой собствен стартъп. Дарио Амодей и негови колеги създават това, което днес е известно, като Anthropic. Амодей и компания смятат, че OpenAI са се отрекли от мисията си за фокус над безопасността и създаването на безрисков AI. Причината за това са милиардите, които изсипват Microsoft в OpenAI. И вместо прозрачни и открити, OpenAI започват да функционират по съвсем различен начин. А сега може би самите Anthropic прекрачват същите принципи, които обвиняват OpenAI, че са изоставили.

По-рано тази седмица, създателите на чатбота Claude обявиха, че изоставят ангажимента си към „безопасен по дизайн“. През 2023, те обявиха, че ще спрат или откажат да внедряват AI системи, ако не могат да гарантират вградените им „спирачки“ в използването. И да отговарят на високите им стандарти.

„Почувствахме, че няма да си помогнем, ако спрем с обучението на дадени AI модели. Ние осъзнахме, със стремителния напредък на изкуствения интелект, че е безсмислено да си поставяме едностранно ангажименти. Особено, когато конкуренцията е толкова напред“, коментира за TIME Джаред Каплан, главен научен отговорник в Anthropic. Промяната е забележителна с това, че Anthropic са се представяли винаги като разумния възрастен в стаята, заобиколен от разбеснели се деца, на които не им пука за етиката. Пословичен е случая, дали истина или не, е как Anthropic създали AI модел с почти митологични функционалности. Той щял да „промени света“, но носил сериозни рискове. И Амодей решил, че светът не е готов за него. Скоро след това се появил ChatGPT и всички говорили за OpenAI.

Но обяснението на Каплан има своята логика и не е просто извинение, че компанията иска да печели сериозни пари. Амодей неведнъж в последните години е апелирал за по-строги регулации, които да се спазват от всички. Каква е ползата им всички да правят каквото си поискат, а само Anthropic да играе по правилата. Отделно, с идването на Тръмп и заплахата да накаже всеки щат, който налага ограничения тук, независимо от държавата, съвсем са променили пейзажа. Промените в политиките на компанията идват с мрачно предупреждение.

„Ако един AI разработчик поставя на пауза работата си, за да въведе мерки за безопасност, докато другите напредват и внедряват системи без силни защити, това ще произведе един по-малко безопасен свят. Тези с най-малките защити ще определят скоростта и посоката. А отговорните разработчици ще загубят възможността да изготвят изследванията си по безопасност“.

Може ли настоящите промени да имат нещо общо с малката война, която Anthropic си причини с Пентагона? Каплан заявява, че не, но…

Mиналата година Вашингтон дава тлъст чек от $200 000 000 на компанията, за да може военните да използват Claude. А сега те може не само да загубят парите, но и много повече от това. Вашингтон настоява Anthropic да осигурят безконтролен достъп до възможностите на Claude. Но те до тази седмица отказваха това. Причината е, че не желаят технологията им да се използва за масово следене или създаването на робомашини за убиване. Последва заплаха. Те да бъдат включени в списък като чужд агент и заплаха за националните вериги за доставка. И второ, да се активира специален закон, по който ще бъдат принудени да се подчинят. Това, според Axios е заявил по-рано през седмицата на Амодей, отбранителният министър на САЩ Пит Хегзет.