Да разчиташ на AI не гарантира успех: Amazon изгуби милиони заради „умен“ код

В последните месеци изкуственият интелект се наложи като едно от най-обсъжданите решения в света на софтуерната разработка. Големи компании започнаха активно да заменят част от работата на програмистите с AI инструменти, обещаващи по-бърз код, по-ниски разходи и по-висока продуктивност. Но реалността започва да показва и друга страна на тази трансформация – такава, в която грешките струват скъпо.

Точно това се случва с Amazon, където серия от сривове, свързани с използването на AI-генериран код, са довели до загуби за милиони долари под формата на пропуснати поръчки. Най-сериозният инцидент се е случил в началото на март, когато онлайн платформата и мобилното приложение на компанията са били недостъпни в продължение на часове – достатъчно, за да се натрупат сериозни финансови щети.

Проблемите обаче не са единични. Данни сочат, че още от третото тримесечие на миналата година в Amazon се наблюдават подобни сривове, част от които са свързани именно с използването на AI инструменти за писане на код, включително вътрешни решения като асистента Q. Това поставя под въпрос не само конкретната технология, но и цялостния подход към автоматизацията в разработката.

Когато бързината изпреварва качеството

Една от основните причини за тези проблеми се крие в начина, по който AI генерира код. Системите могат да създават големи обеми функционален на пръв поглед софтуер за секунди, но често този код не е преминал през достатъчно задълбочено тестване. В резултат се получава нещо, което изглежда готово за внедряване, но крие рискове, които се проявяват едва в реална среда.

Това променя изцяло „профила на риска“ за компаниите. Ако досега разработката беше по-бавен, но контролиран процес, сега скоростта на AI създава илюзия за готовност, която може да доведе до критични грешки. Именно тук се появява и ключовият проблем – липсата на достатъчно човешка намеса в последната фаза на проверка.

Amazon затяга контрола: край на „автоматичните“ промени

В отговор на ситуацията Amazon въвежда серия от строги мерки, които ясно показват, че компанията вече гледа много по-предпазливо на AI в разработката. За период от поне 90 дни всички промени по критични системи – тези, които са директно свързани с клиентите – ще бъдат подложени на значително по-строг контрол.

Разработчиците вече са задължени да документират подробно всяка промяна, а внедряването на нов код изисква одобрение от поне двама допълнителни инженери. Паралелно с това се разработват нови защитни механизми, които комбинират AI наблюдение с класически, базирани на правила проверки – опит да се намери баланс между автоматизация и сигурност.

Голямата илюзия: може ли AI да замени програмистите?

Случаят с Amazon идва на фона на по-широка тенденция в индустрията. Компании като Spotify и Canva вече признават, че ролята на разработчиците се променя – те пишат по-малко код и все повече се превръщат в „оркестратори“ на AI процеси. Това, комбинирано с масови съкращения в компании като Atlassian, Oracle и Block, показва, че бизнесът сериозно залага на автоматизацията.

Но инцидентите в Amazon ясно показват, че технологията все още не е готова да поеме пълния контрол. AI може да ускори процесите, да предложи решения и да намали част от ръчния труд, но не може да замени човешката преценка, особено когато става дума за критични системи с милиони потребители.

Урок за цялата индустрия

Историята на Amazon вероятно ще се превърне в важен сигнал за целия технологичен сектор. Въпреки огромния натиск за внедряване на AI и стремежа към по-висока ефективност, компаниите ще трябва да преосмислят колко бързо и до каква степен могат да се доверят на тези инструменти.

Истината е проста: изкуственият интелект не е безгрешен. И когато се използва без достатъчно контрол, дори най-мощните технологии могат да доведат до скъпи грешки. В този контекст бъдещето вероятно няма да бъде „AI вместо хора“, а по-скоро „AI с хора“ – но с много по-ясни правила и граници.