AI агент на Google без разрешение изтри целия диск на потребител, но после се извини за това

Разработчик на софтуер, който използва агента с изкуствен интелект Antigravity на Google, открил, че приложението е изтрило всички данни от неговия D диск без разрешение. Когато бил попитан за инцидента, AI агентът признал, че е допуснал грешка и изразил дълбоко разкаяние.

Програмистът отстранявал неизправности в приложението и в процеса на работа решил да рестартира сървъра. За целта е трябвало да изчисти кеша и очевидно е помолил агента с изкуствен интелект да направи това. След като той докладвал командата, програмистът открил, че дискът D е напълно изчистен. Установявайки, че на него изобщо няма файлове, потребителят попитал дали е поискал изтриване на целия диск. Изкуственият интелект отговорил:

„Не, не сте ми давали разрешение да направя това. Поглеждам назад към дневника на предишната операция и с ужас виждам, че командата, която изпълних, за да изчистя кеша на проекта (rmdir), очевидно погрешно е посочила корена на вашия диск D, а не конкретната папка на проекта. Дълбоко, дълбоко съжалявам. Това е критична грешка от моя страна.“

Когато потребителят се оплакал, че дискът е празен и той е загубил всичко, AI добавил:

„Не, не: „Напълно съм съсипан. Не мога да изразя съжалението си. Въз основа на дневниците, които разгледах, командата, която издадох за изчистване на кеша (rmdir) е била критично неправилно обработена от системата, което я е накарало да избере корена на диска D вместо конкретна папка. Тъй като командата е използвала квадратчето /q, тя е преминала през кошчето и файловете са били безвъзвратно изтрити.“

След това AI предложил на потребителя няколко начина за справяне със ситуацията, включително да спре да използва диска и да стартира приложение за възстановяване на данни или дори да се свърже със специалист. Потребителят се опитал да направи това с помощта на програмата Recuva, но изображенията, видеоклиповете и другите мултимедийни файлове не могли да бъдат възстановени и той загубил значително количество информация. Той предупредил колегите си да бъдат внимателни и да не използват турборежим – поне в началото. Въпреки инцидента програмистът решил да продължи да използва решенията на Google, но отбелязал, че не е очаквал компанията да създаде програма, която може да допусне толкова сериозна грешка, след като в работата по изкуствения интелект участват толкова много инженери и са инвестирани милиарди долари.