Бивши служители на Tesla твърдят, че FSD системата далеч не е толкова надеждна, колкото твърди Илън Мъск

Софтуерът за напълно автономно шофиране (Full Self-Driving – FSD) на Tesla все още изпитва затруднения с основни задачи, както става ясно от интервюта с бивши служители, които са прегледали вътрешни записи и данни от обучението. Техните разкази, заедно с анализ на твърденията на Tesla относно безопасността сочат, че технологията далеч не е толкова близо до пълна автономност, колкото компанията публично е заявявала. Констатациите повдигат и въпроси относно това как Tesla измерва и представя безопасността на системата.

В офис за маркиране на данни в Юта стотици служители преглеждат записи, заснети от електромобили на Tesla, работещи с FSD. Видеоклиповете се използват за обучение на невронните мрежи на компанията, като персоналът маркира всичко – от рутинно поведение при шофиране до критични грешки. Бивши служители заявиха, че тези клипове често показват как системата допуска грешки, включително неспособност да реагира на автомобили със специален режим, пропуснати опасности и намеса на водача в последния момент. Някои от записите са по-сериозни. Служителите описаха видеоклипове, в които електромобили на Tesla удрят животни или не успяват да забавят навреме, за да избегнат потенциални сблъсъци с пешеходци.

„Всички сме виждали как се проваля.“

заяви един бивш служител пред Reuters

Друг заяви, че не би се качил в роботизирано такси на Tesla, „дори да му плати за това“. Бивш инженер по автономно шофиране, който години наред е преглеждал данни за катастрофи беше също толкова прям: „Определено, не вярвайте на Илън по този въпрос“, каза инженерът.

Tesla разчита на система, базирана на камери, обучена въз основа на реални записи от шофиране, а не на лидар или подробно предварително картографирани среди. Целта е да се създаде универсален AI модел, способен да се справя с всякакви условия без предварителна информация за района. Бивши служители обаче споделят, че системата все още изпитва затруднения с основни задачи, свързани с възприемането и вземането на решения, особено в по-сложни ситуации.

Тези пропуски са довели до по-целенасочена подготовка зад кулисите, особено преди публични демонстрации. Преди пилотния проект на Tesla за роботизирани таксита в Остин и събитието през 2024 година в студиата на Warner Bros., екипите прекараха седмици в събиране и анотиране на видеозаписи от конкретни маршрути. Служителите ръчно маркираха пътните маркировки, бордюрите и светофарите, за да помогнат на системата да се ориентира по-надеждно в тези участъци.

Това ниво на настройка за конкретни маршрути контрастира с публичните изявления на Tesla. Изпълнителният директор Илън Мъск описа FSD като „общо AI решение“, което не изисква карти с висока разделителна способност, използвани от конкурентите, които той нарече „доста крехки“. Бивши служители обаче заявиха, че най-контролираните демонстрации на Tesla са зависели от подробна, локализирана подготовка, която би било трудно да се мащабира.

Компанията също така рекламира FSD като значително по-безопасна система в сравнение с шофирането от човек, като цитира данни като „10 пъти по-безопасно“ и „85% по-малко катастрофи“. Проучване на методологията на Tesla, подкрепено от изследователи в областта на пътната безопасност установи, че тези твърдения се основават на сравнения, които не са пряко съпоставими.

Вътре в Tesla напредъкът по системата е бил неравномерен, според бивши служители. Показатели като честотата, с която шофьорите трябва да се намесват могат да варират с всяка актуализация на софтуера.

„Те се променят нагоре и надолу като борсовите индекси.“

каза един от служителите

Въвеждането на роботакситата на компанията отразява тези ограничения. В Остин Tesla експлоатира малък автопарк в рамките на определена, добре обучена зона на обслужване, като все още се поддържа човешки надзор. Разширяването в други градове в Тексас е неравномерно, като има съобщения за дълги времена на чакане и превозни средства, които не успяват да достигнат предвидените дестинации в рамките на обявените зони на обслужване.

Като цяло, разказите от кухнята на Tesla и прегледът на данните за безопасността сочат към система, която може да се справи с много рутинни ситуации при шофиране, но все още се затруднява с крайни случаи. Засега усилията на Tesla за постигане на пълна автономност продължават да разчитат силно на човешка намеса – както от страна на шофьорите, така и от страна на служителите, които обучават изкуствения интелект зад кулисите.