ByteDance уволни стажант за въвеждане на зловреден код в AI модел

ByteDance, собственикът на TikTok, потвърди уволнението на стажант за умишлено въвеждане на зловреден код в модели с изкуствен интелект. Твърди се, че действията на младия мъж са стрували на компанията десетки милиони долари загуби.

ByteDance, въпреки че потвърди уволнението на стажанта, обаче, както съобщава Ars Technica, отрече слуховете за многомилионни загуби и загубената изчислителна мощност на 8000 графични процесора, опитвайки се да спре разговорите по тази тема в китайските социални мрежи, които са във вреда на имиджа на компанията. ByteDance нарече твърденията „силно преувеличени“ и подчерта, че щетите са значително по-малки.

Според официалното изявление, стажантът е заемал позиция в екип за комерсиални технологии и „злонамерено се е намесил в задачите за обучение на модели“ като част от изследователски проект. Компанията също така обвинява стажанта, че е добавил невярна информация към своя профил в социалните медии, показвайки, че работата му е била в лабораторията за изкуствен интелект на ByteDance, а не в екипа за търговски технологии. ByteDance уведоми университета и индустриалните асоциации на стажантите за инцидента, вероятно за да му попречи да се опита да заблуди останалите.

Компанията подчертава, че нито една от търговските области не е била засегната и алгоритмите на големия езиков модел (LLM) също не са били засегнати. Въпреки това твърдение някои потребители на социалните медии продължават да се съмняват в официалната версия. Някои твърдят, че екипът за комерсиализация, в който е работил стажантът, е бил преди това част от лаборатория за изкуствен интелект и че стажантът може да е използвал „зловреден код“, за да „умишлено саботира обучението на модели за поне няколко месеца“. Други коментатори предполагат, че ByteDance омаловажава щетите и че „само загубата на изчислителна мощност може да възлиза на няколко милиона долара, ако не и десетки, да не говорим за загубата на време, енергия и заплати на целия изследователски екип.„