ChatGPT е свързан с предполагаемо изтичане на поверителна информация в Samsung

По-малко от месец след като електронният гигант Samsung въведе ChatGPT в работата със своите служители, моделът с изкуствен интелект е свързан с предполагаемо изтичане на поверителна информация. Чувствителна информация за данните от измерванията на полупроводниковото оборудване на компанията е сред съдържанието, което вече е част от учебната база данни на ChatGPT.

Чатботът с изкуствен интелект ChatGPT не е впечатлил само отделни потребители. Гигантски корпорации също са били очаровани от способността му да обобщава и перифразира съдържание и се стремят да подпомогнат производителността на служителите си, като им предоставят достъп до изчислителните му способности.

Въпреки че това е чудесна инициатива, какво може да се обърка, ако служителите не са достатъчно обучени каква информация може или не може да се споделя с модела на изкуствения интелект? Samsung научава това по трудния начин.

Какво се обърка в Samsung?

Според доклад на DigiTimes, служителите на Samsung са получили достъп до ChatGPT преди не повече от три седмици. По време на случайното си използване на инструмента служителите със сигурност са задавали въпроси и са получавали отговори, които инструментът използва като вътрешна база данни за обучение, за да подобрява постоянно работата си.

Вероятно служителите на Samsung не са били напълно запознати с начина на работа на инструмента с изкуствен интелект, защото ако им беше казано, със сигурност нямаше да поставят поверителна информация в текстовото поле за подкани или въпроси към инструмента. Може да се предположи, че това е вярно, тъй като се съобщава, че това се е случило в три отделни случая за кратък период от време, откакто ChatGPT е бил достъпен.

Съобщава се, че първият инцидент е възникнал в отдела за решения за полупроводници и устройства, където служител, изпълняващ софтуер за изтегляне на база данни (БД) за измерване на полупроводниково оборудване се е сблъскал с проблем.

Тъй като се оказало, че проблемът е възникнал в изходния код на софтуера, служителят просто вмъкнал изходния код в ChatGPT и поискал от инструмента за изкуствен интелект да намери решение на проблема, като по този начин ефективно го превърнал в част от вътрешните данни за обучение на ChatGPT.

Друг служител просто вкарва създаден код в ChatGPT, като иска той да бъде оптимизиран, а трети служител възлага на ChatGPT да изготви протокол от среща.

Компанията вече е въвела някои предпазни мерки, като например ограничаване на капацитета на всеки въпрос до не повече от 1024 байта. Samsung също така е инструктирала служителите си да бъдат внимателни, тъй като данните, въведени в ChatGPT се предават на външни сървъри и компанията не може да възстанови изтеклите данни.