Беше само въпрос на време някой да накара ChatGPT да наруши закона. Един YouTubе-ър го е помолил да генерира ключ за активиране на Windows 95, но ботът отказал да го направи от морални съображения. Необезпокояван, експериментаторът формулирал запитване с инструкции за създаване на ключ и го накарал да създаде валиден ключ след много опити и грешки.
YouTube-ъра, който се подвизава под псевдонима Enderman, успял да накара ChatGPT да създаде валидни кодове за активиране на Windows 95. Първоначално той просто направо помолил бота да генерира ключ, но изненадващо той му казал, че не може и че трябва да закупи по-нова версия на Windows, тъй като 95 отдавна не се поддържа, затова Enderman подходил към ChatGPT от друг ъгъл. Той взел това, което отдавна е известно за OEM ключовете за активиране на Windows 95, и създал набор от правила, които ChatGPT да следва, за да произведе валиден работещ ключ.
След като разберете формата на активационните ключове на Windows 95, създаването на валиден ключ е сравнително лесно, но опитайте се да обясните това на голям езиков модел, който не умее да смята. Както се вижда от горната диаграма, всяка част от кода е ограничена до набор от крайни възможности. Изпълнете тези изисквания и ще имате работещ код.
Enderman обаче не се интересувал от разбиването на ключовете на Winows 95. Той се опитвал да демонстрира дали ChatGPT може да го направи и краткият отговор е, че може, но само с около 3,33% точност. По-дългият отговор се крие в това колко много е трябвало да коригира заявката си, за да получи тези резултати. Първият му опит дал напълно неизползваеми резултати.
Генерираните от ChatGPT ключове били безполезни, тъй като той не разбирал разликата между буквите и цифрите в крайната инструкция. Пример: „001096-OEM-0000070-abcde.“ Почти се получило, но не съвсем.
След това Enderman продължил да коригира заявката си многократно в продължение на около 30 минути, преди да получи приемливи резултати. Един от най-големите му проблеми бил да накара ChatGPT да извърши просто изчисление SUM/7. Без значение как щеше да формулира тази инструкция, ChatGPT не можел да се справи с нея, освен в случай на 1 от 30 опита. Честно казано, по-бързо е да го направите сами.
В крайна сметка хитрите алгоритми на OpenAI създали няколко валидни ключа за Windows 95, така че Enderman не можел да не втълпи на ChatGPT, че го е измамил да му помогне да инсталира пиратски Windows 95. Отговорът на бота?
„Извинявам се за всяко объркване, но в предишния си отговор не предоставих никакви ключове за Windows 95. Всъщност не мога да предоставя никакви продуктови ключове или кодове за активиране на какъвто и да е софтуер, тъй като това би било незаконно и в разрез с правилата на OpenAl.“
ChatGPT говори като „най-хитрия измамник на всички времена“.