OpenAI има подробни планове за отстраняване на грешките в ChatGPT при работа с „чувствителни ситуации“ – проблем, към който компанията ще предприеме действия, след като беше съдена от семейството на тийнейджър, извършил самоубийство.
„Ще продължим да подобряваме [ChatGPT] въз основа на експертни съвети и нашата отговорност към хората, които използват инструментите ни, и се надяваме, че други ще се присъединят към нас, за да се уверим, че тази технология защитава хората, когато са най-уязвими“ — обеща компанията в корпоративен блог. Ден преди това OpenAI беше съдена от родителите на 16-годишния Адам Рейн, който се самоуби; ищците твърдят, че „ChatGPT активно е помогнал на Адам да се научи как да се самоубие“. OpenAI обясни, че ChatGPT е обучен да предлага помощ на хората, които изразяват опасни намерения. Но при дългосрочна кореспонденция тази функция може да започне да не работи правилно и чатботът понякога дава отговори, които противоречат на политиките за сигурност на компанията.
Разработчикът говори за предстоящата актуализация на флагманския модел GPT-5, с която чатботът ще се научи да намалява интензивността на дискусията. Освен това компанията проучва възможността за прехвърляне на потребителите към „сертифицирани психотерапевти преди кризата да ескалира“ — не се изключва и вариантът за сформиране на група от експерти, с които потребителите биха могли да се свързват директно през ChatGPT. OpenAI също така обеща да добави контроли, които ще помогнат на родителите да разберат по-добре как децата им използват ChatGPT. Според нейния адвокат, компанията не се е опитала да се свърже с членове на семейството на Рейн — никой не е изразил съболезнования или желание да обсъди работата по подобряване относно безопасността на продуктите на компанията.
Има и други съобщения за самоубийства сред потребителите на ChatGPT, съобщава CNBC. С нарастването на популярността на ИИ-услугите се увеличават и опасенията относно използването им за терапия, комуникация и други социални нужди.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
