Експерти предупреждават за потенциалното въздействие на усъвършенстваните системи с изкуствен интелект, които биха могли да генерират реалистични фалшиви новини в безпрецедентни мащаби с наближаването на президентските избори в САЩ през 2024 година.
Софтуерът за клониране на глас от ElevenLabs и генератора на изображения от DALL-E 2, Stable Diffusion и Midjourney на OpenAI потенциално биха могли да се използват за дезинформация, според доклад на списание Fortune от събота.
„Трябва да сме ужасени до смърт от заплахите, които огромните езикови модели, на които се основава технологията предлагат за демокрацията.“
„Трудно е да се види как генерираната от изкуствения интелект дезинформация няма да се превърне в основна сила на следващите избори.“
заяви Гари Маркъс, почетен професор по когнитивна наука в Нюйоркския университет и експерт по изкуствен интелект
Въпреки че технологията за създаване на видеоклипове чрез текстови подсказки е все още в начален стадий, експертите по deepfake могат да създават убедителни фалшиви видеоклипове.
Крис Месерол, сътрудник в института „Брукингс“, предупреждава, че гласовите клонинги биха могли да изиграят значителна роля в изборите в САЩ през 2024 година, позволявайки в решаващи моменти от изборите да се появят аудиоклипове, които да твърдят, че са запис на кандидат, който казва нещо скандално.
Големи езикови модели, подобни на тези, които захранват ChatGPT, се използват в Испания от Newtral – предприятие, специализирано в проверка на факти, направени от политици, с цел идентифициране и опровергаване на лъжи.
Рубен Мигес Перес, главен технологичен директор в Newtral, смята, че тези технологии могат да определят кога даден материал съдържа фактическо твърдение, което трябва да бъде проверено, и да оценят вероятността да е дезинформация въз основа на изразените в него чувства.
Тези технологии имат потенциала да подкопаят доверието и да объркат хората, като ги накарат да се усъмнят в точността на информацията, предоставена от експерти и социални мрежи.
Сценарият ще се нуждае от по-нататъшно обмисляне и изследване, за да се пребори с възможността за широко разпространена, генерирана от изкуствен интелект дезинформация, дори ако технологията на ИИ потенциално може да бъде най-добрата защита срещу тези инструменти.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
