Генераторът на изображения с изкуствен интелект Midjourney спря безплатния достъп на услугата си, след като редица негови творения, включително фалшивите изображения на Доналд Тръмп, който е „арестуван“, и папата, облечен в стилно яке станаха популярни в интернет, като мнозина объркаха фалшификатите с истински снимки. Главният изпълнителен директор и основател на Midjourney Дейвид Холц обяви промяната във вторник, позовавайки се на „извънредно търсене и злоупотреба с пробните безплатни версии“.
Преди това Midjourney позволяваше на всеки да се регистрира за използване на софтуера ѝ чрез Discord, като предлагаше 25 безплатни генерации на изображения, преди да започне да таксува за абонамент от 10 долара на месец. Въпреки че експертите от години предупреждават за потенциала на изкуствения интелект да генерира дезинформация, преди това да стане реалност това не беше огромен проблем, като се има предвид, че фалшификатите се забелязват лесно. Всъщност Холц заяви пред The Verge през август миналата година, че
„В момента не можете да принудите Midjourney да направи deepfake“.
Но шест месеца са дълъг период от време в изкуствения интелект и на 15 март Midjourney пусна нова версия на софтуера си (версия 5), която значително подобри качеството на изображенията, изобразяващи хора. Например неправилно оформените ръце преди бяха отличителна черта на изображенията, генерирани от ИИ, но сега са по-малък проблем. Осветлението и тъканите също са по-реалистични, а системата е в състояние да генерира изображения на безброй знаменитости и обществени фигури.
Тези подобрения доведоха до това, че през последните седмици редица изображения на Midjourney станаха изключително популярни. Те включват не само фалшивия арест на Тръмп и папата с дълго бяло яке, който изглежда модерно, но и френския президент Еманюел Макрон, който се разхожда през продължаващите протести в Париж, и Илън Мъск, който се държи за ръка с Александрия Окасио-Кортес (която е американски политик).
Ограниченията за съдържание на Midjourney са по-разрешителни от някои конкурентни услуги (като DALL-E на OpenAI), но по-рестриктивни от други като например Stable Diffusion.
Midjourney поддържа списък със забранени думи, „свързани с теми в различни държави, въз основа на оплаквания от потребители в тези държави“, както се казва в съобщение от Холц през октомври миналата година, но компанията не споделя пълната версия на този списък, за да сведе до минимум „драмата“.
Компанията разшири този списък, тъй като нейните фалшификати станаха много популярни, като наскоро забрани например термина „арестуван“. Това очевидно беше в отговор на популярна ареста на Тръмп, които бяха създадени от разследващия журналист Елиът Хигинс. Хигинс казва, че впоследствие му е било забранено да използва Midjourney.
Към момента на писане на статията Midjourney не позволява на безплатно да се генерират изображения, въпреки че това може да се промени в бъдеще. Във вторник Холц заяви, че услугата изпитва забавяния поради „недостиг на графични процесори“. (Генерирането на изображения с изкуствен интелект е дейност, изискваща много изчисления, а Midjourney генерира изображения в облак, преди да ги сподели с потребителите) Вчера той предположи, че злоупотребата със софтуера е основната причина за спирането на безплатните изпитания на софтуера.
„Опитахме се да пуснем отново безплатните изпитания с нови защити за злоупотреби, но те не изглеждаха достатъчни, затова ги спряхме отново, за да запазим услугата налична за всички останали.“
сподели Холц