Исследовательская лаборатория Midjourney приостановила бесплатные пробные версии программного обеспечения для создания изображений после того, как пользователи создали реалистичные дипфейки, включая арест бывшего президента США Дональда Трампа и Папу Франциска в пуховике.
Изображения, созданные с использованием платформы искусственного интеллекта, особенно снимки Трампа и понтифика, которые стали вирусными, привлекли внимание к лаборатории в Сан-Франциско.
Эти изображения Папы Франциска в пуховике являются подделкой и созданы искусственным интеллектом.
Фото: r/midjourney subreddit
«Из-за сочетания чрезвычайного спроса и злоупотребления пробными версиями мы временно отключаем бесплатные пробные версии до тех пор, пока у нас не будут развернуты следующие улучшения системы», — заявил Дэвид Хольц, основатель Midjourney этой неделе в сообщении компании на канале Discord.
Сервис создает реалистичные изображения на основе письменных запросов пользователей. Его запустили в тестовом режиме в середине 2022 года, а независимая лаборатория постоянно обновляла программное обеспечение. Пользователи похвалили недавно выпущенную версию Midjourney за улучшенную реалистичность создаваемых изображений.
Наряду с приостановкой новых бесплатных пробных версий Midjourney запретила использование определенных слов, таких как «арест», для подсказки создания изображений.
Миллиардер-магнат и владелец Twitter Илон Маск и несколько экспертов призвали приостановить разработку мощных систем искусственного интеллекта, чтобы дать время убедиться в их безопасности. Открытое письмо, подписанное на сегодняшний день более чем 1 000 человек, включая Маска и соучредителя Apple Стива Возняка, появилось после выпуска платформы искусственного интеллекта GPT — 4 от компании OpenAI, поддерживаемой Microsoft.
