Арест Трампа, созданный при помощи ИИ / Изображение: соцсети
Midjourney прекращает бесплатное использование своего генератора изображений искусственным интеллектом (ИИ) после того, как люди создали громкие дипфейки с помощью этого инструмента. Генеральный директор Дэвид Хольц говорит, что компания отключает бесплатные пробные версии из-за «чрезвычайного спроса и злоупотреблений ими», сообщает Engaget. По словам Хольца, новых мер безопасности не было достаточно для предотвращения неправильного использования во время испытательного периода. На данный момент придется платить не менее 10 долларов в месяц за использование этой технологии.
В последние недели Midjourney снова оказался в центре внимания. Пользователи опирались на ИИ, чтобы создать дипфейк-изображения ареста Дональда Трампа и Папы Франциска в модном пуховике. Несмотря на то, что снимки были быстро идентифицированы как фальшивые, существует опасение, что Midjourney, Dall-E от OpenAI и другие подобные генераторы могут использоваться для распространения дезинформации.
Midjourney признала проблемы с разработкой политики в отношении контента, поскольку ИИ создает все более реалистичные изображения. Еще в 2022 году Хольц обосновал запрет на изображения главного китайского коммуниста Си Цзиньпина желанием «минимизировать драму»: мол, важнее иметь доступ в Китае, чем разрешать сатирический контент. Midjourney надеется улучшить модерацию ИИ, которая отслеживает злоупотребления, говорит основатель.
Создан при помощи ИИ дипфейк Папы в пуховике / Изображение: соцсети
Некоторые разработчики уже начали устанавливать строгие правила, чтобы предотвратить инциденты. OpenAI, например, запрещает любые изображения текущих политических событий, теорий заговоров и политиков. Также под запрет попадает пропаганда ненависти, сексуальность и насилие.
Однако другие конкуренты пока имеют относительно свободные рекомендации. Например, пользователи инструмента Stable Diffusion не могут копировать стили определенных художников, а также предусмотрен новый фильтр NSFW (предназначенный среди прочего для удаления контента для взрослых), но ИИ Stable Diffusion обычно не диктует, что именно люди могут делать с его помощью.
Обманчивый контент — не единственная проблема для создания изображений ИИ. Существуют давние опасения по поводу авторских прав и украденного контента, так как часто давно существующие изображения используются в качестве «точек отсчета» при работе ИИ. И хотя некоторые компании уже в полной мере используют искусственный интеллект в своих продуктах, пока еще существует много колебаний со стороны фирм, стремящихся избежать нежелательного внимания.
