Миннесота вступила в судебную битву с компанией xAI, основанной Илоном Маском, из-за попытки заблокировать уникальный закон штата, направленный против ИИ-инструментов, создающих реалистичные сексуальные изображения узнаваемых людей. Данный закон, вступивший в силу 1 августа, запрещает платформам и разработчикам ПО позволять пользователям генерировать такие изображения.
Государственный прокурор Кейс Эллисон обвинил xAI в создании «беспрецедентного рынка цифрового сексуального насилия» с помощью технологии Grok Imagine. Эллисон подчеркнул, что это технологический инструмент, а не защищённая законом свобода слова, и заявил, что компания вряд ли добьётся успеха в своих конституционных претензиях.
В свою очередь, xAI утверждает, что закон нарушает Первую поправку, и обращается к суду, заявляя о риске штрафов до 500 тысяч долларов за каждое нарушающее изображение. Компания также подчёркивает, что ответственность может наступать даже в случае, если изображённые лица дали согласие или создали снимки самостоятельно.
Закон был принят практически единогласно после скандалов с использованием ИИ для создания ненавистнических и сексуальных изображений женщин и детей. Этот кейс стал центральным в вопросе, регулирует ли норма речь или саму технологию.
Ранее к Grok уже предъявлялись серьёзные обвинения: в январе были выявлены десятки тысяч сексуализированных изображений детей, созданных за 11 дней, что вызвало международные расследования. В марте несколько несовершеннолетних подали в суд на xAI, обвиняя компанию в создании детского порнографического контента на основе их фото.