Google оперативно отключила новую функцию генерации изображений на базе искусственного интеллекта в Google Earth всего через день после её запуска 30 июля. Компания объяснила решение тем, что пользователи начали распространять сгенерированные снимки, которые нарушают правила платформы и создают опасения по поводу распространения дезинформации.
Функция позволяла создавать изображения любых мест планеты по текстовому запросу, используя модель Nano Banana. Однако журналисты и исследователи выявили, что инструмент легко подделывает события, которых не было — от взрывного кратера в Лос-Анджелесе до пожара на иранском острове Харг и наводнения в Капитолии США. Это вызвало серьёзный резонанс из-за риска масштабного распространения ложных новостей.
Google утверждала, что каждое сгенерированное изображение несёт цифровой водяной знак SynthID, который помогает выявлять подделки. Но этого оказалось недостаточно для критиков, которые отмечают, что большинство пользователей не проверяют подлинность изображений перед тем, как делиться ими.
Компания пообещала вернуть функцию после доработки механизмов защиты, однако точных сроков не назвала. Специалисты предупреждают, что простота создания реалистичных фейков значительно усложняет борьбу с дезинформацией, ведь подделки могут идти вразрез с фактами и ставить под сомнение достоверные материалы.