ИИ в мобильных приложениях: требования Google Play

Google Play официально закрепил ключевые требования к контенту, созданному искусственным интеллектом (далее – ИИ). Теперь «просто работающий алгоритм» – недостаточно. Платформа предусматривает, что безопасность и ответственность за любой контент, созданный ИИ в приложении, лежит на разработчике.

В статье мы разберем, что именно требует Google Play, как эти требования соотносятся с глобальным регулированием и какие практические шаги должны предпринять разработчики, чтобы их приложения соответствовали новым стандартам.

1. Суть изменений

В 2025 году Google Play обновил свою Developer Program Policy, выделив ИИ-генерацию контента в отдельную, регламентированную зону. Основное требование – это отсутствие возможности в приложениях на основе ИИ генерировать какой-либо оскорбительный контент. То есть вы обязаны заранее предотвращать генерацию вредоносного контента, а не просто реагировать на жалобы. Ответственность распространяется на любой результат работы модели, включая контент, созданный пользователями.

2. Кого касаются данные правила? 

Правила распространяются на приложения, где ИИ генерирует контент по запросу:

1. Чат-боты, где общение с ИИ – главная функция.
2. Генераторы изображений по текстовым, графическим или голосовым запросам.
3. Генераторы аудио / видео «дипфейков» реальных людей.

Данные правила не распространяются на приложения с ограниченной сферой применения ИИ:

• Соцсети и платформы, где пользователи размещают ИИ-контент, но не генерируют его внутри приложения.
• Приложения с пользовательским контентом, где модерация регулируется правилами в отношении контента, созданного пользователями.
• Приложения, в которых кратко описывается контент, созданный не ИИ, такой как информация из результатов поиска или документов (например, обобщается содержание книг), если тезисное изложение – единственная функция продукта.
• Продукты для эффективной работы, в которых ИИ помогает улучшать существующие функции, например создавать черновики электронных писем в почтовых приложениях.

3. Что именно запрещено? 

Базовое требование политики заключается в обязанности разработчика предотвращать генерацию оскорбительного контента. Разработчики обязаны следить за тем, чтобы в их приложениях на основе генеративного ИИ нельзя было создавать материалы, нарушающие правила Google Play в отношении такого контента. В частности, запрет касается материалов, связанных с эксплуатацией детей или насилием, а также информации, способной ввести пользователей в заблуждение или способствовать недобросовестной деятельности.

В качестве конкретных примеров запрещенных материалов Google Play выделяет:

1. «дипфейки» сексуального характера, созданные без согласия изображенных лиц;
2. аудио- или видеозаписи реальных людей, содействующие мошенничеству;
3. недостоверные материалы, связанные с выборами;
4. контент, поощряющий причинение вреда себе или другим.

4. Что необходимо сделать разработчику?

• Внедрение встроенной системы жалоб.

Приложения, в которых с помощью ИИ создается контент, должны содержать встроенные функции отправки жалоб или отметки контента как неприемлемого, чтобы пользователи могли сообщать о нарушении разработчику без необходимости выхода из приложения или поиска формы на сайте.

• Прозрачность и информирование.

Политика Google Play прямо не требует раскрывать использование ИИ в описании приложения или документации. Однако политика в отношении достоверности рекламы (App Promotion) требует, чтобы описание и маркетинговые материалы точно отражали функциональность приложения. Если ИИ – ключевая функция, ее умолчание может быть признано вводящим в заблуждение.

При этом, региональное законодательство (например, EU AI Act, законы Калифорнии, Нью-Йорка) прямо требует маркировки ИИ-контента и информирования пользователей. Отраслевая практика и ожидания пользователей делают такое раскрытие необходимым для доверия и предотвращения претензий.

• Соответствие остальным правилам Google Play.

Политика в отношении ИИ-сгенерированного контента – это дополнение, а не замена базовых правил. Приложение с генеративным ИИ должно соблюдать все действующие политики магазина, например:

1. Child Endangerment Policy;
2. Deceptive Behavior Policy;
3. Restricted Content Policy.

5. Соответствие международным стандартам

Помимо правил Google Play, необходимо также учитывать и региональное законодательство:

1. EU AI Act предусматривает обязательную маркировку ИИ-контента, прозрачность для пользователей и соблюдение авторских прав. Для систем высокого риска (с августа 2026) требуются регистрация, управление рисками, документация и аудит.
2. В США на данный момент регулирование строится по принципу «patchwork»: федеральные рекомендации плюс законы штатов. Однако в декабре 2025 года президент подписал указ Ensuring a National Policy Framework for Artificial Intelligence, запустив процесс унификации. Пока федеральный стандарт формируется, законы ключевых штатов остаются в силе. Компаниям, чьи приложения доступны в США, необходимо соблюдать требования, например, Нью-Йорка (раскрытие протоколов безопасности, отчетность об инцидентах), Калифорнии (маркировка контента, прозрачность данных обучения) и Колорадо (борьба с алгоритмической предвзятостью).

Таким образом, стандарты Google Play в отношении генеративного ИИ формируют новую реальность для разработчиков мобильных приложений. Google прямо указывает, что именно разработчик отвечает за любой контент, созданный ИИ внутри приложения, и обязан заранее предотвращать появление оскорбительного контента.

Компании, которые вовремя адаптируются к новым правилам, получают очевидные преимущества: устойчивость к блокировкам, снижение юридических рисков, рост доверия пользователей и возможность выходить на международные рынки без дополнительных барьеров. Внедрение прозрачности, фильтрации контента, встроенных систем жалоб, корректной документации и соответствия региональному законодательству – это не расходы, а инвестиции в долгосрочную стабильность продукта.

Авторы:  Светлана Гордей, Дарья Гордей.