Apple endurece regras da App Store contra imagens íntimas sem consentimento

A Apple atualizou em 16 de outubro de 2026 as regras de análise da App Store para tratar de forma explícita imagens íntimas não consentidas, inclusive as produzidas com ferramentas de inteligência artificial. A empresa também reforçou a proibição a aplicativos que apresentam uma função durante a análise e liberam recursos diferentes ou nocivos depois da aprovação.

A mudança ocorre em meio a uma discussão mais ampla sobre aplicativos capazes de alterar fotografias para produzir nudez ou conteúdo sexual sem autorização da pessoa retratada. Em uma investigação publicada nesta segunda-feira, 19 de outubro, o Tech Transparency Project afirmou ter encontrado 135 aplicativos com esse tipo de capacidade acessíveis a contas de teste configuradas como pertencentes a adolescentes de 13 anos nas lojas da Apple e do Google.

O que a Apple mudou

Na diretriz 1.2, dedicada a conteúdo criado por usuários, a Apple passou a mencionar expressamente imagens íntimas não consentidas. Desenvolvedores devem adotar medidas para impedir e remover esse material, inclusive quando ele for gerado por IA. Segundo a empresa, a ausência de salvaguardas adequadas ou a falta de correção após uma notificação pode levar à violação do código de conduta e à retirada da App Store.

A diretriz 2.5.19 também ficou mais clara sobre funções ocultas, adormecidas ou não documentadas. Um aplicativo que esconde sua finalidade durante a análise e adiciona depois uma ferramenta proibida pode ser removido da loja, enquanto o responsável pode perder a participação no Apple Developer Program. A redação atinge o chamado “bait-and-switch”: um produto aparenta ser um editor convencional na avaliação, mas muda de comportamento após obter aprovação.

A Apple ainda atualizou a seção jurídica para explicitar a remoção de aplicativos que facilitem tráfico de pessoas, exploração infantil ou material de abuso sexual infantil, inclusive em formas alternativas de distribuição. A companhia afirma que, no ano anterior, impediu que mais de 150 mil aplicativos com problemas de segurança chegassem aos usuários e encerrou mais de 193 mil contas de desenvolvedores por fraude e abuso. Esses números são declarações da própria empresa.

A política e a fiscalização não são a mesma coisa

O levantamento do Tech Transparency Project ajuda a mostrar por que a nova redação importa, mas também exige cautela na leitura. A organização criou quatro contas de teste para um usuário de 13 anos, duas em cada ecossistema, com e sem controles parentais. O relatório diz que a conta padrão da Apple encontrou 61 aplicativos considerados capazes de “nudificar”, enquanto a conta supervisionada encontrou 24. No Google, os totais foram 47 e 51, respectivamente.

Esses números não devem ser somados: há sobreposição entre os resultados, e o total de 135 representa o conjunto identificado pela pesquisa. A definição usada pela organização é mais ampla que a definição descrita pela Apple, pois inclui ferramentas que conseguem colocar pessoas em biquínis ou lingerie, além de produzir nudez. A Apple disse ao grupo que não considera a simples geração de biquíni ou lingerie como “nudificação”, embora sua regra separada sobre imagens íntimas sem consentimento continue relevante.

O relatório também afirma que classificações etárias informadas pelos próprios desenvolvedores permitiram que alguns aplicativos atravessassem restrições destinadas a menores. No teste, a conta supervisionada da Apple teve acesso a 24 aplicativos classificados como adequados para 13 anos, e a conta equivalente do Google acessou 51. O grupo diz ainda que aplicativos removidos continuaram funcionando nos aparelhos onde já estavam instalados.

O efeito prático depende de execução contínua

A atualização cria uma base mais específica para agir contra duas rotas de evasão: moderação insuficiente em serviços que recebem conteúdo de usuários e recursos nocivos escondidos durante a avaliação. Ela não demonstra, por si só, que a triagem, a classificação etária ou a publicidade nas lojas já foram corrigidas.

Para desenvolvedores de edição de foto e vídeo, a consequência é concreta: ferramentas de uso legítimo precisam prever abuso, documentar recursos e responder a violações. Para usuários e responsáveis, a mudança indica uma obrigação mais clara da plataforma, mas não substitui controles efetivos nem garante a desativação de software já instalado. O teste decisivo será a consistência entre a regra publicada, a revisão de novos aplicativos e a fiscalização das versões que mudam depois da aprovação.