Apple anunció ahora actualizaciones en sus Directrices de Revisión de Apps para mantener la confianza tanto de usuarios como de desarrolladores
Apple actualizó las Directrices de revisión de aplicaciones de la App Store para prohibir de forma más explícita las apps que generan imágenes de desnudez con inteligencia artificial (IA) no consensuadas. Los desarrolladores deberán eliminar proactivamente este contenido.
El material pornográfico está prohibido en la App Store desde hace tiempo, incluyendo aplicaciones que generan desnudez o imágenes sexualmente explícitas. También se prohibieron las apps que crean este tipo de contenido de personas reales sin su consentimiento, sobre todo, actualmente mediante herramientas impulsadas por IA.
Lea También: ¿Qué pasa con tus datos cuando usas ChatGPT o Claude?
Apple recibió críticas por permitir aplicaciones que generan este tipo de contenido en la App Store. Es el caso de X y la IA de Grok, que colmaron la red social con alrededor de tres millones de imágenes sexualizadas en enero de este año. Entre ellas, 23.000 representaban a niños y cerca de 1,8 millones en las que aparecían mujeres.
En este caso, los usuarios utilizaron la IA de Elon Musk para generar imágenes de desnudez con ‘deepfakes’ sexuales no consentidos. A pesar de que Apple amenazó a XAI con retirar la aplicación del asistente de IA de la App Store, esta permaneció disponible en todo momento en la tienda.
Actualizaciones en las revisiones
De cara a revertir este tipo de situaciones, Apple anunció ahora actualizaciones en sus Directrices de Revisión de Apps para mantener la confianza tanto de usuarios como de desarrolladores. Estas refuerzan y amplían las protecciones existentes en la App Store, como se detalló en un comunicado.
Concretamente, se incluyó de forma explícita en los requisitos de moderación de contenido las imágenes íntimas no consensuadas, incluidas las generadas con herramientas de IA. Por lo tanto, los desarrolladores deberán prevenir y eliminar de forma proactiva este contenido de sus apps.
En caso de que los desarrolladores no implementen estas medidas de seguridad o que no corrijan las infracciones, estarán expuestos a la infracción del Código de Conducta para Desarrolladores. Podrán terminar expulsados de la App Store.
Igualmente, Apple también subrayó en sus pautas que se prohíben las aplicaciones que falsean su funcionamiento durante el proceso de revisión. Es decir, aplicaciones que añaden o cambian funciones una vez aprobadas. Esto se traduce en que, si una aplicación se revisó y aprobó y, posteriormente, incluye funciones para generar contenido de desnudez, también serán prohibidas.
Finalmente, las pautas actualizadas aclaran que cualquier aplicación que permita la trata de personas o la explotación de menores se retirará de la App Store. Además permanecerá bloqueada para distribución alternativa.
«Nos comprometemos a impedir que los usuarios malintencionados accedan a la App Store. Contamos con procesos establecidos para revisar y sancionar las aplicaciones que infringen nuestras directrices», apostilló Apple.
Asimismo, detalló que, el pasado año, impidió que más de 150.000 aplicaciones con problemas de seguridad llegaran a los usuarios, además de cancelar más de 193.000 cuentas de desarrolladores por participar en fraudes y abusos de este estilo.
Comente