A Apple remove esses aplicativos geradores de imagens de IA da App Store – Conheça as novas regras aqui
A Apple está finalmente tomando medidas rigorosas em aplicativos que afirmam usar tecnologia de IA para gerar imagens nuas de pessoas que não deram seu consentimento. A Apple removeu pelo menos três aplicativos geradores de imagens de nudez de IA que ofereciam serviços como troca de rosto ou ‘despir’, onde a IA era usada para remover roupas em imagens de pessoas. Esses aplicativos deepfake ganharam popularidade por meio de anúncios no Instagram. Embora o Meta tenha sido rápido em remover os anúncios que redirecionavam os usuários para baixar esses aplicativos, a Apple demorou um pouco para responder. Foi somente depois de um relatório da 404 Media que a Apple tomou medidas.
O que dizem as novas diretrizes da Apple sobre aplicativos de IA
De acordo com as diretrizes de revisão de aplicativos da Apple, a empresa afirma claramente que nenhum aplicativo que promova pornografia ou bullying de qualquer forma será permitido. As diretrizes dizem: “Os aplicativos não devem incluir conteúdo ofensivo, insensível, perturbador, com intenção de causar repulsa, de excepcionalmente mau gosto ou simplesmente assustador. Aplicativos com conteúdo ou serviços gerados por usuários que acabam sendo usados principalmente para conteúdo pornográfico, experiências no estilo Chatroulette, objetificação de pessoas reais (por exemplo, votação “quente ou não”), ameaças físicas ou bullying não pertencem ao grupo. App Store e pode ser removido sem aviso prévio.”
A investigação descobriu cinco desses anúncios na Biblioteca de Anúncios da Meta. Três desses anúncios promoviam especificamente aplicativos disponíveis na App Store. Esses aplicativos ofereciam recursos como inserir rostos em corpos nus ou remover digitalmente roupas em fotos usando IA. Este incidente destaca preocupações contínuas sobre aplicativos baseados em IA que criam deepfakes na App Store.
‘Processo New York Times vs OpenAI’ para decidir o futuro do conteúdo gerado por IA
Recentemente, o Ministro de Estado da União para Eletrônica e Tecnologia, Rajeev Chandrasekhar, compartilhou suas preocupações sobre deepfakes feitos com aplicativos de IA. Os deepfakes têm se tornado cada vez mais uma grande preocupação, com pessoas sendo vítimas de fotos e vídeos que são editados ou manipulados para fazer alguém dizer ou fazer algo que não fez na vida real. O ministro também falou sobre a batalha legal em curso entre o New York Times e a OpenAI em relação a questões de direitos autorais. Chandrasekhar disse que o resultado desta batalha legal “definirá o uso da IA na criação de conteúdo”.
