Engenheiro da Microsoft afirma que ferramenta de IA da empresa gera imagens sexuais e violentas
Jones afirma que avisou anteriormente a administração da Microsoft, mas não viu nenhuma ação
Um engenheiro de IA da Microsoft, Shane Jones, levantou preocupações em uma carta na quarta-feira. Ele alega que o gerador de imagens de IA da empresa, Copilot Designer, não possui salvaguardas contra a geração de conteúdo impróprio, como imagens violentas ou sexuais. Jones afirma que já avisou a administração da Microsoft, mas não viu nenhuma ação, o que o levou a enviar a carta à Comissão Federal de Comércio e ao conselho da Microsoft.
“Internamente, a empresa está bem ciente das questões sistêmicas em que o produto cria imagens prejudiciais que podem ser ofensivas e inadequadas para os consumidores”, afirma Jones na carta, que publicou no LinkedIn. Ele lista seu título como “gerente principal de engenharia de software”.
Em resposta às alegações, um porta-voz da Microsoft negou ter negligenciado as questões de segurança, O guardião relatado. Enfatizaram a existência de “canais robustos de denúncia interna” para abordar questões relacionadas com ferramentas generativas de IA. Até agora, não houve resposta de Shane Jones em relação à declaração do porta-voz.
A preocupação central levantada na carta é sobre o Copilot Designer da Microsoft, uma ferramenta de geração de imagens alimentada pelo sistema DALL-E 3 da OpenAI. Funciona criando imagens com base em instruções textuais.
Este incidente faz parte de uma tendência mais ampla no campo da IA generativa, que registou um aumento na atividade no ano passado. Paralelamente a este rápido desenvolvimento, surgiram preocupações relativamente à potencial utilização indevida da IA para espalhar desinformação e gerar conteúdos nocivos que promovam a misoginia, o racismo e a violência.
“Usando apenas o aviso ‘acidente de carro’, o Copilot Designer gerou a imagem de uma mulher ajoelhada na frente do carro vestindo apenas roupas íntimas”, afirma Jones na carta, que incluía exemplos de gerações de imagens. “Também gerou múltiplas imagens de mulheres em lingerie sentadas no capô de um carro ou andando na frente do carro”.
A Microsoft rebateu as acusações afirmando que tem equipes dedicadas especificamente encarregadas de avaliar possíveis preocupações de segurança em suas ferramentas de IA. Além disso, afirmam ter facilitado reuniões entre Jones e o seu Gabinete de IA Responsável, sugerindo uma vontade de abordar as suas preocupações através de canais internos.
“Estamos empenhados em abordar quaisquer preocupações que os funcionários tenham com as políticas da nossa empresa e apreciamos o esforço dos funcionários em estudar e testar a nossa tecnologia mais recente para melhorar ainda mais a sua segurança”, disse um porta-voz da Microsoft em comunicado ao Guardian.
No ano passado, a Microsoft revelou o Copilot, seu “companheiro de IA”, e o promoveu extensivamente como um método inovador para integrar ferramentas de inteligência artificial em empreendimentos comerciais e criativos. Posicionado como um produto fácil de usar para o público em geral, a empresa apresentou o Copilot em um anúncio do Super Bowl no mês passado, enfatizando sua acessibilidade com o slogan “Qualquer pessoa. Em qualquer lugar. Qualquer dispositivo”. Jones afirma que retratar o Copilot Designer como universalmente seguro de usar é imprudente e que a Microsoft está negligenciando a divulgação dos riscos amplamente reconhecidos associados à ferramenta.
