Engenheiro da Microsoft alerta para os problemas das imagens criadas pela IA Copilot

Shane Jones, engenheiro no departamento de inteligência artificial da Microsoft, está a efetuar diversos alertas para os problemas e perigos relacionados com a Copilot Designer, ferramenta através da qual os utilizadores podem efetuar instruções por texto para a IA transformar em imagens.

Jones diz que há vários meses testa a Copilot Designer e começou a ficar perturbado com as imagens criadas pela IA, que contrariavam os princípios de uso responsável da IA. Crianças a beber álcool ou a consumir drogas, adolescentes com metralhadoras e outras imagens violentas eram facilmente criadas pela IA, o que não representa o que considera como “modelo seguro”.

Em conversa com a CNBC, Jones explicou que testa a Copilot no seu tempo livre para ajudar a encontrar problemas, mas ficou tão perturbado com as suas descobertas que em dezembro começou a informar a Microsoft, que o remeteu para a OpenIA, que por sua vez nem lhe respondeu.

Jones decidiu recorrer ao LinkedIn com um apelo para a companhia remover a DALL-E 3 para ser investigada fora do alcance público. Foi informado pela equipa legal da Microsoft para remover a mensagem, algo que fez de imediato, mas em janeiro enviou uma carta a senadores dos Estados Unidos a pedir ajuda.

Agora, decidiu contactar Lina Khan da FTC e o quadro de diretores da Microsoft para alertar sobre os problemas da Copilot Designer. A carta que escreveu, partilhada com a CNBC, pede para a Microsoft remover a Copilot Designer do uso público para colocar melhores proteções. A Microsoft recusou o seu pedido, o que levou Jones a pedir a introdução de alertas e um ajuste na classificação etária.

Jones apela ainda que a Microsoft comece a investigar os departamentos de gestão e direito, e efetue uma investigação independente aos problemas com as queixas sobre o uso responsável da IA na companhia.

A Microsoft respondeu à CNBC que leva a sério todas as queixas e preocupações dos funcionários. Além disso, refere que permite, através de vários métodos, apresentar queixas e preocupações que são avaliadas para uma resposta adequada, motivo pelo qual encoraja todos os funcionários a manifestar a sua opinião de assim desejarem.

Apesar disto, Jones decidiu partir para a atenção pública e partilhar as suas preocupações com o mundo, especialmente porque descreve imagens absolutamente perturbadoras criadas com facilidade pela IA, sem qualquer problema, o que contraria o que descreve como “uso responsável da IA”.