Metas ferramenta de vigilância controversaque rastreava as teclas digitadas, os cliques do mouse e o conteúdo da equipe para treinar os modelos de IA da empresa, não funcionou como planejado. A Iniciativa de Capacidade do Modelo, que foi implementada em abril e fortemente contestada pelos funcionários, foi interrompida após um incidente em que os dados dos funcionários se tornaram acessíveis a toda a empresa.
Nas últimas semanas, mais de 1.600 funcionários da Meta, incluindo engenheiros de software program, cientistas pesquisadores e designers, assinou uma petição pedindo à empresa que pare de coletar e reaproveitar dados de computador de funcionários.
“Acreditamos coletivamente que capacitar indivíduos e comunidades através da construção de IA responsável inclui respeitar seus limites e privacidade”, afirma a petição. “Qualquer abordagem à IA que dependa de recolha de dados intrusiva, coercitiva e não consensual contradiz esse princípio.”
O Business Insider informou que o software program rastreou aplicativos e programas como Gmail, GChat e Metamate, um assistente de IA para funcionários, como parte de sua coleta de dados. O software program de rastreamento de dados também capturou capturas de tela. Não está claro se será reintegrado.
Citando um aviso de segurança interna e informações de três funcionários da Meta, a Wired relatou que conversas privadas, avisos, transcrições e avaliações de desempenho foram expostas a “qualquer pessoa dentro da empresa”.
Em uma declaração obtido pela Wiredum porta-voz da Meta disse que a empresa estava investigando o incidente e interromperia o rastreamento de dados indefinidamente.
“Projetamos cuidadosamente este programa com salvaguardas de privacidade e, embora não tenhamos nenhuma indicação neste momento de que quaisquer dados tenham sido acessados indevidamente por funcionários da Meta, estamos pausando-o enquanto investigamos”, disse o porta-voz.
Um representante da Meta não respondeu ao pedido de comentários da CNET.
Empregadores aumentam o uso de IA
A Meta, que está gastando pelo menos US$ 135 bilhões em infraestrutura de IA este ano, está entre várias grandes empresas de tecnologia aumentando o investimento em IAincluindo Amazon (US$ 200 bilhões), Microsoft (US$ 190 bilhões) e Alphabet (US$ 185 bilhões).
O Meta AI, principal chatbot da empresa, está integrado às suas principais plataformas de redes sociais como WhatsApp, Instagram e Fb.
De acordo com áudio vazado em uma reunião interna da empresa em 30 de abril, o CEO da Meta, Mark Zuckerberg, disse que fazia sentido usar seus próprios funcionários para treinar a IA.
“Os modelos de IA aprendem observando pessoas realmente inteligentes fazendo coisas… A inteligência média das pessoas que estão nesta empresa é significativamente maior do que o conjunto médio de pessoas que você pode contratar para realizar tarefas”, disse Zuckerberg.
Rory Mirdiretor de acesso aberto e envolvimento da comunidade tecnológica no grupo de direitos digitais Fundação Fronteira Eletrônicadisse que os funcionários da Meta estavam certos em se opor a uma prática invasiva que levanta questões de privacidade, consentimento e confiança.
“Buscar novos dados para treinamento em IA não é desculpa”, disse Mir à CNET. “Esse monitoramento desproporcional dos trabalhadores é um abuso de poder e destaca a necessidade de legislação para proteger a privacidade dos trabalhadores, exigindo consentimento e o devido processo”.
As empresas estão monitorando o quanto seus funcionários usam as ferramentas de IA da empresa em seu trabalho diário. CNBC informou em maio que “quase todas as empresas Fortune 500 estão monitorando o uso geral da IA” para determinar se os trabalhadores a estão usando de forma eficaz e maximizando seu potencial.
