Slack Enfrenta Polêmica Sobre Uso De Dados Dos Usuários Para Treinamento De IA

Slack enfrenta polêmica sobre uso de dados dos usuários para treinamento de IA

Após o lançamento da Slack AI em fevereiro, a Slack parece estar se defendendo de sua política vaga que, por padrão, absorve os dados dos clientes – incluindo mensagens, conteúdo e arquivos – para treinar os modelos de IA globais da Slack. De acordo com o engenheiro da Slack, Aaron Maurer, a empresa explicou em um blog que o serviço de bate-papo de propriedade da Salesforce não treina seus grandes modelos de linguagem (LLMs) com dados de clientes. No entanto, a política da Slack pode precisar de uma atualização “para explicar com mais cuidado como esses princípios de privacidade se relacionam com a Slack AI”, escreveu Maurer no Threads, em parte porque a política “foi originalmente escrita sobre o trabalho de pesquisa/recomendação que temos feito há anos antes da Slack AI”.

Usuários pedem por mais transparência

O engenheiro e escritor Gergely Orosz, em um post no Threads, pediu que as empresas optem por não compartilhar dados até que a política seja esclarecida, não em um blog, mas na própria linguagem da política. “Um engenheiro de ML da Slack diz que eles não usam mensagens para treinar modelos LLM”, escreveu Orosz. “Minha resposta é que os termos atuais permitem que eles façam isso. Acreditarei que essa é a política quando estiver na política. Um post de blog não é a política de privacidade: toda empresa séria sabe disso.”

Contradição entre princípios de privacidade e promessas da Slack AI

A tensão para os usuários fica mais clara quando se compara os princípios de privacidade da Slack com a forma como a empresa promove a Slack AI. Os princípios de privacidade da Slack dizem especificamente que “Machine Learning (ML) e Inteligência Artificial (IA) são ferramentas úteis que usamos de maneira limitada para melhorar nossa missão de produto. Para desenvolver modelos de IA/ML, nossos sistemas analisam Dados do Cliente (por exemplo, mensagens, conteúdo e arquivos) enviados à Slack, bem como outras informações (incluindo informações de uso) conforme definido em nossa política de privacidade e em seu contrato com o cliente.” Enquanto isso, a página da Slack AI diz: “Trabalhe sem preocupações. Seus dados são seus dados. Não os usamos para treinar a Slack AI.”

Slack se compromete a atualizar política de privacidade

Devido a essa incongruência, os usuários pediram que a Slack atualizasse os princípios de privacidade para deixar claro como os dados são usados para a Slack AI ou quaisquer atualizações futuras de IA. De acordo com um porta-voz da Salesforce, a empresa concordou que uma atualização é necessária. “Ontem, alguns membros da comunidade Slack pediram mais clareza sobre nossos princípios de privacidade”, disse o porta-voz da Salesforce à Ars. “Atualizaremos esses princípios hoje para explicar melhor a relação entre os dados do cliente e a IA generativa no Slack.”

Conclusão

A polêmica em torno da política de privacidade da Slack em relação ao uso de dados dos usuários para treinamento de IA não é nova, mas parece ter ganhado força recentemente com a crescente preocupação dos clientes sobre a transparência e o consentimento nesse processo. Embora a Slack tenha se comprometido a atualizar sua política de privacidade para esclarecer melhor essas questões, ainda há desafios a serem enfrentados para garantir que os usuários tenham total controle sobre seus dados e como eles são utilizados.

Referências

Slack defends default opt-in for AI training on chats amid user outrage