Importância de Questionar o Uso da IA

A Importância de Questionar o Uso da Inteligência Artificial

Sarah Myers West, diretora-gerente do instituto AI Now, é uma pesquisadora que tem se destacado no estudo das implicações sociais da inteligência artificial (IA) e na formulação de políticas públicas para lidar com a concentração de poder na indústria de tecnologia. Com uma vasta experiência em analisar o papel das empresas de tecnologia como atores políticos poderosos, ela compartilha suas perspectivas sobre os desafios e a necessidade de uma abordagem mais crítica e responsável no desenvolvimento da IA.

O Início na Jornada da Inteligência Artificial

Sarah Myers West relata que, ao longo de sua carreira, tem se questionado sobre o porquê de estarmos sendo “trancados” em uma visão distópica do futuro. Ela percebeu que a resposta está menos relacionada à própria tecnologia e mais às políticas públicas e à comercialização. Esse tem sido o foco de seu trabalho, tanto em sua carreira acadêmica quanto em sua atuação na formulação de políticas públicas como co-diretora do instituto AI Now.

O Trabalho na Comissão Federal de Comércio dos EUA

Um dos trabalhos dos quais a pesquisadora se orgulha é o que realizou durante sua passagem pela Comissão Federal de Comércio dos EUA. Nessa função, ela pôde usar suas habilidades de pesquisadora para realizar investigações e responsabilizar diretamente os detentores de poder, abordando questões como o uso da IA para desvalorizar os trabalhadores e elevar os preços, bem como o comportamento anticompetitivo das grandes empresas de tecnologia.

Os Principais Desafios da Inteligência Artificial

Segundo Sarah Myers West, um dos principais desafios da IA é que essas tecnologias estão sendo amplamente utilizadas em contextos altamente sensíveis, como hospitais, escolas e fronteiras, sem uma validação e testes adequados. Ela ressalta que os erros dessa tecnologia afetam de forma desproporcional as comunidades que historicamente sofrem com a discriminação.

Outro ponto preocupante é a forma como instituições poderosas estão usando a IA – independentemente de funcionar ou não – para justificar suas ações, desde o uso de armas contra civis em Gaza até a privação de direitos dos trabalhadores. Isso é um problema não da tecnologia em si, mas do discurso que a envolve, tornando certas escolhas e comportamentos “mais objetivos” ou isentos de questionamento.

Construindo a Inteligência Artificial de Forma Responsável

Para construir a IA de forma responsável, Sarah Myers West enfatiza a necessidade de sempre começar pela pergunta: “Por que construir a IA?”. É preciso avaliar se a IA é realmente necessária para determinado propósito e se essa tecnologia é adequada para tal. Em alguns casos, a melhor solução pode ser simplesmente não construir a IA, como no caso de tecnologias de armas ou vigilância.

Quando a IA for necessária, os desenvolvedores devem garantir o cumprimento da lei, documentar e validar rigorosamente seus sistemas, além de tornar transparente o que puderem, para que pesquisadores independentes possam fazer o mesmo. O importante é sempre considerar o uso final da tecnologia e não apenas a construção “responsável” da IA em si.

Referências

Women in AI: Sarah Myers West says we should ask ‘why build AI at all?’