A Importância de Questionar o Uso da Inteligência Artificial
Sarah Myers West, diretora-gerente do instituto AI Now, é uma pesquisadora que tem se destacado no campo da inteligência artificial (IA). Com uma vasta experiência em analisar o impacto social e político da tecnologia, ela compartilha suas perspectivas sobre os principais desafios enfrentados pela IA à medida que ela evolui.
O Início da Jornada na IA
Nos últimos 15 anos, Sarah tem se dedicado a investigar o papel das empresas de tecnologia como atores políticos poderosos, à medida que elas surgiram na linha de frente da governança internacional. Ela observou de perto como as empresas de tecnologia dos EUA se apresentaram ao redor do mundo, alterando o cenário político – no Sudeste Asiático, na China, no Oriente Médio e em outros lugares. Isso a levou a escrever um livro sobre como o lobby da indústria e a regulamentação moldaram as origens do modelo de negócios de vigilância para a internet, apesar das tecnologias que, em teoria, ofereciam alternativas que na prática não se concretizaram.
A Necessidade de Questionar o Uso da IA
Sarah se pergunta constantemente: “Por que estamos sendo trancados nessa visão muito distópica do futuro?” Ela acredita que a resposta tem pouco a ver com a tecnologia em si e muito a ver com as políticas públicas e a comercialização. Portanto, seu projeto tem sido examinar criticamente as instituições que estão produzindo a IA e garantir que as necessidades do público sejam atendidas, e não as das empresas de tecnologia.
O Trabalho na Comissão Federal de Comércio (FTC)
Sarah se orgulha do trabalho que realizou na FTC, a agência governamental dos EUA que está na linha de frente da aplicação regulatória da inteligência artificial. Ela pôde usar suas habilidades de pesquisa para se envolver em trabalhos investigativos, abordando questões como o uso da IA para desvalorizar os trabalhadores e elevar os preços, ou combater o comportamento anticompetitivo das grandes empresas de tecnologia.
Os Principais Desafios da IA
Um dos principais desafios é que as tecnologias de IA estão sendo amplamente utilizadas em contextos altamente sensíveis – em hospitais, escolas, fronteiras, etc. – mas permanecem inadequadamente testadas e validadas. Esses sistemas propensos a erros afetam desproporcionalmente as comunidades que historicamente sofreram discriminação. Outro problema é como as instituições poderosas estão usando a IA – com ou sem funcionalidade – para justificar suas ações, desde o uso de armas contra civis em Gaza até a privação de direitos dos trabalhadores.
Construindo a IA de Forma Responsável
Para construir a IA de forma responsável, é essencial começar questionando por que a IA é necessária em primeiro lugar. Às vezes, a resposta é construir algo melhor, garantindo o cumprimento da lei, documentando e validando rigorosamente os sistemas e tornando-os transparentes. Outras vezes, a resposta pode ser não construir a IA de todo, pois não precisamos de mais tecnologias de armas ou vigilância.
Referências
Women in AI: Sarah Myers West says we should ask ‘why build AI at all?’