Alerta Riscos Construção IA: Funcionários OpenAI Advertem

Alerta sobre Riscos na Inteligência Artificial

Um grupo de atuais e ex-funcionários da OpenAI emitiu uma carta pública alertando sobre os riscos associados à construção de inteligência artificial sem supervisão adequada. Eles destacam a importância de permitir que os funcionários denunciem atividades irresponsáveis e pedem mais transparência nas empresas de IA.

Riscos e Consequências

Os riscos apontados vão desde o aprofundamento das desigualdades existentes até a perda de controle de sistemas autônomos de IA, podendo resultar na extinção da humanidade. A falta de regulamentação eficaz e a possibilidade de retaliação contra denunciantes são questões levantadas no documento.

Chamado à Responsabilidade

A carta exige que não apenas a OpenAI, mas todas as empresas de IA, se comprometam a não punir funcionários que denunciem suas atividades. Além disso, solicita a criação de mecanismos verificáveis para que os trabalhadores possam fornecer feedback anônimo sobre as práticas das empresas.

Mudanças na OpenAI

Recentemente, a OpenAI passou por mudanças em sua abordagem de segurança, incluindo a dissolução de um grupo de pesquisa responsável por avaliar os riscos de longo prazo dos modelos de IA mais poderosos da empresa. Foi criado um Comitê de Segurança e Proteção, liderado pelo CEO Sam Altman e outros membros do conselho.

Repercussão e Compromissos

O alerta recebeu apoio de diversos pesquisadores renomados, incluindo ganhadores do Prêmio Turing. Ex-funcionários da OpenAI que assinaram a carta destacam a importância da transparência e da responsabilidade das empresas de IA diante do avanço acelerado dessa tecnologia.

Referências

Fonte: Wired – Alerta sobre riscos na inteligência artificial