Alerta Riscos Construção IA: Funcionários OpenAI Advertem
Alerta sobre Riscos na Inteligência Artificial
Um grupo de atuais e ex-funcionários da OpenAI emitiu uma carta pública alertando sobre os riscos associados à construção de inteligência artificial sem supervisão adequada. Eles destacam a importância de permitir que os funcionários denunciem atividades irresponsáveis e pedem mais transparência nas empresas de IA.
Riscos e Consequências
Os riscos apontados vão desde o aprofundamento das desigualdades existentes até a perda de controle de sistemas autônomos de IA, podendo resultar na extinção da humanidade. A falta de regulamentação eficaz e a possibilidade de retaliação contra denunciantes são questões levantadas no documento.
Chamado à Responsabilidade
A carta exige que não apenas a OpenAI, mas todas as empresas de IA, se comprometam a não punir funcionários que denunciem suas atividades. Além disso, solicita a criação de mecanismos verificáveis para que os trabalhadores possam fornecer feedback anônimo sobre as práticas das empresas.
Mudanças na OpenAI
Recentemente, a OpenAI passou por mudanças em sua abordagem de segurança, incluindo a dissolução de um grupo de pesquisa responsável por avaliar os riscos de longo prazo dos modelos de IA mais poderosos da empresa. Foi criado um Comitê de Segurança e Proteção, liderado pelo CEO Sam Altman e outros membros do conselho.
Repercussão e Compromissos
O alerta recebeu apoio de diversos pesquisadores renomados, incluindo ganhadores do Prêmio Turing. Ex-funcionários da OpenAI que assinaram a carta destacam a importância da transparência e da responsabilidade das empresas de IA diante do avanço acelerado dessa tecnologia.
Referências
Fonte: Wired – Alerta sobre riscos na inteligência artificial