OpenAI anuncia formação de Comitê de Segurança e Proteção
No dia 28 de maio de 2024, a OpenAI anunciou a criação de um novo “Comitê de Segurança e Proteção” para supervisionar a gestão de riscos em seus projetos e operações. Essa iniciativa surge em meio ao treinamento do próximo modelo de fronteira da empresa, visando alcançar a inteligência artificial geral (AGI).
Objetivo do Comitê e Desafios
O Comitê, liderado por Bret Taylor, Adam D’Angelo, Nicole Seligman e Sam Altman, terá a responsabilidade de fazer recomendações sobre segurança de IA ao conselho da empresa. A preocupação com a segurança envolve desde evitar que a IA se torne autônoma até a implementação de medidas de segurança em diversas áreas.
Repercussões e Críticas
A formação do Comitê é uma resposta a críticas e contratempos enfrentados pela OpenAI recentemente, incluindo a renúncia de membros importantes da equipe. Há debates sobre a capacidade da empresa de desenvolver IA altamente capaz de forma segura, bem como sobre o avanço dos modelos de linguagem.
Rumores e Expectativas
Rumores sobre o lançamento do GPT-5 neste verão foram dissipados com o anúncio do GPT-4o. A incerteza sobre a capacidade da OpenAI de lançar um modelo significativamente superior ao GPT-4 permanece, gerando expectativas e questionamentos na comunidade de IA.
Referências
Referência: Notícia Completa