OpenAI Anuncia Formação de Comitê de Segurança: Novidades

OpenAI anuncia formação de Comitê de Segurança e Proteção

No dia 28 de maio de 2024, a OpenAI anunciou a criação de um novo “Comitê de Segurança e Proteção” para supervisionar a gestão de riscos em seus projetos e operações. Essa iniciativa surge em meio ao treinamento do próximo modelo de fronteira da empresa, visando alcançar a inteligência artificial geral (AGI).

Objetivo do Comitê e Desafios

O Comitê, liderado por Bret Taylor, Adam D’Angelo, Nicole Seligman e Sam Altman, terá a responsabilidade de fazer recomendações sobre segurança de IA ao conselho da empresa. A preocupação com a segurança envolve desde evitar que a IA se torne autônoma até a implementação de medidas de segurança em diversas áreas.

Repercussões e Críticas

A formação do Comitê é uma resposta a críticas e contratempos enfrentados pela OpenAI recentemente, incluindo a renúncia de membros importantes da equipe. Há debates sobre a capacidade da empresa de desenvolver IA altamente capaz de forma segura, bem como sobre o avanço dos modelos de linguagem.

Rumores e Expectativas

Rumores sobre o lançamento do GPT-5 neste verão foram dissipados com o anúncio do GPT-4o. A incerteza sobre a capacidade da OpenAI de lançar um modelo significativamente superior ao GPT-4 permanece, gerando expectativas e questionamentos na comunidade de IA.

Referências

Referência: Notícia Completa