OpenAI cria comitê de segurança em meio a críticas e treinamento de novo modelo

A OpenAI, líder no desenvolvimento de inteligência artificial, anunciou em 28 de maio de 2024 a formação de um novo Comitê de Segurança e Proteção. A iniciativa, liderada por membros do conselho e especialistas técnicos, tem como objetivo supervisionar decisões críticas de segurança em todos os projetos e operações da empresa. Este movimento ocorre em um momento crucial, após a dissolução de sua equipe de “superalinhamento” e a saída de pesquisadores-chave que levantaram preocupações sobre a priorização da segurança da IA, e enquanto a empresa inicia o treinamento de seu “próximo modelo de fronteira”.

O que mudou na prática

O novo Comitê de Segurança e Proteção da OpenAI será composto por diretores do conselho, incluindo Bret Taylor (presidente), Adam D’Angelo, Nicole Seligman e o CEO Sam Altman. Além deles, especialistas técnicos e de políticas da OpenAI, como Aleksander Madry (Chefe de Preparação), Lilian Weng (Chefe de Sistemas de Segurança), John Schulman (Chefe de Ciência de Alinhamento), Matt Knight (Chefe de Segurança) e Jakub Pachocki (Cientista Chefe), também farão parte do grupo. O General aposentado do Exército dos EUA, Paul M. Nakasone, recém-nomeado para o Conselho de Administração da OpenAI, também integra o comitê.

A primeira tarefa do comitê será realizar uma avaliação abrangente e desenvolver os processos e salvaguardas da OpenAI nos próximos 90 dias. Ao final deste período, as recomendações serão apresentadas ao conselho completo, e a empresa prometeu compartilhar publicamente as atualizações sobre as recomendações adotadas, de forma consistente com os requisitos de segurança e proteção.

A formação deste comitê é uma resposta direta às recentes turbulências internas na OpenAI. Em maio de 2024, a empresa viu a saída de nomes importantes como Ilya Sutskever, cofundador e cientista-chefe, e Jan Leike, pesquisador sênior, ambos líderes da equipe de “superalinhamento”, que se dedicava aos riscos de longo prazo da IA. Leike, em particular, criticou publicamente a empresa por subinvestir em segurança de IA, afirmando que “a cultura e os processos de segurança ficaram em segundo plano em relação a produtos brilhantes”. A dissolução da equipe de superalinhamento e a subsequente criação deste novo comitê indicam uma reestruturação na abordagem da OpenAI para a governança de segurança, buscando um modelo mais integrado e com maior supervisão do conselho.

Impacto e por que importa para decisões de negócio

Para empresas brasileiras que utilizam ou planejam integrar as tecnologias da OpenAI, essa mudança representa um sinal misto, mas predominantemente positivo no longo prazo. A ênfase renovada na segurança e governança da IA pode levar a modelos mais robustos, confiáveis e, potencialmente, mais seguros para aplicações críticas. Isso é fundamental para setores como finanças, saúde e infraestrutura, onde a integridade dos dados e a mitigação de riscos são primordiais.

A criação do comitê pode influenciar o ritmo de lançamento de novos recursos e modelos. Um processo de avaliação de segurança mais rigoroso pode significar ciclos de desenvolvimento mais longos, mas também produtos finais com menos vulnerabilidades. Para empresas que dependem da inovação rápida da OpenAI, isso pode exigir um planejamento estratégico mais cuidadoso. No entanto, a maior confiança na segurança dos sistemas de IA pode acelerar a adoção em larga escala, especialmente em mercados regulados como o Brasil, onde a conformidade com a Lei Geral de Proteção de Dados (LGPD) e futuras regulamentações de IA é crucial.

Além disso, a postura da OpenAI pode influenciar o cenário regulatório global e local. À medida que grandes players estabelecem padrões de segurança internos, isso pode servir de base para discussões e requisitos em atos regulatórios como o AI Act da União Europeia e propostas de marco legal da IA no Brasil. Empresas brasileiras que já se preparam para um ambiente regulatório mais rígido podem ver nesta iniciativa da OpenAI um alinhamento com as expectativas de governança e responsabilidade no uso da IA. A transparência prometida sobre as recomendações do comitê também pode fornecer insights valiosos para outras organizações desenvolverem suas próprias estruturas de governança de IA.

O que monitorar e próximos passos

Nos próximos 90 dias, o mercado deve monitorar de perto as recomendações que o Comitê de Segurança e Proteção da OpenAI apresentará ao conselho. A natureza e o escopo dessas recomendações, bem como a forma como serão implementadas e comunicadas publicamente, serão indicadores importantes do real compromisso da empresa com a segurança.

Empresas brasileiras devem acompanhar:

• Atualizações de políticas e termos de uso: Possíveis alterações nos termos de serviço ou políticas de uso dos modelos da OpenAI que reflitam as novas diretrizes de segurança.
• Novos recursos de segurança: Lançamento de ferramentas ou funcionalidades nos modelos que aprimorem a segurança, privacidade e controle, o que pode impactar a forma como as empresas integram e gerenciam a IA.
• Diálogo regulatório: A influência das ações da OpenAI nas discussões sobre regulamentação de IA no Brasil e em outros mercados, o que pode moldar as futuras obrigações de conformidade.
• Desempenho dos modelos de fronteira: Como o “próximo modelo de fronteira” da OpenAI equilibra capacidade e segurança, e se as medidas de proteção implementadas são eficazes na mitigação de riscos.

A governança da segurança da IA é um tema em evolução, e as ações de empresas como a OpenAI são um termômetro para as tendências do setor. Para as empresas brasileiras, estar atento a esses desenvolvimentos é fundamental para tomar decisões estratégicas informadas sobre a adoção e o uso responsável da inteligência artificial.