Miles Brundage, especialista em políticas da OpenAI, renuncia em meio ao lançamento de novos modelos

Por

Oi galera, prontos para mergulhar no mundo louco das notícias de cripto? Junte-se ao nosso canal do Telegram onde deciframos os mistérios da blockchain e rimos das mudanças de humor imprevisíveis do Bitcoin. É como uma novela, mas com mais drama descentralizado! Não fique de fora, venha com a gente agora e vamos aproveitar a montanha-russa das criptos juntos! 💰🎢

☞ Junte-se ao Telegram

Como pesquisador que tem acompanhado de perto os desenvolvimentos na OpenAI, considero a saída de Miles Brundage uma mudança significativa no cenário da política e da ética da IA. Tendo trabalhado com as contribuições de Brundage durante sua gestão na OpenAI, fica claro que ele desempenhou um papel fundamental na formação da cultura de segurança da empresa e no fornecimento de orientação ética aos executivos.

Depois de passar seis anos na OpenAI como consultor sênior de preparação para AGI, Miles Brundage optou por deixar a empresa. Em sua nota de despedida, ele mencionou que está se concentrando na pesquisa de políticas de IA fora do setor de tecnologia.

Neste ponto, é significativo notar que a sua ação ocorre num momento em que a OpenAI, sob a liderança de Sam Altman, enfrenta alguns desafios e transições internas. Estas mudanças envolvem o lançamento de produtos inovadores, como modelos de consistência, concebidos para impulsionar a progressão da inteligência artificial.

Miles Brundage, especialista em políticas da OpenAI, renuncia

Em 2018, juntei-me à comunidade OpenAI e, desde então, tenho estado ativamente envolvido na abordagem de questões políticas e na garantia dos aspectos de segurança das tecnologias avançadas de IA. Uma parte significativa das minhas contribuições centrou-se na utilização e gestão otimizadas de sistemas de IA de ponta, como o ChatGPT.

Durante vários anos, Brundage desempenhou um papel significativo na definição da iniciativa de red teaming da nossa empresa e foi fundamental na geração de relatórios de “análise de sistema” que destacam as vantagens e vulnerabilidades das arquiteturas de modelo de IA da OpenAI.

Em sua função como parte da equipe de preparação de AGI (Inteligência Geral Artificial), Brundage ofereceu aconselhamento ético a executivos, incluindo o CEO Sam Altman, sobre assuntos relacionados à IA. Ele desempenhou um papel crucial na formação da cultura de segurança da OpenAI durante uma fase significativa do crescimento e evolução da empresa.

Em sua plataforma de mídia social, Brundage expressou que trabalhar na OpenAI oferece uma oportunidade excepcionalmente significativa, enfatizando que foi uma decisão difícil renunciar. Admirou o propósito da empresa, mas sublinhou a necessidade de investigadores autónomos adicionais durante os debates sobre a política de IA.

Transição em meio a mudanças de liderança

A saída de Miles Brundage da OpenAI é significativa, visto que coincide com as recentes saídas do CTO Mira Murati e do vice-presidente de pesquisa Barret Zoph. Sam Altman, que apoia a decisão de Brundage, acredita que o trabalho de pesquisa política que Brundage pretende realizar fora da OpenAI acabará por beneficiar a empresa.

A divisão de investigação económica, que anteriormente fazia parte da equipa de preparação da AGI, está agora sob a gestão do novo economista-chefe da OpenAI, Ronnie Chatterji. Joshua Achiam, chefe do alinhamento da missão, assumirá algumas das funções que anteriormente eram desempenhadas por Brundage nos projetos.

O próximo foco de Miles Brundage mudará para examinar a regulamentação da IA, o seu impacto na economia e garantir a segurança do desenvolvimento futuro da IA. Ele enfatiza que estes aspectos são cruciais para enfrentar os desafios relacionados com a implementação da IA ​​em vários setores, incluindo a aplicação de modelos de consistência.

Modelos de consistência e novos desenvolvimentos de IA

Ao mesmo tempo, o OpenAI de Sam Altman revelou modelos de consistência – uma nova estratégia para aumentar a velocidade dos processos de geração de amostras da IA. Ao contrário dos modelos de difusão convencionais, estes novos modelos são projetados para produzir amostras de alta qualidade com mais rapidez, marcando um salto substancial na tecnologia de inteligência artificial.

A introdução destes novos modelos constitui um aspecto fundamental da estratégia da nossa empresa para expandir a sua capacidade global, abordando questões operacionais, especialmente após a recepção de um investimento de 6,6 mil milhões de dólares.

O surgimento de modelos de consistência coincide com o aumento das críticas às operações da empresa, especificamente acusações de violação de direitos autorais no processo de treinamento de seus modelos de IA. Funcionários anteriores da OpenAI, como Suchir Balaji, expressaram apreensões sobre as técnicas da empresa, alimentando a discussão em curso sobre a regulamentação apropriada da tecnologia de IA.

2024-10-23 23:10