Democratas dos EUA questionam questões de segurança e denúncias de IA da OpenAI

Por

Oi galera, prontos para mergulhar no mundo louco das notícias de cripto? Junte-se ao nosso canal do Telegram onde deciframos os mistérios da blockchain e rimos das mudanças de humor imprevisíveis do Bitcoin. É como uma novela, mas com mais drama descentralizado! Não fique de fora, venha com a gente agora e vamos aproveitar a montanha-russa das criptos juntos! 💰🎢

☞ Junte-se ao Telegram

Como um investidor experiente em criptografia e entusiasta de tecnologia com mais de duas décadas de experiência no setor, testemunhei os rápidos avanços na tecnologia de inteligência artificial (IA) com admiração e preocupação crescente. Os recentes desenvolvimentos em torno da OpenAI aumentaram as minhas apreensões sobre os riscos potenciais associados a esta tecnologia inovadora.

Uma coalizão de democratas do Senado e um senador independente escreveram uma carta ao CEO da OpenAI, Sam Altman, expressando apreensão em relação aos protocolos de segurança da empresa.

O Washington Post foi a fonte inicial que chamou a atenção para esta carta, descrevendo o seu conteúdo que se concentra em 12 preocupações principais em relação à OpenAI.

Na investigação inicial da carta, há uma dúvida sobre a permissão da OpenAI para que as autoridades dos EUA examinem e avaliem seu próximo modelo importante de IA antes de sua divulgação pública. Além disso, os legisladores propõem que a OpenAI aloque 20% dos seus recursos computacionais para investigações de segurança. Além disso, eles sugerem a implementação de medidas para impedir ameaças potenciais de atores maliciosos ou nações adversárias que tentam se apropriar indevidamente da tecnologia avançada de IA da OpenAI. Estas exigências realçam as crescentes apreensões em torno dos potenciais perigos representados pelos sofisticados sistemas de inteligência artificial.

Após alegações de fontes confidenciais, este exame aprofundado ocorre devido a acusações de avaliações de segurança precipitadas do GPT-4 Omni, a fim de agilizar seu lançamento. Além disso, houve afirmações de que membros da equipe que expressaram preocupações de segurança enfrentaram retaliação e foram coagidos a assinar contratos suspeitos de não divulgação.

Em junho de 2024, foi apresentada uma reclamação à Comissão de Valores Mobiliários dos EUA sobre estas questões.

Mais recentemente, a Microsoft e a Apple desistiram de ingressar no conselho da OpenAI, uma decisão tomada em julho, após alegações de denunciantes. Esta mudança ocorreu em meio a um maior escrutínio e foco regulatório em relação à governança da IA. A Microsoft investiu substanciais US$ 13 bilhões em OpenAI no ano anterior (2023).

Além disso, William Saunders, ex-membro da equipe OpenAI, expressou apreensões semelhantes às nossas. Em termos mais simples, ele partilhou as suas razões para abandonar a OpenAI, expressando preocupações de que o seu trabalho pudesse representar um grave perigo para a humanidade. Ele fez uma analogia entre a situação atual e o infame desastre do Titanic.

Saunders expressa preocupação não apenas com a capacidade atual do ChatGPT, mas também com os sistemas avançados de IA que poderão superar o intelecto humano no futuro. Ele defende a responsabilidade ética entre os desenvolvedores e trabalhadores de IA, instando-os a conscientizar o público em geral sobre os riscos potenciais associados a tais avanços tecnológicos.

2024-07-24 07:00