Vitalik Buterin alerta sobre riscos de IA em meio à liderança da OpenAI

Por

Oi galera, prontos para mergulhar no mundo louco das notícias de cripto? Junte-se ao nosso canal do Telegram onde deciframos os mistérios da blockchain e rimos das mudanças de humor imprevisíveis do Bitcoin. É como uma novela, mas com mais drama descentralizado! Não fique de fora, venha com a gente agora e vamos aproveitar a montanha-russa das criptos juntos! 💰🎢

☞ Junte-se ao Telegram

Como pesquisador, compartilho as preocupações de Vitalik Buterin sobre o desenvolvimento da inteligência artificial superinteligente. Os riscos potenciais associados à AGI são imensos e não totalmente compreendidos. É crucial que adotemos uma abordagem cautelosa em relação a esta tecnologia e priorizemos a cultura e os processos de segurança em detrimento de produtos brilhantes.

Como investigador que estuda os desenvolvimentos na inteligência artificial, não posso deixar de partilhar as minhas preocupações, semelhantes às expressas por Vitalik Buterin, co-fundador da Ethereum, relativamente aos rápidos avanços na IA superinteligente. Refiro-me a esta tecnologia como “arriscada” devido às mudanças em curso na liderança da OpenAI.

1. Acredito firmemente que o desenvolvimento de IA superinteligente acarreta riscos significativos sobre os quais devemos ser cautelosos, e oponho-me àqueles que defendem a criação precipitada de tais sistemas avançados. Não há necessidade de farms de servidores de US$ 7 trilhões em um futuro próximo.
2. Manter uma comunidade robusta de modelos de código aberto operando em hardware de consumo diário é essencial para garantir que tenhamos alternativas se, no futuro, dependermos fortemente de sistemas de IA mais centralizados.

— vitalik.eth (@VitalikButerin) 21 de maio de 2024

Como investidor em criptografia, tomei nota recentemente dos insights de Vitali compartilhados na plataforma X. Ele levantou pontos cruciais sobre três aspectos principais da inteligência artificial (IA):

Recentemente, Jan Leike, que liderava o alinhamento na OpenAI, anunciou sua saída da empresa. Ele atribuiu sua decisão a um desacordo significativo com a administração sobre seus principais objetivos. De acordo com Leike, o rápido progresso na inteligência artificial geral (AGI) na OpenAI resultou em protocolos de segurança e cultura sendo ofuscados pelo desenvolvimento de produtos atraentes.

Como analista cognitivo, tenho acompanhado de perto o desenvolvimento da Inteligência Artificial Geral (AGI), que alguns especialistas prevêem que irá igualar ou mesmo superar as capacidades cognitivas humanas. No entanto, este avanço potencial deixa-me apreensivo, à medida que especialistas da indústria alertam que o nosso mundo pode não estar preparado para tais sistemas de IA superinteligentes.

Em alinhamento com as perspectivas de Buterin, acredito que é importante evitar reações precipitadas ou retaliações violentas quando se deparam com pontos de vista opostos.

Buterin destacou a importância de modelos abertos executados em dispositivos comuns de consumo como uma salvaguarda contra a possibilidade de que um futuro onde a maioria dos pensamentos humanos sejam controlados e filtrados por um número limitado de empresas se torne uma realidade.

Ele observou: “Esses modelos apresentam um risco de catástrofe significativamente menor em comparação com a arrogância corporativa e o poder militar”.

Como analista, eu diria o seguinte: Buterin defende uma abordagem regulatória diferenciada em relação aos modelos de IA, distinguindo entre sistemas menores e maiores. Ele apoia um toque regulatório mais leve para modelos menores para incentivar a inovação e o crescimento. No entanto, ele manifesta preocupação com o facto de as propostas atuais poderem potencialmente categorizar todos os modelos de IA como grandes, sufocando assim o desenvolvimento e a implementação de modelos mais pequenos, mas impactantes.

Como pesquisador que trabalha em modelos de aprendizado de máquina em larga escala, observei que modelos com aproximadamente 70 bilhões de parâmetros se enquadram na extremidade menor do espectro. Por outro lado, os modelos que ostentam cerca de 405 mil milhões de parâmetros justificam um maior escrutínio devido à sua considerável complexidade.

2024-05-21 22:13