OpenAI interrompe influência enganosa alimentada por IA em 5 campanhas

Por

Oi galera, prontos para mergulhar no mundo louco das notícias de cripto? Junte-se ao nosso canal do Telegram onde deciframos os mistérios da blockchain e rimos das mudanças de humor imprevisíveis do Bitcoin. É como uma novela, mas com mais drama descentralizado! Não fique de fora, venha com a gente agora e vamos aproveitar a montanha-russa das criptos juntos! 💰🎢

☞ Junte-se ao Telegram

Como analista com experiência em tecnologia e segurança cibernética, considero alarmantes e intrigantes as recentes divulgações da OpenAI relativamente à utilização da sua tecnologia de IA em operações de influência secreta. É um lembrete claro de como os modelos avançados de IA podem ser usados ​​como armas para manipular a opinião pública e influenciar os resultados políticos.

A OpenAI, uma empresa líder em Inteligência Artificial fundada por Sam Altman, revelou recentemente que tomou medidas contra várias campanhas clandestinas que tentavam utilizar indevidamente a sua tecnologia para manipular a opinião pública. Especificamente, em 30 de maio, a organização anunciou o encerramento de contas envolvidas em atividades de influência encoberta.

Como investidor em criptografia, tenho acompanhado de perto os anúncios recentes da OpenAI. E deixem-me dizer-vos que fiquei emocionado ao saber que, nos últimos três meses, conseguimos interromper com sucesso nada menos que cinco operações clandestinas que tentavam explorar os nossos modelos para atividades fraudulentas online.

Esses indivíduos usaram inteligência artificial (IA) para produzir comentários para artigos, estabelecer personas nas redes sociais e revisar e corrigir traduções de textos.

Como estamos interrompendo as tentativas de operações de influência secretas de usar IA de maneira enganosa:

— OpenAI (@OpenAI) 30 de maio de 2024

Uma operação, chamada “Spamouflage”, empregou recursos da OpenAI para investigar mídias sociais e gerar conteúdo multilíngue em diversas plataformas, como X, Medium e Blogspot. Isso foi feito com a intenção de moldar o sentimento público e impactar as decisões políticas. Além disso, eles utilizaram tecnologia de IA para solucionar problemas de codificação e supervisionar bancos de dados e sites.

Numa campanha alternativa apelidada de “Má Gramática”, quatro países, incluindo a Ucrânia, a Moldávia, os Estados Bálticos e os Estados Unidos, foram o foco. Esta iniciativa secreta empregou modelos OpenAI para operar bots do Telegram e obter resultados políticos. Além disso, a tecnologia de IA foi utilizada para depuração de código, administração de bancos de dados e gerenciamento de sites nas atividades deste grupo.

Um terceiro grupo, conhecido como “Doppelgangers”, empregou tecnologia de inteligência artificial para produzir comentários em vários idiomas, como inglês, francês, alemão, italiano e polonês. O seu objetivo era divulgar estes comentários em plataformas populares como X e 9GAG com o objetivo de influenciar o sentimento público.

Um ciberator iraniano chamado “União Internacional de Mídia Virtual” (IUVM) publica consistentemente conteúdo online que defende o Irã, ao mesmo tempo que menospreza Israel e os Estados Unidos.

Como analista, notei que uma empresa comercial sediada em Israel, chamada STOIC, tem produzido conteúdos relacionados com o conflito de Gaza, a organização sindical Histadrut em Israel e as eleições indianas. Este projeto, ao qual nos referimos como “Zero Zenão”, é inspirado no fundador da escola estóica de filosofia. No entanto, o envolvimento com suas campanhas tem sido relativamente baixo.

Na sua declaração, a OpenAI observou que os temas abordados por diversas entidades abrangiam um amplo espectro, incluindo a intrusão da Rússia na Ucrânia, os confrontos em Gaza, as eleições indianas, a política europeia e americana e as críticas à administração da China por parte de dissidentes chineses e de governos estrangeiros.

Recentemente, encontrei um relatório escrito por Ben Nimmo, investigador principal da OpenAI. Ele compartilhou com o The New York Times alguns exemplos da vida real das campanhas de influência mais proeminentes e mais antigas que estão atualmente nas manchetes.

Como investigador que estuda os desenvolvimentos recentes da OpenAI, descobri que, apesar da revelação de novas operações, não houve um aumento perceptível no envolvimento do público ou no alcance através dos seus serviços, de acordo com as suas próprias observações.

2024-05-31 09:56