O avanço acelerado da inteligência artificial e a corrida entre empresas para desenvolver sistemas cada vez mais autônomos têm provocado alertas sobre uma eventual perda de controle da tecnologia. Parte dos pesquisadores considera que uma futura superinteligência poderia representar uma ameaça à humanidade, enquanto outros especialistas classificam os cenários de extinção como exagerados.
Segundo reportagem da Deutsche Welle publicada pelo UOL, o pesquisador Jacob Coxon deixou a Anthropic em protesto contra o que considera uma corrida irresponsável pelo desenvolvimento de sistemas mais poderosos. Ex-funcionário também da OpenAI, ele argumenta que algoritmos avançados poderiam chegar ao ponto de analisar e aprimorar o próprio código, acelerando sua evolução e dificultando o controle humano.
A preocupação também é compartilhada por outros nomes do setor. Evan Hubinger, que lidera uma equipe de pesquisa de alinhamento da Anthropic, estima em mais de 10% a possibilidade de a IA provocar a extinção humana na próxima década. Geoffrey Hinton, um dos pioneiros da área e vencedor do Nobel de Física, também alerta há anos sobre possíveis consequências do desenvolvimento de uma superinteligência.
O ponto central do debate é o chamado “problema do alinhamento”: a dificuldade de garantir que sistemas extremamente avançados ajam de acordo com objetivos e valores humanos. Uma IA poderia, em tese, buscar cumprir determinada missão por caminhos não previstos pelos desenvolvedores e até resistir a tentativas de desligamento. Em julho, mais de mil funcionários de empresas do setor defenderam regras mais rígidas diante do risco de perda de controle.
Não há, porém, consenso sobre a possibilidade de uma catástrofe. Pesquisadores como Yann LeCun consideram as previsões apocalípticas exageradas e destacam que sistemas de IA continuam dependentes de infraestrutura controlada por humanos. Para parte dos especialistas, os perigos mais concretos estão no presente, como desinformação, ataques cibernéticos, vigilância em massa e impactos no mercado de trabalho.