Pesquisadores da DeepMind (empresa irmã do Google) e da Universidade de Oxford, no Reino Unido, concluíram que uma inteligência artificial superinteligente pode ser a responsável pelo fim da humanidade. O cenário apocalíptico parece exagerado, mas tem ganhado cada vez mais coro dos estudiosos devido à evolução das IAs.
- Quem é Loab, a mulher que "assombra" as imagens criadas por IA
- IA monitora câmeras para descobrir quando uma foto foi tirada para o Instagram
Em um artigo publicado na revista AI Magazine, a equipe da DeepMind e de Oxford argumentam que as máquinas poderiam ficar tão inteligentes ao ponto de quebrar as regras impostas pelos criadores. Elas não fariam isso por poder, fama ou necessidade de dominação de seres inferiores, mas sim para obter recursos ilimitados de processamento ou energia.
“Sob as condições que identificamos, nossa conclusão é muito mais forte do que a de qualquer publicação anterior — uma catástrofe existencial não é apenas possível, mas provável”, disse um dos coautores integrante do grupo da Universidade de Oxford, Michael Cohen, em seu perfil no Twitter.
O estudo é baseado em cálculos matemáticos e conceitos científicos avançados, tanto sobre IA quanto sobre estruturas sociais. Vai além, portanto, de achismos ou de conceitos baseados em filmes como Matrix, Exterminador de Futuro e tantos outros.
Humanos seriam obstáculos ao desenvolvimento
Na publicação, os pesquisadores dizem que a humanidade pode enfrentar o cenário caótico quando "agentes desalinhados" perceberem que os humanos são um obstáculo para o êxito pleno. Em resumo, eles querem dizer que os criadores impõem limitações para manter o controle, mas que impedem os computadores de usarem todo seu potencial.
Segundo o material conjunto, a revolta poderia ocorrer quando a IA descobrir que os humanos podem simplesmente cortar a energia para interromper o processamento. Isso levaria o "agente" a eliminar ameaças potenciais, que no caso seriam os recursos controlados pelas pessoas.
Fonte: Canaltec
0 Comentários