IA pode representar ameaça de “nível de extinção” para os humanos

Relatório encomendado pelo Departamento de Estado recomenda intervenção em IA para "evitar desastre"

Redação Infoflash 14 de março de 2024

Um novo relatório encomendado pelo Departamento de Estado dos EUA retrata um cenário preocupante de ameaças “catastróficas” à segurança nacional decorrentes dos rápidos avanços na inteligência artificial.

Enfatiza a urgência de o governo federal agir rapidamente para evitar o desastre, relata a CNN.

As descobertas foram baseadas em entrevistas com mais de 200 pessoas realizadas durante um período de mais de um ano.

Este grupo diversificado incluía altos executivos de empresas proeminentes de IA, especialistas em segurança cibernética, especialistas em armas de destruição em massa e funcionários governamentais de segurança nacional.

O relatório, divulgado esta semana pela Gladstone AI, afirma categoricamente que os sistemas de IA mais avançados poderiam, na pior das hipóteses, “representar uma ameaça de extinção para a espécie humana”.

Um porta-voz do Departamento de Estado dos Estados Unidos confirmou, em conversa com a CNN, que a sua agência encomendou o relatório como parte da sua avaliação contínua de como a IA se alinha com a sua missão de salvaguardar os interesses dos Estados Unidos a nível nacional e internacional.

No entanto, o porta-voz enfatizou que o relatório não reflete necessariamente as opiniões do governo dos EUA.

Riscos do IA no mundo

O aviso contido no relatório serve mais um lembrete de que, embora a promessa da IA possa atrair investidores e o público, também existem riscos significativos no mundo real a considerar.

“A IA já é uma tecnologia economicamente transformadora. Poderia permitir-nos curar doenças, fazer descobertas científicas e superar desafios que antes pensávamos serem intransponíveis”, disse Jeremie Harris, CEO e cofundador da Gladstone AI, à CNN na terça-feira.

“Mas também pode trazer riscos graves, incluindo riscos catastróficos, dos quais precisamos estar cientes”, disse Harris. “E um conjunto crescente de evidências – incluindo pesquisas e análises empíricas publicadas nas principais conferências de IA do mundo – sugere que acima de um certo limite de capacidade, as IAs podem potencialmente tornar-se incontroláveis.”

A porta-voz da Casa Branca, Robyn Patterson, disse que a ordem executiva do presidente dos Estados Unidos, o democrata Joe Biden, sobre Inteligência Artificial, é a “ação mais significativa que qualquer governo no mundo tomou para cumprir a promessa e gerenciar os riscos da inteligência artificial”.

“O Presidente e o Vice-Presidente continuarão a trabalhar com os nossos parceiros internacionais e a instar o Congresso do país a aprovar legislação bipartidária para gerir os riscos associados a estas tecnologias emergentes”, disse a porta-voz Robyn Patterson.

A Gladstone AI disse que pediu a especialistas em Inteligência Artificial em laboratórios de fronteira que compartilhassem em particular suas estimativas pessoais sobre a chance de um incidente de IA levar a “efeitos globais e irreversíveis” em 2024. As estimativas variaram entre 4% e até 20%, de acordo com o relatório, que indica que as estimativas eram informais e provavelmente sujeitas a distorções significativas.

Um dos maiores curingas é a rapidez com que a IA evolui – especificamente AGI, que é uma forma hipotética de IA com capacidade de aprendizagem semelhante à humana ou mesmo sobre-humana.

O relatório diz que a AGI é vista como o “principal impulsionador do risco catastrófico de perda de controle” e observa que OpenAI, Google DeepMind, Anthropic e Nvidia declararam publicamente que a AGI poderia ser alcançada até 2028 – embora outros pensem que está muito, muito mais longe .

Um documento relacionado publicado pela Gladstone AI adverte que o desenvolvimento da AGI e de capacidades que se aproximem da AGI “iria introduzir riscos catastróficos diferentes de todos os que os Estados Unidos alguma vez enfrentaram”, totalizando “riscos semelhantes aos das ADM” se e quando forem armados”.