Será que a superinteligência artificial realmente representa um risco maior do que as armas nucleares? Existe uma chance significativa de uma catástrofe do tamanho de Chernobyl? Será que existe uma probabilidade maior que 10% de que a IA possa "matar todos os humanos" na próxima década?
Esses alertas foram emitidos nas últimas 48 horas em ambos os lados do Atlântico sobre o impacto potencial de uma tecnologia que a maioria das pessoas ainda considera um mecanismo de busca mais falante.
Algumas das ameaças surgiram no Reino Unido, quando parlamentares e membros da Câmara dos Lordes começaram a debater o perigo da inteligência artificial superar as capacidades humanas. Os alertas nucleares vieram de Des Browne, ex-secretário de Defesa, e do professor Stuart Russell, renomado cientista da computação de Berkeley.
Beatrice Fihn, vencedora do Prêmio Nobel da Paz de 2017 por liderar a Campanha Internacional para Abolir as Armas Nucleares, disse aos parlamentares: "Não é a primeira vez que nos deparamos com capacidades que podem acabar nos matando a todos."
A sessão de segunda-feira foi convocada pela Control AI, um grupo de lobby que pressiona pela regulamentação internacional da tecnologia. O grupo apoia um projeto de lei apresentado ao parlamento esta semana pelo deputado trabalhista Alex Sobel, que visa proibir a criação de superinteligência artificial (ASI).
Na noite de terça-feira, um funcionário sênior da Anthropic admitiu acreditar que havia mais de 10% de chance de a tecnologia "matar todos os humanos" na próxima década e alertou que sua empresa de IA não tinha um plano para garantir que a Inteligência Artificial Supervisionada (IAS) estivesse alinhada, ou seja, que não causasse danos. As previsões sobre quandk a IAS poderá ser alcançada variam de alguns anos a mais de uma década.
Coxon afirmou que os riscos na Anthropic eram bem conhecidos, mas que eles estavam "numa corrida para chegar lá primeiro". Num vislumbre de esperança, acrescentou estar otimista quanto ao potencial de coordenação entre os laboratórios americanos para agilizar o seu progresso nessa corrida.
A Anthropic foi contatada para comentar o assunto. A OpenAI citou uma declaração de seu cientista-chefe, Jakub Pachocki, que disse na semana passada: “A coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para os governos de todo o mundo”.
A busca por uma coordenação mais ampla para controlar a Inteligência Artificial Geral (IAG) esteve no centro dos acontecimentos em Westminster esta semana. Segundo o Financial Times, autoridades governamentais expressaram preocupação com o fato de a Anthropic ter se recusado a submeter seu modelo mais recente – Mythos 5.1 – ao Instituto de Segurança de IA do Reino Unido para testes prévios ao lançamento.
Apenas algumas organizações americanas tiveram acesso ao Mythos 5.1, confirmou o Gabinete do Governo. Um porta-voz acrescentou: "O Instituto de Segurança de IA continua a colaborar estreitamente com parceiros da indústria, incluindo a Anthropic."
O deputado trabalhista Darren Jones escreveu ao primeiro-ministro, Andy Burnham, e aos chefes da ONU e da OCDE, solicitando um “tratado multinacional para o desenvolvimento regulamentado e seguro da superinteligência – não uma proibição à inovação ou ao esforço científico, mas uma abordagem que priorize a segurança no rápido desenvolvimento dessa tecnologia”.
Citando a renúncia de Coxon, Jones acrescentou: “O debate varia desde o fim da humanidade até alegações de 'propaganda exagerada'. De qualquer forma, os governos agora precisam intervir.”
Do outro lado do Atlântico, Bernie Sanders intensificou sua campanha pela segurança da inteligência artificial esta semana, apelando novamente ao Congresso para que regule a tecnologia. Ele citou pesquisas que sugerem que 81% dos americanos acreditam que seus políticos deveriam tomar medidas.
O senador independente por Vermont disse: "Não podemos permitir que um punhado de pessoas gananciosas brinque de Deus e determine o futuro da humanidade – nossa economia, meio ambiente, democracia, privacidade e muito mais – sem a participação do público."
Nenhum comentário:
Postar um comentário