Diretor do ICMC colabora com o trabalho desenvolvido no Reino Unido para orientar governos
Integração entre humano e máquina. Imagem: gerada por inteligência artificial pelo Adobe Firefly.
O que acontece no final do filme? Máquinas e sistemas inteligentes superam a capacidade dos seres humanos e passam a controlá-los? Essas dúvidas, já abordadas várias vezes pela ficção científica, podem estar mais perto da realidade do que a gente imagina.
E essa é parte de uma conversa com o representante brasileiro em um comitê consultivo internacional formado pelo Governo do Reino Unido para desenvolver um relatório sobre as capacidades e riscos da Inteligência Artificial (IA).
O Professor André Ponce de Leon Ferreira de Carvalho é um dos especialistas que fazem parte desse comitê, convidado pelo Ministério da Ciência, Tecnologia e Inovação (MCTI). O atual diretor do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, pesquisador principal do CEPID-CeMEAI e coordenador do Centro de Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA IARA) está trabalhando com cientistas de outras 29 nações convidadas para a Cúpula de Segurança de IA do Reino Unido, da ONU e da UE.
André explica que em novembro de 2023, o Reino Unido organizou a primeira cimeira global sobre a segurança da inteligência artificial, no Bletchley Park, onde, na segunda guerra mundial, uma equipe liderada por Alan Turing, um dos pioneiros da IA, decifrou o código da máquina alemã Enigma.
“Da cimeira, participaram representantes de governos nacionais e da União Europeia, de empresas, da academia e da sociedade civil, incluindo o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos Estados Unidos, Kamala Harris e a presidente da Comissão Europeia, Ursula Von Der Leyen”.
Ainda segundo ele, no evento foram discutidos os riscos dos sistemas mais recentes e poderosos de IA, a IA de fronteira (frontier AI) e os participantes receberam um relatório intitulado AI Safety Summit- Capabilities and risks from frontier AI, apresentando as capacidades, os riscos da IA de fronteira e apontando para a necessidade de apoiar pesquisas no tema. O relatório foi revisado por um comitê de especialistas, coordenado pelo Professor Yoshua Bengio, da Universidade de Montreal, no Canadá-juntamente com os professores Geoffrey Hinton e Yann LeCun, Yoshua recebeu, em 2018, o Prêmio Turing, equivalente ao prêmio Nobel para a área de Computação. Os três são chamados de “Padrinhos da IA”.
Diretor do ICMC, Prof. André Carvalho, no centro dos debates. Foto: Reinaldo Mizutani
André de Carvalho destaca um trecho apontado pelo relatório: “Estamos no meio de uma revolução tecnológica que trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos. A IA pode transformar quase todos os aspectos da nossa economia e sociedade”.
Outro trecho, justifica: “Para aproveitar as oportunidades, devemos compreender e enfrentar os riscos. A IA apresenta riscos de formas que não respeitam as fronteiras nacionais. É importante que governos, universidades, empresas e sociedade civil trabalhem juntos para enfrentar esses desafios, que são complexos e difíceis de prever, para mitigar os perigos potenciais e garantir os benefícios da IA para toda a sociedade”.
“O Reino Unido está trabalhando há muito tempo nesta proposta que, agora, se torna uma importante ferramenta para auxiliar os governos”, disse André, observando que, como já foi mencionado pelo Prof. Bengio, o documento não recomenda aos governantes como devem agir, nem vai propor como a IA pode ser regulada, mas resume o que a ciência sabe até o momento sobre as capacidades e os riscos dos sistemas de IA. “A decisão de como conciliar inovação e segurança em IA é dos formuladores de políticas públicas”, explicou.
André complementa afirmando que não se discute mais a força dessa tecnologia transformadora, com técnicas cada vez mais sofisticadas e complexas. Para ele, esse cenário futurista parecido com roteiro de filme de ficção científica já chegou. O que não é possível prever ainda são as consequências do mau uso da IA e de uma IA mais inteligente do que os seres humanos. “Por isso, a urgência em discutir e elaborar documentos como esse, feitos por especialistas em IA. Também ficou acordado que seguiremos redigindo documentos com informações que possam dar subsídios para que os governos se preparem, entregando a eles o conhecimento necessário, de acordo com o estado da arte, sobre o que pode acontecer com essa área, particularmente de seus riscos”.
“A preocupação é inclusive com o poder das máquinas, com o que elas poderão fazer, se podem deixar os seres humanos em segundo plano na tomada de decisões. Essa fala pode parecer exagerada, no entanto existe o receio, baseado em dados e algoritmos cada vez melhores. Devemos ser proativos no enfrentamento dos riscos”, falou André.
“Devemos trabalhar para que toda a evolução da IA, que tem sido rápida e impressionante, seja aplicada para o bem comum, para os avanços que melhorem a qualidade de vida em diversos setores, como na saúde, melhoria de diagnósticos, baratear desenvolvimento de novos medicamentos; no meio ambiente, combatendo as mudanças climáticas e a poluição no planeta; na economia, gerando melhores e mais empregos, reduzindo desperdícios e fraudes, e em tantos outros que já estão sendo beneficiados”.
“O Reino Unido, junto com União Europeia e as Nações Unidas, está dando um primeiro e importante passo, mas há ainda outros grandes atores da IA, como China e Estados Unidos, que precisam caminhar no sentido de desenvolver ações que possam eliminar ou reduzir os riscos, trazendo os benefícios, e que consigam evitar o mau uso da IA e a perda de controle, e da tomada de decisão, pelos seres humanos”, finalizou.
Texto: Raquel Vieira
Link do documento:
https://assets.publishing.service.gov.uk/media/65395abae6c968000daa9b25/frontier-ai-capabilities-risks-report.pdf
