O desafio da governança da inteligência artificial num contexto de inovação contínua mais veloz que a capacidade dos legisladores conseguirem articular um arcabouço mínimo regulatório


Robert Janssen
Presidente da Assespro-RJ
07 de Fevereiro 11:06
  • Enviar por e-mail
    Enviar por e-mail
    Para múltiplos destinatários separe os e-mails por vírgula.
  • Salvar em PDF

O documento produzido pela WITSA, "Building Trust and Delivering on the Promise of Artificial Intelligence", junto com as edições do webinar Assespro Talks com líderes de diversos ecossistemas de tecnologia e inovação globais, sobre regulação e o futuro da IA nos negócios, busca contribuir para construção de uma bússola que possa nos orientar na formulação de um arcabouço que permite uma adoção inteligente e responsável da inteligência artificial.

Atualmente, a Assespro Rio de Janeiro, juntamente com a WITSA, vem liderando debates e diálogos com governos e indústrias sobre o uso ético e responsável da inteligência artificial, com o compromisso de contribuir na edificação das balizas que vão permitir conciliar os benefícios de maior assertividade com velocidade oferecidas pela nova tecnologia, junto com as salvaguardas da privacidade e dos direitos universais inalienáveis.

Por esta razão, entendemos que precisamos atuar como obreiros e estar permanentemente produzindo interações ao vivo, materiais e conteúdos indispensáveis para todos que querem ter um amplo entendimento sobre o uso de IA no contexto corporativo. E com o AI Summit in Rio estamos construindo um fórum permanente para promover os debates e discussões necessárias para um encaminhamento correto de um tema que vai mudar radicalmente a nossa sociedade.

Agora, os que nos leiam nesse momento, inevitavelmente vão lidar com um componente sempre presente em quase todas minhas narrativas: o contexto da situação presente. Portanto, compartilho a fotografia que visualizo desse contexto atual da inteligência artificial e o seu impacto na sociedade.

A inteligência artificial impactará a vida das pessoas e das sociedades com avanços científicos inovadores e que antes eram percebidos como inalcançáveis, e acesso sem precedentes à tecnologia, enquanto ao mesmo tempo exposição à desinformação tóxica que perturba as democracias junto com uma turbulência ambiental e econômica. Neste processo, a IA desencadeará uma mudança fundamental na estrutura e no equilíbrio do poder global. Isto cria um desafio sem paralelo para instituições em todo o mundo. Será necessário entender como aplicar às realidades atuais que ainda tem mérito e encaixe; estabelecer novas normas para uma inovação tecnológica que impacta a dinâmica das relações predominantes; enquanto também mitigar os seus riscos potenciais e equilibrar os interesses dos diferentes intervenientes geopolíticos. E isto exigirá um elevado nível de coordenação por parte dos governos, organizações sociais e setor privado.

Em 2023, governos de todo o mundo acordaram para este desafio. De Bruxelas a Pequim, de Kuala Lumpur ao Rio de Janeiro, os legisladores estão engajados na elaboração de quadros regulatórios para governar a IA. No Japão, os líderes do Grupo dos Sete lançaram o “Processo de Hiroshima” para resolver algumas das questões mais complicadas levantadas pela IA generativa, enquanto a ONU lançou um novo órgão consultivo de alto nível em IA, e o OCDE tem uma força tarefa permanente acompanhando os diversos governos membros e suas iniciativas.

Em novembro passado, o governo do Reino Unido organizou a primeira conferência mundial dedicada a abordar os riscos de segurança da IA. Mesmo nos EUA, sede das maiores empresas de IA e tradicionalmente hesitante em regulamentar novas tecnologias, a regulamentação da IA é uma questão de quando, não de se, e enquanto ao mesmo tempo, é um raro exemplo de consenso bipartidário.

Rapidamente, os líderes mundiais estão dando prioridade à necessidade de governação da IA. Mas chegar a um acordo sobre que tipo de regulamentação é necessária e como encaminhá-la, é uma questão de negociação. A IA não se assemelha a nenhum desafio anterior e as suas características são únicas, aliadas aos incentivos geopolíticos e econômicos dos principais protagonistas, vão exigir grande criatividade na concepção dos regimes regulatórios de governança

O desafio da agenda política da IA é buscar simultaneamente estimular a inovação para resolver desafios intratáveis e evitar a proliferação perigosa, e equilibrar os apetites geopolíticos para evitar corridas e concorrências fatais para a sociedade.


O paradoxo do poder da IA

A natureza da tecnologia em si é uma complicação adicional. A IA não pode ser governada como qualquer tecnologia anterior porque é diferente de qualquer tecnologia anterior. Não coloca apenas desafios políticos; as suas características únicas tornam a resolução desses desafios cada vez mais difícil. Esse é o paradoxo do poder da IA.

Para começar, todas as tecnologias evoluem, mas a IA é hiper evolucionária. A taxa de melhoria da IA ultrapassará em muito a já poderosa Lei de Moore, que previu com sucesso a duplicação do poder computacional a cada dois anos. Em vez de duplicar a cada dois anos, a quantidade de computação utilizada para treinar os modelos de IA mais poderosos aumentou por um fator de 10 todos os anos durante os últimos 10 anos. O processamento que antes demorava semanas agora acontece em segundos. As tecnologias básicas que permitem a IA ficarão cada vez menores, mais baratas e mais acessíveis.

Mas a singularidade da IA não se resume apenas à expansão da capacidade computacional. Poucos previram a evolução da IA, desde a sua capacidade de treinar grandes modelos de linguagem até à capacidade de resolver problemas complexos ou mesmo de compor música. Estes sistemas poderão em breve ser capazes de quase autonomia. Isto seria, por si só, revolucionário, mas teria uma implicação ainda mais dramática: a IA pode tornar-se a primeira tecnologia com meios para melhorar a si mesma.

A IA prolifera facilmente. Tal como acontece com qualquer software, os algoritmos de IA são muito mais fáceis e baratos de copiar e partilhar (ou “emprestar”) do que os ativos físicos. E à medida que os algoritmos de IA se tornam mais poderosos – e a computação se torna mais barata – tais modelos já começam a funcionar em smartphones. Nenhuma tecnologia tão poderosa foi tão acessível tão amplamente e tão rapidamente. E como o seu custo marginal – para não mencionar o custo marginal de entrega – é zero, uma vez lançados, os modelos de IA podem e estarão em todo o lado. A maioria estará segura; muitos foram treinados com responsabilidade. Mas como com um vírus, basta um modelo maligno ou “deserção” para causar estragos.



Os incentivos apontam para uma IA com governança distribuída

Restringir a IA já é bastante difícil do ponto de vista tecnológico. Mas o seu potencial para enriquecer e capacitar protagonistas poderosos significa que os governos e as empresas privadas que desenvolvem a IA são incentivados a fazer o oposto. Simplificando, a supremacia da IA é um objetivo estratégico de todos os governos e empresas com recursos para competir. Se a Guerra Fria foi pontuada pela corrida às armas nucleares, a disputa geopolítica de hoje refletirá também uma competição global em torno da IA. Tanto os EUA como a China veem a supremacia da IA como um objetivo estratégico que deve ser alcançado – e negado aos demais. Esta dinâmica de soma zero significa que Pequim e Washington se concentram em acelerar o desenvolvimento da IA, em vez de o abrandar.

O desafio de governar a IA diferente de tudo o que os governos já enfrentaram. Compartilhamos a seguir alguns dos princípios de governança que foram identificados durante a construção do Guia de Melhores Práticas da WITSA. Para que a governança global da IA seja bem-sucedida, deve refletir as características únicas da IA. E a primeira delas é a realidade de que, sendo uma tecnologia hiper evolutiva, o progresso da IA é inerentemente imprevisível. Os decisores políticos devem considerar que, dada esta imprevisibilidade, quaisquer regras que aprovem hoje poderão não ser eficazes ou mesmo relevantes dentro de alguns meses, e muito menos daqui a alguns anos. Encaixar agora os reguladores com regimes inflexíveis seria um erro.

Em vez disso, a boa governança sugere o estabelecimento de um conjunto de princípios básicos nos quais a formulação de políticas de IA deve basear:

• Precaução na visão de risco-recompensa: O perfil da IA é assimétrico e os decisores políticos devem proteger-se contra as suas desvantagens potencialmente catastróficas. O princípio da precaução, já amplamente utilizado, precisa de ser adaptado à IA e consagrado em qualquer regime de governança.
• Ágil: As estruturas de formulação de políticas tendem a ser estáticas, valorizando a estabilidade e a previsibilidade em detrimento do dinamismo e da flexibilidade. Isso não funcionará com uma tecnologia tão única como a IA. A governança da IA deve ser tão ágil, adaptativa e auto corrigível quanto a IA é rápida, hiper evolutiva e auto aperfeiçoável.
• Inclusiva: A melhor regulamentação da indústria, especialmente quando se trata de tecnologia, sempre funcionou de forma colaborativa com o setor comercial, e isto é especialmente verdadeiro para a IA. Dada a natureza exclusiva (pelo menos por enquanto) do desenvolvimento da IA – e a complexidade da tecnologia – a única forma de os reguladores supervisionarem adequadamente a IA é colaborar com empresas tecnológicas privadas e inclusive torná-las partes em acordos internacionais.
• Impermeável: Para que a governança da IA funcione, deve ser impermeável e adotar mecanismos de conformidade devem ser a prova de vazamento, com entradas fáceis para estimular a participação e fazer as saídas onerosaa para dissuadir o não cumprimento.
• Direcionado: Dada a natureza de propósito geral da IA e as complexidades envolvidas na sua gestão, um regime de governança único é insuficiente para abordar as diversas fontes de risco da IA. Na prática, determinar quais ferramentas são apropriadas para atingir quais riscos exigirá o desenvolvimento de uma taxonomia que seja ativa e funcional que enderençam impactos potenciais da IA. A governação da IA deve, portanto, ser direcionada, baseada no risco e modular, em vez de uma solução única para todos.

Governar a IA estará entre os desafios mais difíceis nas próximas décadas das nossas sociedades e sua participação na comunidade internacional. Tão importante quanto o imperativo de regulamentar a IA é o imperativo de regulá-la corretamente. Os debates atuais sobre a política de IA tendem muitas vezes para um debate baseado em não fatos e suposições entre progresso e destruição (ou vantagens geopolíticas e econômicas versus mitigação de riscos).

Uma elaboração de políticas adequadas e atuais para esse novo momento, nesse futuro agora presente, será vital, e vai depender de todos nós: governos, sociedades civil organizadas, setor produtivo e a academia. Vai ser uma construção onde será inevitável para a comunidade internacional chegar a acordo sobre um quadro conceitual mínimo coletivo sobre como pensar sobre a IA e encaminhar políticas públicas que consigam atuar como os guardiões da nossa existência como tal.

Para saber mais, e obter uma visão mais global, participe do AI Summit in Rio. Espero vocês lá!o.

AI Summit in Rio 2024

Descubra como aumentar a competitividade do seu negócio com líderes globais em Inteligência Artificial.

Faça sua inscrição aqui
Comentários
Carregando...