A ASSESPRO RIO DE JANEIRO vem atuando de maneira focada na busca continua de obter um maior entendimento do impacto da inteligência artificial em todas as dimensões da sociedade. O processo de capitanear a construção de um “policy paper” mundial para servir como orientação para legisladores ao redor do planeta, encaminhar os seus desafios regulatórios, através da WITSA, nos ajudou compreender que esse processo precisa ser continuo, alerta e flexível.

Clique aqui para baixar o policy paper "Building Trust and Delivering on the Promise of Artificial Intelligence" da WITSA

Como entidade empresarial que representa um dos ícones de inovação do ecossistema geral do país, entendemos a responsabilidade que temos em não somente buscar o conhecimento, mas também propagar para todo ecossistema. Especialmente quando estamos diante de algo que tem previsão de impacto tal qual a maquina a vapor e a internet tiveram nas relações e desenvolvimento da sociedade.

Essa jornada nos ajudou, portanto, na construção do AI SUMMIT IN RIO, que cumpriu o papel de fazer uma chamada de grande alcance no debate dos principais temas que devem ser melhor entendidos e debatidos por todos os protagonistas da sociedade. Durante 2 dias, foram diversas palestras e painéis que proporcionaram uma visão clara, objetiva e destacada como a sociedade brasileira deve encaminhar a sua versão de IA dentro da sua soberania.

Mas a responsabilidade continua, na realidade não deve parar nunca, e por essa razão, que temos, através do ASSESPRO TALKS, promovido debates internacionais sobre como a sociedade deve entender e encaminhar as salvaguardas da inovação que a IA proporciona enquanto preservar os direitos universais e privacidade dos cidadãos.

Essa semana, realizamos a terceira jornada do WITSA VIEWPOINT, webinar exclusivamente dedicado para cumprir com a missão de porta-voz dentro do contexto que faz parte do mandato, tanto da WITSA como da ASSESPRO, mantermos o nosso segmento sempre atualizado e informado sobre os rumos que nos mantem como protagonistas da inovação e mola mestra do desenvolvimento econômico e social.

O ASSESPRO TALKS, então, nessa semana abordou o WITSA VIEWPOINT: OPEN FOUNDATION MODELS. Como que a versão de código aberto em IA pode ser uma alavanca para disseminação e democratização ao uso de IA? Uma discussão bem interessante e pertinente, especialmente sob a lupa da privacidade, integridade e autenticidade. Para oferecer para os participantes uma visão de alta expertise mundial, convidamos o Professor Sayash Kapoor, da Universidade de Princeton, e co-fundador de um editorial bastante reconhecido, chamado Snake Oil.

→ Acesse a playlist com todos os episódios do Assespro Talks com a WITSA

Professor Kapoor apresentou uma visão objetiva sobre o impacto societal dos modelos de fundação aberta (Open Foundation Models), a partir de um artigo que publicou, discutindo a necessidade de considerar todos os aspectos da inteligência artificial (IA) e como esses modelos desempenham um papel importante na inovação, segurança, transparência e impacto social. O webinar destacou a importância dos modelos de fundação aberta, ressaltando que eles podem ser adaptados para várias tarefas e fornecem maior personalização, inovação e transparência. Além disso, enfatiza que a segurança e a mitigação de riscos são desafios essenciais.

Ele destacou a importância e a necessidade de avaliar o risco marginal dos modelos de fundação aberta em comparação com tecnologias existentes e fechadas, reconhecendo que o acesso amplo aos modelos pode levar a preocupações sobre a impossibilidade de revogar o acesso e dificuldade em monitorar e moderar o uso, e apresentou fontes autoriais que também abordam a importância de desenvolver estratégias de defesa fora dos modelos e destacar a necessidade de governança responsável ao distribuir esses modelos.

Sayash também enfatizou que a abertura dos modelos incentiva práticas mais rigorosas de mitigação de riscos do que os modelos fechados, uma vez que promove ações de mitigação e práticas de segurança mais diligentes. Além disso, destacou que a transparência e a colaboração em torno dos modelos de fundação aberta permitem identificar e corrigir vulnerabilidades de forma mais eficaz. A analogia com a situação habitacional e a comparação com a cidade do Rio de Janeiro enfatiza a necessidade de gerenciar de forma contínua e adaptável, o que é semelhante ao processo de gerenciamento contínuo dos riscos associados aos modelos de fundação aberta.

Em resumo, o artigo destaca a importância dos modelos de fundação aberta na inovação, segurança e transparência, ressaltando que a abertura desses modelos promove práticas mais eficazes de mitigação de riscos e segurança. Além disso, destaca a necessidade de governança responsável ao distribuir esses modelos e a importância de estratégias de defesa fora dos modelos para garantir a segurança e mitigação de riscos.

Portanto, o fato de os modelos Open Source, serem abertos, não automaticamente significa que não podem ser seguros e transparentes. Na realidade, pela sua condição de “Commons”, os modelos abertos tem um fator colaborativo que acaba tendo uma contribuição significativa para uma maior preocupação coletiva sobre integridade e segurança no desenvolvimento dos modelos que serão adotados.

E a jornada continua. Nossa próxima atividade nos debates de IA vai ser o evento THINKING DIGITAL, que vai oferecer aos participantes o que é a IA na prática, usando alguns dos principais segmentos da economia mais sendo impulsionados e alterando a bussola da competitividade.

→ Participe do Call for Speakers para o Thinking Digital 2024!



Quais propriedades distintivas dos modelos de fundação abertos?

• Acesso mais amplo: Os modelos de fundação abertos permitem um acesso mais amplo, o que significa que uma gama mais ampla de pessoas pode acessar os modelos.

• Customização avançada: Esses modelos oferecem uma customização mais agressiva, permitindo ajustes como decodificação personalizada e quantização, o que os torna mais propícios à inovação em uma ampla gama de aplicações.

• Transparência e colaboração: Os modelos de fundação abertos possibilitam maior transparência sobre como os modelos são desenvolvidos, o que pode levar a mais insights em inovação e ciência.

• Execução local: Esses modelos podem ser executados localmente, o que é crucial em domínios que envolvem dados sensíveis ou privados, como saúde e finanças, evitando a necessidade de enviar dados confidenciais para servidores de terceiros.

• Irrevogabilidade do acesso: Uma vez que os modelos são disponibilizados publicamente, é muito difícil revogar o acesso a eles, o que pode levantar preocupações sobre a capacidade de monitorar ou moderar seu uso.

Essas propriedades distintivas dos modelos de fundação abertos têm impactos significativos na inovação, customização, transparência e segurança, mas também apresentam desafios em termos de gerenciamento de acesso e potencial abuso.


Quais são os benefícios dos modelos de fundação abertos?

Os benefícios dos modelos de fundação abertos incluem:

• Distribuição da definição do comportamento do modelo: Os modelos de fundação abertos permitem uma distribuição mais ampla de quem define o comportamento aceitável do modelo, o que promove uma maior diversidade de perspectivas e usos.

• Aumento da inovação: Os modelos de fundação abertos podem ser customizados de forma agressiva, permitindo ajustes como decodificação personalizada e quantização, o que impulsiona a inovação em uma ampla gama de aplicações.

• Aceleração da pesquisa: O acesso aos pesos dos modelos de fundação abertos tem resultado em avanços significativos na pesquisa, incluindo em áreas como segurança, privacidade, e alinhamento de modelos de IA.

• Transparência: Os modelos de fundação abertos possibilitam maior transparência sobre como os modelos são desenvolvidos, o que pode levar a mais insights em inovação e ciência.

• Esses benefícios destacam a importância dos modelos de fundação abertos na promoção da inovação, pesquisa e transparência, mas também ressaltam a necessidade de considerar os riscos associados à sua abertura.

Como a avaliação de riscos de modelos de fundação abertos pode ajudar a manter a segurança cibernética?

A avaliação de riscos de modelos de fundação abertos pode ajudar a manter a segurança cibernética de várias maneiras. Primeiramente, ao analisar os riscos marginais associados aos modelos de fundação abertos em comparação com tecnologias existentes e modelos fechados, é possível identificar lacunas na segurança e desenvolver estratégias de defesa mais eficazes. Além disso, a avaliação de riscos pode fornecer insights sobre as vulnerabilidades potenciais e os possíveis impactos de segurança, permitindo que as organizações implementem medidas de segurança mais robustas e eficazes.

A compreensão dos riscos específicos, como cibersegurança, biosegurança e desinformação, em relação aos modelos de fundação abertos, pode orientar a alocação de recursos e investimentos em defesas cibernéticas mais eficazes. Além disso, ao considerar os riscos marginais, a avaliação pode ajudar a identificar onde as intervenções de segurança cibernética são mais necessárias e quais estratégias de mitigação de riscos são mais apropriadas.

Em resumo, a avaliação de riscos de modelos de fundação abertos pode fornecer uma base sólida para aprimorar a segurança cibernética, identificar lacunas na segurança e orientar a implementação de medidas de defesa mais eficazes.


Qual a relação entre a Segurança e Open Foundation Model?

A relação entre a segurança de modelos de fundação abertos e a segurança de sistemas é complexa e multifacetada. A segurança de modelos de fundação abertos, como os modelos de inteligência artificial (IA), está intrinsecamente ligada à segurança cibernética e à defesa de sistemas. A abertura desses modelos pode apresentar riscos significativos, mas também oferece oportunidades para fortalecer a segurança de sistemas de várias maneiras.

Primeiramente, a abertura dos modelos de fundação pode levar a uma maior transparência e colaboração na identificação e correção de vulnerabilidades. A capacidade de acesso amplo aos modelos permite que uma ampla gama de especialistas em segurança cibernética examine o código e identifique possíveis falhas de segurança antes que elas se tornem um problema significativo para os sistemas.

Além disso, a customização avançada dos modelos de fundação abertos pode ser utilizada para fortalecer a segurança de sistemas específicos. A capacidade de ajustar e adaptar os modelos para atender às necessidades de segurança de um sistema específico pode ser uma vantagem significativa na defesa contra ameaças cibernéticas.

No entanto, a abertura dos modelos também apresenta desafios, como a preocupação com a irrevogabilidade do acesso e a dificuldade em monitorar ou moderar seu uso. Isso pode gerar preocupações sobre a segurança de sistemas que dependem desses modelos.

Em resumo, a relação entre a segurança de modelos de fundação abertos e a segurança de sistemas é complexa, envolvendo tanto oportunidades quanto desafios. A abertura desses modelos pode contribuir para a segurança cibernética e a defesa de sistemas, mas também requer uma abordagem cuidadosa para mitigar os riscos associados à sua utilização.

Baixe o policy paper da WITSA sobre Inteligência Artificial