Veja análise do PL que regulamenta inteligência artificial feita pela própria IA

Senado

Veja análise do PL que regulamenta inteligência artificial feita pela própria IA

Projeto deve ser votado na quarta-feira, 12.

Da Redação
segunda-feira, 10 de junho de 2024
Atualizado às 08:52

O plenário do Senado deve votar na quarta-feira, 12, o PL 2.338/23, que regulamenta o uso da inteligência artificial. O anúncio foi feito pelo relator da matéria na CTIA - Comissão Temporária sobre Inteligência Artificial, senador Eduardo Gomes, durante audiência pública no CSC - Conselho de Comunicação Social do Congresso Nacional.

O parecer do senador aumenta o texto da lei de 33 para 43 páginas, e pode se tornar o Marco Legal para a Inteligência Artificial no país. Entre as alterações propostas, foi revisado o rol de atividades consideradas de alto risco, excluindo itens como avaliação de crédito por IA, por exemplo.

Veja a íntegra do texto.

Para entender melhor a proposta, bem como entender quais pontos poderiam ser melhorados, achamos por bem consultar a própria Inteligência Artificial.

Confira a análise feita pelo ChatGPT:

Análise Crítica do Projeto de Lei do Senado sobre a Regulamentação da Inteligência Artificial no Brasil

Contexto Internacional

A regulamentação da inteligência artificial (IA) tem sido um tema amplamente discutido em todo o mundo, com vários países e blocos econômicos desenvolvendo suas próprias abordagens para enfrentar os desafios e oportunidades apresentados por essa tecnologia. Notavelmente, a União Europeia tem liderado com seu "Regulamento de Inteligência Artificial", que propõe uma abordagem baseada em risco para a regulamentação da IA. Nos Estados Unidos, embora não haja uma legislação federal abrangente, estados como Califórnia, Illinois e Nova York têm implementado suas próprias leis focadas em aspectos específicos da IA, como transparência e uso de dados biométricos. Outros países, como Canadá, China e Japão, também estão desenvolvendo suas políticas e regulamentos para IA.

Posição do Projeto de Lei Brasileiro

O Projeto de Lei do Senado sobre a regulamentação da IA no Brasil busca estabelecer um quadro legal abrangente para o desenvolvimento e uso de IA no país. A seguir, uma análise crítica de suas principais características e como elas se comparam com as práticas internacionais.

Pontos Positivos

1. Abordagem Abrangente:

O projeto de lei brasileiro aborda uma ampla gama de questões, desde direitos e responsabilidades até governança e categorização de riscos. Essa abordagem abrangente é essencial para lidar com a complexidade e o impacto multifacetado da IA na sociedade.

2. Categorização de Riscos:

A categorização de sistemas de IA com base no risco, semelhante ao modelo europeu, é um aspecto positivo. Isso permite uma regulação diferenciada e proporcional, focando mais rigorosamente nos sistemas que apresentam maiores riscos para a sociedade.

3. Enfoque em Direitos Humanos:

A ênfase em direitos humanos e proteção dos dados pessoais alinha-se com as melhores práticas internacionais e é crucial para garantir que a IA seja desenvolvida e usada de maneira ética e responsável.

4. Transparência e Responsabilidade:

A exigência de transparência nos sistemas de IA e a responsabilização de seus desenvolvedores são medidas que promovem confiança e segurança, refletindo as tendências globais.

Pontos de Melhoria

1. Detalhamento Insuficiente em Alguns Aspectos:

Embora a abordagem abrangente seja louvável, alguns aspectos carecem de detalhamento. Por exemplo, as especificações sobre como a avaliação de impacto algorítmico deve ser conduzida poderiam ser mais claras. A União Europeia, por exemplo, detalha procedimentos específicos para a avaliação de riscos e impacto.

2. Exclusões e Exceções:

A exclusão de certas aplicações de IA do escopo da lei pode criar lacunas regulatórias. A legislação deveria ser suficientemente flexível para incluir futuras inovações tecnológicas, sem comprometer a proteção dos direitos fundamentais.

3. Capacitação e Formação:

A implementação efetiva da regulamentação requer que os órgãos públicos tenham capacidade técnica para aplicar e interpretar a lei. O projeto de lei poderia detalhar mais sobre programas de capacitação e formação para servidores públicos e profissionais do setor.

4. Integração com Outras Leis e Regulações:

A integração com outras leis, como a Lei Geral de Proteção de Dados (LGPD) e as normas de defesa do consumidor, é mencionada, mas poderia ser mais explícita. A harmonização com outras áreas do direito é essencial para evitar conflitos normativos e assegurar uma aplicação coesa da lei.

5. Flexibilidade e Adaptabilidade:

O cenário de IA está em constante evolução. O projeto de lei deve incorporar mecanismos que permitam a revisão periódica e a atualização das normas, garantindo que a legislação acompanhe as mudanças tecnológicas e sociais.

Comparação com Práticas Internacionais

1. União Europeia:

A proposta brasileira compartilha muitos princípios com o Regulamento de IA da UE, como a abordagem baseada em risco e a ênfase em direitos fundamentais. No entanto, a UE tem um sistema mais detalhado de sanções e uma estrutura clara para supervisão e fiscalização, aspectos que o projeto brasileiro poderia fortalecer.

2. Estados Unidos:

Nos EUA, a regulamentação de IA é fragmentada e varia por estado. O Brasil, ao adotar uma abordagem federal, pode evitar a fragmentação regulatória, mas deve assegurar que a legislação seja suficientemente detalhada para ser efetiva em todo o território nacional.

3. China:

A China tem uma abordagem mais centralizada e controlada, com fortes medidas de supervisão estatal. O Brasil deve equilibrar a necessidade de regulamentação com a promoção da inovação, garantindo que não haja um excesso de controle que possa sufocar o desenvolvimento tecnológico.

4. Canadá e Japão:

Ambos os países têm abordagens colaborativas, envolvendo múltiplos stakeholders no processo de regulamentação. O Brasil poderia beneficiar-se de uma maior participação de diversas partes interessadas, incluindo a sociedade civil, academia e setor privado, na formulação e implementação da legislação de IA.

Conclusão

O Projeto de Lei do Senado sobre a regulamentação da inteligência artificial no Brasil é um passo importante e necessário para assegurar que a IA seja desenvolvida e utilizada de maneira ética e segura. No entanto, para que o Brasil possa realmente se posicionar como um líder global na regulação de IA, é crucial que a legislação seja detalhada, flexível e integrada com outras normas jurídicas. A inclusão de mecanismos de revisão periódica e a capacitação de órgãos reguladores são essenciais para garantir a eficácia e a adaptabilidade da lei frente às rápidas inovações tecnológicas.

Sugestões de Alterações e Inclusões

1. Precaução e Prevenção

Artigo Atual:

Art. 3º - O desenvolvimento, a implementação e o uso de sistemas de inteligência artificial observarão a boa-fé e os seguintes princípios: (...) X - prevenção, precaução e mitigação de riscos e danos; (...)

Sugestão de Redação:

Art. 3º - O desenvolvimento, a implementação e o uso de sistemas de inteligência artificial observarão a boa-fé e os seguintes princípios:

(...)

X - precaução, prevenção e mitigação de riscos e danos;

(...)

XXXVI - princípio da precaução: Adotar medidas protetivas diante de incertezas científicas para evitar danos potenciais à saúde, segurança e meio ambiente, mesmo na ausência de certeza científica completa.

2. Avaliação e Monitoramento Contínuo

Artigo Atual:

Art. 22 - A avaliação de impacto algorítmico de sistemas de inteligência artificial é obrigação dos agentes de inteligência artificial, sempre que o sistema for considerado de alto risco pela avaliação preliminar, nos termos do art. 12 desta Lei.

Parágrafo único. Os agentes de inteligência artificial deverão compartilhar com a autoridade competente as avaliações preliminares e de impacto algorítmico, nos termos do regulamento.

Sugestão de Redação:

Art. 22 - O procedimento de avaliação e monitoramento de impacto algorítmico de sistemas de inteligência artificial consistirá em processo iterativo contínuo, executado pelos agentes de inteligência artificial, ao longo de todo ciclo de vida do sistema, que for considerado de alto risco pela avaliação preliminar, nos termos do art. 12 desta Lei.

Parágrafo único. Os agentes de inteligência artificial deverão compartilhar com a autoridade competente os resultados do procedimento de avaliação e monitoramento de impacto algorítmico, nos termos do regulamento.

3. Inclusão de Novas Vedações Administrativas

Sugestão de Inclusão: Adicionar um novo parágrafo ao Art. 13.

Sugestão de Redação:

Art. 13 - São vedadas a implementação e o uso de sistemas de inteligência artificial:

(...)

§7º O órgão competente do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) poderá, em procedimento administrativo pertinente, por meio de decisão fundamentada que demonstre a necessidade e a gravidade dos impactos potenciais, ampliar a relação de atividades vedadas deste artigo, com revisões periódicas das inclusões administrativas.

4. Identificação de Conteúdos Criados por IA

Sugestão de Inclusão: Adicionar um novo parágrafo ao Art. 29.

Sugestão de Redação:

Art. 29 - O desenvolvedor de um modelo de IA fundacional e de propósito geral deve, antes de o disponibilizar no mercado ou de o colocar em serviço, garantir que o cumprimento dos seguintes requisitos:

(...)

§ 3° Os agentes de sistemas de inteligência artificial generativa devem adotar todas as medidas necessárias para que qualquer imagem, vídeo, áudio, gráfico ou outro tipo de conteúdo digital, inclusive aqueles com fins eleitorais, que tenham sido criados, total ou parcialmente, com base em seus modelos, e que consista em pessoa real tendo atitude que não ocorreu ou que afete sua honra, contenham aviso claro a quem consome o conteúdo de que se trata de "mídia criada com o uso de inteligência artificial generativa".

5. Proteção aos Direitos Autorais

Artigo Atual:

Art. 54 - Não constitui ofensa aos direitos autorais a utilização automatizada de conteúdos protegidos em processos de mineração de textos e dados para o desenvolvimento de sistemas de inteligência artificial por organizações e instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e educacionais, desde que observadas as seguintes condições: (...)

Sugestão de Redação:

Art. 54 - O uso em bases de treinamento de obras protegidas por direito autoral ou marcas registradas, bem como suas partes ou estilo delas decorrentes, que também sejam protegidos na forma da lei, deverão ser objeto de acordo entre as partes.

6. Formação e Capacitação de Órgãos Públicos

Sugestão de Inclusão: Adicionar um novo artigo após o Art. 45.

Sugestão de Redação:

Art. 45-A - Os órgãos públicos responsáveis pela aplicação e fiscalização da legislação de inteligência artificial deverão promover programas contínuos de formação e capacitação técnica para seus servidores, com o objetivo de assegurar a adequada interpretação e aplicação da lei, bem como a compreensão das inovações tecnológicas em inteligência artificial.

Justificativa das Alterações

1. Precaução e Prevenção:

Clarificar a distinção entre os princípios de precaução e prevenção ajuda a abordar adequadamente a incerteza científica e a necessidade de proteção proativa contra riscos potenciais.

2. Avaliação e Monitoramento Contínuo:

A introdução de um processo contínuo de avaliação e monitoramento garante que os impactos de sistemas de IA sejam constantemente revisados e ajustados conforme necessário, em linha com práticas internacionais.

3. Inclusão de Novas Vedações Administrativas:

Permitir que o órgão regulador adicione novas vedações conforme necessário garante que a lei possa evoluir com o avanço da tecnologia e novos riscos emergentes.

4. Identificação de Conteúdos Criados por IA:

A exigência de identificação clara de conteúdos criados por IA ajuda a prevenir a desinformação e a proteger a integridade das informações, especialmente em contextos sensíveis como eleições.

5. Proteção aos Direitos Autorais:

A redação proposta promove um equilíbrio justo entre a inovação tecnológica e os direitos dos detentores de direitos autorais, incentivando acordos consensuais.

6. Formação e Capacitação de Órgãos Públicos:

A formação contínua dos servidores públicos é crucial para a aplicação eficaz da legislação, garantindo que estejam atualizados com as últimas tendências e desafios tecnológicos.

Essas alterações visam fortalecer o Projeto de Lei, alinhando-o com as melhores práticas internacionais e garantindo uma regulação eficaz e adaptável da inteligência artificial no Brasil.

Fonte: Migalhas