O seminário A Construção do Marco Regulatório da Inteligência Artificial no Brasil foi encerrado, na noite desta segunda-feira (17), na sede do Conselho da Justiça Federal (CJF), em Brasília, com debates sobre inovação tecnológica. O evento reuniu membros da magistratura, agentes do setor de inovação tecnocientífica e demais envolvidos na mobilização do Marco Regulatório da Inteligência Artificial.
"Discriminação algorítmica" foi o tema de reflexões em um dos painéis, moderado pelo ministro do Superior Tribunal de Justiça (STJ) Ribeiro Dantas. O magistrado destacou a relevância do encontro para o avanço das discussões sobre o tema: "Estamos participando de um evento muito importante e que há de deixar marcas na construção de uma normatividade preocupada com os avanços que a tecnologia está fazendo, o que é um dos aspectos mais importantes para o nosso país".
A diretora do DataSphere, Carol Rossini, apontou riscos relacionados à inteligência artificial, entre eles a possível perpetuação do racismo, do sexismo e da opressão sistêmica, e discorreu sobre a necessidade de se considerar todo o ciclo de vida de criação da IA durante o desenvolvimento de um marco regulatório. "A era da inteligência artificial está aqui para ficar. Agora é a hora de desenvolver, aproveitar e avançar esse potencial, mas de uma forma que beneficie a todos de forma inclusiva e responsável, e não excludente e opressora", concluiu.
Em seguida, a professora da Universidade de St. Gallen e membro da Comissão de juristas responsável por subsidiar a elaboração de substitutivo sobre inteligência artificial no Brasil (CJsubia), Mariana Valente, analisou a questão do ponto de vista regulatório e das decisões proferidas pelo grupo. Segundo ela, a discriminação algorítmica no país "não é um problema do futuro, mas sim do presente, em uma sociedade que padece de desigualdades, e nesse contexto, pensar regulação de IA exige mecanismos efetivos para prevenir, mitigar e reparar a discriminação algorítmica e que eles sejam pensados como prioritários".
Já a pesquisadora do Centro de Tecnologia e Sociedade da Fundação Getúlio Vargas (CTS/FGV) Nina da Hora enriqueceu o debate com questionamentos sobre discriminação algorítmica, abordando o lento avanço do entendimento do contexto brasileiro em relação ao desenvolvimento e à interação com as IAs e o uso de ferramentas que não são desenvolvidas no Brasil.
"Essas provocações são importantes para que possamos fazer um debate um pouco mais direcionado, o que pode nos ajudar a pensar e a dar continuidade às discussões do Marco Regulatório a partir dos problemas e das interações que estamos fazendo aqui no Brasil", disse.
Tarcízio Silva, membro da sociedade de tecnologia da Mozilla Foundation, ressaltou que a discriminação algorítmica consiste em um dos temas mais relevantes e em voga quando se fala em controle social da tecnologia da IA e sugeriu ações a serem desenvolvidas sobre a temática. O palestrante também enfatizou que, "em um mundo ainda tão repleto de opressões interseccionais, onde infelizmente o Brasil lidera diversos índices de desigualdades, centralizar compromissos antidiscriminatórios significa desenvolver tecnologias e políticas públicas que atendam bem toda a população".
As "Perspectivas setoriais de aplicação e uso de IA" foram outro tema debatido em painel. A moderação das discussões foi do ministro do STJ Paulo Sérgio Domingues, que parabenizou a organização do evento, destacando tratar-se de "uma temática mais do que relevante para todos".
O secretário de Governo Digital do Ministério de Gestão e de Inovação em Serviços Públicos, Rogério Mascarenhas, afirmou que o Brasil ocupa hoje a 37ª posição no ranking global de desenvolvimento e uso de IA. Segundo ele, uma pesquisa realizada pelo TCU, entre 2021 e 2022, junto aos órgãos públicos, "os gestores elencaram o que entendiam como os principais benefícios da IA, como a redução de tempo, automação de processos ##repetitivos##, otimização de recursos humanos, entre outros".
Na sequência, a secretária de Informação e Saúde Digital do Ministério da Saúde, Ana Estela Haddad, discorreu sobre o constante crescimento do uso da IA na área. "A Organização Mundial de Saúde informa que o uso da inteligência artificial pode impactar até 1 bilhão de pessoas em cuidados em saúde, uma vez que já está comprovado, por alguns estudos, que a performance da IA é melhor que o olho humano", afirmou.
Por sua vez, o integrante do AqualtuneLab Paulo Rená disse ter esperança de que todos os temas atravessados pela tecnologia digital possam ser abordados em uma perspectiva baseada em dois pilares: os direitos fundamentais e a separação dos poderes. "Independentemente de aqui no Brasil termos uma primeira lei ordinária, que é o Marco Civil da Internet, que afirma direitos fundamentais, a regulação da inteligência artificial já está atrasada", frisou.
Completando o assunto, a head de Compliance and Regulation na Dasa, Walkiria Favero, falou do desafio do avanço cada vez mais ágil das tecnologias e da necessidade de proteção dos cidadãos, sobretudo na área da saúde, citando o texto substitutivo aos Projetos de Lei 5.051/2019 e 872/2021. "O substitutivo propõe que os algoritmos relacionados à saúde sejam classificados como risco alto e isso traz alguns impactos, como a responsabilidade objetiva e uma série de obrigações no desenvolvimento da inteligência artificial, assim como a prestação de informações e responsabilidade perante a sociedade", sintetizou.
Ao longo da tarde, também foram promovidos outros dois painéis. Um deles versou sobre o "Arranjo institucional de fiscalização e enforcement", sob a moderação do advogado Fabricio da Mota Alves. Participaram dos debates o consultor legislativo do Senado Federal, Victor Marcel, a assessora especial em direitos digitais do Ministério da Justiça, Estela Aranha, o professor da FGV do Rio de Janeiro (FGV-RJ), Luca Belli, e a professora da UnB, Ana Frazão.
Já o outro versou sobre a "Abordagem baseada em risco: taxonomia e consequências" e foi moderado pela desembargadora federal do Tribunal Regional Federal da 4ª Região (TRF4) Salise Monteiro Sanchotene. Estiveram presentes o diretor-fundador do DPBR, Bruno Bioni, o pesquisador do Centro de Estudos de Segurança e Cidadania (CESEC), Pablo Nunes, a professora da Pontifícia Universidade Católica de São Paulo (PUC-SP), Dora Kaufman, e o professor da Universidade de São Paulo (USP), Juliano Maranhão.
O seminário foi encerrado com uma palestra proferida pelo professor na Brooklyn Law School, Frank Pasquale, intitulada "Novas leis da robótica". A conferência foi moderada pelo advogado e membro da CJsubia, Thiago Sombra, e contou com a participação, em mesa, dos coordenadores científicos do evento Laura Schertel Mendes e Bruno Ricardo Bioni.
Com informações do CJF.