Inteligência Artificial + Ética by design: a urgência da concepção de IAs desenvolvidas com base em premissas éticas.
Por Lucas Pedro Ferreira.
―
Legale, n. 870.
O rápido avanço das inteligências artificiais (IA) tem gerado inúmeras oportunidades, mas também desafios éticos para os seus investidores e usuários e, portanto, um novo foco no plano das responsabilidades corporativas ― e uma nova dimensão de desafios jurídicos.
O ponto, nos parece, é que nenhum projeto de IA prescinde de uma ética, seja lá qual for, de modo que se ela não for deliberadamente pensada e objetivamente afirmada desde o início do desenvolvimento do projeto, a subjetividade ética de seus programadores vai se projetar sobre sua criação. Em outras palavras: se os projetos não forem institucionalmente baseados em uma carta de princípios éticos e valores fundamentais como transparência, privacidade, segurança e responsabilidade, a ética dos tomadores de decisão mais influentes vai determinar a direção ética do projeto ― e isso tem uma série de implicações.
É essencial, por exemplo, que a projeção dos algoritmos não seja contaminada por qualquer tipo de viés ou discriminação, de modo a assegurar aos seus usuários equidade e imparcialidade no acesso às soluções disponíveis. Além disso, é necessário garantir a proteção da privacidade dos indivíduos, estabelecendo políticas claras para a coleta e o uso responsável de dados.
Por isso, uma estrutura ética prévia, ainda durante a fase de projeto, é indispensável.
Uma das características mais marcantes e impressionantes das IAs é sua capacidade de aprendizado. Tanto o processo de aprendizagem inicial, no curso de seu desenvolvimento, quanto o aprendizado em razão da alimentação de novos dados, por meio dos comandos de seus usuários, atraem cada vez mais atenção das grandes empresas de tecnologia. No entanto, o desenvolvimento acelerado desses recursos, motivado pela competitividade desse mercado, tende a se sobrepor às questões éticas, que são deixadas de lado.
A inteligência artificial aprende com o histórico disponibilizado para desenvolver sua função final. Portanto, apresentar um histórico com resquícios antiéticos resultará em um produto antiético. Da mesma forma, por exemplo, um usuário com comportamento étnico preconceituoso, em comunicação com uma inteligência artificial não programada para lidar com questões éticas, pode gerar resultados catastróficos.
Tomemos como exemplo o software «Midjourney», que cria imagens com base em prompts de texto. Um usuário mal-intencionado poderia gerar imagens inéditas e plausíveis para divulgar práticas, crenças e condutas criminosas associadas a ideologias supremacistas e extremistas como o nazismo, ou crimes como a pedofilia. É exatamente nesse ponto que uma abordagem ética no desenvolvimento do projeto poderia prevenir tais práticas, por meio de mecanismos de recusa das IAs em atender esse tipo de solicitação.
A esse respeito, tramita no Senado, o Projeto de Lei n. 2.338 (2023), apresentado pelo presidente da casa, Rodrigo Pacheco, propondo a instituição de um Marco Legal para a Inteligência Artificial, um tema que está sendo enfrentado cuidadosamente pela União Europeia e Estados Unidos.
Nos parece, portanto, que o desenvolvimento de novas tecnologias de IA não deve se resumir ao trabalho de programação dos softwares, mas contar com o suporte de equipes interdisciplinares, combinando, por exemplo, as competências de juristas, filósofos e cientistas sociais em busca de um desenvolvimento o mais possível humano para essas ferramentas, cada vez mais utilizadas. Afinal, são os humanos por trás das máquinas que definirão se as IAs serão o catalisador do próximo passo da evolução da humanidade ou, no limite, a ferramenta de sua própria destruição.
―
Corporativo >
Inovação, Direito Digital e Cibersegurança >
―
Sócia das Áreas: Amanda Duarte >
―
Pessoas e Comunidade >
Conheça os nossos líderes >
Prêmios, Selos e Reconhecimentos >
Notícias: conteúdo de qualidade no nosso portal >
―
Tributário >
Corporativo >
Relações do Setor Automotivo >
Prevenção e Resolução de Conflitos >
Relações de Trabalho, Mobilidade Global e Gestão de Pessoas >
ESG, Ambiental e Sustentabilidade >
Inovação, Direito Digital e Cibersegurança >
Propriedade Intelectual >
Infraestrutura, Imobiliário e Construção Civil >
Direito Administrativo, Direito Público e Regulatório >
―
Nossas publicações têm o objetivo de comunicar a perspectiva legal dos acontecimentos e prover contexto aos fatos jurídicos mais relevantes que podem influenciar companhias e organizações. Casos em concreto demandam atenção técnica personalizada sobre os fatos, e devem obter assessoria jurídica sob medida antes da adoção de qualquer providência legal ou paralegal. Se você, sua empresa ou o conselho de acionistas de sua organização precisam de aconselhamento, entre em contato com o advogado de sua confiança.
«Legale», «Painel Tributário», «Temas Tributários» e «Notícias & Alertas» são informativos periódicos e constituem uma prestação de serviços à comunidade empresarial sobre legislação, atualizações normativas e agenda tributária. Na forma de notas curtas, alertas ou artigos, os conteúdos podem dispor de links para websites oficiais, a fim de facilitar o acesso dos nossos seguidores e assinantes aos serviços e publicações referidos. Não nos responsabilizamos (e nem teria como!), entretanto, pela integridade destes websites governamentais, que podem apresentar problemas como indisponibilidade de acesso em razão de falhas em seus servidores, acidentes nos sistemas de rede, fragilidades em seus mecanismos de segurança, entre outros.
―
Fale com o Editor >
―
+55 19 3252-4324
Barão de Itapura, 2323
8° andar, Guanabara
Campinas, SP
Brasil
