Europa lança diretrizes éticas para o uso da inteligência artificial

Robô faz sucesso na Semana de Ciência e Tecnologia.

Robô faz sucesso na Semana de Ciência e Tecnologia.

Um grupo de especialistas da União Europeia divulgou nesta semana um documento com diretrizes éticas para nortear o desenvolvimento de tecnologias de inteligência artificial. Estas são utilizadas em diversas atividades, da seleção as publicações mostradas nas redes sociais a sistemas de avaliação de crédito.

O termo inteligência artificial é empregado para caracterizar sistemas que ofertam serviços a partir de uma sofisticada capacidade de processamento de informação, semelhante ou até superior à de seres humanos. Determinadas tecnologias já tiveram desempenhos melhores do que de pessoas, seja em um jogo, em um diagnóstico ou no reconhecimento de imagens ou textos.

O documento faz parte de um processo da União Europeia para estabelecer uma visão “centrada em humanos” para a construção de soluções “confiáveis” desse tipo de sistemas. Esta pode se materializar tanto em legislações e normas administrativas como em orientações gerais para os fabricantes e projetos de pesquisa.

Uma diretriz é a relevância da participação e do controle dos seres humanos, com objetos técnicos que promovam o papel e os direitos das pessoas, e não prejudiquem estes. Uma orientação complementar é a garantia de que os sistemas considerem a diversidade de segmentos e representações humanas (incluindo gênero, raça e etnia, orientação sexual e classe, entre outros), evitando atuações que gerem discriminação.

Segundo o documento, os sistemas de IA devem ser “robustos” e “seguros”, de modo a evitar erros ou a terem condição de lidar com estes, corrigindo eventuais inconsistências. Esses problemas podem ter sérios impactos na sociedade, como a discriminação de pessoas no acesso a um serviço ou até mesmo quedas de bolsas cujas compras e vendas de ações utilizam essas tecnologias.

Ao mesmo tempo, o texto destaca a necessidade de assegurar a transparência dos sistemas. Isso porque a opacidade dessas tecnologias pode trazer riscos, uma vez que seu caráter inteligente torna mais difícil entender porque determinada operação ou decisão foi tomada de uma determinada maneira e não de outra. Assim, os autores defendem que um sistema de IA deva ser “rastreável” e “explicável”, para que não haja dificuldades na compreensão de sua atuação.

Pelo documento, essas soluções técnicas devem assegurar a privacidade e o controle dos cidadãos sobre seus dados. As informações coletadas sobre um indivíduo não podem ser utilizadas para prejudicá-lo, como em decisões automatizadas que o discriminam em relação a alguém. Estudos já mostraram como essas tecnologias podem incorporar vieses, privilegiando, por exemplo, pessoas brancas em detrimento de negros na caracterização ou na oferta de um serviço.

O vice-presidente para o Mercado Único Digital da União Europeia, Andrus Ansip, destacou a importância do tema. “A dimensão ética da Inteligência Artificial não é só um luxo ou um acréscimo. É somente com confiança que nossa sociedade pode se beneficiar plenamente dessas tecnologias. Uma IA ética é uma proposta que traz ganhos e que pode ser uma vantagem competitiva para a Europa: ser uma líder de tecnologias de IA centradas em pessoas que usuários possam confiar”.

Compartilhe e Comente

Redes sociais do JGB

Publicidade

Faça uma doação ao JGB

Perfil do Autor

Carlos Augusto
Carlos Augusto é Mestre em Ciências Sociais, na área de concentração da cultura, desigualdades e desenvolvimento, através do Programa de Pós-Graduação em Ciências Sociais (PPGCS), da Universidade Federal do Recôncavo da Bahia (UFRB); Bacharel em Comunicação Social com Habilitação em Jornalismo pela Faculdade de Ensino Superior da Cidade de Feira de Santana (FAESF/UNEF) e Aluno Especial do Programa de Doutorado em Sociologia da Universidade Federal da Bahia (UFBA). Atua como jornalista e cientista social, é filiado à Federação Internacional de Jornalistas (FIJ, Reg. Nº 14.405), Federação Nacional de Jornalistas (FENAJ, Reg. Nº 4.518), Sindicato dos Jornalistas Profissionais no Estado da Bahia (SINJORBA), Associação Brasileira de Imprensa (ABI Nacional, Matrícula nº E-002907) e Associação Bahiana de Imprensa (ABI Bahia).