A tecnologia inova e quebra a barreira não só do espaço e tempo, mas também de aspectos decisivos que impactam diretamente nossas vidas. De onde quer que esteja lendo esse artigo, se houver um problema a ser resolvido, existe uma solução que pode ser feita a quilômetros de distância, sem a intervenção humana através da inteligência artificial. 

No artigo da Tech Policy, a especialista em política e regulamentação de tecnologia, Maia Levy Daniel, discorre sobre o assunto dentro da esfera pública, trazendo reflexões valiosas do uso dessa ferramenta que é inevitável e irreversível. Ela é uma velha conhecida, que nasceu da evolução da própria internet há cinco décadas atrás

Em uma entrevista do El País com o escritor, professor e filósofo Pierre Lévy, entendemos melhor os efeitos da internet nos dias de hoje e como as novas tecnologias que estavam surgindo no final dos anos 70 trariam uma nova dinâmica para as aflições da sociedade:

(...) quando se viu, já no final dos anos setenta e começo dos oitenta, que os computadores não eram simplesmente máquinas calculadoras, e sim que, conectando-se às redes de telecomunicações, se transformariam em uma nova infraestrutura de tratamento da informação, vi claramente que o ser humano entrava numa nova etapa.  

De fato, o que ele traz em muitos dos seus livros — como em “As Tecnologias Da Inteligência” e “A Inteligência Coletiva” —, trata exatamente desse cenário que já não é mais tão novo assim, visto que em 2018, o Colab esteve presente na maior feira de economia criativa do mundo, o SXSW, vendo de perto o uso da tecnologia a favor das tomadas de decisões. Se quiser saber mais sobre o evento e a participação do Colab, confira este artigo em nosso blog, que relata a experiência de uma startup de governo no maior evento de economia criativa.

Voltando a 2022, onde há faculdade sobre o tema "UX: Experiência do Usuário”, entendemos que a atuação e atualização das ferramentas acontece a todo momento, sendo que soluções práticas para governos e organizações estão intrinsecamente ligadas com a demanda atual, onde cada vez mais são geradas soluções rápidas e objetivas através de algoritmos e aplicativos, automatizando decisões sem uma intervenção humana.

Maia, que também é pesquisadora afiliada do Centro de Tecnologia e Sociedade (CETyS) da Universidad de San Andrés na Argentina e foi Diretora de Pesquisa e Políticas Públicas do Centro Latam Digital no México, defende que a IA (Inteligência Artificial) não é uma ferramenta neutra e que, sua implementação, pode implicar em riscos potenciais que violam os direitos civis e direitos humanos. 

Ela destaca entre eles o direito à privacidade e à proteção de dados pessoais, o direito à igualdade e o direito de não ser discriminado. Mesmo assim, em um estudo recente realizado em 2021 pela KPMG, uma das maiores empresas de prestação de serviços profissionais, revela que 61% das tomadas de decisão do governo afirmam que a IA é funcional em suas organizações. Além disso, 79% deles acreditam que a IA irá melhorar a eficiência burocrática nos próximos anos. 

Você, que é leitor do Blog Colab, sabe que esse crescimento digital e tecnológico está no nosso DNA e que já é prática das mais diferenciadas áreas de atuação, seja da esfera pública ou privada. O ponto é, está sendo uma prática responsiva mundialmente?

Contra fatos há questionamentos!

A essa altura você já deve ter se perguntado: quais são as implementações da IA na vida real? Podemos destacar milhares, principalmente de cases de sucesso do Colab, mas queremos retratar projetos que possam trazer luz aos questionamentos que devem ser feitos e o que levar em consideração antes de pensar na próxima implmentação.

Os exemplos abaixo são referentes a projetos de implementação que Maia Levy destacou em seu artigo e se relaciona de alguma forma com a utilização da IA para automatizar processos que buscam soluções dentro de políticas públicas. 

Fizemos uma seleção deles, trazendo os dois questionamentos que a pesquisadora aponta em sua fala, levantando os argumentos dos fatos já ocasionados, como uma espécie de análise rápida, com prós e contras de cada um deles:

Caso na Itália

Prós: A implementação de um algoritmo realizado pelo governo italiano avalia e aplica  solicitações de mobilidade de professores no sistema público de ensino italiano, sem supervisão humana. 

Contra: O algoritmo acabou por atribuir aos professores destinos profissionais errados e resultou em reclamações de cerca de 10.000 professores.

Argumento: O problema está sendo identificado corretamente? 

Caso em Chicago, Estados Unidos

Prós: A denúncia de um crime com base em evidências produzidas pelo ShotSpotter prendeu um homem suspeito de atirar em outro homem. O aplicativo é um sistema que usa microfones de vigilância e análise algorítmica para identificar o som de tiros.

Contra: O homem, Michael Williams, foi libertado após 11 meses de prisão depois que os promotores concluíram que as evidências do sistema eram insuficientes para cumprir o ônus da prova. A imprensa local destacou que “o algoritmo que analisa sons para distinguir tiros de outros ruídos nunca foi revisado por acadêmicos ou especialistas externos”. 

Argumento: A solução encontrada é a melhor para resolver o problema específico? 

“Esses exemplos devem dar uma pausa a qualquer pessoa do setor público que esteja considerando novas tecnologias. Uma análise correta da implementação da IA ​​em um determinado campo ou processo precisa começar identificando se realmente existe um problema a ser resolvido” afirma Maia que, desde o início, alertou sobre os potenciais riscos de violação dos direitos civis e humanos.

A tomada de decisão que fica, para além daquelas que os governos já fazem, é entender caso a caso a identificação dos projetos e qual a melhor solução, esgotando e justificando junto com outros gestores se há um problema real a ser tratado e quais as melhores alternativas. Nem todas as alternativas incluem o uso da AI, mas se envolver, a responsabilidade e a transparência dos serviços e soluções precisam estar presentes e disponíveis para toda sociedade civil.