A UNESCO APRESENTOU em novembro um tratado assinado por 193 países para enquadrar iniciativas de inteligência artificial (IA) aos princípios éticos da sociedade. O texto defende a transparência e a clara compreensão dos algoritmos, bem como dos dados que alimentam os códigos desta tecnologia, como regras determinantes para a preservação de direitos humanos, liberdades fundamentais, igualdade de gênero e democracia.
O tema da IA merece preocupação. O escândalo da Cambridge Analytica na eleição de Donald Trump em 2016 mostrou que um punhado de dados das redes sociais é suficiente para prever tendências de comportamento e, portanto, influenciar cidadãos a tomar decisões apoiadas em contextos distorcidos e em fake news.
Talvez nunca uma tecnologia proporcionou tanto poder a quem a detém. Pela primeira vez um regime ditatorial tem uma ferramenta para vigiar os cidadãos desde seus espaços mais íntimos 24 horas por dia, 7 dias por semana. Há diversos relatos da imprensa internacional de repressão e preconceito a minorias muçulmanas na China identificadas por câmeras com reconhecimento facial espalhadas pelo país.
A tecnologia permite até conhecer o usuário mais do que ele mesmo. Hoje uma IA identifica padrões de modo a, por exemplo, apontar a orientação sexual de um indivíduo antes que o próprio consiga assumir uma posição. Imagina a ameaça de tal vigilância para um adolescente gay no Irã, onde a relação homossexual é crime com pena de morte.
Uso cotidiano da inteligência artificial
O uso da IA dificilmente pauta a reflexão das pessoas, que convivem com a tecnologia nas circunstâncias mais corriqueiras. Elas se entregam aos algoritmos que escolhem filmes e músicas, conteúdos no Google e nas redes sociais e os trajetos pelas ruas da cidade. Deixam decisões pessoais em poder das máquinas, que por sua vez fazem a população acreditar que as escolhas continuam sendo dela.
A IA de fato provém benefícios revolucionários em diagnóstico de doenças, previsão de riscos, uso eficiente de recursos, dentre outros ganhos. No entanto, rapidamente se alastra na vida de todos, colhendo e analisando dados pessoais sem que os indivíduos parem para pensar sobre.
O desenvolvimento da inteligência artificial continuará, impossível pará-la. Nem deve, porque como afirmou a própria Unesco esta tecnologia pode “prestar grandes serviços à humanidade”. O problema está em deixá-la passar sem sabermos o que desejamos e o que não queremos dela.
Bom senso
O movimento conjunto dos países é um bom começo, apesar dos EUA terem ficado de fora da conversa pois não fazem parte do quadro de membros da instituição – por outro lado a China, que junto com os norte-americanos lideram o domínio da IA no mundo, ratificou o acordo.
Se a consciência ética vai mitigar riscos do mau uso de uma ferramenta tão poderosa ninguém sabe, mas deve ajudar os profissionais a calibrar o bom senso. E no final das contas está no julgamento individual o principal recurso que a sociedade dispõe para um final feliz. Palavras da diretora da Unesco que liderou o acordo, Gabriela Ramos: “Sempre que você não tiver certeza de que o desenvolvimento de certas tecnologias terá um impacto negativo, mas presumir que sim, não o faça. É tão simples quanto isso”.
Tão simples. E tão complicado quando se trata de seres humanos.
Texto publicado Por Wladimir D’Andrade no jornal Diário da Região em dezembro de 2021.
