Estamos vivendo uma época enigmática, espécie de corrida do ouro, em que o garimpo implica a coleta, o armazenamento e a manipulação de dados. Saúde, educação, transportes, justiça criminal, segurança, defesa nacional, meio ambiente e finanças são algumas das áreas onde os avanços extraordinários da inteligência artificial já são visíveis.
Entretanto, somos humanos, falíveis, responsáveis pelos riscos e benefícios inerentes às tecnologias que criamos. “O sucesso em criar uma inteligência artificial pode ser o maior evento da história de nossa civilização, ou o pior. Nós simplesmente não sabemos. Portanto, não podemos saber se seremos infinitamente ajudados pela IA, ou ignorados por ela e postos de lado, ou concebivelmente destruídos por ela”. (Stephen Hawking).
Algoritmos tanto abrigam potenciais benéficos quanto deletérios, de modo que ajudam a fazer diagnósticos, a prever resultados em demandas judiciais,a otimizar o trabalho repetitivo oua mitigar sofrimentos, mas também a aperfeiçoar arsenais militares e a matar.
Um assombroso garimpo de dados ocorre sem que tenhamos conhecimento, muito menos dado nosso consentimento. A mesma coleta de big data tanto pode ser usada para encontrar pessoas desaparecidas, quanto para rastrear cidadãos, indiscriminadamente, classificar pessoas em sistemas de crédito social, ou mesmo para atingir minorias de forma tendenciosa.
Em área sensível, o financiamento militar tanto alimenta pesquisas que ajudam a desenvolver o GPS e a internet, quanto a fabricação de tecnologia de guerra, a exemplo de drones e satélites espiões. Em suma, não é exatamente a tecnologia que dita o dilema moral, mas os propósitos envolvidos no uso da ferramenta.
Nesse cenário, ainda aquém das realidades aterrorizantes de “Black Mirror”,crescentes dilemas éticos inundam nosso cotidiano, aumentando a preocupação com os valores humanos fundamentais.
Tal preocupação é extremamente pertinente, pois as empresas de tecnologia têm ampliado cada vez mais os horizontes de inovação e definido as regras de um processo que abriga graves falhas com relação à responsabilidade, à justiça, à transparência, à segurança e à parcialidade dos sistemas.Previsível que, atualmente,organismos internacionais, fóruns globais, universidades e pesquisadores independentes busquem consenso para a adoção de princípios, políticas e leis para o uso responsável da inteligência artificial e do aprendizado de máquina nas práticas das empresas, de modo a beneficiar a sociedade e salvaguardar a humanidade.
Algoritmos não devem apenas ser poderosos e úteis, mas transparentes à inspeção, cientificamente controlados e conforme os valores adotados pela sociedade.
Mas, as complexidades envolvidas nos dilemas éticos e nos contextos políticos desbordam das boas intenções de uma maioria nitidamente preocupada com os rumos da humanidade. E um futuro com menos miséria, doenças, violência e guerras parece demasiadamente otimista.
O apoio a objetivos éticos, gerais – transparência, justiça, responsabilidade, promoção da inclusão e igualdade, fiscalização, previsibilidade, compartilhamento de tecnologia – é bem diferente da aplicação de tais conceitos a domínios singulares e situações políticas específicas. Muitas vezes, sãotais aspectos que determinam os rumos do debate e das escolhas éticas, a exemplo do observado em contextos de grande polarização política.
Não é com singelos propósitos de desenvolvimento tecnológico das suas sociedades, que países como China, Rússia, Irã e Coréia do Norte implantam a inteligência artificial para fins de vigilância e segurança nacional, posicionando-se em direção à chamada “hiper-guerra”.Disputas e escolhas unilaterais ou autoritárias dos governos claramente apontam para vieses e abusos no emprego da inteligência artificial.
Tais matérias, aqui superficialmente abordadas, são de difícil resolução e envolvem não apenas questões éticas, mas legais e políticas de várias ordens.
A democratização do debate em torno dos usos da inteligência artificial e tecnologias emergentes, e o suporte da opinião pública aos mecanismos organizacionais benéficos adotados pelas empresas são passos imprescindíveis à instauração futura de uma legislação abrangente.
Boas intenções não bastam, e trabalho árduo é um impositivo. Para a sobrevivência da humanidade, este campo minado de desafios e caracterizado pela alta complexidade não pode prescindir da ética para o seu desenvolvimento, de modo que até a possibilidade de criar máquinas que pensam deve merecer um olhar atento sobre o status moral das próprias máquinas.
