A Inteligência Artificial e Seus Desafios Entre Medos e Possibilidades

26-02-2025 às 09h53
Marina Madeira*

A inteligência artificial traz grandes oportunidades e desafios, exigindo governança global, regulamentação eficaz e participação multidisciplinar para garantir seu uso ético e benéfico para a sociedade.

Todos os dias surgem novas histórias inquietantes sobre inteligência artificial (IA): previsões de que ela roubará empregos, disseminará fake news em escala colossal e, no pior dos cenários, dominará o mundo. No entanto, como nos inspira e destaca a BBC em seu vídeo “Five Things You Really Need to Know About AI”, a verdade é que a IA não é uma novidade. Suas origens remontam à década de 1940, com o desenvolvimento das redes neurais artificiais. Desde então, a tecnologia tem sido incorporada em diversas aplicações, como jogos eletrônicos, algoritmos de recomendação e reconhecimento facial.

Nos últimos anos, contudo, a IA evoluiu de maneira significativa levando alguns desenvolvedores a descrevê-la como uma “nova espécie”. Se antes essas tecnologias possuíam um alto quociente de inteligência (QI), hoje também apresentam um alto quociente emocional (QE), tornando-se mais similares ao comportamento humano e apresentando crescente capacidade de interagir com os humanos. Apesar disso, é importante lembrar que a IA não possui consciência, emoções ou intencionalidade — sua atuação baseia-se na coleta, análise, interpretação e organização de trilhões de gigabytes de dados.

Logo, seleção e qualidade dos dados acessados por esses sistemas são questões centrais, uma vez que ela não tem, ainda, uma capacidade plausível de avaliar a veracidade ou a precisão das informações disponibilizadas, apesar de todo o avanço tecnológico. Como a IA aprende com as informações que tem acesso, dados enviesados resultarão em respostas igualmente tendenciosas. Se um sistema recebe inputs racistas, odiosos ou sexistas, ele produzirá outputs de mesma natureza. Um exemplo notável ocorreu em 2016, quando a Microsoft lançou o chatbot experimental Tay. Interagindo com usuários de redes sociais, a IA rapidamente começou a reproduzir discursos racistas e ofensivos, levando à sua remoção. A falta de gerenciamento resultou em violação dos Direitos Humanos. Esse episódio evidencia a importância da governança e de princípios éticos no desenvolvimento e uso da IA.

Outro ponto crucial é a necessidade de pensar, definir e impor limites técnicos para essa tecnologia uma vez que ela fará apenas o que é programada para fazer. Devemos permitir que as IA se auto programem e reescrevam seus códigos?

Diante da popularização da IA e de questões como essas, em outubro de 2023 o secretário-geral da ONU estabeleceu o Órgão consultivo de Alto Nível sobre Inteligência Artificial, composto por líderes-especialistas proeminentes em IA de 33 países de todas as regiões e de vários setores. Em setembro de 2024 foi apresentado o relatório final sobre “Governança da Inteligência Artificial para a Humanidade”.

O documento destaca um déficit de regulações, normas e instituições globais adequadas e capazes de gerir o uso da IA e propõe uma abordagem globalmente interligada, ágil, flexível e eficaz para governá-la. Para enfrentar os desafios, o relatório propõe uma série de recomendações, entre elas, destaca-se a necessidade de fornecer conhecimento científico imparcial e confiável, além de reduzir as assimetrias de informação entre os laboratórios de IA e o restante do mundo. O documento também enfatiza a importância de envolver múltiplos atores na governança – incluindo governos, a comunidade científica, representantes de organizações de padrões, empresas de tecnologia e a sociedade civil – em diálogos estruturados sobre o tema.

Além do envolvimento de múltiplos atores na governança, é indispensável que haja diversificação também dos profissionais envolvidos diretamente no desenvolvimento da “nova espécie” — abrangendo não apenas especialistas da área da tecnologia, mas também profissionais da ética, ciências sociais, saúde e políticas públicas — para prevenir os riscos e as incertezas relacionados à IA.

Caso a prevenção não seja suficiente, é essencial que uma equipe multidisciplinar esteja presente não só no desenvolvimento da tecnologia, mas, sobretudo, na regulação de seu uso para fins de mitigação. O envolvimento do maior número possível de partes interessadas de diferentes setores da sociedade – incluindo a sociedade civil enquanto usuária e destinatária final – permite a consideração de múltiplas opções e perspectivas sobre a governança e o uso da IA para o bem comum.

Outra recomendação relevante é a criação de uma Rede Global de Desenvolvimento de Talentos em IA, que inclui a implementação de um Fundo Global para a área. Ainda, propõe-se a estruturação de dados da inteligência artificial com o objetivo de padronizar definições, princípios e diretrizes para sua administração, garantindo transparência e responsabilidade nos sistemas. Além disso, reforça-se a necessidade de alinhar o desenvolvimento dessa tecnologia aos princípios da sustentabilidade e à proteção dos Direitos Humanos.

Por fim, é imprescindível prover informação e conhecimento e conscientizar os usuários sobre o funcionamento dessas tecnologias. A educação digital permite que indivíduos e comunidades utilizem a IA de maneira informada e maximizem seus impactos positivos em âmbitos sociais, ambientais e econômicos.

Para além dos temores mais comuns, como a revolta das IAs, seus impactos psicológico-sociais também devem ser monitorados. A crescente sofisticação e integração dessa tecnologia no cotidiano pode intensificar fenômenos como desinformação, ansiedade, redução do sentido de propósito no trabalho, tecno-fobia e desigualdade digital. Outro ponto de preocupação é a concentração do poder da ferramenta em um pequeno grupo de países e empresas, o que pode acentuar disparidades e desigualdades globais.

Face ao novo é muito fácil termos medo e nos esquecermos dos potenciais benefícios dessa tecnologia. Apesar dos desafios, é importante reconhecer os imensos benefícios que a IA pode proporcionar. Elas estão prontas para revolucionar várias áreas de nossas vidas. Na saúde, já é utilizada para diagnósticos (rápidos, precisos e complexos), descoberta de medicamentos e identificação de células cancerígenas. Na educação, chatbots podem atuar como professores personalizados, adaptando-se às necessidades de cada estudante. A IA também pode otimizar o trabalho em diversas áreas, desde o jornalismo e animação a aplicação da lei, liberando tempo para que as pessoas se dediquem a questões como as mudanças climáticas e o bem-estar social e pessoal.

Para que esses avanços ocorram de maneira segura e justa, governos e reguladores devem garantir que a IA seja utilizada de forma íntegra e legal. Isso inclui definir regras claras, monitorar seu uso, corrigir falhas e punir abusos quando necessário. Essa não é uma tarefa simples, assim como também não foi o desenvolvimento dessa tecnologia, mas é fundamental para que esse avanço tecnológico se torne uma ferramenta que beneficie toda a humanidade. Afinal, a inteligência artificial é apenas isso: uma ferramenta. Cabe a nós decidir como utilizá-la.

* Marina Madeira é cientista do Estado pela UFMG, Bacharel em Direito pela PUC Minas, Advogada especialista em Compliance