Por Humberto Torres Marques Neto
RESUMO: As plataformas de softwares baseados em Inteligência Artificial (IA) estão presentes na vida das pessoas. Nos últimos anos essas plataformas evoluíram rapidamente e, a cada dia, percebe-se que estamos seguindo um caminho sem volta em relação aos avanços tecnológicos apoiados no uso de softwares. O grande volume de dados produzidos pelos softwares, em conjunto com a diminuição do custo para seu respectivo armazenamento, cria oportunidades de desenvolvimento de algoritmos e modelos de AI que permitem a construção de plataformas de softwares cada vez mais inteligentes. Contudo, ainda há inúmeras lacunas sobre os impactos dessa tecnologia na sociedade. Este artigo propõe uma reflexão sobre a importância do ser humano neste contexto de uso intensivo de software, assim como sobre a necessidade de diretrizes para o uso de tecnologias de IA de forma responsável em direção à uma IA centrada na sociedade.
Palavras-chave: Inteligência Artificial, Tecnologia, Sociedade.
Há algum tempo os avanços tecnológicos impulsionados pelo uso de softwares promovem desenvolvimento econômico e social. Uma transferência instantânea de valor (um PIX), o planejamento do deslocamento urbano (com o Waze), a compra de produtos diversos (na Amazon) e, principalmente, o consumo de conteúdo digital (no Instagram) e a troca de mensagens com amigos e familiares (no WhatsApp) são atividades corriqueiras realizadas a partir do uso de softwares. Observa-se que será cada vez mais difícil realizar atividades do dia a dia sem ter contato com plataformas de software conectadas à Internet, as quais criam ambientes digitais que contribuem com a solução de inúmeros problemas de diferentes contextos.
Com a automatização e digitalização de várias atividades, consequentemente, ocorre um aumento na produção de dados sobre as pessoas (e alguns de seus hábitos e comportamentos sociais), sobre as instituições (seus produtos e serviços), assim como dados sobre as ações e atividades do governo. Esse grande volume de dados cria condições favoráveis para a construção de plataformas de softwares baseados em inteligência artificial (IA)[1]. Algumas dessas plataformas, utilizam algoritmos capazes (i) de identificar padrões, (ii) de criar modelos de comportamento orientado a dados e (iii) de aprender a executar tarefas realizadas por seres humanos. Destaca-se que plataformas de IA – por exemplo, aquelas capazes de fazer recomendações, realizar predições e executar tarefas – precisam de dados de qualidade coletados em diferentes contextos e processados para oferecerem resultados que, de fato, causem impacto. Ressalta-se ainda que a evolução dessas plataformas depende muito da interação contínua com os seus usuários e da atualização dos modelos de inteligência artificial com novos dados. Isto cria um espaço de investigação emergente que contempla a coevolução de uma inteligência humana/artificial (PEDRESCHI et al. 2025).
Desde 2022, quando a OpenAI[2] lançou uma versão aberta da plataforma de software ChatGPT, muito se escuta sobre os impactos da inteligência artificial na sociedade. O ChatGPT e outras plataformas baseadas em Grandes Modelos de Linguagem (LLMs – Large Language Models), como a Gemini integrado com o Google e a Meta AI dentro do WhatsApp, são capazes de produzir textos interessantes alinhados às questões (ou prompts) elaborados por seus usuários. Todavia, os softwares baseados em IA não se restringem àqueles que fazem uso de LLMs. Por exemplo, outros usam técnicas de visão computacional para auxiliar robôs em processos industriais ou para apoiar diagnósticos médicos, e alguns podem auxiliar a detecção de fraudes financeiras ou a seleção de um candidato à uma vaga de emprego usando modelos estatísticos construídos com técnicas de aprendizado de máquina.
A popularização da IA nos últimos dois anos (de 2023 a 2025), assim como a sua evolução na última década (de 2015 a 2025), têm induzido empresas e governos a direcionarem seus investimentos em tecnologia para construção/adoção de plataformas de software baseadas em IA em seus respectivos negócios (vide relatório da McKinsey[3], de março de 2025). Com o aumento da presença das plataformas de IA na vida das pessoas, as instituições devem estar atentas com as implicações do uso desses sistemas no comportamento social dos indivíduos. Muito se fala que o ser humano deve estar inserido no processo de aprendizagem de máquina (HITL-ML – Human In The Looping Machine Learning) (MOSQUEIRA-REY et al., 2023). Todavia, considerando que os softwares baseados em IA utilizam muitos dados produzidos pelos seres humanos e que na maioria das vezes oferecem soluções para os seres humanos, espera-se que o ser humano esteja no centro desse processo e não no seu looping. Talvez seja o momento de enfatizar ainda mais o pilar “IA Centrada no Ser Humano” (Human-centered AI)[4] da Engenharia de IA, proposta pelo Instituto de Engenharia de Software da Universidade de Carnegie Mellon[5].
Por fim, colocar o ser humano no centro do processo de construção e evolução das plataformas de IA enfatiza a necessidade de desenvolvimento de tecnologias que contribuam com diretrizes estabelecidas para uso de uma “IA Responsável” (BATOOL et al., 2024). De acordo com o Gartner[1] o uso de plataformas de governança de IA é uma importante tendência tecnológica para 2025. Essas plataformas têm potencial para assegurar que os resultados oferecidos pelos softwares baseados em IA das instituições são confiáveis, transparentes, justos, responsáveis, alinhados com princípios éticos, além de estarem em conformidade com a legislação. A demanda por uma Inteligência Artificial Humana e Responsável cria espaços para a proposição de projetos de pesquisa transdisciplinar rumo ao uso de plataformas de IA centradas na sociedade.
[1] https://www.gartner.com/en/articles/top-technology-trends-2025
[1] De acordo com a 4ª edição do livro sobre Inteligência Artificial de Russel e Norvig (2022), há diferentes caminhos para se construir um conceito de IA. Veja as quatro abordagens que ajudam a compreender esse conceito complexo na Seção 1.1 desse livro (e-book) clássico sobre o assunto.
[2] https://openai.com/
[3] https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
[4] Vide BARMER et al., 2021.
[3] https://insights.sei.cmu.edu/artificial-intelligence-engineering/
REFERÊNCIAS:
BARMER, Hollen; DZOMBAK, Rachel; GASTON, Matt; PALAT, Jay; REDNER, Frank; SMITH, Carol; SMITH, Tanisha. Human-centered AI. Pittsburgh: Software Engineering Institute, Carnegie Mellon University, 2021. Disponível em: https://insights.sei.cmu.edu/documents/610/2021_019_001_735364.pdf. Acesso em: 25 abr. 2025.
BATOOL, A., ZOWGHI, D., BANO, M. AI governance: a systematic literature review. AI Ethics (2025). https://doi.org/10.1007/s43681-024-00653-w
MOSQUEIRA-REY, E.; HERNÁNDEZ-PEREIRA, E.; ALONSO-RÍOS, D. et al. Human-in-the-loop machine learning: a state of the art. Artificial Intelligence Review, v. 56, 3005–3054, 2023. https://doi.org/10.1007/s10462-022-10246-w
PEDRESCHI, Dino; PAPPALARDO, Luca; FERRAGINA, Emanuele; BAEZA-YATES, Ricardo; BARABÁSI, Albert-László; DIGNUM, Frank; DIGNUM, Virginia; ELIASSI-RAD, Tina; GIANNOTTI, Fosca; KERTÉSZ, János; KNOTT, Alistair; IOANNIDIS, Yannis; LUKOWICZ, Paul; PASSARELLA, Andrea; PENTLAND, Alex Sandy; SHAWE-TAYLOR, John; VESPIGNANI, Alessandro. Human-AI coevolution. Artificial Intelligence, v. 339, p. 104244, 2025. https://doi.org/10.1016/j.artint.2024.104244.
RUSSELL, Stuart J.; NORVIG, Peter. Inteligência artificial: uma abordagem moderna. 4. ed. Rio de Janeiro, RJ: LTC, 2022. E-book. ISBN 9788595159495.
Sobre o autor: Humberto Torres Marques Neto é professor do Departamento de Ciência da Computação da PUC Minas, onde fez a sua graduação. Desde o seu doutorado, também em Ciência da Computação, realizada pesquisas que envolvem a caracterização e modelagem do comportamento humano a partir da análise de dados de sistemas de computação. Depois de um estágio pós-doutoral no Departamento de Informática da Universidade de Pisa entre 2023 e 2024, intensificou suas pesquisas sobre Engenharia de IA no Programa de Pós-graduação em Informática da PUC Minas. Ele também é um dos fundadores e atual coordenador do PUCTEC, o HUB de inovação e negócios, sediado na Pró-reitoria de Pesquisa e Pós-graduação da Universidade.
