Este blog faz parte de um projeto de comunicação científica que venho desenvolvendo para abordar a relação humana com a inteligência artificial.
Eu desenvolvi uma pesquisa acadêmica de mestrado e doutorado voltada para a cognição humana e a IA Enquanto pesquisava, senti que desejava criar espaços nos quais pudesse comunicar de forma mais objetiva e simples as reflexões que vinha desenvolvendo. Por isso este blog nasceu.
Em maio de 2024, publiquei o livro “Algoritmosfera – A cognição humana e a inteligência artificial”, pela Editora PUC-Rio e pela Hucitec. O lançamento aconteceu Casa de Inovação da PUC-Rio, na Gávea, Rio de Janeiro, na 1a ExpoLivro que a PUC-Rio promoveu. Haverá um segundo lançamento dia 24 de junho na Janela Livraria, Shopping da Gávea, Rio de Janeiro, a partir das 19h. Apareça!
Tenho alimentado, ainda, a minha conta no Instagram, @camilaaleporace – também mais um recurso para quem deseja receber pílulas de informações sobre IA e a nossa relação com os sistemas artificiais.
Importância da divulgação científica
Acredito na importância de diversificar os produtos resultantes de uma investigação que se identifica como acadêmica. Uma dissertação, tese ou artigo científico é o produto final, mas não o único. Doutorandos publicam artigos, ensaios, apresentam trabalhos orais, ministram aulas e cursos.
Além disso, há outras possíveis formas de comunicar descobertas científicas. É isso que pretendo com o meu projeto. Ainda planejo um podcast e muitas outras novidades!
O que aconteceu com minha capacidade de pensar enquanto eu usava a IA? Esta pode ser uma pergunta mais eficiente e interessante quando pensamos em como trazer a IA generativa para o nosso cotidiano. É válido trazer a IA para nos apoiar em tarefas, mas há um necessário cuidado com a dependência excessiva. Preguiça cognitiva é um risco real. Outro risco é pensar que a IA é melhor que você, mais criativa, mais rápida, e desistir das suas ideias. Mas a sua bagagem, a sua experiência, e até as suas dúvidas e hesitações a IA não substitui.
Muitas vezes é justamente o que você não sabe que te fará ir atrás de saber, de crescer, de melhorar, e isso não se traduz em dados tão diretos e objetivos quanto aqueles que poderiam estar na base do que se define como produtividade. Primeiro vêm as questões que levantamos, as suposições, as conexões que queremos fazer e não sabemos como, e depois vem o uso da IA generativa para nos apoiar nisso. Mesmo para fazer uma solicitação a ela, por meio de um prompt, é necessário organizar o problema que você quer resolver. Isso só você pode fazer.
A IA generativa pode ser uma aliada na resolução de problemas complexos, te trazer opções, te apresentar cenários e até indicar a existência de conceitos novos que você desconhecia. A partir daí, você pode ir atrás, descobrir mais, fazer pesquisas. Mas só você faz essa curadoria, toma essas decisões, decide o próximo passo. Se a IA estiver decidindo por você, você estará deixando de aprender. E a capacidade de aprender, hoje, não é uma habilidade opcional; trata-se de uma habilidade básica e que deve ser cuidada constantemente.
Letramento em IA não é tema de escola; é essencial em T&D
Você já pensou em como a área de T&D da sua corporação pode promover letramento crítico em IA (AI Literacy) e quais os fatores que deveriam estar presentes nesse letramento?
Sim, letramento em IA não é tema da escola básica; é um tema essencial para empresas que querem ver a IA inserida em seus processos e fluxos serem transformados positivamente por IA agêntica.
A maioria das organizações ainda está presa na camada superficial do “ensinar a apertar os botões do ChatGPT”, quando um diferencial competitivo e estratégico está na supervisão crítica, no julgamento humano e no desenho do fluxo de trabalho com a IA.
A verdadeira AI Literacy (Alfabetização ou Letramento em IA) vai além do domínio técnico, mesmo quando (ou ainda mais quando!) se trata de organizações. Ela se sustenta em alguns pilares essenciais, como:
Fundamentos técnicos desmistificados: Compreender como os Modelos de Linguagem (LLMs) funcionam (predição estatística de padrões, não consciência!) para saber por que eles falham ou “inventam” dados; para entender para que eles de fato servem ou não servem;
Avaliação crítica e verificação: Capacidade de auditagem, checagem de fatos, identificação de viés (bias) e reconhecimento de alucinações.
Gestão de Riscos e Ética: Privacidade de dados, segurança da informação, propriedade intelectual e uso responsável da IA;
Desenho de problemas e contextualização: A habilidade de enquadrar problemas do mundo real de forma estruturada para que a IA possa processá-los.
AI Literacy para organizações pode incluir, ainda, aspectos como criatividade, a capacidade de olhar para problemas com múltiplos pontos de vista, o resgate de habilidades tipicamente humanas e insubstituíveis – fundamentais para tomada de decisões, trabalho em equipe e liderança equipes; e a capacidade de ser autodidata, essencial para todo profissional hoje.
Para equalizar o melhor da IA com o melhor das pessoas da sua equipe, uma pergunta fundamental é: estamos usando a IA apenas para aumentar produtividade ou também para aumentar capacidade humana? Afinal, a IA deveria expandir as nossas capacidades, e não atrofiá-las 😉
A IA generativa pode estar presente nos processos de aprendizagem de uma maneira que provoque a curiosidade, a criatividade, e incentive a autonomia do aluno? Como?
Para responder a essas perguntas, pode ser interessante olhar para a história das tecnologias na educação, em busca de caminhos feitos antes por pesquisadores que não se conformaram em adequar o ensino às inovações tecnológicas. Preferiram, de certa forma, fazer o contrário: posicionar essas inovações em prol do agente, o aluno, para que ele pudesse florescer no processo. Um desses pesquisadores inspiradores é Seymour Papert (imagem abaixo).
Foi Papert quem desenvolveu a linguagem LOGO, convocando a criança a programar a máquina, em vez do contrário. Essa inversão é importante para pensarmos sobre como tem sido a relação dos nossos estudantes com a IA generativa, e qual outro rumo essa relação poderia ter para sair do óbvio.
Afinal, na história das tecnologias educacionais, podemos perceber – em vários momentos – as tecnologias se limitando a colocar uma roupa nova sobre os velhos modos de ensinar e aprender. Elas chegavam prometendo grandes mudanças, mas continuavam promovendo a transmissão de conteúdo, que deixa de estimular o aluno a pensar por si mesmo. Esse foi o caso das antigas máquinas de ensinar de Pressey e Skinner, que abordo neste artigo publicado em 2024 e também menciono na minha tese de doutorado.
Apesar desse histórico de repetições, a tecnologia na educação pode apoiar o aluno a desenvolver pensamento autônomo, assumindo uma postura de construção do próprio conhecimento em vez de se limitar à recepção e reprodução de informações. No trabalho que estou desenvolvendo com Claudio Pinhanez, focamos em buscar exemplos de como isso pode ser feito com a IA generativa.
Nosso objetivo é indicar possibilidades para além dos usos genéricos da IA generativa na educação, olhando para possibilidades que coloquem os estudantes para pensar e criar usando a IA generativa como um objeto a ser manipulado, testado, experimentado – como Papert sugeria com sua proposta construcionista.
O trabalho será apresentado pelo Claudio nesta sexta dia 14/8 às 15h no IV Encontro de Educadores do Século XXI – Inteligência Artificial e o Futuro da Educação, na Casa Firjan, no Rio de Janeiro.
O site do encontro contém todas as informações sobre como o evento está organizado, horários e salas das palestras e oficinas.
O curso se volta para profissionais da educação, como professores, supervisores de ensino e consultores, mas pode também ser aproveitado por estudantes e pesquisadores de outras áreas.
Ao final do curso, espera-se que os alunos sejam capazes de:
I. Compreender como a IA está presente na educação e as implicações dessa presença.
II. Compreender o funcionamento básico da IA na forma de machine learning/aprendizado de máquina e como o aprendizado de máquina se relaciona com a aprendizagem humana.
III. Obter conhecimento sobre abordagens inovadoras de pesquisa sobre a cognição em diálogo com a IA.
IV. Compreender e aprender a “ler” criticamente o contexto algorítmico em que nossa sociedade está imersa, percebendo como o ambiente digital afeta a educação e a aprendizagem.
V. Obter uma perspectiva analítica para pensar criticamente as tecnologias emergentes na educação, especialmente as tecnologias de IA gerativa/generativa.
VI. Obter insumos para elaborar estratégias para a realidade da escola, universidade, organização ou outra instituição de ensino no sentido da incorporação da IA ao contexto educacional.
VII. Receber apoio para suas dúvidas e apreensões em um espaço receptivo que convida à construção coletiva de soluções e caminhos para a IA na educação.
Profissionais de diferentes áreas de atuação vêm buscando maneiras de incorporar tecnologias de inteligência artificial às suas rotinas de trabalho. Por que isso seria diferente no caso do professor? Quando falamos de IA na educação, às vezes – por incrível que pareça – esquecemos de pensar o professor como um profissional que procura ativamente se atualizar e trazer inovação para a sua rotina.
Mas essa é uma dimensão essencial da IA na educação, e uma dimensão que abre muitas possibilidades. Afinal, é quando o professor experimenta com IA generativa que ele consegue compreender melhor tanto as potencialidades quanto as limitações dos LLMs – e, assim, até mesmo apoiar melhor as escolas e universidades nos ajustes que se fazem necessários quando estudantes estão comprovadamente usando, em massa, a IA generativa.
Além disso, como o educador pode promover letramento digital nas escolas e ajudar nas regulações da IA nas universidades quando ele não tem conhecimentos avançados no tema e nem o tempo necessário para compreender o que essa inovação significa?
Para apoiar os educadores, supervisores de ensino, pessoas e empresas que desenvolvem tecnologias inovadoras para a educação, preparei o projeto ETD SCHOOLS, junto à ETD – Escola da Transformação Digital. O projeto abarca diferentes possibilidades e formatos, podendo se adequar à necessidade de escolas, universidades e instituições de ensino de diversas naturezas. O grande diferencial dessa iniciativa é a possibilidade de customização para a realidade de cada instituição, além do foco no professor, educador, supervisor de ensino enquanto um profissional que vê a necessidade de incorporar a IA à sua prática e precisa desenvolver pensamento crítico sobre isso.
O material básico de apresentação da formação está disponível aqui, e para saber mais basta falar comigo pelo camilaleporace arroba gmail ponto com 😉
Mark Zuckerberg, CEO da Meta (META), tem feito declarações em que insinua que o futuro das interações humanas será moldado pela inteligência artificial. Para ele, as pessoas terão amigos na forma de chatbots, que também farão o papel de terapeutas. Ele diz que isso se torna realidade na medida em que “a IA começar a conhecer você mais e mais”.
Dei algumas declarações sobre o assunto para uma matéria que saiu na Gama Revista – leia aqui.
Há tantos problemas na fala dele. Vou tentar explicar alguns sob o ponto de vista da pesquisa em cognição.
Mas, afinal, o que o Sr. Meta sabe sobre conexões reais?
Um modelo de IA não realmente “conhece” ninguém. Conhecemo-nos uns aos outros por meio de nossas interações sociais (reais!), que são construídas a partir da empatia, de ajustes finos contínuos entre os indivíduos, de diálogos em que se molda ao outro, e só se pode conhecer o outro quando se é capaz de perceber a si mesmo. A IA não tem essa capacidade de percepção, não pode realmente perceber o outro e criar uma real conexão com ele. O que ela pode fazer é coletar dados dos usuários e com isso parecer que os conhece. Hoje, ela coleta dados de todos os usuários, e por meio de estatística oferece conteúdo para quem tenta conversar, e por mais que a pessoa se sinta contemplada em suas questões pessoais aquilo é apenas um resultado estatístico das questões pessoais de muitas pessoas.
Redes sociais nada sociais…
Outro ponto essencial é o seguinte: as redes sociais tornaram-se antissociais. As pessoas têm centenas de amigos, entre muitas aspas, no Facebook; afinal, desses, quem são verdadeiros amigos, que aparecem quando precisamos deles? Provavelmente o Sr. Meta sabe que temos na verdade cerca de dois, três amigos, que é o que ele cita na entrevista, complementando que as pessoas querem ter mais amigos, mas, então ele sabe que a rede social que ele criou é na verdade antissocial? Porque ele sabe que ali não há laços reais, mas se são centenas de amigos, como não se pode contar com mais de dois? E por que as pessoas querem então mais amigos? E são os chatbots que vão fazer esse papel?
Plataformas
E quando ele fala que as pessoas se sentem sozinhas, e que as conexões reais fazem falta, ele não pontua em nenhum momento, não reconhece em nenhum momento que ele faz parte da criação de um universo, que chamei no meu livro de “algoritmosfera”, que é um universo que contribui para esse isolamento.
Rolar o feed é uma eterna disputa pela nossa atenção que tira a nossa atenção a nós mesmos. Estamos desconectados de nós mesmos.
Mas seria possível e seria inteligente resolver esse problema da desconexão real, na era das hiper conexões digitais, com IA? Esta é uma boa questão. Com base na minha pesquisa, sobre cognição e IA, em que me aprofundei bastante na questão daquilo que é uma interação real – o que caracteriza uma interação social? O que a diferencia de uma interação com robôs? – Posso dizer que somos seres sociais por natureza, desde antes de nascermos, e nossa cognição em pleno funcionamento simplesmente não existe sem a sua dimensão social. Então, se o celular é parte da mente e todos sentem quando estão longe dele, o outro também é parte constitutiva de nós, e se o outro está ausente é uma parte de nós que não está presente, de certo modo.
(Des)conexão
Mas também é importante lembrar do que a Sherry Turkle coloca; ela é psicóloga, trabalha no MIT, fundadora da Iniciativa do MIT sobre Tecnologia e Self, que é o seguinte: conectar-se consigo mesmo é uma camada essencial para conseguir conectar-se com o outro. E as distrações programadas que encontramos online, especialmente nas plataformas de redes sociais, são elementos dentre aqueles que mais desviam as pessoas da capacidade de se conectarem consigo mesmas. Nessas plataformas, a cada segundo se dirige a atenção do usuário para outra coisa, já que elas são uma arena de disputa por essa atenção – é a chamada economia da atenção; mas as pessoas ficam na verdade sem atenção nenhuma, pois cada hora é um conteúdo chamando, é uma interrupção.
As mensagens, o eterno rolar do feed, prendem as pessoas – porque são feitos para isso mesmo – e, enquanto estão ali, ávidas pela próxima dose de dopamina, elas ficam adormecidas, entorpecidas por aquele processo. A atenção na verdade se esvai. E com isso as pessoas desaprendem a viver sem essas eternas iscas da sua atenção, e não sabem mais viver no tédio – que faz parte, ou deveria fazer parte, das nossas vidas. No tédio florescem momentos que levam ao autoconhecimento, à conexão consigo mesmo, e no tédio se constrói a noção também de que, por mais que sejamos seres sociais, somos também seres individuados, seres que têm a sua identidade, e assim temos a capacidade de perceber que sermos seres sociais não significa que tenhamos que ter companhia de outros o tempo todo, e nem diversão e distrações o tempo todo. A capacidade de compreender a si mesmo é o que leva cada um a ter um propósito, a conseguir traçar um caminho para si, enxergar um futuro a partir do tempo presente, e quem tem isso se motiva, se mantém motivado, e pode evitar o caminho da depressão.
Então, é claro que a conexão com outros também apoia esse processo, mas, antes de tudo, as redes ditas sociais online desconectam as pessoas de próprias, elas perdem a atenção em si mesmas, e sua identidade passa a ser moldada de uma maneira muito dura por algo que não é humano e que está ali, em volta delas, dizendo o que devem sentir, se são feias ou bonitas, se estão à altura de algo ou de alguém, o que elas devem acreditar que é sucesso, tudo que as distancia de realmente compreenderem o que pode ser bom ou mau para elas mesmas.
O primeiro chatbot
Outro ponto interessante é: Zuckerberg pontua que o campo da terapia com agentes de IA é muito novo, não sei o que ele quer dizer com isso, se o primeiro chatbot de que se tem notícia era uma terapeuta entre muitas aspas e se chamava ELIZA. Claro, ele está se referindo ao campo os chatbots com IA generativa, isso pode ser novo. Ele quer dizer que a tecnologia ainda pode avançar tanto, que não podemos dizer que esses terapeutas virtuais não vão evoluir tanto a ponto de não serem realmente bons.
Mas, diante desse cenário de aparentes incertezas, temos uma certeza: a empatia está ligada ao fato de sermos seres vivos; somos parte da natureza, somos animais, temos a vida e estamos conectados uns aos outros porque temos vida. Tal qual uma célula, até por temos trilhões delas em nosso corpo, vivemos em trocas de energia constantes com o nosso meio, e são essa trocas que nos permitem um equilíbrio. Como podemos viver em equilíbrio com um meio que é hostil a nós? Se torna hostil quando não há uma preocupação da indústria da tecnologia, dos chatbots de nos manter informados acerca daquilo que acontece com as interações que temos com esses sistemas, os nossos dados coletados, nós não sabemos o que acontece; hostil também porque há a sugestão de que devemos resolver os nossos problemas de desconexão – causados até certo grau pela tecnologia – com a própria tecnologia que os criou ou que alimenta esses problemas.
Não tem sentido pensar que a tecnologia, na medida em que evolui, vai ser capaz de conexão, se conexão é empatia e é sociabilidade e isso só tem realmente entre seres vivos. É também sem sentido falar em substituição disso. Aliás, o Sr. Meta fala que não se trata de substituir, que a conexão real e física é melhor, mas então por que depois ele diz que a IA ainda vai evoluir muito? Está implícita no discurso ele a intenção de evolui-la ate o ponto em que possa sim substituir as relações humanas, ate porque não há transparência, então pode ser que num dado momento uma pessoa não saiba se interage com um terapeuta humano ou com uma IA. Isso em certa medida já acontece.
O poder humano na algoritmosfera
Esse é o mundo construído por empresas que produzem tecnologia sem se preocupar com o humano e com a natureza. Como somos nós que alimentamos as máquinas desse mundo com nossos dados, temos também o poder de desativá-las. Mas precisamos, para isso, voltar a acreditar na nossa capacidade de viver bem sem ter uma mensagem pulando a cada minuto. Sem necessariamente ter companhia para tudo, até numa fila (“companhia”= celular na mão rolando o feed…).
A contemplação, o tédio, a vida real, a conexão consigo mesmo, podem não parecer, porque não são imediatos, mas são os caminhos para uma vida social que começa consigo mesmo e que é muito frutífera. Se ela não garante que não se tenha depressão ou outros problemas psicológicos – claro, poque há vários fatores que os geram – ao menos conectar-se consigo mesmo nos devolve à posição de autônomos, de seres capazes de liderar suas escolhas.
E afinal talvez o Sr. Meta saiba, sim, algo sobre conexões reais. Afinal, enquanto tanta gente opta pela superexposição nas redes sociais, quando é o Sr. Zuck a postar fotos das filhas no Instagram, ele protege os rostos das crianças. Isso talvez nos diga algo sobre como devemos reconsiderar as nossas demonstrações de afeto nas redes sociais. Afinal, superexposição, cuidado e conexão real não combinam muito.
BANNELL, R. I. Uma faca de dois gumes/A double-edge sword. In: FERREIRA, Giselle M. S.; ROSADO, Luiz A. S.; CARVALHO, Jaciara S. (Org.) Educação e Tecnologia: abordagens críticas. Rio de Janeiro: SESES – Sociedade de Ensino Superior Estácio de Sá, 2017, p. 17-82.
BARBOSA, R. P. e ALVES, N. A Reforma do Ensino Médio e a Plataformização da Educação: expansão da privatização e padronização dos processos pedagógicos. Revista e-Curriculum, São Paulo, v. 21, p. 1-26, 2023
BOALER, J. Seeing is Achieving: the Importance of Fingers, Touch, and Visual Thinking to Mathematics Learners. In: Macrine, S. L. e Fugate J. M. B. (Edit.) Movement Matters – How Embodied Cognition Informs Teaching and Learning, pp. 121-130.
CELIK, I., MUUKKONEN, H. e JÄRVELÄ, S. The Promises and Challenges of Artificial Intelligence for Teachers: a Systematic Review of Research. TechTrends, v. 66:616–630, 2022.
HOLMES, W.; BIALIK, M.; FADEL, C. Artificial Intelligence in Education – Promises and Implications for Teaching and Learning. Boston: The Center for Curriculum Redesign, 2019.
KREMER, Bianca; NUNES, Pablo; LIMA, Thallita G. L. Racismo algorítmico [livro eletrônico]. Rio de Janeiro: CESeC, 2023. (Coleção Panorama). Disponível em: https://www.academia.edu/114040800/Racismo_Algor%C3%ADtmico. Acesso em: 2 de março de 2025.
LEPORACE, C. Algoritmosfera – A cognição humana e a inteligência artificial. São Paulo: Hucitec, e Rio de Janeiro: PUC-Rio, 2024.
OLIVEIRA, N.N. F. B. When home office is a privilege of servitude: towards a morphology of digital labor at the new artificial intelligence industry. Revista Eptic, v. 26, n.2, mai.-ago 2024.
SELWYN, N. The Social life of AI in Education. International Journal of Artificial Intelligence in Education. 34:97–104, 2024.
SELWYN, N. Should Robots Replace Teachers? AI and the future of education.
WILLIAMSON, B.; EYNON, R. Historical threads, missing links, and future directions in AI in education. Learning, Media and Technology, 45:3, 223- 235, 2020. DOI: 10.1080/17439884.2020.1798995
