Material complementar à palestra “Um robô na família – Educação parental em tempos de Inteligência Artificial”, Colégio Ao Cubo, 30 de outubro de 2023

No dia 30 de outubro, fiz uma palestra com este título, “Um robô na família – Educação parental em tempos de Inteligência Artificial”, a convite do Colégio Ao Cubo. Foi uma oportunidade muito rica não apenas de compartilhar conteúdo e conhecimento, mas de aprender. É assim que vejo estes momentos, como momentos em que aprendo, tomo conhecimento das questões que mais chamam a atenção das pessoas, e percebo como posso me aperfeiçoar mais e seguir pesquisando.

O tema não é nada simples; afinal, é complexo pesquisar as tecnologias digitais, a inteligência artificial e a relação humana com as essas tecnologias. No meu doutorado, pesquisei a cognição humana e sua relação com a IA, partir da filosofia da educação. Isso significa que meu foco está na maneira como seres humanos lidam com as tecnologias, mais do que nas especificidades das tecnologias em si. Eu pesquiso a maneira como seres humanos aprendem, percebem o mundo, e os impactos que as tecnologias têm ou podem vir a ter sobre as nossas experiências. Mesmo assim, nessa palestra passei rapidamente por alguns conceitos técnicos de IA, que se fazem necessários para entender o raciocínio proposto. Em seguida, passo à reflexão que mais desenvolvi em meu trabalho, que é voltada para a maneira como nos sentimos ao lidar com tecnologias e como podemos melhorar a relação que temos com a IA e com outras tecnologias emergentes.

Para compreender essas relações, quando fiz minha tese foquei nas premissas que impulsionam as tecnologias algorítmicas de machine learning, e as contrastei com a complexidade da aprendizagem em seres humanos. Machine learning está presente, de várias maneiras, em diversas das tecnologias que usamos no cotidiano, como as plataformas de redes sociais, vários aplicativos e também é usada para treinar modelos de IA Generativa.

A partir desse entendimento, sigo compreendendo as novas tecnologias e as combinações de tecnologias que surgem e se modificam a cada momento, e como fica a nossa relação com elas nesse movimento.

Uma curiosidade é que o Chat GPT, que se popularizou tanto recentemente, surgiu até depois que eu já tinha defendido a tese, em janeiro de 2023. Isto é, eu não pesquisei a fundo essa tecnologia, eu tinha testado outras tecnologias durante a minha pesquisa, mas não o GPT. Mesmo assim, eu já tinha ideia do poder de processamento da aprendizagem de máquina, pelo tanto que já tinha pesquisado. Quando o GPT veio, ele exibiu para todos o poder dos sistemas de processamento de linguagem natural e aprendizagem/aprendizado de máquina. Já as redes sociais usam machine learning e outros tipos de algoritmos nos seus mecanismos, para conseguir nos fazer recomendações, nos trazer anúncios e vender mais. As recomendações desses sistemas “prendem” as pessoas nessas plataformas, gerando vício e problemas psicológicos. É preciso pensar sobre tudo isso para fazer sentido desse mundo virtual tão complexo, certo? Temos que seguir sempre pensando, refletindo e nos informando!

A palestra está disponível a seguir, bem como alguns materiais citados. Quem desejar, pode me enviar comentários em consultoria@camilaleporace.com.br 😉

Material complementar à conferência “Fazendo sentido de um mundo algorítmico”, para a UFPE, em 24 de outubro de 2023

No dia 24 de outubro de 2023, fiz uma conferência a convite da Universidade Federal de Pernambuco que teve como título “Fazendo sentido de um mundo algorítmico”. Eu procurei, essencialmente, demonstrar como apliquei alguns conceitos do enativismo para o entendimento da nossa relação com os sistemas algorítmicos que nos circundam.

Porque somos sense-makers, somos capazes de fazer sentido do mundo, com as nossas capacidades cognitivas calcadas na corporificação, nas emoções, na empatia.

O conceito de autonomia enativista, combinado ao conceito de participatory sense-making, pode nos ajudar a compreender como podemos desenvolver as mais variadas formas de interação, diálogo e negociação, em vários níveis, do mais básico a aqueles que atingem países e organizações.

Autonomia, no enativismo, significa não independência do meio, mas estar em equilíbrio com o meio.

Temos condição de melhorar cada vez mais as interações com o nosso meio, e deixamos o nosso legado para os próximos sense-makers, pois enativismo também leva em conta o histórico das nossas evoluções. Somos tão mais do que os algoritmos e os dados! Somos sense-makers, e os sistemas artificiais não são.

E isso é interessante para pensarmos desde as nossas interações conversacionais mais corriqueiras do dia-a-dia – e como as interações com chats bots e sistemas artificiais em geral não são interações, de fato – até as duras negociações internacionais pela paz em contextos difíceis de guerra. Em todos os momentos, somos sense-makers fazendo sentido do mundo em que vivemos e tentando reequilibrar as nossas relações com o meio.

Fazer sentido de um mundo algorítmico ainda é bastante difícil, mas ofereci algumas sugestões e indicações para refletirmos sobre isso, na apresentação. A conferência está disponível a seguir, bem como alguns materiais citados. Quem desejar, pode me enviar comentários em consultoria@camilaleporace.com.br 😉

Minha tese de doutorado está disponível aqui;

O ensaio citado está aqui:

Alguns dos livros e artigos que usei como base são estes:

BANNELL, MIZRAHI E FERREIRA (Orgs.) Deseducando a Educação – Mentes, Materialidades e Metáforas – Disponível em http://www.editora.puc-rio.br/cgi/cgilua.exe/sys/start.htm?infoid=881&sid=3

DI PAOLO, E. A., BURHMANN, T. E BARANDIARAN, X, E. Sensorimotor Life – An Enactive Proposal. Oxford: Oxford University Press, 2017.

DI PAOLO, E. The Enactive Conception of Life. In: NEWEN, A., DEBRUIN, L. & GALLAGHER, S. The Oxford Handbook of 4E Cognition.Oxford: Oxford University Press, 2018

DI PAOLO, E. A.; CUFFARI, E. C. & DE JAEGHER, H. Linguistic Bodies.The Continuity between Life and Language. Cambridge: MIT Press, 2018.

DI PAOLO, E., ROHDE, M. & DE JAEGHER. Horizons for the Enactive Mind: Values, Social Interaction, and Play. In: Stewart, J., Gapenne, O. e DiPaolo, E. Enaction – Toward a New Paradigm for Cognitive Science. Cam-bridge: MIT Press, 2010.

As traduções que fiz de textos de autores dos 4Es e da fenomenologia estão aqui:

https://www.academia.edu/108145136/Deseducando_a_Educacao_parte_1

October 9, 2023October 10, 2023 camila

Dilemas da IA na educação

Indicações de leituras

Guidance for generative AI in education and research (UNESCO 2023)

Tese de Doutorado e Dissertação de Mestrado – Camila Leporace

APA / American Psychological Association. Self-instructional materials and devices. American Psychologist, 16(8), 512-513, 1961. https://doi.org/10.1037/h0043852.

BENJAMIN, L. T. A history of teaching machines. American Psychologist, 43(9), 703–712, 1988. https://doi.org/10.1037/0003-066X.43.9.703

CANDAU, V. M. Ensino Programado – Uma nova tecnologia didática. Rio de Janeiro: Inter edições, 1969.

PRESSEY, S. Development and Appraisal of Devices Providing Immediate Automatic Scoring of Objective Tests and Concomitant Self-Instruction, The Journal of Psychology, 29:2, 417-447, 1950. DOI: 10.1080/00223980.1950.9916043

SELWYN, N. Should Robots Replace Teachers? AI and the future of Education. Medford: Polity Press, 2019.

WILLIAMSON, B. Big Data in Education. The digital future of learning, policy and practice. London: SAGE Publications, 2017.

October 4, 2023October 5, 2023 camila

Deletar o passado para construir o futuro?

Já ouviu falar em “machine unlearning”, ou desaprendizagem de máquina?

É comum memórias serem “apagadas” do cérebro humano com o decorrer do tempo. Isso acontece por vários motivos, como o fato de informações corriqueiras não estarem armazenadas na nossa memória de longo prazo (temos classificados dois tipos, de curto prazo ou “memória de trabalho” e a memória de longo prazo). Também a memória de longo prazo oferece informações mais difusas, enquanto a memória de trabalho nos ajuda a lembrar de detalhes mais vívidos daquilo com que estamos em contato no presente.

Mas, e quando queremos lembrar de algo e a informação não “vem” de jeito nenhum? Existem vários estudos que investigam as razões pelas quais esquecemos coisas que preferíamos não esquecer. De todo modo, não é possível “pinçar” memórias dos nossos cérebros e simplesmente removê-las. Nossa mente não é um software rodando num hardware! Apesar disso, existem pesquisas sobre como poderíamos selecionar determinadas memórias para serem esquecidas de propósito, ajudando por exemplo as pessoas a se recuperarem de traumas. Enquanto isso, no mundo da IA, começou-se a falar em “machine unlearning”, ou desaprendizagem de máquina, em referência à aprendizagem de máquina. O que é isso?

A ideia é retirar dos modelos de IA – na forma de machine learning – certas informações dos conjuntos de dados usados para treiná-los. Ou fazer os modelos “reaprenderem” parte dessas informações. Essa iniciativa não vem do nada. Ela tem a ver com o “direito ao esquecimento” (“Right to be Forgotten” ou “Right to Erasure”) previsto na legislação da União Europeia para a regulação da IA, a European Union’s General Data Protection Regulation (GDPR).

Um dos desdobramentos mais legais dessa iniciativa de machine unlearning seria fazer as máquinas “esquecerem” informações enviesadas e que aumentam o preconceito e a desinformação. Mas, mesmo quando se trata de sistemas artificiais, esse também não é um desafio fácil. Afinal, as redes neurais artificiais se ramificam em muitas conexões paralelas, e então uma mesma informação faz parte de diversos desses grupos, não está apenas concentrada em um único lugar.

Para entender isso, basta pensar em como o preconceito se alastra e se infiltra em todas as dimensões do pensamento e da construção social e cultural. Como é que se poderia remover o preconceito da sociedade, como se fosse um vírus? Seria bom, usaríamos máscaras e desenvolveríamos vacinas para ele até que fosse superado (gatilho feelings!), mas não é assim. Também não adianta só remover textos nocivos da internet, porque as ideias ainda estarão lá, e os pensadores que as propagam, também.

Mas dá um alívio pensar que certos conjuntos de informações poderão ser removidos das bases de dados de IA se estiverem causando danos a pessoas. Não é justo que os dados se perpetuem de forma tal que nunca aquilo seja esquecido, ainda que a pessoa se arrependa, mude de opinião, queira que aquilo suma, enfim, esse sempre foi um desafio na Web. Mas fica mais difícil com a IA.

Também é importante podermos nos proteger, e especialmente preservar as nossas crianças e adolescentes das falhas nos sistemas de informação com os quais estamos enredados. Algumas delas podem causar grandes traumas e danos emocionais, principalmente nos mais novos.

No entanto, a verdade é que, se os sistemas erraram, processando dados prejudiciais a indivíduos e à sociedade, trabalhar para remover os dados das bases pode ser já de grande ajuda. Mas, quem tem que desaprender preconceitos, e (re)aprender a viver coletivamente e de maneira mais saudável e amorosa, somos nós enquanto sociedade. A IA, por sua vez, vai seguir refletindo os nossos problemas enquanto eles existirem. E querer retirá-los das bases de dados vai ser como enxugar gelo. Big data, big (complex) problems.

PS. Isso sem mencionar o fato de que criar regulamentos para a IA não resolve o assunto em definitivo, até porque não basta querer apagar dados sensíveis que a empresa dona dos dados assim o fará. Vale consultar este link aqui sobre isso.

August 24, 2023August 24, 2023 camila

Material complementar à conferência SAF PUC-Rio 2023

Minha tese de doutorado está disponível aqui e os artigos citados são:

O que os computadores continuam não conseguindo fazer, 50 anos depois: A aprendizagem sob a perspectiva da fenomenologia do cotidiano de Hubert Dreyfus

ANOTHER BRICK IN THE WALL: THREATS TO OUR AUTONOMY AS SENSE-MAKERS WHEN DEALING WITH MACHINE LEARNING SYSTEMS

Alguns dos livros e artigos que usei como base são estes:

DI PAOLO, E. A., BURHMANN, T. E BARANDIARAN, X, E. Sensorimo-tor Life. An Enactive Proposal. Oxford: Oxford University Press, 2017.

DI PAOLO, E. The Enactive Conception of Life. In: NEWEN, A., DEBRUIN, L. & GALLAGHER, S. The Oxford Handbook of 4E Cognition.Oxford: Oxford University Press, 2018

DI PAOLO, E. A.; CUFFARI, E. C. & DE JAEGHER, H. Linguistic Bodies.The Continuity between Life and Language. Cambridge: MIT Press, 2018.

DI PAOLO, E., ROHDE, M. & DE JAEGHER. Horizons for the EnactiveMind: Values, Social Interaction, and Play. In: Stewart, J., Gapenne, O. e DiPaolo, E. Enaction – Toward a New Paradigm for Cognitive Science. Cam-bridge: MIT Press, 2010.

DREYFUS, H. What Computers Still Can’t Do. MIT Press: New York, NY,USA: 1992.

DREYFUS, H. Skillful Coping – Essays on the phenomenology of everydayperception and action. Oxford: Oxford University Press, 2016

July 18, 2023July 18, 2023 camila

No More Suffering: technology, art and the connection between human beings

There’s a lot of talk about the difference between seeing a “real” person and seeing an AI-generated image. But what about the difference between enjoying a live band and experiencing the installation “The Visitors” by visual-technological artist Ragnar Kjartansson?

The installation was on show at the exhibition Não Sofra Mais, at the Monastery of Santa Clara a Nova in Coimbra and closed this weekend.

It consists of eight videos, each showing a musician playing his instrument; the musicians are in different rooms; these rooms are part of the same house. In a ninth video you can see the house from the outside, a part of the garden of the house; on the balcony people are singing.

The videos are arranged in a large room, four on each side and the ninth in the background. You can walk around the room and stop to watch each musician separately or simply choose a spot to stand and watch/listen. All the sounds are heard together, because all the musicians in the videos are playing the same music. Why then is this fascinating? Isn’t it the same experience as listening to a live band?

What Ragnar managed to do, in my perception, was to show what our bodies are capable of when we listen to music. Music moves us and there, literally, in front of that installation, everyone moved. They walked, they stopped, they got emotional, they danced and, at the end, when the musicians met in a single scene, in a single video, in the same room, the audience gathered together, everyone in front of the same video. Then, when the musicians left that video to appear in the ninth video, outside the house, people literally walked around the room “following” the musicians. At this point, some viewers were already singing the song they sing in the videos.

People walked together after watching the scenes for minutes, each looking at those details that interested them most.

At a concert or show, the audience tends to be limited in movement by both space and circumstance; this is part of the traditional ritual of listening and watching the performance. Ragnar, in contrast, has set the audience to move. The musicians, of course, move too, and while they play you can realise how playing an instrument involves full body movements. One of them even prefers to play inside a bathtub, sometimes resting his guitar on a wooden stand.

But, among several sensations awakened, what I felt most different and special – besides the beauty of the videos and the idea of the installation, very well constructed – was the following: the fact that this work of art promotes the movement of the public among the musicians / videos. People end up walking around the other listeners/spectators, and then we realise that we are not spectators, but part of the whole context. The scene comes to life precisely when those who watch it move and follow the musicians’ movements, with their whole bodies.

Just as they are each in their own room playing their instruments, we are living our lives individually. But we are individual-collective beings. We do not exist without coexisting, but we can only coexist if we exist individually.

The installation thus reminds us of life itself; we are passers-by taking care of our own corners and paths, but we cross each other’s roads and thus affect each other. We are each other’s path. We each play a part of the music, or contribute with an instrument, a note, a layer. But in the end, we are part of the same symphony, all in tune, even if sometimes, isolated in our corners or rooms of our “homes”, we do not realise it.

Paradoxes:

Stop suffering, you are not alone.

Realise that suffering is part of it and you are alone….

July 17, 2023July 18, 2023 camila

Não Sofra Mais: tecnologia, arte e a conexão entre seres humanos

(Read the English version of this post)

Muito se fala sobre qual seria a diferença entre ver uma pessoa “real” e ver uma imagem gerada por IA. Mas o que se poderia dizer da diferença entre curtir uma banda ao vivo e viver a experiência da instalação “The Visitors”, do artista visual-tecnológico Ragnar Kjartansson?

A instalação esteve em cartaz na exposição Não Sofra Mais, no Mosteiro de Santa Clara a Nova em Coimbra e encerrou este fim de semana.

Ela consiste em oito vídeos, cada um dos quais mostrando um músico tocando seu instrumento; os músicos estão em cômodos diferentes; esses cômodos fazem parte de uma mesma casa. Num nono vídeo se pode ver a casa pelo lado de fora uma parte do jardim da casa; na varanda, pessoas cantam.

Os vídeos estão dispostos numa grande sala, quatro de cada lado e o nono ao fundo. Pode- andar pela sala e parar para observar cada músico em separado ou simplesmente escolher um ponto para se posicionar e observar/escutar. Todos os sons são ouvidos juntos, porque todos os músicos que estão nos vídeos estão tocando a mesma música. Por que então isso é fascinante? Não é a mesma experiência que ouvir uma banda ao vivo?

O que Ragnar conseguir fazer, na minha percepção, foi mostrar do que nossos corpos são capazes quando ouvimos música. A música mexe com a gente e ali, literalmente, diante daquela instalação, todos se mexeram. Caminharam, andaram, pararam, se emocionaram, dançaram e, ao final, quando os músicos se encontraram numa só cena, num só vídeo, no mesmo cômodo, a plateia se acomodou juntinha, todo mundo em frente ao mesmo vídeo. Depois, quando os músicos saíram daquele vídeo para aparecer no nono vídeo, do lado de fora da casa, as pessoas literalmente andaram pela sala “seguindo” os músicos. Nesse momento, alguns espectadores já estavam cantando as músicas que eles cantam nos vídeos.

As pessoas andaram juntas depois de observar minutos a fio as cenas, cada uma olhando par aqueles detalhes que mais lhes interessavam.

Num concerto ou show, a plateia tende a ter movimentos limitados tanto pelo espaço quanto pelas circunstâncias; isso faz parte do ritual tradicional de ouvir e assistir ao espetáculo. Ragnar, em contraste, colocou a plateia para se movimentar. Os músicos, claro, se mexem também e enquanto tocam é possível perceber como tocar um instrumento envolve movimentos corporais completos. Um deles prefere até tocar dentro de uma banheira, por vezes apoiando o violão num suporte de madeira.

Mas, entre diversas sensações despertadas, o que senti de mais diferente e especial – além da beleza dos vídeos e da ideia da instalação, muito bem construída – foi isso: o fato de essa obra de arte promover o movimento do público por entre os músicos/os vídeos. As pessoas acabam caminhando por entre os outros ouvintes/espectadores, e então percebemos que não somos espectadores, mas parte de todo o contexto. A cena ganha vida justamente quando quem a assiste se movimenta e acompanha, com todo o corpo, o que acontece com os músicos em seus vídeos.

Assim como eles estão, cada um, em seu cômodo tocando seus instrumentos, nós estamos vivendo as nossas vidas individualmente. Mas somos seres individuais-coletivos. Não existimos sem coexistir, mas só podemos coexistir se existirmos individualmente.

A instalação, assim, nos faz lembrar a própria vida; somos transeuntes a cuidar de nossos cantinhos e caminhos, mas cruzamos o caminho uns dos outros e assim afetamo-nos mutuamente. Somos o caminho uns dos outros. Cada um toca uma parte da música, ou contribui com um instrumento, uma nota, uma dimensão. Mas, no fim, somos parte da mesma sinfonia, todos em sintonia, mesmo que às vezes, isolados em nossos cantos ou cômodos de “casa”, não nos demos conta.

Paradoxos:

Pare de sofrer, você não está sozinha/o.

Saiba que sofrer faz parte e você está sozinha/o…

July 5, 2023July 5, 2023 camila

A IA deve ser usada para nos “unir” a entes queridos que já partiram?

Comercial da Volkswagen levanta questões filosóficas (quer queira, quer não…)

A primeira coisa que pensei quando vi o comercial da Volkswagen com a Elis e a Maria Rita foi: bom, a Maria Rita aprovou isso ; se ela aprovou, será que gostou do resultado? Fui procurar saber e sim, ela gostou, acha até que “realizou um sonho”.

O fato de ela ter gostado é, para mim, um dos sinais importantes a serem observados quando se trata de analisar a IA nas nossas vidas. A Elis foi sua mãe. A Maria Rita não poderia se sentir lesada ou triste de novo, já perdeu a mãe, ainda que há mais de 40 anos, então esse comercial tinha que ser algo bom para ELA, principalmente.

Respeitar as emoções que a IA origina é, eu defendo, um dos fatores mais relevantes quando se trata de ética na inteligência artificial. Não à toa se estuda até mesmo se as IAs podem “demonstrar” ou ” interpretar” emoções. Elas são importantes nos comerciais, também. E, claro, para os espectadores.

Um caso em que ambas as pessoas há tivessem morrido, e aí fizessem um comercial com elas usando IA, seria mais complicado. Quem poderia dizer se essas pessoas gostaram disso ou o que sentiram?

Aliás, vocês já viram o primeiro episódio da última temporada de Black Mirror na Netflix? Vale assistir. Vários questionamentos que estão lá já batem à nossa porta aqui, na “vida real”. E têm a ver com esse vídeo da Elis e da Rita.

June 27, 2023June 27, 2023 camila

Anúncio da Coca-Cola feito com IA nos instiga a pensar nos limites entre arte e sistemas artificiais

No anúncio acima, a “Moça com brinco de pérola” de Vermeer abre uma garrafa de Coca-Cola depois de ela passar por diversas obras de arte que fazem de tudo para não deixar a peteca, ou melhor, a garrafa cair. O anúncio foi feito com inteligência artificial e também com filmagens reais e efeitos digitais diversos.

O interessante é que, em meio às questões que pairam sobre as artes e a IA, se a criatividade será estendida ou ofuscada pela IA, se o que a IA faz é arte ou não etc, esse anúncio chega lembrando que uma pode viver com a outra e gerar algo fabuloso. Isto é, arte e IA podem ser uma mistura interessante. Mas é isso: o anúncio é uma obra-prima em si, mas envolveu intenso trabalho e empenho. O esforço criativo não apenas dos artistas cujas obras de arte aparecem no vídeo, mas daqueles que fizeram o vídeo, claro, continua tendo altíssimo valor. Isso diz algo sobre a discussão quanto à IA “dominar” ou “substituir”, ou eventualmente expandir e enriquecer possibilidades.

May 31, 2023June 1, 2023 camila

Uma interação com um chatbot é mesmo uma interação?

Pensando a cognição humana a partir do enativismo

Material adicional à palestra para o PPGLM – URFJ, 31 de maio de 2023

Apresentação:

Links:

Minha tese de doutorado está disponível aqui e os artigos citados são:

O que os computadores continuam não conseguindo fazer, 50 anos depois: A aprendizagem sob a perspectiva da fenomenologia do cotidiano de Hubert Dreyfus

ANOTHER BRICK IN THE WALL: THREATS TO OUR AUTONOMY AS SENSE-MAKERS WHEN DEALING WITH MACHINE LEARNING SYSTEMS

Alguns dos livros e artigos que usei como base são estes:

DI PAOLO, E. A., BURHMANN, T. E BARANDIARAN, X, E. Sensorimo-tor Life. An Enactive Proposal. Oxford: Oxford University Press, 2017.

DI PAOLO, E. The Enactive Conception of Life. In: NEWEN, A., DEBRUIN, L. & GALLAGHER, S. The Oxford Handbook of 4E Cognition.Oxford: Oxford University Press, 2018

DI PAOLO, E. A.; CUFFARI, E. C. & DE JAEGHER, H. Linguistic Bodies.The Continuity between Life and Language. Cambridge: MIT Press, 2018.

DREYFUS, H. What Computers Still Can’t Do. MIT Press: New York, NY,USA: 1992.

DREYFUS, H. Skillful Coping – Essays on the phenomenology of everydayperception and action. Oxford: Oxford University Press, 2016