One of the most interesting features of this book, I think, is to lead a discussion regarding the kinds of responsibilities and duties we should or should not leave up to artificial systems. Smith is not interested in making a comparison between humans and machines, as he himself makes clear in the beginning of the book, but to question the ontology that underlies the premises guiding AI in our society.
In doing so, the author offers us a rich, deep perspective of AI through a philosophical lens, encompassing ethical, technical and cognitive issues. If you are interested in questions like the features that make humans human, where we are as a society when it comes to AI, how machine learning may change our lives and what intelligence is, this book offers a great perspective and may help you think these through.
PT
Livro que recomendo para quem se interessa por AI/machine learning sob um olhar filosófico / Book I recommend to those interested in AI/machine learning through a philosophical perspective
Uma das características mais interessantes deste livro, eu acredito, é conduzir uma discussão sobre quais atividades devemos ou não deixar para a IA. Smith não está interessado em fazer uma comparação entre humanos e máquinas, como ele mesmo deixa claro no início do livro, mas em questionar a ontologia por trás das premissas que norteiam a IA em nossa sociedade.
Ao fazer isso, o autor nos oferece uma perspectiva rica e profunda da IA por meio de lentes filosóficas, abrangendo questões éticas, técnicas e cognitivas. Se você estiver interessado em questões como os recursos que tornam os humanos humanos, onde estamos como sociedade quando se trata de IA, como o aprendizado de máquina pode mudar nossas vidas e o que é inteligência, este livro oferece uma perspectiva que pode ajudá-lo a pensar sobre isso.
SMITH, BRIAN C. THE PROMISE OF ARTIFICIAL INTELLIGENCE – RECKONING AND JUDGEMENT, MIT Press, 2019
Nos dias 15 e 16 de abril a PUC-Rio promove o I Seminário Internacional: Reconceitualizando a Educação, evento que oferece intensa programação com a participação de diversos professores da instituição e de instituições parceiras, no Brasil e no exterior. Haverá palestras, mesas e rodas de conversa, sendo a primeira delas dedicada ao lançamento do livro Deseducando a Educação: mentes, materialidades e metáforas. O livro é organizado pelos professores Ralph Ings Bannell, Mylene Mizrahi e Giselle Ferreira.
A ciência é feita a partir da observação. Entende-se que aquilo que se observa está no mundo como algo alheio ao observador; algo separado dele. O problema com isso é que estamos inseridos no próprio mundo que desejamos desvendar por meio da ciência. Então, o estudo da experiência humana deveria ser foco da atenção da ciência…
Apesar disso, demorou para que fosse lançada essa luz sobre a observação da experiência em si. A ciência ocidental negligenciou a experiência a partir da primeira pessoa para privilegiar a perspectiva da terceira pessoa. O conhecimento sob a perspectiva da primeira pessoa, por sua vez, tem sido considerado pouco confiável ou sujeito a desvios.
De todo modo, isso tem mudado: a visão tradicional que
coloca o objeto de estudo de um lado e o observador de outro, gerando um abismo
quando se trata justamente de compreender a experiência humana, tem sido
desafiada junto com uma visão crítica, emergente, que reconhece o papel do
observador e de sua experiência corporificada (isto é, levando em conta o seu
corpo como um todo, e de várias maneiras – a partir de uma concepção de cognição
corporificada e situada) para a geração de conhecimento.
Existe um programa de pesquisa chamado NEUROFENOMENOLOGIA, proposto por Francisco Varela (1996), que trata justamente de desenvolver uma ciência para o estudo da consciência. A proposta valoriza a experiência vivida, convocando um diálogo entre as abordagens tradicionais, fundamentadas na terceira pessoa, e a investigação a partir da perspectiva da primeira pessoa. Métodos e procedimentos específicos para esse tipo de pesquisa têm sido desenvolvidos. Ainda não está consolidada a maneira de aproximar as perspectivas da primeira e da terceira pessoa, mas isso está sendo encaminhado e tem sido objeto de debate no campo da ciência cognitiva.
Aliás, como ressaltam os autores do artigo An Introduction to the Enactive Scientific Study of Experience (Moguillansky, Demsar & Riegler, 2021), o estudo da cognição humana é marcado por um paradoxo: o ser humano e a maneira como obtemos conhecimento do mundo torna-se o próprio objeto de estudo de… seres humanos tentando conhecer melhor o mundo; leia-se os cientistas cognitivos, filósofos, psicólogos e afins. Isto é, se a ciência empreende esforços para investigar fenômenos, produzindo explicações e descrições desses fenômenos, a ciência cognitiva tem como principal fenômeno de investigação a cognição em si.
Historicamente, temos aplicado regras para estudar a realidade – regras que compõem metodologias científicas desenvolvidas para estudar objetos desatachados de seus observadores, e que remetem a Descartes, filósofo racionalista que procurou criar um método para chegar à verdade científica. Descartes via a realidade como algo separado de nós; para compreendermos essa realidade, deveríamos separá-la em pedacinhos menores, mais simples, para depois evoluir para algo mais complexo que juntasse esses pedaços (assim ele compreendia a nossa apreensão da realidade; uma concepção que vinha da física, tal como estava se desenvolvendo na época dele, no século XVII). Bem, Descartes veio antes da fenomenologia, que viria propor justamente o estudo da experiência, partindo do todo, não de partes constitutivas do todo.
E hoje não temos apenas um método, como já mencionei.
O problema é que se passaram séculos e continuamos tratando a realidade como algo separado de nós mesmos. Então, a proposta de investigar a partir da primeira pessoa é uma proposta para tentar ajustar isso.
Os autores do artigo explicam que é necessário desenvolver “uma concepção não objetivista da ciência que torne impossível pensar na ciência como uma ferramenta para lançar luz sobre as coisas em si. Em vez disso, o entendimento enativo da ciência sugere que devemos considerar a atividade científica como a extração sistemática e cada vez mais sofisticada de regras da nossa própria experiência vivida. Como tal, a ciência não apenas é falível e propensa a erros, mas também inextricavelmente conectada a nós”.*
Isso, por si só, já é uma reorientação do olhar. Pois caminhamos de uma apreensão das coisas como elas são, aplicando regras pré-fabricadas sobre objetos “alheios” a nós, para uma mudança conceitual e postural, que consiste em tentar colher das próprias coisas que observamos as regras para observá-las. Um dos principais pontos dessa mudança é que, ao reportar experiências, isto é, falar sobre elas, as pessoas tendem a reproduzir crenças sobre como essas experiências acontecem, sobre si mesmas, sobre o mundo, em vez de se ater à experiência vivida, em si. É uma questão do que é/o que existe versus o que é descrito/estudado; de novo a ontologia e epistemologia; como quando passamos por uma situação de pânico e depois contamos sobre a situação a alguém. O que sentimos é uma coisa, o que contamos é outra (que pode conter muito da primeira, mas pode passar por várias releituras e racionalizações quando já estamos “fora” daquela ação).
Ainda segundo o artigo que menciono aqui, os primeiros estudos com métodos bem definidos, no contexto neurofenomenológico, foram conduzidos pela pesquisadora Claire Petitmengin e trataram do surgimento da intuição. Eles deram origem ao que hoje se denomina entrevista microfenomenológica. A ideia é “auxiliar o entrevistado a selecionar uma experiência singular, precisamente situada no espaço e no tempo, ‘evocando’ essa experiência e descrevendo-a. A descrição geralmente visa elucidar tanto a dimensão síncrona quanto a diacrônica de uma dada experiência. A primeira se refere à configuração de diferentes aspectos da ‘paisagem’ experiencial em um determinado momento, e a última a como essa paisagem experiencial se desdobrou ao longo do tempo. Auxiliar o entrevistado a fornecer esta descrição implica em afrouxar sua absorção no conteúdo (o “o que”) da experiência, fazendo perguntas específicas que permitem a articulação de seu modo de doação (o “como”), bem como fazer o entrevistado concentrar-se na experiência vivida sempre que se desviar dela para descrever generalizações, explicações, crenças ou julgamentos”.
Mesmo após algumas leituras, claro, ainda tenho várias questões sobre como a entrevista microfenomenológica é conduzida, as dificuldades que envolve etc. Algumas delas com certeza serão elucidadas junto a uma das autoras do artigo, Dra. Camila Moguillansky, que estará com o grupo de pesquisa GEPFE, de Filosofia da Educação, de que participo na PUC-Rio. Compartilho mais depois.
Inspiradas especialmente (mas não somente) pela leitura de “Maturana e a Educação”, de Nize Pellanda, Editora Autêntica, 2009
“Quando o conjunto de teorias disponíveis numa época não dão mais conta de novos objetos da ciência, começam a emergir outras teorias que vão configurar um novo paradigma científico. Nesse conjunto, há sempre um grupo de pressupostos básicos e conceitos fundamentais que vai fazer o papel de urdidura de uma rede orgânica e coerente que é o paradigma”, diz Nize Pellanda, à página 13 do livro Maturana e a Educação (Ed. Autêntica, 2009). A autora esclarece que se refere, aqui, ao conceito de paradigma tal como concebido por Thomas Kuhn.
Essa explicação para o surgimento de novas teorias é simples: se precisamos estudar certos objetos, fenômenos, acontecimentos que fogem às teorias que temos disponíveis para compreendê-los, estamos precisando de… novas teorias. Apesar de simples, esse raciocínio esconde alguns aspectos, digamos, espinhosos no campo da pesquisa.
Por exemplo, a tentativa de “encaixar” novos objetos de pesquisa em velhos paradigmas ou o hábito de seguir analisando fenômenos científicos a partir de premissas que eventualmente já foram superadas ou precisam ser revistas/remodeladas. Sim, mesmo sem que se perceba, isso muitas vezes acontece. E a importância da pesquisa teórica passa por aí: a necessidade de conhecer a teoria para que ela sirva para a empiria de modo a abrir caminho para novas descobertas. Afinal, ao mudar os fundamentos, mudamos o que é construído sobre esses fundamentos. Lembrando que mudar os fundamentos não é jogar fora tudo que se sabe até dado momento para começar a construir tudo de novo, do zero, mas saber agregar o que é novo ao que se provou ser válido no “velho”.
Também na pesquisa ainda se observa, por vezes, uma certa insistência em fazer perguntas esperando uma determinada resposta (em vez de estar verdadeiramente aberto aos resultados que podem surgir). O pesquisador precisa topar o desafio de não saber bem onde chegará. Faz parte do show. Afinal, o caminho será construído durante a própria investigação que ele vai fazer; então, como saber o que será encontrado no ponto final? Claro, é preciso ter perguntas que impulsionem esse caminho e um método que sirva como guia; ter parâmetros, ter prazos, tudo isso é essencial; também é natural ter expectativas sobre as descobertas que serão feitas, e levantar hipóteses é mais do que recomendado; mas, sem uma real abertura ao novo, a pesquisa perde o sentido.
Ainda no citado livro sobre Humberto Maturana, um conhecido neurobiólogo chileno, a autora afirma que têm surgido objetos cada vez mais complexos no trabalho científico e que esses objetos desafiam as formas tradicionais de pesquisa. É difícil falar da importância da obra de Maturana sem mencionar esse fato, porque a proposta teórica desse autor emerge justamente do seu trabalho como cientista, que o leva a concluir que o mundo não é fragmentado e não é uma realidade à parte; o investigador faz parte dessa realidade, a constitui.
O neurobiólogo é um dos pensadores do chamado paradigma da complexidade – o qual supera a realidade concebida de maneira “linear, fragmentada como se fosse uma coleção de coisas e estável”, sendo o sujeito que estuda essa realidade sempre externo a ela (página 14 do livro Maturana e a Educação). Se não somos sujeitos externos à realidade que observamos e que desejamos investigar, somos parte dessa realidade; desse modo, nota-se que epistemologia e ontologia não se separam. Isto é, “observar faz parte não somente da geração do fenômeno a explicar, como também da própria ontologia de cada observador” (página 26 do livro Maturana e a Educação).
Estou levantando muitas questões para um post só, eu sei. É que o objetivo deste post é, justamente, fazer anotações para depois juntar tudo de alguma maneira num texto mais coerente (ou não). O processo de pesquisa também passa por isto, especialmente o processo de uma pesquisa teórica.
Neste caso aqui, ficam algumas questões importantes para possíveis discussões futuras:
A impossível dissociação entre sujeito observador e realidade observada torna impossível a “neutralidade” na pesquisa?
O que seria essa almejada “neutralidade” e qual seria a importância dela, se houver?
Por que não se pode separar ciência e filosofia, teoria e prática, humano e natureza, mente e corpo, epistemologia e ontologia?
Como fica claro na área do Perfil do meu site, a minha graduação foi em jornalismo. Logo cedo na carreira, depois de dois anos de formada, me interessei pela educação enquanto área de pesquisa. Fiquei uns onze anos trabalhando em comunicação digital, educação a distância e tecnologias educacionais – projetos que me deram bastante experiência mas também me despertaram muitas questões – e em 2016 decidi que queria ir fundo nos estudos da educação.
Como sempre quis construir uma carreira acadêmica, decidi que o flerte (que durava desde quando me formei no bacharelado) deveria virar namoro; fiz a seleção do mestrado, passei e comecei a estudar as tecnologias digitais sob a perspectiva da Filosofia da Educação. Aí casei com a pesquisa: no doutorado, sigo na Filosofia da Educação fazendo uma pesquisa que tem como objetivo investigar a aprendizagem a partir de um contraste com machine learning. No meu trabalho, me utilizo de uma literatura e de uma série de conceitos situados em áreas variadas: ciência cognitiva, neurociência, filosofia, inteligência artificial, biologia, psicologia e outras.
A minha pesquisa é multidisciplinar como eu 😉 Coisa de gente curiosa mesmo.
Bem, mas este post se chama atitude filosófica e é sobre isso que quero falar aqui.
A atitude filosófica talvez seja um dos pontos mais importantes de conexão entre as duas esferas profissionais que tenho na vida: o jornalismo e a filosofia. Pois desde quando quis fazer jornalismo tomei essa decisão porque gostava de escrever e de ler, mas também porque me considerava questionadora, crítica – e por gostar de pesquisar. Sempre acho que todo assunto pode ser investigado e olhado sob outros ângulos; acredito que tudo é um recorte de algo mais vasto; gosto de pensar sobre os porquês das coisas; gosto de ouvir as histórias das pessoas (e de contar as minhas, mas aqui isso não vem tanto ao caso!).
Percebo, inclusive, que muitos jornalistas não têm (ou perderam) essa curiosidade, vontade de ir atrás das coisas, esse encantamento pela apuração. Admiro os jornalistas curiosos que se munem dessa vontade de saber para ir atrás das histórias, tentando contá-las da forma mais consciente possível.
Consciente acho que é uma boa palavra, porque a verdade sempre tem muitos elementos, aspectos e pontos de vista, e o jornalismo precisa dar espaço para eles, mas também deve respeitar a ciência e trabalhar para que as verdades científicas ganhem espaço. Também deve ter o bom senso de evitar dar espaço para aquilo que não ajuda uma sociedade a crescer e se desenvolver. Jornalismo, afinal, também é construção de uma sociedade melhor, mais aberta, democrática e plural; e eu defendo que isso não é negociável! Mas, enfim, o ponto aqui é: a atividade jornalística exige curiosidade, querer investigar, querer saber. Estar aberto ao que pode vir a encontrar.
A filosofia, por sua vez, também tem melhor aderência aos seres curiosos. A chamada “cabeça fechada” e a filosofia não se encaixam. Com a filosofia, a gente sempre pode questionar, sempre pode discutir as premissas. Não é um questionamento no vazio, sem eira nem beira; mas uma investigação que caminha lado a lado com a empiria, com a pesquisa prática. A filosofia e a ciência também caminham juntas, portanto. Ou, ao menos, a filosofia que tem me interessado é essa.
Debates epistemológicos vazios não me atraem, porque a minha pesquisa é filosófica mas também é fazer-ciência (assim com hífen que acho que encaixa bem com o que quero dizer). O que os pesquisadores que estou estudando fazem acaba levando a olharmos um pouco por baixo do tapete às vezes, e dizer: mas você viu que este tapete está sedimentado sobre estes tacos aqui, e estes tacos estão ruindo? Será que não é melhor trocar os tacos antes de continuar a caminhar? Se não trocar, a poeira vai se acumular entre o tapete e o chão… o chão vai ruir… e só vai restar o tapete lá em cima, que depois de um tempo não vai aguentar também.
Com isso, quero dizer que a gente precisa olhar para os pilares que sustentam as pesquisas empíricas, porque, veja: se determinamos que certas premissas são verdadeiras e seguimos fazendo pesquisas a partir delas, o que temos? Pesquisas que não conseguem se desvencilhar dessas premissas, que são os seus sustentáculos.
Quase nunca precisamos jogar tudo fora e recomeçar, mas quase sempre podemos rever parte de nossas convicções, e essa atitude de abertura, essa postura do querer-saber, é filosófica – e pode ser também jornalística, pode vir de um educador, de um psicólogo, um economista, um matemático, um biólogo, enfim, todos podem adotar essa atitude filosófica.
Portanto, não há nada assim de tão estranho em querer filosofar, não se trata de “viajar”, nem de complicar as coisas (bom, às vezes pode complicar, ou ao menos complexificar)… trata-se de levantar o tapete, e isso pode às vezes fazer a gente espirrar ou tossir, mas vale a pena. Afinal, em alguns casos a outra opção é a estrutura ruir!
Então, para começar a filosofar, é preciso ter interesse, curiosidade e ter olhar crítico; observar; topar uma aventura em que muitas variáveis irão se apresentar. Topar o diálogo, topar assumir que quanto mais sabemos, menos parece que sabemos.
Mas não há apenas uma porta de entrada para a filosofia. Começar pelos gregos pode ser bom quando se quer aprender história da filosofia, mas para aprender a ter uma atitude filosófica o exercício é o de saber ler e interpretar, flexibilizar, saber ouvir, se interessar por mais coisas do que cabem no seu “quadrado”. Aliás, aproveitar para “deixar de ser quadrado” também pode ser bom – quando a gente começa a se abrir mais, ouvir mais, a gente acaba fazendo isso naturalmente…
Para quem está se perguntando por que usei a imagem do filme “O lado bom da vida”, ou “Silver Linings Playbook”, no original…
… Bem, este post teve como inspiração uma aula de Filosofia da Educação ministrada pelo Professor Dr. Carlos Reis, da Universidade de Coimbra. Com muitos alunos da Psicologia (na UC Psicologia e Ciências da Educação estão sob o mesmo departamento), o professor levou a turma a pensar sobre atitude filosófica a partir do filme. Se não viu, veja com esse olhar. Vale a pena!
Começar a ler filosofia não é fácil e pode desanimar muita gente já na primeira tentativa. O motivo disso pode ser a pouca familiaridade do leitor com esse tipo de texto, pouca bagagem anterior em filosofia – o que faz com que não entenda certos conceitos e termos, desestimulando já na largada –, medo de não estar entendendo nada ou até uma vontade excessiva de entender tudo de uma vez só, que, definitivamente, não costuma rolar com textos filosóficos (ou acadêmicos em geral…).
Este post é para apresentar alguns passos simples que, se seguidos, podem ajudar na leitura e apreensão das ideias presentes em textos filosóficos. Serve, porém, para quem precisa ler textos em geral, especialmente de teor acadêmico/científico. As orientações são baseadas em dois livros do mineiro Antônio Joaquim Severino, que referencio ao final do post. Severino desenvolveu uma metodologia para a leitura de textos filosóficos.
Aqui também me baseio na minha própria experiência com a leitura de textos de filosofia e nas aulas do professor Ralph Bannell, meu orientador de doutorado, com quem fiz estágio à docência em filosofia da educação. Ressalto que faço algumas (poucas) adaptações à metodologia de Severino, e indico a leitura integral dos livros dele a quem tem interesse no assunto.
ANTES DE COMEÇAR – Delimitação da unidade de leitura. Você precisa escolher o que vai ler e separar a sua leitura em unidades. Um capítulo? Um artigo/ensaio filosófico? Depois de escolher, não é demais dar uma pesquisada no autor, período em que escreveu, se está vivo ainda; dar uma olhada na bibliografia dele e na biografia etc. Lembrando que o autor escreve no contexto de sua época, de sua vida, de sua proposta de trabalho, e quanto mais der para saber sobre isso previamente, mais isso pode ajudar na compreensão dos textos dele.
PASSO 1 – Análise textual
Severino indica que, após a escolha do que será lido, é preciso fazer o que ele chama de análise textual. Ele une este passo ao passo seguinte, a esquematização, mas eu cada vez mais tenho considerado a esquematização um passo (e um tópico) importante demais para ser unido à análise temática, então aqui proponho que essas fases sejam vistas como etapas separadas.
A etapa da análise textual significa fazer uma primeira abordagem do texto, ainda não tão aprofundada. A ideia, neste primeiro momento de leitura, não é esgotar a compreensão de todo o texto, mas que o leitor tenha contato com a unidade de leitura escolhida; a ideia é que obtenha uma visão panorâmica, como Severino fala; nesse momento, é possível observar o estilo do autor, o método que ele usa, isto é, a forma como escreve e organiza suas ideias e pensamentos. Ainda neste momento, como a ideia é buscar familiaridade com o texto, o leitor deve assinalar aqueles elementos que, à primeira vista, lhe geram dúvidas. Severino recomenda que sejam buscados dados a respeito do autor, com o cuidado para que os comentaristas (as pessoas que escreveram esses textos sobre o autor) não “contaminem” a perspectiva individual que o leitor será do texto. Mas, eu indiquei que você faça isso antes mesmo de dar início aos passos de Severino, láá no início. Ainda na etapa de análise textual, o leitor deve assinalar termos e conceitos que desconheça, mas que pareçam importantes para que aquele texto seja compreendido. Deve anotar esses termos em uma folha/arquivo separado. O leitor deve anotar, ainda, eventuais fatos históricos citados pelo autor e referências a outros autores que lhe causem dúvida.
Severino recomenda, então, que após a leitura e a identificação dessas dúvidas o leitor busque informação sobre elas, tentando esclarecê-las. É importante fazer isso, de fato, podendo nesse momento usar dicionários de termos de filosofia, por exemplo; mas também é importante não deixar que essa pesquisa se torne tão aprofundada a ponto de desvirtuar o leitor de seu objetivo inicial, que seria compreender o texto selecionado. Então, é preciso um bocado de bom senso para ter em mente que não é preciso esclarecer tudo assim, de saída; muito será resolvido no decorrer da análise daquele texto, da troca de ideias com outras pessoas sobre o texto ou da aula sobre ele, enfim. A minha dica é que você procure saber um pouco, se torne mais confortável com as dúvidas, sem “pirar”.
PASSO 1 E 1/2 – Esquematização
Nesta etapa, a ideia é ler o texto extraindo dele as principais ideias presentes a cada parágrafo, ou a cada dois parágrafos, mais ou menos. Atenção: NÃO se trata de fazer um RESUMO do texto. O trabalho, aqui, é de apreensão das ideias do autor de uma maneira sistematizada, e vou explicar como. Você deve ler cada parágrafo e escrever com as suas próprias palavras as ideias do autor presentes naquele parágrafo. Uma dica um pouco incomum: escreva com as suas próprias palavras e em primeira pessoa. Sim, como se VOCÊ estivesse escrevendo, produzindo aquelas ideias. Isso pode parecer estranho de cara, mas fará com que você “entre na cabeça” do autor, colocando-se no lugar dele. A ideia é que, ao final desta etapa, você tenha as principais ideias extraídas do texto NA ORDEM em que elas aparecem. Isso servirá como preparação para a etapa seguinte.
PASSO 2 – Análise Temática
Nesta etapa, a ideia é que você compreenda a mensagem passada pelo autor no texto, de modo global e sem intervenções. O que significa sem intervenções? Não é hora, ainda, de você expor a sua opinião ou o ponto de vista de outros autores. Não é nem mesmo a hora de expor a opinião desse mesmo autor que esteja presente em outros textos dele, ou sobre outros assuntos. Você terá um outro momento para fazer isso, no seu ensaio filosófico. Também não é hora de tirar conclusões precipitadas. Apenas faça o seguinte: 1) identifique o tema do texto; 2) identifique o problema que o autor se propõe a resolver; 3) siga e exponha o raciocínio seguido pelo autor e 4) exponha a tese a que ele chega. Detalhando um pouco mais:
Tema – Você deverá identificar, em uma linha ou duas, qual o TEMA da unidade de leitura. Não se deixe enganar pelo título, que nem sempre é bom para revelar o tema do texto.
Problema – A seguir, em algumas linhas, você deve expressar qual o problema que o autor se propõe a resolver/argumentar sobre. Grande parte dos textos filosóficos e científicos é motivada por um problema uma questão sobre a qual o autor se propõe a argumentar. Ele vai elaborar argumentos justamente pensando na “defesa” que fará daquela questão, que o provocou, o instigou. Ou irá “atacar” uma ideia com a qual não concorda, desenvolvendo seus próprios argumentos para isso. Pode, ainda, concordar em parte com uma determinada ideia/tese, mas querer colocar alguns pontos nos quais diverge. Então, identifique essa questão, dificuldade, esse problema e anote. Tenha em mente que nem sempre está tão óbvio qual é esse problema. Mas a sua esquematização ajudará a identificá-lo.
Raciocínio/Argumentação – Com base na sua esquematização, agrupe as informações que você extraiu de cada parágrafo em parágrafos/porções de texto contendo as ideias presentes naquele conjunto de frases. Por exemplo, você pode encontrar relação entre o primeiro e o quinto parágrafo; essa é a oportunidade de juntar as pontas, escrevendo em um parágrafo o que é essa ideia. Ao fazer isso, você estará identificando a maneira como o autor responde à questão que ele mesmo se propõe resolver, como raciocina para resolvê-la, ou: como ele argumenta. Isto é, os argumentos, as defesas que ele efetivamente elabora para resolver o impasse, a dificuldade que o motivou.
Tese – Após expor a argumentação do autor, você será capaz de expor a tese dele; em resumo, o que ele argumenta? O que propõe? Então, faz o próximo passo, e escreve a tese, resumidamente.
PASSO 3 – Análise interpretativa/Interpretação
É chegada a hora de começar a interpretar as ideias expostas pelo autor no texto lido. Neste momento, o leitor coloca as ideias do autor em diálogo com as ideias de outros autores. Esses autores que falam do autor em questão são, nesse contexto, comentaristas. É um momento que você situa o autor e o texto lido também em relação a outros textos do próprio autor, de modo a buscar localizá-lo numa esfera maior de pensamento daquele autor. Pode verificar como as ideias que ele expõe no texto que você leu se relacionam com ideias em que ele expõe em outros textos dele, por exemplo, ou contrapor essas ideias com as perspectivas de outros autores sobre o que ele escreveu.
Severino destaca que um momento importante desta etapa de interpretação é a formação de uma perspectiva crítica sobre o que foi lido; isto significa, neste caso, procurar julgar a coerência interna do texto e também a sua originalidade, a contribuição que dá ao problema que aborda. Tentar entender até que ponto o autor conseguiu alcançar, de modo lógico, os objetivos que propôs a si mesmo. Severino diz o seguinte: “Pergunta-se até que ponto o raciocínio foi eficaz na demonstração da tese proposta e até que ponto a conclusão a que chegou está realmente fundada numa argumentação sólida e sem falhas, coerente com as suas premissas e com várias etapas percorridas”. Também é o momento de procurar compreender se a argumentação do autor é original e sua contribuição, relevante.
PASSO 4 – Problematização
Esta é uma etapa em que se busca desde problemas textuais possivelmente presentes no texto até possíveis problemas de interpretação. É uma etapa bacana especialmente quando se realiza um trabalho em grupo, pois neste momento pode-se debater essas impressões. Vale ler as palavras de Severino diferenciando esta etapa da fase de identificar o problema, presente na análise temática: “Cumpre observar a distinção a ser feita entre a tarefa de determinação do problema da unidade, segunda etapa da análise temática, e a problematização geral do texto, última etapa da análise de textos científicos. No primeiro caso, o que se pede é o desvelamento da situação de conflito que provocou o autor para a busca de uma solução. No presente momento, problematização é tomada em sentido amplo e visa levantar, para a discussão e a reflexão, as questões explícitas ou implícitas no texto”.
PASSO 5 – Síntese Pessoal
Trata-se talvez da etapa mais aguardada entre estudantes, que durante todo esse processo ficam geralmente bem ansiosos para dizer o que acham do que leram! Bom, esta é de fato a hora de discutir a problemática levantada no texto para, a partir da reflexão a que ele leva, desenvolver o seu próprio ensaio filosófico. A síntese é uma preparação para o ensaio, ainda não é o ensaio em si. Mas, se bem feita, ajuda bastante na hora de elaborá-lo.
É interessante como a metodologia de Severino termina com esta etapa, (chamada de síntese pessoal) que exige que você escreva, exponha a sua perspectiva; isso mostra que a apropriação das ideias presentes em um texto de caráter filosófico também depende do exercício da redação. Ao escrever nós organizamos o nosso pensamento e conseguimos realizar nossas próprias reflexões, assim conseguindo desenvolver a habilidade de pensar filosoficamente.
Severino aponta esta etapa como uma fase de amadurecimento intelectual e de exercício do raciocínio. Nesta etapa, pode escolher um ou mais aspectos do texto lido que mais tenham lhe saltado aos olhos, trabalhando em cima desses aspectos. Você deve também buscar o embasamento conseguido com a leitura dos textos dos comentaristas, principalmente se toda a aventura filosófica, o tema ou o(s) autor(es) forem novidade para você.
Lembre-se que, no caso de um ensaio filosófico ou texto acadêmico, o que vale não é a nossa opinião livre, mas uma perspectiva embasada, bem argumentada – como você terá observado no texto lido, se tiver gostado da maneira como o autor conduziu sua argumentação 😉
Ah, também vale lembrar que um ensaio filosófico geralmente contém as sínteses de vários textos e não somente de um.
Antes de terminar…
Mais umas dicas.
Sossego – Às vezes, é difícil conseguir um lugar sossegado para ler, estudar, escrever. Mas isso se torna ainda mais importante quando nos propomos a ler um texto seguindo etapas dessa metodologia, isto é, procurando extrair mesmo um aprendizado, alcançando uma compreensão dos textos. Então, ler no ônibus, metrô, no meio de um ambiente barulhento pode complicar. Quando o confinamento acabar, a biblioteca é a melhor opção para esse tipo de tarefa.
Tempo – Se você não tem tempo para seguir TODOS esses passos toda vez que se propõe a ler um texto filosófico, indico que siga, pelo menos, os passos 1 e 2. Com esses passos você terá uma excelente visão geral do texto, podendo partir para as etapas seguintes somente se você for se aprofundar naquela leitura. Claro, o ideal é você conseguir avançar o máximo possível, contrastar o texto com outras leituras do mesmo autor, escrever as suas ideias, dialogar com ele etc., mas, de fato, muitas vezes não há tempo para isso e os passos 1 e 2 são suficientes para uma apreensão excelente de um texto filosófico/acadêmico. Só ler sem anotar nada não adianta muito no caso de textos filosóficos.
Espero que este post, apesar de longo, tenha sido útil. Recomendo fortemente a leitura dos materiais a seguir, dos quais as orientações foram retiradas. E agradeço ao meu professor e orientador de doutorado Ralph Ings Bannell por ensinar essa metodologia em suas aulas de filosofia.
Fontes:
SEVERINO, Antônio Joaquim. Metodologia do Trabalho Científico. São Paulo: Cortez, 2013.
SEVERINO, Antônio Joaquim. Como ler um texto de filosofia. São Paulo: Paulus, 2009.
Precisamos de uma WWW democrática. Uma rede de conexões reais no espaço virtual.
Esta semana, recebi de diversas pessoas o vídeo que alardeia aquilo que na prática todos temos notado: a nossa navegação na Web é completamente rastreada pelo Facebook. Se você acessou um site e viu algo de que gostou mas não se lembra direito qual foi, esqueceu o nome etc, pode usar o histórico do seu navegador para reencontrá-lo ou… pode usar o histórico do Facebook. Vá em Configurações > Sua atividade no Facebook > Atividade fora do Facebook e verá que está tudo lá.
O Facebook está se tornando a própria World Wide Web, que não é mais tão vasta, ampla ou grande no melhor sentido da coisa e, diga-se de passagem, está cada vez mais chata, comercial e robotizada – no sentido literal. O que temos é um território mapeado, em que um chip com nossos logins (na forma de app do Facebook) funciona como uma espécie de arco íris que leva ao tesouro: nossos dados.
O problema nao está só no Facebook. Até porque ele está acompanhado da Amazon, Google, Apple. E alguns podem dar de ombros e dizer que esse rastreamento das lojas e sites que visitamos, em particular, pode nem ser tão preocupante, apenas irritante.
Mas é fato que, pela nossa sanidade, pela longa vida às artes, à filosofia, à política, ao cinema, às reais trocas de ideias, precisamos de uma internet democrática. Uma World Wild Web, isto é, uma Web “selvagem” no bom sentido, ampla de fato, democrática, capaz de se abrir à vastidão da natureza humana, dos nossos desejos e sonhos, ajudando-nos a criar e a fortalecer nossas reais conexões. Para usar esse termo busco como referência o pesquisador Edwin Hutchins, autor de Cognition in the Wild, este livro aqui. A ideia é a de analisar a cognição humana em seu habitat natural, a natureza, a cultura, as relações sociais, em vez de fazer isso apenas em laboratórios/ambientes controlados – o que poderia levar a uma dimensão bem mais fiel dos nossos processos cognitivos.
Penso enquanto escrevo numa Web que reflita as múltiplas realidades que vivemos, que se conecte melhor com o mundo que habitamos e que construimos todos os dias, em vez de apenas tentar construir esse mundo para nós – fazendo-o puramente devotado à venda, um palco em que se discute basicamente o que vale mais e quanto se quer pagar. Um mercado das pulgas em que as pulgas somos nós (isso é pior ainda do que ser as os cacarecos à venda – ou não…). Sim, eu sei que o mundo “real” também o coloca o capital acima de tudo, mas é exatamente por isso que precisamos mudar a Web (e o mundo) antes que o mundo que a Web tenha para refletir seja exatamente esse mundo chato e vazio como ela!
Um exemplo: para um músico “independente” – uma classificação que considero um tanto falha (por vários motivos) mas que apenas quer dizer no senso comum um artista que faz seu próprio percurso sem esperar as grandes gravadoras/o mainstream etc (o que acho louvável) – usar o YouTube para divulgar seu trabalho tornou-se praticamente impossível. Se tem dúvidas, converse com um deles e confira a odisseia que é ter um canal e conseguir alguns míseros seguidores., mesmo que você tenha uma carreira consolidada, muitos fãs, muitos shows no currículo e muitos álbuns lançados. As redes sociais que usamos são mainstream. Elas criam o seu próprio mainstream. O problema é que elas definem as prioridades e descartam o que não é prioridade para elas. Os “grandes” seguem “grandes”, com muitas aspas, e os “pequenos”… os pequenos que lutem.
Esse é só um exemplo. Se você nunca estranhou o alcance ínfimo de uma determinada publicação sua no FB quando esperava muitos likes, é porque provavelmente só posta gatinhos. O FB adora gatinhos. Aliás, aposto que Zucker fez algo de bom, pelo menos, que foi popularizar os gatos e fazer mais pessoas adotá-los, porque agora parece que todos têm gatos. O FB adora gatos porque as pessoas passam HORAS vendo vídeos de gatos.
Voltando à Web democrática: ela era a ideia original de Tim Berners Lee, mas simplesmente não aconteceu. Mas ele não desistiu: Tim tem uma startup chamada Inrupt e está trabalhando por uma nova estrutura de rede, chamada SOLID. A ideia é repensar a maneira como aplicativos armazenam e compartilham dados pessoais. Para isso, em vez de armazenar dados em servidores de uma empresa que se interessa apenas em lucrar a partir deles, os usuários teriam um pequeno servidor exclusivo, localizado no Solid, um servidor grande. O problema dessa história é que ela parece levar ao problema do regresso infinito, isto é, Berners-Lee acabaria por ter os dados de todos armazenados em seu mega servidor com vários mini servidorezinhos; mas ele diz que não, que os dados estariam somente no servidor de cada um. De todo modo, as motivações de Tim me parecem sem dúvida melhores do que as de Zucker e sua turma, que não sabem mais onde colocar seu dinheiro. E continuam querendo faturar mais e mais às custas não apenas da nossa privacidade como do esvaziamento total da graça que a internet um dia teve, quando prometia ser a terra da criatividade que representava uma real alternativa ao caminho até então monótono do broadcasting.
Berners-Lee e o CEO (odeio estas siglas) da empresa dele – que não é ele, mas sim um cara chamado John Bruce – não esperam que o modelo descentralizado que estão tentando materializar desmorone as tech giants num passe de mágica, como bem lembra este artigo aqui da Wired. Até porque Zucker e os amigos não querem largar o osso carnudo dos nossos dados. O que a dupla Berners-Bruce quer é lançar uma alternativa, que possa se popularizar ao menos entre quem está preocupado com tudo isso que estou expondo neste texto e anseie por uma rede mais bacana, mais leve, aberta e criativa. Não sei exatamente como isso vai funcionar, se vai funcionar, mas esse caminho me parece bastante interessante e pretendo acompanhar. Sugiro que façam o mesmo. Até porque o problema não é apenas você gostar de hambúrguer com cheddar, e ficar toda hora aparecendo hambúrguer com cheddar para você nos anúncios na “sua internet”. O problema é que assim você vai viver num mar de hambúrgueres de cheddar com pequenas variações (com ou sem cebola…) em vez de conhecer um mundo que também tem hotdogs, pipocas doces, salsichas alemãs, saladas, pizzas ou seja o que for.
É bom pensar nisso antes que sua pressão arterial saia do controle.
Neste final de ano pandêmico, em que apesar das dificuldades tenho muita coisa a agradecer, tenho me sentido flutuando. Não sinto meus pés no chão, parece que há uma eterna névoa, quase posso vê-la e tocá-la;
É uma espécie de camada de uma fina poeira entre Eu e o mundo, que se coloca como uma fase a mais a mediar o estar-no-momento-presente, o estar–no-mundo, o mundo da doença, um mundo desconhecido;
A pandemia, tão real, por vezes parece o mais irreal possível, porque é real e irreal; irreal porque nos é estranha, e o que é estranho ainda não surge, de fato, para nós, em toda a sua dimensão; surge aos poucos, na medida em que se torna parte de nós, e esse tornar-se parte se dá em etapas;
O contágio se dá sem que tenhamos a affordance de ver, tocar ou sentir; mas, mesmo aquilo que não vemos, ou que não tocamos, se torna algo para nós na medida em que se torna algo para todos, constitutivo do mundo;
As mortes se dão sem uma digna despedida, o que torna o impalpável ainda menos concreto e o superar das perdas uma tarefa de dar nó no invisível;
Com que materialidades lidamos? Como lidamos com uma não-materialidade (obscura)?
É um mundo do qual ainda não nos apropriamos e, quando nos faltam as habilidades corporais para estar no mundo de uma maneira situada, sentimo-nos como o sujeito cartesiano, morada de si mesmo, des-situado, des-vinculado, des-socializado, des-territorializado. Sujeito que se basta, com seu conhecimento internalizado;
Mas que na verdade não se basta de maneira alguma porque até para ser no mundo já precisamos ser situados, vinculados, socializados, territorializados;
O ser só é ser em movimento fluido e contínuo com outros seres, porque ninguém é só si mesmo, e quando é Si é também Outro: é Self, Outro e Mundo ao mesmo tempo. Ser não é sempre ser; ser é estar;
A cada momento, o que somos se transforma. Não é que se desfaçamos no ar como poeira; há uma essência que se mantém: é como a manutenção de uma canoa em alto mar, é preciso trocar cada tábua de madeira de uma vez, ou a canoa afunda, e ao final, mesmo que todas as tábuas tenham sido trocadas, ainda será a mesma canoa;
Neste mar de ondas altas que ainda não dominamos – e que, quiçá, não dominaremos – ainda assim aprendemos a surfar, utilizando-nos das ferramentas que até hoje nos ajudaram a surfar outras ondas. Porque é pela sobrevivência que trabalhamos;
É na direção do viver e do vem-a-ser que nossas mentes se orientam;
Mas este mar nos leva a um não-sei-onde que ninguém é capaz de revelar, o que se explica: pois não é algo que se revele como uma fotografia, já que o ente fotografado ainda não existe – é um devir; é mais um está-para-ser do que um ser;
Mesmo se o pano de fundo é um mundo em construção, porque é, somos todos também, individualmente, seres em transformação, como a canoa em reforma contínua. As tábuas mudam, mesmo que aos olhos não pareça que há algo acontecendo;
Nosso devir é o devir do mundo;
E não é que nos adaptemos às mudanças do mundo: essas mudanças são o que somos, não respondemos a elas como se dá uma resposta a algo que acontece, se recolhe algo que caiu, se enxuga algo que molhou, não, não é assim nossa relação com o mundo, apartada, responsiva; trata-se de um eterno acomodar, de um encaixe, de uma engrenagem de mil lados;
Estamos todos, em qualquer lugar que seja, ancorados num mesmo ponto de partida; o ponto de partida é inegável e a tudo recontextualiza, gerando uma reviravolta. E não há quem possa dizer “o caminho é esse, vamos por ali” porque o caminho não é visível, é névoa;
É claro que a ciência aponta direções, com base nas habilidades antes adquiridas e nos resultados até hoje conquistados, e a intuição, o afeto, se somam aos esforços médicos e científicos, num certo sentido que faz sentido. Mas o caminho precisa ser construído enquanto caminhamos, uma pedra após a outra, e assim aos poucos algo se concretiza e conseguimos ver o invisível e compreender o incompreensível;
De todo modo, se não devemos nos conformar jamais com o sadismo do não enfrentamento do Estado de uma doença do mundo que deixa os cidadãos à mercê em uma tempestade em alto mar, e isso vou pontuar mesmo que esteja aqui deixando desdobrarem-se pensamentos ainda inexistentes que surgem enquanto são pensados;
E, ainda, se não devemos nos conformar com aqueles que jogam água dentro do próprio barco em que estão navegando;
Devemos, por outro lado, nos acostumar com a materialidade do invisível, pois ela não é má:
O invisível é também amor e cuidado;
Percebamos: a materialidade desse amor e desse cuidado se tornou, justamente, a imaterialidade (do encontro, do Outro, e até de si mesmo; tendo um vírus mortal circulando dentro de Si, há quem não consiga se ver mais ali e vê o próprio Ser como não Ser; o intruso modifica o Ser e a percepção de Si; a pulsão da vida querendo excrementar o elemento da morte).
É fato que no invisível deu-se o ato maior de amor para com aqueles que precisam de cuidado; nesse caso, um invisível tão visível que desafia a visão pela visão. O invisível é, portanto, real.
O que ainda seremos é exatamente aquilo que nos define. O invisível do devir. Então, cuidemo-nos, lembrando: somos um ao outro, só somos com o Outro e pelo Outro. O Ser sozinho é um não-Ser.
*Este post foi escrito a partir de aprendizagens e inspirações oriundas do trabalho dos filósofos Ezequiel Di Paolo, Andy Clark, Evan Thompson, Maurice Merleau-Ponty, Hubert Dreyfus e Dan Zahavi, e das aulas e discussões com o professor Ralph Bannell.
Navegando pela rede, você certamente já se viu diante de anúncios de algo que andou procurando, como se o seu navegador tivesse “adivinhado” o que você queria. Ou já recebeu uma sugestão de filme ou série que a Netflix achou que seria “a sua cara”…
(Bem, nem sempre funciona tão bem…)
… pois os nossos dados têm sido utilizados em sistemas de machine learning para fazer previsões e identificar tendências.
Muito se tem falado sobre as potencialidades do big data para a educação. Para quem não está familiarizado com o termo, trata-se dessas “coleções maciças de dados” (segundo os autores do artigo Tecnologias digitais na educação: a máquina, o humano e os espaços de resistência; clique para ler) que são geradas na medida em que navegamos por sistemas digitais e deixamos os nossos rastros nessas plataformas.
O que isso pode significar quando se trata de educação? A pergunta ainda é uma caixa preta, mas é preciso um esforço para abri-la.
Apesar do oceano de implicações positivas que vêm sendo apontadas para o uso de machine learning e de big data na educação, é preciso ir devagar com esse andor porque o santo é de barro. O que (vem sendo propagado que) o big data promete?
Quando se trata do uso de plataformas de aprendizagem baseadas em machine learning, basicamente o que se destaca é que, tendo mais informação sobre o desempenho e o ritmo individual de cada aluno, se poderá oferecer conteúdos mais apropriados à sua aprendizagem, no tempo e na sequência mais adequados para cada um. Com isso, se alcançaria “melhores” resultados, aproveitando ao máximo as potencialidades de cada aluno, resolvendo problemas e dificuldades que eles eventualmente tenham etc. Parece perfeito – e alinhado ao discurso da tecnologia como panaceia para tudo aquilo que se tem tentado solucionar na educação há tantos anos. Bem, esse, em si, já é um indício de que é preciso olhar para o tema com mais atenção.
Um exemplo, tirado deste livro aqui, intitulado Learning with Big Data – The Future of Education, é o rastreamento do comportamento de alunos em relação a vídeos de palestras numa plataforma online de atividades: é possível saber quando eles assistem aos vídeos, quando pausam, se aceleram para ver mais rápido, se os abandonam antes de terminar de assistir. Com base na identificação desses padrões, professores poderiam ajustar lições, decidir reforçar conceitos que aparentemente os alunos não entenderam bem ou mudar a maneira de explicar determinado assunto, por exemplo.
Mas, isso quer dizer que esteja ocorrendo um processo de aprendizagem melhor, realmente? Antes, aliás, isso significa que está ocorrendo, de fato, aprendizagem? O discurso costuma ser de que sim, mas… essa é uma conclusão que não se deve apressar.
Um artigo do New York Times – ‘The Machines Are Learning, and So Are the Students’ (“As Maquinas estão aprendendo, e também os alunos”), de Craig Smith, publicado em dezembro do ano passado – já no título traz um pressuposto enviesado para o uso de inteligência artificial na forma de machine learning: a ideia de que as máquinas aprendem. Mais audaciosamente, indica que os alunos estão aprendendo, também, graças a essas máquinas e sua suposta sagacidade. Smith diz:
Slowly, algorithms are making their way into classrooms, taking over repetitive
tasks like grading, optimizing coursework to fit individual student
needs and revolutionizing the preparation for College Board exams like
the SAT. A plethora of online courses and tutorials also have freed teachers
from lecturing and allowed them to spend class time working on problem
solving with students instead.
Aqui, já vemos uma outra face do discurso: para além de individualizar o ensino, o uso de sistemas baseados em algoritmos poderia poupar os professores de tarefas como avaliar seus alunos e até de dar aulas expositivas (hum… alguém perguntou aos professores se eles querem parar de dar suas aulas?), podendo usar o tempo para trabalhar com seu alunos em “resolução de problemas”. Perceba que o discurso é sempre de usar melhor o tempo, aprender melhor, mas, não se sabe o que esse “melhor” de fato significa. Com frequência, a ideia adjacente é a de que o professor pode ser substituído, ao menos em certas atividades (tão diferentes quanto dar aulas expositivas e corrigir avaliações…).
Em outro trecho, que reproduzo a seguir, o jornalista aponta pesquisas (sem especificar quais) que teriam mostrado a superioridade de tutores na forma de inteligência artificial em relação a tutores humanos. Isso se daria porque “o computador é mais paciente” que o professor, além de mais insightful – o que poderia significar ter ideias melhores ou ser mais criativo (?)
Studies show that these systems can raise student performance well
beyond the level of conventional classes and even beyond the level achieved by
students who receive instruction from human tutors. A.I. tutors
perform better, in part, because a computer is more patient and often more
insightful.
Será?
Num cenário em que predomina o discurso sobre os efeitos positivos da inteligência artificial na educação, esse artigo é apenas um exemplo. São muitos os que trazem algo nessa mesma linha.
Somente com estas breves referências que apontei até aqui, já abrimos uma infinidade de questões a serem postas em xeque tanto sobre o uso efetivo da IA na educação na forma de [machine learning + big data] quanto sobre o discurso. Predomina uma argumentação acrítica e pasteurizada, que costuma assinalar os ganhos sem pesar as possíveis consequências advindas do uso massivo de dados.
Não se procura saber, nem mesmo, o que são esses dados. Isto é, o que quer dizer, efetivamente, o tempo que um estudante levou para fazer uma lição? Quando esse tempo é fornecido a partir do rastreamento da atividade desse aluno, ele não parece dizer muita coisa. O que realmente aconteceu com o aluno durante o tempo em que ele estava logado? Não somos meros logins, somos pessoas, num determinado espaço, em determinado momento. Talvez não possamos ser representados somente por números.
De volta para o futuro
Mesmo que se pudesse prever todas as adversidades envolvidas em dada situação cujo objetivo é o ensino e a aprendizagem, aí já está um x da questão: a previsão. Especialistas com um olhar crítico à IA na educação vêm indicando que isso pode gerar um passado cristalizado e prender os alunos a um futuro rígido, imutável.
Uma vez que o machine learning trabalha a partir de tais previsões, já que se utiliza de dados gerados pelos estudantes para que, com esses dados, possa identificar tendências, há o risco de os estudantes se tornarem eternamente atados ao seu passado – carregando uma espécie de mochila pesada de históricos escolares detalhados a seu respeito que nunca são esquecidos e podem permanecer acessíveis por mais tempo do que seria desejável.
Seu futuro lhes faria vítimas das previsões justamente baseadas em dados estáticos, os quais podem não corresponder mais à sua realidade. Somos, afinal, seres em constante transformação e evolução. Envolvidas nisso há diversas implicações, especialmente, para a privacidade dos alunos – já que os dados podem ficar acessíveis para fins questionáveis, o que pode prejudicar sua vida profissional e pessoal.
Neutralidade tecnológica?
De onde vêm os dados gerados a partir da atividade dos alunos em uma plataforma baseada em machine learning? Dados não surgem por acaso, não são espontâneos e nem existem por si só. Eles surgem nas interações entre alunos e máquinas, e essas interações são limitadas pela maneira como o sistema é construído, pelo que se espera dele, pelo que é injetado em seus algoritmos. Isto é, dados emergem a partir de decisões tomadas no desenvolvimento dos algoritmos para os sistemas de IA utilizados nas plataformas.
Nesse desenvolvimento, priorizam-se determinados aspectos em detrimento de outros.
Fatalmente, também por sua vez, os resultados obtidos trarão consigo a priorização de certo aspectos e não de outros. Um problema relevante, por trás disso, é que frequentemente somos avaliados por fórmulas secretas que não compreendemos, como ressalta a matemática Cathy O’Neil. Se o que se avalia não fica claro, é certo que, como O’Neil explica: “Para construir um algoritmo, são necessárias duas coisas: dados – o que aconteceu no passado – e uma definição de sucesso, aquilo que estamos procurando e pelo que estamos geralmente esperando”.
A definição de sucesso adotada estará instilada nos algoritmos. A suposta neutralidade tecnológica não existe...
Vieses
Pode-se facilmente compreender como pode haver (e há, muitos) vieses em algoritmos quando se trata do preconceito racial em alguns sistemas de reconhecimento facial, por exemplo. Esses são casos contundentes e que têm adquirido notoriedade, tornando-se o centro de preocupações éticas concernentes ao campo.
A IBM afirmou que abandonaria pesquisa em reconhecimento facial por conta das implicações éticas e da falta de regulamentação – Leia
Na educação, mencionei questões sobre a privacidade dos dados dos estudantes e ao fato de os sistemas não serem claros quanto às variáveis relacionadas ao que é avaliado. Mas, ainda não falei dos professores. Há também iniciativas que procuram avaliá-los a partir de big data, com consequências que merecem (muita!) atenção.
Em sua palestra no TED, O’Neil cita a diretora de um colégio no Brooklyn que, em 2011, disse a ela que sua escola estava avaliando os professores a partir de um algoritmo complexo – e secreto. A diretora relata que tentou conseguir a fórmula para entender os critérios envolvidos naquela avaliação, mas o que ouviu da secretaria de educação foi que não adiantava lhe explicar porque ela não entenderia, já que se tratava de matemática.
Conclusão (conheça a história no TED): professores daquela escola foram demitidos por causa da tal fórmula secreta, uma caixa preta que a diretora tentou abrir, sem sucesso.
Como O’Neil destaca, o poder de destruição de um algoritmo projetado de maneira equivocada é imenso, e essa destruição pode se arrastar por bastante tempo. Mas, quando o assunto é uma modelagem envolvendo algoritmos, o pior de tudo é a falta de transparência. Por isso ela cunhou o termo “armas de destruição matemática”.
Não somos somente pontinhos em um grande mapa de dados… (Imagem: Maria Bobrova @ Unsplash)
O big data na educação é uma caixa preta devido à dificuldade, em geral, de entendimento do que a inteligência artificial, na forma do machine learning, significa ou pode significar para processos educacionais. E se torna ainda mais obscura quando, sem que se conheça os critérios utilizados, alunos e educadores sejam submetidos a avaliações e análises frequentemente injustas; e o pior, sem poder contestá-las.
O’Neil dá vários exemplos de como o uso indevido de dados tem prejudicado pessoas em variadas situações. Para entender isso melhor, é preciso olhar para a noção de modelo; o que é um modelo e por que ele pode se tornar uma arma de destruição matemática? Explicarei isso em outro post.
Agradeço à Giselle Ferreira, professora da PUC-Rio que está ministrando uma disciplina sobre big data e educação este semestre, pelos ricos debates que tanto colaboraram com insights para que este(s) post(s) fossem escritos. Leia o blog dela, no qual é possível obter uma perspectiva crítica sobre as tecnologias educacionais: https://visoesperifericas.blog/
Documentário “The Social Dilemma“, da Netflix, está dando o que falar. Ficou pessimista depois de assistir? Leia este post.
The Social Dilemma (O Dilema das Redes, em português), que aborda a manipulação de nossos dados pelas redes sociais online, traz depoimentos de pessoas que desistiram de trabalhar nas gigantes de tecnologia – Google, Instagram, Facebook, Pinterest e afins. Os entrevistados perceberam, pode-se dizer, que os valores das empresas em que eles vinham trabalhando não estavam mais de acordo com aquilo que eles acreditam, e resolveram tomar outros rumos na vida.
Mas, então, onde é que essas pessoas estão hoje? O que elas estão fazendo de suas vidas? E os outros entrevistados que aparecem no doc, quem são e qual tem sido o seu papel no universo da tecnologia? Muitos deles estão fazendo coisas bem legais, algumas bastante inspiradoras, que podem ajudar a mudar significativamente a nossa relação com a tecnologia, tanto individual como coletivamente. Outros escreveram livros com temáticas excelentes.
Essas pessoas têm em comum a desconfiança quanto a esse status quo do universo tecnológico, e são movidas por suas experiências e pela vontade de levar mais gente a se preocupar com a maneira como fazemos e consumimos tecnologias.
Então, antes de ficar pessimista, ou de achar que não dá para fazer nada “porque o mundo agora é assim mesmo”, talvez valha conhecer algumas das iniciativas que têm surgido a partir dessa vontade de mudança. Escrevi sobre algumas delas, aqui – e pretendo escrever sobre as demais (pessoas do doc e iniciativas) num outro post. Vale pensar em se envolver em algum(ns) projetos capitaneados por essa galera ou, ao menos, ler alguns livros e/ou assistir a outros documentários. Quem sabe começar desativando suas notificações? Aproveita e ainda evita que a bateria do seu celular gaste à toa 😉 Se estamos preocupados, precisamos nos envolver, conhecer mais sobre o assunto e assumir uma postura diferente. Evitar o tema não é uma opção.
Tristan Harris
Ele passou anos no Google como Google Design Ethicist. No documentário, conta um pouco dessa sua experiência, que demonstra a falta de preocupação da empresa com questões éticas e de privacidade. Harris é fundador e presidente da ONG Center for Humane Technology A página que apresenta a iniciativa diz:
We envision a world where technology is realigned with humanity’s best interests. Our work expands beyond tech addiction to the broader societal threats that the attention economy poses to our well-being, relationships, democracy, and shared information environment. We must address these threats to conquer our biggest global challenges like pandemics, inequality, and climate change.
A ONG convida quem quiser ajudar a remodelar a maneira como construímos e consumimos tecnologias: https://www.humanetech.com/get-involved – e ressalta que não precisa ser empreendedor, programador ou o que quer que seja para se envolver; se você for da área de tecnologia é bem-vindo, mas basta ser “cidadão, educador ou pai/mãe”. Para saber o que exatamente dá para fazer junto a eles, é preciso fazer um cadastro inicial.
Shoshana Zuboff
Shoshana Zuboff é professora em Harvard e autora do livro “The Age of Surveillance Capitalism”, sobre o qual você pode ler neste link – https://shoshanazuboff.com/book/about/. Este documentário que postei aqui explica muito bem a ideia do capitalismo de vigilância de que ela fala.
Justin Rosenstein
Com mais de 170 mil seguidores no LinkedIn (o que não quer dizer nada por si só e nem sei por que citei aqui, mas ok), Justin, que estudou em Stanford (isso também não quer dizer lá muita coisa, por si só), foi da Google e do Facebook, e depois seguiu fazendo seus projetos pessoais: o Asana, um software independente que tem a função de melhorar a produtividade das pessoas, e o One Project, voltado para o design de governança e sistemas econômicos mais “equitativos, ecológicos e efetivos”, segundo ele informa no LinkedIn. O site dele é este: https://justinrosenstein.com/ e no vídeo ele fala sobre a Asana.
Roger McNamee
McNamee é um investidor no Vale do Silício. Ele injetou dinheiro no Facebook e ajudou Zuckerberg a crescer, mas, hoje, como o documentário da Netflix mostra, é um ferrenho crítico ao modo como a empresa orienta suas atividades. Ele afirma que o Facebook é uma ameaça à democracia, e acusa a rede de espalhar as chamadas fake news.
McNamee escreveu um livro chamado Zucked: Waking up to the Facebook Catastrophe. Vale dizer que, no vídeo que postei aqui, ele diz que a Apple, de maneira bem diferente do Facebook, é responsável com os usuários em relação a questões de privacidade – o que mostra que as opiniões de todas estas pessoas podem ser diferentes em relação às companhias de tecnologia envolvidas em todas essas temáticas. Serve para construirmos o nosso próprio pensamento crítico.
Tim Kendall
Kendall foi presidente do Pinterest e Diretor de Monetização do Facebook. Ele criou um app chamado Moment, desenvolvido para ajudar as pessoas a fazerem “detox” de seus smartphones. O aplicativo está disponível para ser baixado de graça na App Store e aqui há mais informações – https://inthemoment.io
Rashida Richardson
Ela trabalhou no Facebook e em vários outros lugares, e hoje é a diretora de Policy Research no AI NOW – um instituto de pesquisa em inteligência artificial que examina as implicações da IA para a sociedade ligado à New York University; o site é este aqui: https://ainowinstitute.org/ e a página do site que fala sobre a Richardson é esta: https://ainowinstitute.org/people/rashida-richardson.html .
O instituto dedica-se a pesquisas que contribuam para que sejam criados mecanismos, políticas, leis etc. para que haja responsabilidade/responsabilização pelo uso e a produção de tecnologias envolvendo inteligência artificial. Atualmente, as quatro principais frentes de pesquisa do núcleo são: direitos e liberdade; trabalho e automação; preconceito e inclusão; segurança e infraestrutura crítica.
Jaron Lanier
Lanier, que é cientista da computação e filósofo, trabalhou na Microsoft até 2009. Depois, ele escreveu vários livros além do citado “Ten arguments for deleting your social media accounts right now”; escreveu um chamado “Who own the future?” e ainda “You are not your gadget”, entre outros, apresentados em seu site: http://www.jaronlanier.com/ . Aliás, no site ele reforça que não tem (mesmo!) contas em redes sociais.
Cathy O’Neil
Cathy é uma matemática americana, autora do site/blog mathbabe: https://mathbabe.org/ e do livro “Weapons of Math Destruction”, sobre o impacto dos modelos matemáticos e dos algoritmos de IA em diversas áreas da sociedade (destaque especial para a educação e para o mercado financeiro). O mais legal desse livro é que ela usa uma linguagem super corriqueira, inteligível, para nos explicar os modelos matemáticos e suas implicações (como jornalista e doutoranda, já estava desacostumando de livros que explicam as coisas de uma maneira mais, digamos, objetiva…). A obra ainda não está disponível em português, porém. De todo modo, a palestra dela no TED dá uma boa introdução à perspectiva de O’Neil.
Uma última curiosidade: Jeff Orlowski, o cineasta norte-americano realizador do doc, já tinha feito dois outros documentários, “Chasing Ice” (de 2012) e “Chasing Coral” (de 2017), que são ligados a temáticas de responsabilização, por assim dizer, mostrando impactos que a humanidade exerce sobre a natureza.
