{"id":1662,"date":"2020-10-31T23:38:54","date_gmt":"2020-10-31T23:38:54","guid":{"rendered":"http:\/\/camilaleporace.com.br\/?p=1662"},"modified":"2021-02-18T02:59:05","modified_gmt":"2021-02-18T02:59:05","slug":"big-data-na-educacao-e-preciso-abrir-essa-caixa-preta","status":"publish","type":"post","link":"https:\/\/camilaleporace.com.br\/index.php\/2020\/10\/31\/big-data-na-educacao-e-preciso-abrir-essa-caixa-preta\/","title":{"rendered":"Big Data na Educa\u00e7\u00e3o: \u00e9 preciso abrir essa caixa preta"},"content":{"rendered":"\n

Navegando pela rede, voc\u00ea certamente j\u00e1 se viu diante de an\u00fancios de algo que andou procurando, como se o seu navegador tivesse “adivinhado” o que voc\u00ea queria. Ou j\u00e1 recebeu uma sugest\u00e3o de filme ou s\u00e9rie que a Netflix achou que seria “a sua cara”…<\/p>\n\n\n\n

\"\"
(Bem, nem sempre funciona t\u00e3o bem…)<\/figcaption><\/figure>\n\n\n\n

… pois os nossos dados t\u00eam sido utilizados em sistemas de machine learning para fazer previs\u00f5es e identificar tend\u00eancias. <\/p>\n\n\n\n

Muito se tem falado sobre as potencialidades do big data para a educa\u00e7\u00e3o. Para quem n\u00e3o est\u00e1 familiarizado com o termo, trata-se dessas “cole\u00e7\u00f5es maci\u00e7as de dados” (segundo os autores do artigo Tecnologias digitais na educa\u00e7\u00e3o: a m\u00e1quina, o humano e os espa\u00e7os de resist\u00eancia<\/a><\/em>; clique para ler<\/a>) que s\u00e3o geradas na medida em que navegamos por sistemas digitais e deixamos os nossos rastros nessas plataformas. <\/p>\n\n\n\n

O que isso pode significar quando se trata de educa\u00e7\u00e3o? A pergunta ainda \u00e9 uma caixa preta, mas \u00e9 preciso um esfor\u00e7o para abri-la.<\/p>\n\n\n\n

Apesar do oceano de implica\u00e7\u00f5es positivas que v\u00eam sendo apontadas para o uso de machine learning e de big data na educa\u00e7\u00e3o, \u00e9 preciso ir devagar com esse andor porque o santo \u00e9 de barro. O que (vem sendo propagado que) o big data promete? <\/p>\n\n\n\n

Quando se trata do uso de plataformas de aprendizagem baseadas em machine learning, basicamente o que se destaca \u00e9 que, tendo mais informa\u00e7\u00e3o sobre o desempenho e o ritmo individual de cada aluno, se poder\u00e1 oferecer conte\u00fados mais apropriados \u00e0 sua aprendizagem, no tempo e na sequ\u00eancia mais adequados para cada um. Com isso, se alcan\u00e7aria “melhores” resultados, aproveitando ao m\u00e1ximo as potencialidades de cada aluno, resolvendo problemas e dificuldades que eles eventualmente tenham etc. Parece perfeito \u2013 e alinhado ao discurso da tecnologia como panaceia para tudo aquilo que se tem tentado solucionar na educa\u00e7\u00e3o h\u00e1 tantos anos. Bem, esse, em si, j\u00e1 \u00e9 um ind\u00edcio de que \u00e9 preciso olhar para o tema com mais aten\u00e7\u00e3o.<\/p>\n\n\n\n

Um exemplo, tirado deste livro aqui, intitulado Learning with Big Data – The Future of Education<\/a>, \u00e9 o rastreamento do comportamento de alunos em rela\u00e7\u00e3o a v\u00eddeos de palestras numa plataforma online de atividades: \u00e9 poss\u00edvel saber quando eles assistem aos v\u00eddeos, quando pausam, se aceleram para ver mais r\u00e1pido, se os abandonam antes de terminar de assistir. Com base na identifica\u00e7\u00e3o desses padr\u00f5es, professores poderiam ajustar li\u00e7\u00f5es, decidir refor\u00e7ar conceitos que aparentemente os alunos n\u00e3o entenderam bem ou mudar a maneira de explicar determinado assunto, por exemplo. <\/p>\n\n\n\n

Mas, isso quer dizer que esteja ocorrendo um processo de aprendizagem melhor, realmente? Antes, ali\u00e1s, isso significa que est\u00e1 ocorrendo, de fato, aprendizagem? O discurso costuma ser de que sim, mas… essa \u00e9 uma conclus\u00e3o que n\u00e3o se deve apressar.<\/p>\n\n\n\n

Um artigo do New York Times – \u2018The Machines Are Learning, and So Are the Students<\/a>\u2019<\/strong> (“As Maquinas est\u00e3o aprendendo, e tamb\u00e9m os alunos”), de Craig Smith, publicado em dezembro do ano passado \u2013 j\u00e1 no t\u00edtulo traz um pressuposto enviesado para o uso de intelig\u00eancia artificial na forma de machine learning: a ideia de que as m\u00e1quinas aprendem<\/em>. Mais audaciosamente, indica que os alunos est\u00e3o aprendendo, tamb\u00e9m, gra\u00e7as a essas m\u00e1quinas e sua suposta sagacidade. Smith diz:<\/p>\n\n\n\n

Slowly, algorithms are making their way into classrooms, taking over repetitive\ntasks<\/strong> like grading, optimizing<\/strong> coursework to fit individual student\nneeds and revolutionizing<\/strong> the preparation for College Board exams like\nthe SAT. A plethora of online courses and tutorials also have freed teachers\nfrom lecturing<\/strong> and allowed them to spend class time working on problem\nsolving with students instead<\/strong>.<\/em><\/p>\n\n\n\n

Aqui, j\u00e1 vemos uma outra face do discurso: para al\u00e9m de individualizar <\/em>o ensino, o uso de sistemas baseados em algoritmos poderia poupar os professores <\/em>de tarefas como avaliar seus alunos e at\u00e9 de dar aulas expositivas (hum… algu\u00e9m perguntou aos professores se eles querem parar de dar suas aulas?), podendo usar o tempo para trabalhar com seu alunos em “resolu\u00e7\u00e3o de problemas”. Perceba que o discurso \u00e9 sempre de usar melhor o tempo, aprender melhor, mas, n\u00e3o se sabe o que esse “melhor” de fato significa. Com frequ\u00eancia, a ideia adjacente \u00e9 a de que o professor pode ser substitu\u00eddo, ao menos em certas atividades (t\u00e3o diferentes quanto dar aulas expositivas e corrigir avalia\u00e7\u00f5es…).<\/p>\n\n\n\n

Em outro trecho, que reproduzo a seguir, o jornalista aponta pesquisas (sem especificar quais) que teriam mostrado a superioridade de tutores na forma de intelig\u00eancia artificial em rela\u00e7\u00e3o a tutores humanos. Isso se daria porque “o computador \u00e9 mais paciente” que o professor, al\u00e9m de mais insightful<\/em> \u2013 o que poderia significar ter ideias melhores ou ser mais criativo (?)<\/p>\n\n\n\n

Studies show that these systems can raise student performance well\nbeyond the level of conventional classes and even beyond the level achieved by\nstudents who receive instruction from human tutors<\/strong>. A.I. tutors\nperform better<\/strong>, in part, because a computer is more patient and often more\ninsightful.<\/em><\/p>\n\n\n\n

\"\"
Ser\u00e1?<\/figcaption><\/figure>\n\n\n\n

Num cen\u00e1rio em que predomina o discurso sobre os efeitos positivos da intelig\u00eancia artificial na educa\u00e7\u00e3o, esse artigo \u00e9 apenas um exemplo. S\u00e3o muitos os que trazem algo nessa mesma linha.<\/p>\n\n\n\n

Somente com estas breves refer\u00eancias que apontei at\u00e9 aqui, j\u00e1 abrimos uma infinidade de quest\u00f5es a serem postas em xeque tanto sobre o uso efetivo da IA na educa\u00e7\u00e3o na forma de [machine learning + big data] quanto sobre o discurso. Predomina uma argumenta\u00e7\u00e3o acr\u00edtica e pasteurizada, que costuma assinalar os ganhos sem pesar as poss\u00edveis consequ\u00eancias advindas do uso massivo de dados.<\/p>\n\n\n\n

N\u00e3o se procura saber, nem mesmo, o que s\u00e3o esses dados. Isto \u00e9, o que quer dizer, efetivamente, o tempo que um estudante levou para fazer uma li\u00e7\u00e3o? Quando esse tempo \u00e9 fornecido a partir do rastreamento da atividade desse aluno, ele n\u00e3o parece dizer muita coisa. O que realmente aconteceu c<\/em>om o aluno durante o tempo em que ele estava logado? N\u00e3o somos meros logins<\/em>, somos pessoas, num determinado espa\u00e7o, em determinado momento. Talvez n\u00e3o possamos ser representados somente por n\u00fameros.<\/p>\n\n\n\n

De volta para o futuro<\/h2>\n\n\n\n

Mesmo que se pudesse prever todas<\/em> as adversidades envolvidas em dada situa\u00e7\u00e3o cujo objetivo \u00e9 o ensino e a aprendizagem, a\u00ed j\u00e1 est\u00e1 um x da quest\u00e3o: a previs\u00e3o<\/em>. Especialistas com um olhar cr\u00edtico \u00e0 IA na educa\u00e7\u00e3o v\u00eam indicando que isso pode gerar um passado cristalizado e prender os alunos a um futuro r\u00edgido, imut\u00e1vel. <\/p>\n\n\n\n

\"This<\/figure>\n\n\n\n

Uma vez que o machine learning trabalha a partir de tais previs\u00f5es, j\u00e1 que se utiliza de dados gerados pelos estudantes para que, com esses dados, possa identificar tend\u00eancias, h\u00e1 o risco de os estudantes se tornarem eternamente atados ao seu passado \u2013 carregando uma esp\u00e9cie de mochila pesada de hist\u00f3ricos escolares detalhados a seu respeito que nunca s\u00e3o esquecidos e podem permanecer acess\u00edveis por mais tempo do que seria desej\u00e1vel. <\/p>\n\n\n\n

Seu futuro lhes faria v\u00edtimas das previs\u00f5es justamente baseadas em dados est\u00e1ticos, os quais podem n\u00e3o corresponder mais \u00e0 sua realidade. Somos, afinal, seres em constante transforma\u00e7\u00e3o e evolu\u00e7\u00e3o. Envolvidas nisso h\u00e1 diversas implica\u00e7\u00f5es, especialmente, para a privacidade dos alunos \u2013 j\u00e1 que os dados podem ficar acess\u00edveis para fins question\u00e1veis, o que pode prejudicar sua vida profissional e pessoal.<\/p>\n\n\n\n

Neutralidade tecnol\u00f3gica?<\/h2>\n\n\n\n

De onde v\u00eam os dados gerados a partir da atividade dos alunos em uma plataforma baseada em machine learning? Dados n\u00e3o surgem por acaso, n\u00e3o s\u00e3o espont\u00e2neos e nem existem por si s\u00f3. Eles surgem nas intera\u00e7\u00f5es entre alunos e m\u00e1quinas, e essas intera\u00e7\u00f5es s\u00e3o limitadas pela maneira como o sistema \u00e9 constru\u00eddo, pelo que se espera dele, pelo que \u00e9 injetado em seus algoritmos. Isto \u00e9, dados emergem a partir de decis\u00f5es tomadas no desenvolvimento dos algoritmos para os sistemas de IA utilizados nas plataformas. <\/p>\n\n\n\n

Nesse desenvolvimento, priorizam-se determinados aspectos em detrimento de outros<\/em>. <\/p>\n\n\n\n

Fatalmente, tamb\u00e9m por sua vez, os resultados obtidos trar\u00e3o consigo a prioriza\u00e7\u00e3o de certo aspectos e n\u00e3o de outros. Um problema relevante, por tr\u00e1s disso, \u00e9 que frequentemente somos avaliados por f\u00f3rmulas secretas que n\u00e3o compreendemos, como ressalta a matem\u00e1tica Cathy O’Neil. Se o que se avalia n\u00e3o fica claro, \u00e9 certo que, como O’Neil explica: “Para construir um algoritmo, s\u00e3o necess\u00e1rias duas coisas: dados \u2013 o que aconteceu no passado \u2013 e uma defini\u00e7\u00e3o de sucesso, aquilo que estamos procurando e pelo que estamos geralmente esperando”. <\/p>\n\n\n\n

A defini\u00e7\u00e3o de sucesso adotada estar\u00e1 instilada nos algoritmos. A suposta neutralidade tecnol\u00f3gica<\/strong> n\u00e3o existe.<\/em>..<\/p>\n\n\n\n

Vieses<\/h2>\n\n\n\n

Pode-se facilmente compreender como pode haver (e h\u00e1, muitos) vieses em algoritmos quando se trata do preconceito racial em alguns sistemas de reconhecimento facial, por exemplo. Esses s\u00e3o casos contundentes e que t\u00eam adquirido notoriedade, tornando-se o centro de preocupa\u00e7\u00f5es \u00e9ticas concernentes ao campo. <\/p>\n\n\n\n

\"\"
A IBM afirmou que abandonaria pesquisa em reconhecimento facial por conta das implica\u00e7\u00f5es \u00e9ticas e da falta de regulamenta\u00e7\u00e3o – Leia<\/a>
<\/figcaption><\/figure>\n\n\n\n

Na educa\u00e7\u00e3o, mencionei quest\u00f5es sobre a privacidade dos dados dos estudantes e ao fato de os sistemas n\u00e3o serem claros quanto \u00e0s vari\u00e1veis relacionadas ao que \u00e9 avaliado. Mas, ainda n\u00e3o falei dos professores. H\u00e1 tamb\u00e9m iniciativas que procuram avali\u00e1-los a partir de big data, com consequ\u00eancias que merecem (muita!) aten\u00e7\u00e3o.<\/p>\n\n\n\n

Em sua palestra no TED, O’Neil cita a diretora de um col\u00e9gio no Brooklyn que, em 2011, disse a ela que sua escola estava avaliando os professores a partir de um algoritmo complexo \u2013 e secreto. A diretora relata que tentou conseguir a f\u00f3rmula para entender os crit\u00e9rios envolvidos naquela avalia\u00e7\u00e3o, mas o que ouviu da secretaria de educa\u00e7\u00e3o foi que n\u00e3o adiantava lhe explicar porque ela n\u00e3o entenderia, j\u00e1 que se tratava de matem\u00e1tica. <\/p>\n\n\n\n

Conclus\u00e3o (conhe\u00e7a a hist\u00f3ria no TED<\/a>): professores daquela escola foram demitidos<\/em> por causa da tal f\u00f3rmula secreta, uma caixa preta<\/strong><\/em> que a diretora tentou abrir, sem sucesso. <\/p>\n\n\n\n

Como O’Neil destaca, o poder de destrui\u00e7\u00e3o<\/em> de um algoritmo projetado de maneira equivocada \u00e9 imenso, e essa destrui\u00e7\u00e3o pode se arrastar por bastante tempo. Mas, quando o assunto \u00e9 uma modelagem envolvendo algoritmos, o pior de tudo \u00e9 a falta de transpar\u00eancia. Por isso ela cunhou o termo “armas de destrui\u00e7\u00e3o matem\u00e1tica”.<\/p>\n\n\n\n

\"\"
N\u00e3o somos somente pontinhos em um grande mapa de dados…
(Imagem: Maria Bobrova<\/a> @ Unsplash<\/a>)<\/figcaption><\/figure>\n\n\n\n

O big data na educa\u00e7\u00e3o \u00e9 uma caixa preta devido \u00e0 dificuldade, em geral, de entendimento do que a intelig\u00eancia artificial, na forma do machine learning, significa ou pode significar para processos educacionais. E se torna ainda mais obscura quando, sem que se conhe\u00e7a os crit\u00e9rios utilizados, alunos e educadores sejam submetidos a avalia\u00e7\u00f5es e an\u00e1lises frequentemente injustas; e o pior, sem poder contest\u00e1-las. <\/p>\n\n\n\n

O’Neil d\u00e1 v\u00e1rios exemplos de como o uso indevido de dados tem prejudicado pessoas em variadas situa\u00e7\u00f5es. Para entender isso melhor, \u00e9 preciso olhar para a no\u00e7\u00e3o de modelo<\/strong><\/em>; o que \u00e9 um modelo e por que ele pode se tornar uma arma de destrui\u00e7\u00e3o matem\u00e1tica? Explicarei isso em outro post.<\/p>\n\n\n\n

Agrade\u00e7o \u00e0 Giselle Ferreira, professora da PUC-Rio que est\u00e1 ministrando uma disciplina sobre big data e educa\u00e7\u00e3o este semestre, pelos ricos debates que tanto colaboraram com insights para que este(s) post(s) fossem escritos. Leia o blog dela, no qual \u00e9 poss\u00edvel obter uma perspectiva cr\u00edtica sobre as tecnologias educacionais:<\/em> https:\/\/visoesperifericas.blog\/<\/em><\/a><\/p>\n\n\n\n

Imagem principal do post: Franki Chamaki<\/a> @ Unsplash<\/a><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Navegando pela rede, voc\u00ea certamente j\u00e1 se viu diante de an\u00fancios de algo que andou procurando, como se o seu navegador tivesse “adivinhado” o que voc\u00ea queria. Ou j\u00e1 recebeu Read More …<\/a><\/p>\n","protected":false},"author":1,"featured_media":1663,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,8,9,48,16,22,25,26],"tags":[],"class_list":["post-1662","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificial-intelligence","category-educacao","category-education","category-filosofia-da-educacao","category-inteligencia-artificial","category-programacao","category-technology","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1662"}],"collection":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=1662"}],"version-history":[{"count":40,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1662\/revisions"}],"predecessor-version":[{"id":1728,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/1662\/revisions\/1728"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/media\/1663"}],"wp:attachment":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=1662"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=1662"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=1662"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}