{"id":2339,"date":"2022-12-21T00:59:36","date_gmt":"2022-12-21T00:59:36","guid":{"rendered":"http:\/\/camilaleporace.com.br\/?p=2339"},"modified":"2023-02-15T18:46:39","modified_gmt":"2023-02-15T18:46:39","slug":"as-ameacas-a-nossa-autonomia-quando-lidamos-com-sistemas-de-machine-learning","status":"publish","type":"post","link":"https:\/\/camilaleporace.com.br\/index.php\/2022\/12\/21\/as-ameacas-a-nossa-autonomia-quando-lidamos-com-sistemas-de-machine-learning\/","title":{"rendered":"As amea\u00e7as \u00e0 nossa autonomia quando lidamos com sistemas de machine learning"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

Neste post, fa\u00e7o uma esp\u00e9cie de leitura comentada do ensaio acad\u00eamico que publiquei na Revista Perspectiva Filos\u00f3fica<\/strong> e est\u00e1 neste link<\/a> para quem quiser acessar. \u00c9 um trabalho sobre os impactos \u00e0 nossa autonomia quando lidamos com sistemas de aprendizagem de m\u00e1quina \u2013 uma vertente da intelig\u00eancia artificial.<\/p>\n\n\n\n

As tecnologias digitais, de t\u00e3o entranhadas que est\u00e3o em nosso cotidiano, v\u00eam sendo apontadas como extens\u00f5es da mente, sendo consideradas capazes de potencializar a cogni\u00e7\u00e3o humana. A chegada das tecnologias baseadas em algoritmos, por outro lado, traz uma s\u00e9rie de elementos novos para essa equa\u00e7\u00e3o. Elas s\u00e3o impulsionadas pelos pr\u00f3prios dados dos usu\u00e1rios dessas tecnologias, j\u00e1 que, no caso da aprendizagem de m\u00e1quina por exemplo, operam fazendo previs\u00f5es a partir de dados obtidos e assim sucessivamente.<\/p>\n\n\n\n

Neste trabalho, eu argumento que, justamente porque essas tecnologias se baseiam em dados do usu\u00e1rio para gerar novos conte\u00fados, elas acabam criando uma circularidade em torno dele que, em vez de expandir, pode limitar sua experi\u00eancia de aprendizagem. No centro desse impacto est\u00e1 a autonomia, que, em vez de ser ampliada, acaba sendo amea\u00e7ada de redu\u00e7\u00e3o.<\/p>\n\n\n\n

\u00c9 importante explicar que o conceito de autonomia que utilizo \u00e9 o conceito que deriva da chamada teoria da cogni\u00e7\u00e3o enativa. Existem v\u00e1rias formas de conceituar autonomia, portanto no caso de um trabalho acad\u00eamico de pesquisa \u00e9 fundamental esclarecer isso. Trata-se de um conceito de autonomia que deriva da ideia de que a c\u00e9lula, unidade primordial da vida, somente \u00e9 capaz de ser e se manter aut\u00f4noma porque est\u00e1 inserida em um contexto que permite isso \u2013 um ambiente com o qual mant\u00e9m trocas constantes que a alimentam energ\u00e9tica e materialmente. Ou seja, a c\u00e9lula \u00e9 aut\u00f4noma, n\u00e3o capaz de se manter sozinha. Pelo contr\u00e1rio, sua autonomia se origina justamente das suas intera\u00e7\u00f5es com o meio, o que torna essas intera\u00e7\u00f5es essenciais para a manuten\u00e7\u00e3o da autonomia celular.<\/p>\n\n\n\n

Eu “estiquei|”esse conceito at\u00e9 o ambiente algor\u00edtmico que se constitui em torno de n\u00f3s, humanos. Fiz esta pergunta: o que acontece com a nossa autonomia quando o meio \u00e9 aquela que chamei de algoritmosfera<\/a>, essa rede entrela\u00e7ada por algoritmos e dados que n\u00f3s alimentamos e que, ao mesmo tempo, tamb\u00e9m nos alimenta? N\u00f3s conseguimos nos manter aut\u00f4nomos diante desse contexto, embebidos nessa rede de intera\u00e7\u00f5es que t\u00eam essa natureza?<\/p>\n\n\n\n

O meu objetivo geral, com isso, \u00e9 compreender os limites e as potencialidades das nossas rela\u00e7\u00f5es com sistemas de aprendizagem de m\u00e1quina para entender se eles podem nos ajudar nas nossas experi\u00eancias de aprendizagem sobre o mundo ou se esses sistemas acabam por retrair essas experi\u00eancias. Ao me debru\u00e7ar sobre esse trabalho, explorei as diferen\u00e7as por vezes aparentemente sutis, mas sempre muito potentes, entre lidar com outro ser humano ou com um sistema de aprendizagem de m\u00e1quina. Quando lidamos com outra pessoa, aprendemos com ela, percebemos o mundo com ela, e isso altera as nossas percep\u00e7\u00f5es. Existe algo que surge das intera\u00e7\u00f5es entre seres humanos que \u00e9 \u00fanico e t\u00edpico dessas rela\u00e7\u00f5es, e n\u00e3o poderia surgir fora delas. \u00c9 algo novo, imprevis\u00edvel. \u00c9 o produto da intera\u00e7\u00e3o.<\/p>\n\n\n\n

Quando lidamos com m\u00e1quinas, por mais que elas nos fa\u00e7am sentir como se estiv\u00e9ssemos lidando com outra pessoa \u00e0s vezes, de t\u00e3o avan\u00e7ados que est\u00e3o esses sistemas, n\u00f3s n\u00e3o estamos. O que acontece \u00e9 que nesses casos n\u00f3s acabamos “levando” toda a “rela\u00e7\u00e3o” sozinhos; n\u00e3o h\u00e1 uma real intera\u00e7\u00e3o social, como h\u00e1 entre dois seres humanos. As rela\u00e7\u00f5es de troca humanas s\u00e3o como uma dan\u00e7a, em que o par se movimenta junto, enquanto as intera\u00e7\u00f5es com sistemas artificiais se parecem com um mon\u00f3logo ou uma dan\u00e7a desequilibrada em que apenas um se movimenta e o outro faz um papel parecido com o de um fantoche.<\/p>\n\n\n\n

Com isso, n\u00e3o se pode dizer que n\u00e3o aprendemos nada ao lidar com sistemas de aprendizagem de m\u00e1quina, mas sim que n\u00e3o \u00e9 uma experi\u00eancia compar\u00e1vel \u00e0 que temos quando lidamos com outro ser humano. Isso, para quem procura compreender a aprendizagem e como ela \u00e9 impactada pelas tecnologias, \u00e9 essencial. O enativismo, ou cogni\u00e7\u00e3o enativa, n\u00e3o diz que aprendemos mais ou melhor com outros seres humanos, mas que somente aprendemos de fato com outros seres humanos<\/em>. Somos moldados, impactados, alterados, percebemos o mundo e raciocinamos sobre ele justamente a partir das intera\u00e7\u00f5es com outras pessoas; precisamos delas para ter experi\u00eancias de aprendizagem. M\u00e1quinas ou sistemas artificiais n\u00e3o aprendem de fato e n\u00e3o conseguem, sozinho\/as, proporcionar experi\u00eancias de aprendizagem.<\/p>\n\n\n\n

A nossa autonomia \u00e9 amea\u00e7ada, sob o ponto de vista de autonomia no enativismo, porque as trocas que mantemos com o meio “algor\u00edtmico” constituem um desequil\u00edbrio para as nossas intera\u00e7\u00f5es. \u00c9 como se a contribui\u00e7\u00e3o de um e de outro lado fosse t\u00e3o irregular que tornasse a rela\u00e7\u00e3o “capenga”. Eu entro com meus dados, minhas percep\u00e7\u00f5es, minha imagina\u00e7\u00e3o; a m\u00e1quina n\u00e3o percebe e n\u00e3o cria nada, e assim, tudo que parece novo ao surgir dali \u00e9 mais limitado do que seria se eu estivesse lidando com outra pessoa. Porque outra pessoa \u00e9 capaz de ciar, imaginar, porque tem experi\u00eancia e aprende, e ent\u00e3o dessa intera\u00e7\u00e3o social se origina algo que s\u00f3 pode existir porque se trata, justamente, desse tipo de intera\u00e7\u00e3o. \u00c9 algo ent\u00e3o que, por defini\u00e7\u00e3o (enativista), potencializa a minha capacidade de experimentar o mundo de um modo especial porque \u00e9 imposs\u00edvel de ser previsto na totalidade. N\u00e3o h\u00e1 estat\u00edstica que possa prever que conversa exatamente teremos com um amigo ao encontr\u00e1-lo, por exemplo; ou como o ser amado vai reagir a uma contesta\u00e7\u00e3o que manifestarmos; ou se acabaremos falando de cinema quando nos encontrarmos com algu\u00e9m para falar de matem\u00e1tica.<\/p>\n\n\n\n

Essa \u00e9 uma ideia interessante para defender por que n\u00e3o \u00e9 vi\u00e1vel pensar que uma aula 100% a dist\u00e2ncia, ass\u00edncrona, ou seja, sem o professor em contato com alunos em tempo real, poderia resultar no mesmo n\u00edvel de experi\u00eancia de uma aula presencial \u2013 ou, pelo menos, em que o professor e os alunos estejam no mesmo momento, se olhando, ainda que mediados por suas c\u00e2meras. H\u00e1 algo nessa conex\u00e3o entre as pessoas, alimentada pelas trocas daquele momento, que \u00e9 \u00fanico, e faz parte da s\u00e9rie de novidades que emergem da intera\u00e7\u00e3o. H\u00e1 experimentos com beb\u00eas mostrando que eles choram quando diante de um v\u00eddeo gravado da m\u00e3e, depois de demonstrarem calma quando veem um v\u00eddeo da m\u00e3e que \u00e9 uma transmiss\u00e3o em tempo real. O problema n\u00e3o \u00e9 ser uma imagem, mas a m\u00e3e n\u00e3o estar olhando para ele, interagindo com ele na medida da pr\u00f3pria intera\u00e7\u00e3o. N\u00e3o \u00e9 fascinante?<\/p>\n\n\n\n

Num mundo em que as rela\u00e7\u00f5es s\u00e3o postas em xeque, por in\u00fameros motivos, e em que contamos tanto com sistemas artificiais para fazer um sem-n\u00famero de atividades, \u00e9 fundamental n\u00e3o esquecer que h\u00e1 algo intr\u00ednseco \u00e0s trocas humanas. Algo que gera algo que s\u00f3 existe a partir dessas rela\u00e7\u00f5es. Se s\u00f3 “falarmos” com m\u00e1quinas, estaremos como que batendo num muro, um bate e volta; sentiremos algo, poderemos at\u00e9 aprender algo ou muitas coisas, mas n\u00e3o continuaremos a expandir os nossos horizontes, o alcance das nossas experi\u00eancias, como far\u00edamos se estiv\u00e9ssemos em intera\u00e7\u00f5es sociais. S\u00f3 elas ampliam os c\u00edrculos de experi\u00eancias mais e mais. Por isso chamei o ensaio de “Another brick in the wall” e digo que precisamos fazer um esfor\u00e7o para olhar entre os tijolos do muro. S\u00e3o as frestas que nos mant\u00eam abertos a uma s\u00e9rie de experi\u00eancias inesperadas, essenciais justamente porque s\u00e3o inesperadas; n\u00f3s n\u00e3o vivemos sem surpresas, sem o incerto, mesmo quando queremos o “certo”. Aprendemos na inconst\u00e2ncia e na flexibilidade, n\u00e3o na dureza dos muros. <\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Neste post, fa\u00e7o uma esp\u00e9cie de leitura comentada do ensaio acad\u00eamico que publiquei na Revista Perspectiva Filos\u00f3fica e est\u00e1 neste link para quem quiser acessar. \u00c9 um trabalho sobre os Read More …<\/a><\/p>\n","protected":false},"author":1,"featured_media":2328,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,59,57,52,51,12,13,14,48,25,26],"tags":[],"class_list":["post-2339","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificial-intelligence","category-cognicao","category-cyborgs","category-enactivism","category-enativismo","category-escola","category-extended-mind","category-filosofia","category-filosofia-da-educacao","category-technology","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2339"}],"collection":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=2339"}],"version-history":[{"count":7,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2339\/revisions"}],"predecessor-version":[{"id":2413,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2339\/revisions\/2413"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/media\/2328"}],"wp:attachment":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=2339"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=2339"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=2339"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}