Participei da live da PUC-Rio sobre inteligência artificial

Participei de uma das entrevistas ao vivo da série que a TV PUC-Rio criou no intuito de desenvolver temas que se relacionem de alguma maneira com a COVID. Esta teve a ver com inteligência artificial e internet das coisas. Ao lado de dois professores da PUC-Rio, comentei sobre a minha pesquisa em educação e IA sob o viés da filosofia e da educação. O debate pode ser assistido no link a seguir.

Pontos de Interrogação em IA, machine learning e cognição humana – Parte 2

No primeiro post sobre as investigações que marcam os campos da IA, machine learning e cognição, comentei sobre o vídeo do Pedro Domingos sobre machine learning. Aqui, discuto um pouco do que ele falou, contrapondo com questões dos 4Es da cognição que venho pesquisando e também comentando aqui no blog:

“We’re actually now for the first time in history at the point where you could say you can have a supercomputer that is about as powerful as the human brain

Vamos olhar para este trecho: Domingos diz que atingimos, pela primeira vez, um ponto na história em que se pode dizer que poderemos ter um super computador quase tão poderoso quanto o cérebro humano.

Mas o que isso significa? O que significa ser tão poderoso quanto o cérebro humano? Se o cérebro humano é poderoso por fazer parte de um sistema dinâmico do qual participam nosso corpo com suas especificidades, o ambiente em que estamos inseridos, as tecnologias com as quais nos relacionamos e a sociedade de que fazemos parte, essa colocação dá muito o que pensar. Afinal, não é o cérebro sozinho que é “poderoso”, mas o sistema humano em interação com a natureza…

Vejamos agora este trecho:

“So the thing that is really holding us back is that we don’t understand well enough how, for example, learning works.

Neste trecho, Domingos diz que o que está impedindo a IA de ir mais longe é a falta de entendimento acerca de como o processo de aprendizagem acontece. Esse é o ponto (ou um dos) que leva a haver tanta pesquisa em cognição humana: ainda não se sabe como aprendemos e há muito o que se investigar sobre isso. Então, pode-se dizer que há algo em comum entre as investigações em machine learning e em educação: entender como o ser humano aprende. Se depender disso para que a aprendizagem de máquina avance, parece que isso ainda demora… 😉

If we were able to devise a learning algorithm that is truly as good as the one in the human brain, this would be one of the greatest revolutions in history. And it could happen any day at this point. At this point this is a problem that if we could solve it we solve all other problems. If I come up with a better machine learning algorithm, that algorithm will be applied in business, in finance, in biology, in medicine across the board”.

No trecho acima, o destaque vai para o desenvolvimento de um algoritmo que seria capaz de se sair tão bem na atividade de aprender quanto o cérebro humano. Mas será que a aprendizagem é mesmo algo que se deve a um algoritmo no cérebro humano? Como já reforcei acima, não parece ser o cérebro humano que aprende, sozinho. Se o nosso processo de estar no mundo, com um corpo, vivendo, experimentando, nos leva a aprender, como propõem as teses ligadas aos 4Es, como é que um algoritmo no cérebro daria conta disso tudo? Será que é mesmo assim que a cognição funciona?

Toda essa conversa levanta também questões como o que seria a inteligência humana, o que é aprendizado e o que a engenharia de software quer dizer quando afirma que um sistema aprende a partir de algoritmos – assuntos que pretendo explorar.

Are robots the teachers of the future?

Are robots the teachers of the future? Are we going to lose (all) our jobs to artificial intelligence machines? Is the Digital Singularity human’s inescapable future?
 
These questions are on the cutting edge when it comes to the relationship between human cognition and digital technologies. Hence, they also affect the way we glimpse the future of education. These subjects are closely related to questions about the human cognitive system: how do we perceive the world? How do we learn? What makes us cognizers, in the deepest sense of the term? How do we experience the world we inhabit?
 
Our close relationship with technologies transmutes us into cyborgs, according to the philosopher Andy Clark, author of Natural born Cyborgs (2003) and one of the developers of the Extended Mind Thesis. Clark’s thesis advocates that humans extend their cognitive systems through technologies, not only digital but of all kinds. And this ability to integrate these artifacts into our cognitive circuitry, linked to our capacity to transform the environment and be altered by it, would be some of the main elements to distinguish us from other animals. As natural beings, we are in a continuous circular movement with nature, its creatures, plants, all living beings. This connection between experience and nature is part of the philosophy of John Dewey and some ideas that resemble his are also present in the theses of philosophers like Maurice Merleau-Ponty and Hubert Dreyfus. They hold that we are much more than computer-like processing machines, defending that there is much more to human cognition than information processing. Or, as the philosopher Alva Noë and the psychologist James Gibson would say, perception and action cannot be segregated, because we act in order to perceive: without action, there would be no perception at all. This perspective is connected to the enactive cognition approach, one of the contemporary research lines linked to cognition and the human mind.
 
The extended and the enactive cognitive approaches show we are far from being replaceable by robots. Unless artificial intelligence machines become more than input-output information crunchers, they will not be able to simulate some of the most important features of human cognition, and it will be hard for them to substitute us in a range of activities in which our experience is irreplaceable. In what concerns teaching and learning, emotions are a fundamental part of the process – according to philosophers like Dreyfus and the neuroscientist António Damásio, author of Descartes’ Error and The Strange Order of Things. Robots don’t have feelings. Therefore, machines are not able to actually learn anything. So, we could ask: are “creatures” not able to learn skilled to teach? Unless they become sentient, conscious creatures, these systems will probably not be able to become teachers, and will remain, at best, auxiliaries to teaching. So, as these features remain far from reality concerning A.I., we can give a shot at the question in the first paragraph of this text: robots may be the teachers of a distant future, but they are certainly not able to replace our teachers in the present.
 
Some references for those who want to read more:

Um robô para apoiar crianças autistas

O autismo afeta a forma como uma pessoa se comunica, compreende e se relaciona com outras. Pessoas com autismo frequentemente têm dificuldade de usar e entender linguagem não verbal. Com isso em mente, surgiu o projeto DE-ENIGMA, que foca em desenvolver as capacidades de reconhecer e de expressar emoções em crianças com autismo.

(Mais em http://de-enigma.eu/)

O neurocientista António Damásio defende que sentimentos e emoções são diferentes; segundo o pesquisador, as emoções são externas, são aquilo que se lê nas outras pessoas, enquanto os sentimentos são internos. Não há, portanto, consciência sem sentimentos, nem sentimentos sem consciência. E um robô, então, poderia simular emoções, mas nunca teria sentimentos.

O professor é substituível pelas tecnologias digitais?

A pesquisa Nossa Escola em (Re)Construção, promovida pelo Porvir entre os anos de 2017 e 2018, coletou dados entre quase 20 mil jovens de 11 a 21 anos e constatou que “o melhor da escola é o professor“. Texto do Porvir sobre o assunto diz que:

“Na plataforma, os participantes foram convidados a dizer como é a sua escola atual ou a última em que estudaram e como eles gostariam que ela fosse. Ao avaliar 11 aspectos da instituição de ensino, em uma escala de 1 (Tá tenso) a 5 (Tá tranquilo, tá favorável), as maiores notas foram para o professores (3.9), seguidos pelas aulas e matérias (3.8). Entre os últimos itens, aparece o uso de tecnologia (2.7) e as atividades extraclasse (2.9)”.

Que o professor faz toda diferença na vida do aluno não é exatamente novidade. No Brasil, com toda a precariedade do ensino público, ameaçado ainda mais no governo atual, temos professores premiados (veja também este link) e sabemos que, em muita escola onde falta luz, água, merenda e tudo o que se pode imaginar, não raro sobra dedicação de boa parte dos docentes para que os alunos continuem aprendendo.

Mas a questão de a tecnologia aparecer como um dos últimos itens na pesquisa do Porvir, somada a outra notícia recente, é o que impulsiona esta minha reflexão aqui. Apesar de a cada dia ficar mais claro que a presença do professor é insubstituível e que não há tecnologia que dê conta de atuar no lugar dele (muito pelo contrário), existe uma certa tendência a enaltecer as possibilidades de que essa substituição aconteça.

O empreendedor Elon Musk recentemente premiou com U$ 10 milhões duas startups de tecnologias educacionais (as chamadas edtechs) capazes de “substituir” professores por meio do uso da tecnologia. Uma delas foi a onebillion e a outra foi a KitKitSchool. O site Business Insider diz que “launched in 2014, the competition was set up to empower children to take control of their learning. It challenged innovators around the world to create technology that would enable children to teach themselves basic reading, writing, and arithmetic within 15 months”. A competição como um todo me parece equivocada por promover “substituição” em vez de soma, mas este trecho me pareceu ser uma coleção de equívocos ainda maior. “Empoderar” crianças quanto ao “controle de seu aprendizado”? Leitura, escrita e aritmética básicas em 15 meses? Estimular gente inovadora a pensar em tecnologias que, de algum modo, promovem o descarte do professor?

A questão é: o que ganhamos com isso?

Afinal, é para isso mesmo que devemos trabalhar nossas tecnologias? Para substituir o professor, ou para fazer as pessoas pensarem que essa substituição é possível? E o que seria esse “professor”, tão facilmente substituível nessa concepção? Seria um mero transmissor de conteúdos “básicos”?

E mais: crianças “empoderadas” são crianças que têm “poder” e “controle” sua própria aprendizagem?

Não quero tirar o mérito de tecnologias que possam ajudar mais pessoas a aprender a ler e a escrever, de forma alguma. Também não sei ainda como em áreas remotas, pobres e com deficiências de tudo, crianças poderão ter acesso a aplicativos com tais recursos, a não ser aquelas selecionadas para a pesquisa empírica; porém, se tiverem, jamais serei contra; trata-se da importante questão da democratização da tecnologia digital. O ponto em que sempre insisto é o da substituição: é nela que devemos focar, quando falamos de tecnologias educacionais?

A responsabilidade da mídia

Talvez nós, jornalistas, sejamos grandes responsáveis por contribuir para a construção de conceitos equivocados nesse sentido. Afinal, a manchete “Elon Musk awards $10 million prize to 2 startups replacing teachers with tech” ficou a cargo do Business Insider; no site do XPrize, promovido pelo Musk, não se vende a coisa como substituição, ao menos nao num primeiro momento. O site diz “Empowering children to take control of their own learning”. Isso, sem a questão da substituição do professor, pode tomar ares bem diferentes.

Sem dúvida, há muitos fatores envolvidos nessa reflexão, e de indubitável há o fato de que sim, a educação e a tecnologia devem ser para todos. Mas parece estar havendo uma confusão bastante significativa quanto a esse ponto da substituição do professor pelas tecnologias, ainda mais com a popularização da inteligência artificial. Mesmo já tendo muito com o que nos preocupar no Brasil em termos de educação, precisamos ficar atentos a mais esse aspecto, que na realidade relaciona-se com a questão mais profunda e anterior da relação humana com as tecnologias digitais: para onde estamos caminhando? Quais os impactos dessa relação? O que esperamos dela? No que ela nos transforma?

Vale a reflexão.

Vamos ampliar a nossa percepção em vez de deixar que os algoritmos a reduzam cada vez mais?

Quem está ligado nas notícias sobre inteligência artificial já deve ter visto artigos falando sobre como os sistemas de IA reproduzem os nossos preconceitos e as nossas visões estereotipadas. Afinal, são programadores que criam algoritmos e programam esses sistemas. O algoritmos são como receitas que esses sistemas seguem, então… são receitas baseadas em comportamentos humanos.

Melhorar a diversidade na IA demanda nada mais, nada menos que a aumentar a diversidade fora da IA (se é que existe uma maneira de estaremos “fora da inteligência artificial” hoje). Temos que ampliar a maneira como vemos o mundo, buscar novos pontos de vista, compreender por que somos preconceituosos, e de onde vêm os nossos conceitos pré-concebidos acerca de tanta coisa – até daquilo que pouco conhecemos…

Caso contrário, as máquinas vão continuar reproduzindo a pequenez do nosso pensamento limitado, enquanto elas podiam trabalhar para que o universo expandisse e as opiniões múltiplas fossem estimuladas cada vez mais…

Bem, e como podemos começar a repensar nossos preconceitos, nossos olhares enviesados, libertando-nos disso? Eu gostei deste TED, que trago aqui como um pontapé inicial:

Por que 87% dos cientistas afirmam que o aquecimento global está acontecendo por influência da ação humana, enquanto somente 50% das pessoas que não estão pesquisando o tema afirmam acreditar nisso? Por que achamos que sabemos tanto sobre algo, quando não sabemos praticamente nada? Por que propagamos tantas notícias falsas, nas quais acreditamos sem questionar? Por que cientistas como o Dr. Shepherd, que estudam o clima, preveem chuvas fortes com uma semana de antecedência e tanta gente não acredita?

E, algo MUITO importante:

Por que só buscamos informações para embasar aquilo em que já acreditamos?

Este vídeo nos faz pensar sobre tudo isso.

O debate continua, não termina por aqui. Só quis estimular a discussão 😉

 

 

 

 

É preciso reduzir a distância da educação a distância

A educação a distância é capaz de gerar muitas oportunidades e abrir um sem-número de possibilidades. É uma modalidade que tem muito a crescer. No entanto, considero essencial que tenhamos um posicionamento crítico e reflexivo em relação ao uso das tecnologias digitais na educação, de um modo geral, incluindo-se aí a EaD.

A ideia da “distância” na EaD me incomoda, em um certo sentido; penso que devemos reduzir a distância da educação a distância, digamos assim. É importante nos preocuparmos para que, no espaço virtual da educação a distância baseada em tecnologias, não desapareçam as subjetividades, as particularidades de cada aluno e de cada professor. Cada um que participa do processo de ensino-aprendizagem carrega um olhar, uma série de experiências, muitas expectativas, ansiedades, filosofias. E isso tem um valor enorme para que aconteça uma educação humanizada, inclusiva e rica em vários sentidos.

Quando o ensino é presencial, essas subjetividades naturalmente aparecem, pois alunos e professores levam os seus corpos, a sua presença física para o ambiente de aprendizagem. Já a experiência restrita ao online, na modalidade a distância, envolve o risco de separar o sujeito de seu corpo – o qual é parte essencial do conjunto cognitivo de um indivíduo, apesar de às vezes isso ser esquecido (vide as reportagens sobre como O CÉREBRO aprende, O CÉREBRO se emociona, mas… o cérebro não está sozinho nessa…! É o corpo todo que vai junto com ele!).

Se há apenas o ambiente online para a aprendizagem, essas especificidades ficam escondidas, prejudicadas pela pasteurização que tantas vezes emerge da redução de indivíduos a logins. Especialmente quando se trata de um processo voltado para uma educação para a vida, ou seja, para a formação dos estudantes de um modo amplo, creio que isso pode ser bastante prejudicial. Talvez seja menos danoso no caso do ensino de uma habilidade mais focada na técnica, na aplicação imediata.

Soma, e não substituição

Diante disso, o caminho que me parece mais interessante para somarmos as potencialidades das tecnologias com a manutenção dessas importantes trocas de experiências é o da união de experiências online com experiências offline, sejam aulas, palestras, encontros, treinamentos, enfim.

Para diminuir a distância da educação a distância, também creio ser preciso oferecer apoio e incentivo ao aluno, de forma permanente. Estudar a distância, afinal, sempre exige uma dose maior de disciplina, organização, concentração e capacidade de priorização por parte do estudante. Ajudá-lo a evoluir com relação a essa organização e planejamento pode, então, contribuir para manter esse aluno interessado, confiante e motivado.

A motivação pode ser ainda maior quando o estudante encontra um ambiente virtual de aprendizagem intuitivo, que funcione bem, e ao mesmo tempo seja acolhedor; quando, nessa experiência virtual, ele encontra ferramentas bacanas e um conteúdo ao mesmo tempo envolvente, bem apresentado, claro e objetivo. E esse esforço de colaborar com a experiência do aluno e de apoiá-lo em sua aprendizagem a distância tem como pilar fundamental justamente o conhecimento que se tem desses alunos, que vem da convivência presencial com eles. Então, o online e offline retroalimentam-se. Um não deve substituir o outro.

O potencial das tecnologias digitais na educação a distância não é de substituição das capacidades humanas, mas de ampliação dessas capacidades. 

As iniciativas já existentes no sentido da união entre educação e tecnologias – cursos online, e-books e outros materiais digitais, ambientes virtuais de aprendizagem, o uso do machine learning em plataformas adaptativas, a gamificação de plataformas etc – têm sido essenciais para consolidar essa parceria entre educação e tecnologias digitais.

No entanto, educação e tecnologias podem ser aliadas mais fortes ainda se, por exemplo, conseguirmos minimizar dificuldades relacionadas à democratização do acesso à educação, utilizando as tecnologias digitais para isso. Não devemos perder de vista que essas tecnologias podem, ao mesmo tempo, contribuir para essa democratização ou causar mais problemas nesse sentido, uma vez que, se elas ampliam as possibilidades de aprendizagem e acesso à informação, isso precisa idealmente ser para todos, não apenas para alguns – caso contrário, a defasagem entre quem tem o acesso e quem não tem será ainda maior.

Acredito que a principal forma de aumentar e tornar mais eficaz ainda essa relação entre a educação e as tecnologias, de modo geral, é conhecendo as implicações das tecnologias digitais a nossa sociedade, analisando os seus impactos, de forma profunda. Por exemplo, precisamos pensar na nossa relação com a inteligência artificial.

Há um enorme medo de que os robôs nos substituam, mas será que é por aí?

Em alguns casos, máquinas trabalharem por nós não parece ser um problema, pelo contrário, já que robôs e sistemas podem desempenhar certas tarefas de um modo até mais eficiente que humanos, sim – podem fazer inúmeros cálculos em pouco tempo, apenas para citar uma das situações. Mas, há outros casos, aqueles que envolvem as experiências nas quais não podemos prescindir da nossa relação direta com o mundo, com as outras pessoas, que representam algo único, algo que nos ajuda a crescer; esses casos não podem ser protagonizados ou pautados por algoritmos e robôs.

Algoritmos não podem resumir ou restringir as nossas experiências, e robôs não podem ter experiências como nós temos, e que são imprescindíveis para o nosso crescimento. Erramos, acertamos, sofremos, comemoramos, tentamos de novo: isso é humano. Criamos, testamos, compartilhamos com os outros o que pensamos: isso é humano.

Muito do medo das tecnologias, acredito, vem do receio da perda de espaço, vem do medo de que as máquinas nos tornem obsoletos. Na verdade, devemos pensar em ampliação, parceria, novas possibilidades para quem aprende e para quem ensina.

Conteúdo digital para a educação: uma breve reflexão

Desde 2005, quando me graduei em jornalismo, tenho trabalhado produzindo conteúdo para a Web. Passei por projetos de vários tipos, em várias empresas, com temas variados. Comecei minha carreira num site de notícias que hoje seria considerado uma espécie de startup, termo que não se usava na época. Trabalhei no British Council, na Infoglobo por quase quatro anos, fiz consultoria para a Petrobras, passei por agências digitais, trabalhei com intranet na Oi, fiz projetos para a Fundação Roberto Marinho, o Ibmec e, mais recentemente, a startup de educação Tamboro. Faço projetos para o Museu do Amanhã. Volta e meia, escrevo reportagens para o site Porvir. Entre todos os temas com os quais lidei, a educação me fisgou.

O primeiro contato que tive com a educação profissionalmente foi há 11 anos, quando escrevi uma reportagem, que ganhou dois prêmios de jornalismo, sobre déficit de atenção e hiperatividade, e com ela pude conhecer vários professores e pais de crianças que me contaram das dificuldades delas enquanto alunas, e também me revelaram o quanto a vida dos estudantes ficava mais difícil por conta da incompreensão daquele jeito “agitado e desatento” deles. Depois, trabalhei em um projeto de educação para a sustentabilidade para o British Council, onde era analista de comunicação digital. O projeto me possibilitou vivenciar diversos ambientes da educação, espaços de educação formais e não-formais, todos muito além do online – apesar de usarmos blogs, redes sociais e o site do projeto para comunicar e educar sobre meio ambiente. Frequentávamos as escolas, falávamos com os alunos, professores e coordenadores, conversávamos para entender as necessidades deles.

Na Infoglobo, coordenei O Livreiro, uma rede social voltada para apaixonados por livros. Meu primeiro trabalho foi ir à FLIP, a partir de uma narrativa que eu mesma criei e a chefe aprovou: o Mochilão do Livreiro. A ideia era mostrar a FLIP para quem era estudante, ia com pouca grana para Paraty ou já morava lá e todo ano via a FLIP acontecendo em sua cidade, mas sem atividades voltadas para jovens fora dos círculos intelectuais de debates. De mochila, mesmo, saíamos – em equipe – pela cidade distribuindo livros, promovendo ações, sentando em rodas para mostrar e-readers para crianças e adolescentes e ler livros com eles – ações offline, mas que tinham tudo a ver com a nossa rede, que era online.

Hoje, faço mestrado em educação, e sigo amando cada vez mais unir a comunicação digital à educação. Adoro produzir conteúdo digital para projetos educacionais, principalmente quando percebo que eles vão ter uma real relevância para a galera que terá acesso a eles. Mas, quanto mais digital o mundo fica, quanto mais digitais todos nós ficamos, mais eu penso o quanto nós temos que olhar para o offline, que é de onde viemos, é parte do que somos. Somos online e somos offline: tudo junto e misturado. Andy Clark, filósofo britânico que é figura central em minha pesquisa de mestrado, diz que somos ciborgues naturais, seres híbridos, porque o nosso acoplamento com as tecnologias é natural. Híbridos que somos – e eu concordo com ele – precisamos nos valer desse hibridismo, conversar, viver; fazer bom conteúdo é, afinal, ouvir as pessoas, é se enredar por narrativas, histórias, conhecer novos espaços, estar aberto a aprender, a se surpreender. Precisamos manter viva a curiosidade, e estar dispostos a cometer erros, mesmo que isso fique escancarado nas redes sociais – e daí, quem nao erra?

Na educação, para produzir bom conteúdo em meio às novas tendências tecnológicas, é isso que percebo: que não podemos perder a vontade de surpreender e de ser surpreendidos, e que não podemos esquecer que fazemos conteúdo para pessoas. Tudo o que falarmos e escrevermos terá um impacto super importante na vida delas. Cada “login” que se conecta para estudar online num ambiente virtual de aprendizagem é uma pessoa, é alguém cujo tempo dedicado aos estudos não se resume ao “time on site”; cujas dificuldades ou aptidões provavelmente não estão todas refletidas nas métricas vindas da aprendizagem adaptativa baseada em machine learning; é um aluno querendo aprender, um ser híbrido, online e offline o tempo todo, mas de carne e osso. Somos ciborgues naturais fazendo educação para ciborgues naturais. Mas o lado humano desse hibridismo não pode ser esquecido, em momento algum…!

 

Imagem: Giu Vicente @ Unsplash

Inteligência Artificial Humanística

Neste vídeo do TED, Tom Gruber, criador da Siri (assistente pessoal baseado em inteligência artificial da Apple) fala sobre como o caminho da inteligência artificial é amplificar e potencializar as capacidades humanas, gerando conexões e facilitando nossas vidas. É nisso que acredito: não se trata de substituir humanos em atividades que desenvolvemos bem. As máquinas podem nos ajudar com aquelas tarefas nas quais não somos tão bons, nos liberando delas para que nos dediquemos a outras coisas. A cognição humana se expande quando as tecnologias cognitivas se expandem…

Foto do post: Greg Rakozy @ Unsplash

Inteligência Artificial: uma face obscura

A euforia em torno da evolução tecnológica no campo da inteligência artificial não pode ser uma empolgação ingênua. A face obscura do brilhantismo dessa (r)evolução existe, e demanda a nossa atenção. Os sistemas de inteligência artificial, afinal, são feitos por seres humanos, e seres humanos cometem erros, inúmeros erros, que são reproduzidos pela I.A. às toneladas, em poderosas escalas não-humanas. A solução para treinar bem tais máquinas que “pensam” começa, justamente, no pensamento. Pensamento em torno da inteligência artificial, pensamento em torno de aonde queremos chegar com as tecnologias cognitivas, pensamento acerca de quem nos torna(re)mos com tais evoluções tecnológicas.

Existem pessoas interessantíssimas pensando em temas como esses, e os aplicando em seu trabalho. Será que, então, o desenvolvimento das tecnologias cognitivas pode gerar uma evolução na própria sociedade, levando-nos a rever certos conceitos e preconceitos? Essa seria, sem dúvida, uma excelente consequência do crescimento tecnológico, talvez o melhor cenário possível.

Uma das pessoas cujo trabalho é movido por essas preocupações é australiana e se chama Kate Crawford; talvez você não consiga saber muito mais do que isso sobre ela – sua conta no LinkedIn Não tem foto, apesar de reportagem no El País trazer uma imagem dela – porque Crawford se preocupa com a disseminação de seus dados na rede e o que pode ser feito deles. Nós também deveríamos nos preocupar.

Não apenas a privacidade está no centro das atenções de Crawford, mas os vieses da sociedade que vêm sendo reproduzidos pela inteligência artificial. De que modo isso acontece? Ao treinarmos máquinas, transferimos a elas todo o nosso preconceito, impresso nos padrões que atribuímos aos sistemas para que se tornem “inteligentes”. “Esses padrões têm um viés, reproduzem estereótipos, e o sistema de inteligência artificial os toma como verdade única. Estamos injetando neles as nossas limitações, nossa forma de marginalizar”, disse Crawford ao El País.

Esse é um risco apontado por Andy Clark, filósofo da mente e pesquisador da cognição cujo trabalho venho acompanhando. Com um porém: Clark destaca que preconceitos assim começam a ser formados já em nossos cérebros, que, conforme ele explica em seu livro “Surfing Uncertainty” (2016), funcionam a partir de inúmeras camadas de neurônios responsáveis por fazer previsões nas quais nos baseamos para viver e agir no mundo. Por exemplo, uma pessoa que vive em uma cidade violenta como o Rio de Janeiro, acostumada a ouvir notícias sobre balas perdias, assaltos à mão armada e tiroteios poderia se assustar ao ver algo que se parecesse com uma arma por baixo da blusa de certa pessoa, mesmo que se tratasse de um objeto qualquer; e as consequências de um erro assim podem ser, literalmente, fatais. Mais sobre a visão de Clark acerca desse tema pode ser lido neste outro post que fiz sobre o assunto, há alguns meses.

Vale ler a entrevista com Kate Crawford no El País e dar uma olhada no site do AI Now Institute, fundado por ela.

Imagem do post: Lux Interaction @ Unsplash