Category: inteligência artificial

camila

Eis o Dilemma

Documentário “The Social Dilemma“, da Netflix, está dando o que falar. Ficou pessimista depois de assistir? Leia este post.

The Social Dilemma (O Dilema das Redes, em português), que aborda a manipulação de nossos dados pelas redes sociais online, traz depoimentos de pessoas que desistiram de trabalhar nas gigantes de tecnologia – Google, Instagram, Facebook, Pinterest e afins. Os entrevistados perceberam, pode-se dizer, que os valores das empresas em que eles vinham trabalhando não estavam mais de acordo com aquilo que eles acreditam, e resolveram tomar outros rumos na vida.

Mas, então, onde é que essas pessoas estão hoje? O que elas estão fazendo de suas vidas? E os outros entrevistados que aparecem no doc, quem são e qual tem sido o seu papel no universo da tecnologia? Muitos deles estão fazendo coisas bem legais, algumas bastante inspiradoras, que podem ajudar a mudar significativamente a nossa relação com a tecnologia, tanto individual como coletivamente. Outros escreveram livros com temáticas excelentes.

Essas pessoas têm em comum a desconfiança quanto a esse status quo do universo tecnológico, e são movidas por suas experiências e pela vontade de levar mais gente a se preocupar com a maneira como fazemos e consumimos tecnologias.

Então, antes de ficar pessimista, ou de achar que não dá para fazer nada “porque o mundo agora é assim mesmo”, talvez valha conhecer algumas das iniciativas que têm surgido a partir dessa vontade de mudança. Escrevi sobre algumas delas, aqui – e pretendo escrever sobre as demais (pessoas do doc e iniciativas) num outro post. Vale pensar em se envolver em algum(ns) projetos capitaneados por essa galera ou, ao menos, ler alguns livros e/ou assistir a outros documentários. Quem sabe começar desativando suas notificações? Aproveita e ainda evita que a bateria do seu celular gaste à toa 😉 Se estamos preocupados, precisamos nos envolver, conhecer mais sobre o assunto e assumir uma postura diferente. Evitar o tema não é uma opção.

Tristan Harris

Ele passou anos no Google como Google Design Ethicist. No documentário, conta um pouco dessa sua experiência, que demonstra a falta de preocupação da empresa com questões éticas e de privacidade. Harris é fundador e presidente da ONG Center for Humane Technology A página que apresenta a iniciativa diz:

We envision a world where technology is realigned with humanity’s best interests. Our work expands beyond tech addiction to the broader societal threats that the attention economy poses to our well-being, relationships, democracy, and shared information environment. We must address these threats to conquer our biggest global challenges like pandemics, inequality, and climate change.

A ONG convida quem quiser ajudar a remodelar a maneira como construímos e consumimos tecnologias: https://www.humanetech.com/get-involved – e ressalta que não precisa ser empreendedor, programador ou o que quer que seja para se envolver; se você for da área de tecnologia é bem-vindo, mas basta ser “cidadão, educador ou pai/mãe”. Para saber o que exatamente dá para fazer junto a eles, é preciso fazer um cadastro inicial.

Shoshana Zuboff

Shoshana Zuboff é professora em Harvard e autora do livro “The Age of Surveillance Capitalism”, sobre o qual você pode ler neste link – https://shoshanazuboff.com/book/about/. Este documentário que postei aqui explica muito bem a ideia do capitalismo de vigilância de que ela fala.

Justin Rosenstein

Com mais de 170 mil seguidores no LinkedIn (o que não quer dizer nada por si só e nem sei por que citei aqui, mas ok), Justin, que estudou em Stanford (isso também não quer dizer lá muita coisa, por si só), foi da Google e do Facebook, e depois seguiu fazendo seus projetos pessoais: o Asana, um software independente que tem a função de melhorar a produtividade das pessoas, e o One Project, voltado para o design de governança e sistemas econômicos mais “equitativos, ecológicos e efetivos”, segundo ele informa no LinkedIn. O site dele é este: https://justinrosenstein.com/ e no vídeo ele fala sobre a Asana.

Roger McNamee

McNamee é um investidor no Vale do Silício. Ele injetou dinheiro no Facebook e ajudou Zuckerberg a crescer, mas, hoje, como o documentário da Netflix mostra, é um ferrenho crítico ao modo como a empresa orienta suas atividades. Ele afirma que o Facebook é uma ameaça à democracia, e acusa a rede de espalhar as chamadas fake news.

McNamee escreveu um livro chamado Zucked: Waking up to the Facebook Catastrophe. Vale dizer que, no vídeo que postei aqui, ele diz que a Apple, de maneira bem diferente do Facebook, é responsável com os usuários em relação a questões de privacidade – o que mostra que as opiniões de todas estas pessoas podem ser diferentes em relação às companhias de tecnologia envolvidas em todas essas temáticas. Serve para construirmos o nosso próprio pensamento crítico.

Tim Kendall

Kendall foi presidente do Pinterest e Diretor de Monetização do Facebook. Ele criou um app chamado Moment, desenvolvido para ajudar as pessoas a fazerem “detox” de seus smartphones. O aplicativo está disponível para ser baixado de graça na App Store e aqui há mais informações –  https://inthemoment.io

Rashida Richardson

Ela trabalhou no Facebook e em vários outros lugares, e hoje é a diretora de Policy Research no AI NOW – um instituto de pesquisa em inteligência artificial que examina as implicações da IA para a sociedade ligado à New York University; o site é este aqui: https://ainowinstitute.org/ e a página do site que fala sobre a Richardson é esta: https://ainowinstitute.org/people/rashida-richardson.html .

O instituto dedica-se a pesquisas que contribuam para que sejam criados mecanismos, políticas, leis etc. para que haja responsabilidade/responsabilização pelo uso e a produção de tecnologias envolvendo inteligência artificial. Atualmente, as quatro principais frentes de pesquisa do núcleo são: direitos e liberdade; trabalho e automação; preconceito e inclusão; segurança e infraestrutura crítica.

Jaron Lanier

Lanier, que é cientista da computação e filósofo, trabalhou na Microsoft até 2009. Depois, ele escreveu vários livros além do citado “Ten arguments for deleting your social media accounts right now”; escreveu um chamado “Who own the future?” e ainda “You are not your gadget”, entre outros, apresentados em seu site: http://www.jaronlanier.com/ . Aliás, no site ele reforça que não tem (mesmo!) contas em redes sociais.

Cathy O’Neil

Cathy é uma matemática americana, autora do site/blog mathbabe: https://mathbabe.org/ e do livro “Weapons of Math Destruction”, sobre o impacto dos modelos matemáticos e dos algoritmos de IA em diversas áreas da sociedade (destaque especial para a educação e para o mercado financeiro). O mais legal desse livro é que ela usa uma linguagem super corriqueira, inteligível, para nos explicar os modelos matemáticos e suas implicações (como jornalista e doutoranda, já estava desacostumando de livros que explicam as coisas de uma maneira mais, digamos, objetiva…). A obra ainda não está disponível em português, porém. De todo modo, a palestra dela no TED dá uma boa introdução à perspectiva de O’Neil.

Uma última curiosidade: Jeff Orlowski, o cineasta norte-americano realizador do doc, já tinha feito dois outros documentários, “Chasing Ice” (de 2012) e “Chasing Coral” (de 2017), que são ligados a temáticas de responsabilização, por assim dizer, mostrando impactos que a humanidade exerce sobre a natureza.

Para assistir ao doc na Netflix: https://www.netflix.com/title/81254224

Imagem do post: Markus Spiske @ Unsplash

camila

O que Arquitetura de Informação e UX têm a ver com Inteligência Artificial?

O que Arquitetura de Informação e UX têm a ver com Inteligência Artificial?

A arquitetura de informação é um conceito que se relaciona com um outro, mais amplo: o de Experiência do Usuário, ou UX – User Experience. Quando você navega em um ambiente virtual e consegue fazer tudo o que precisa, encontra as informações que esperava num tempo razoável, se sente bem navegando ali sem se perder e tudo o mais, você tem uma boa EXPERIÊNCIA com aquele ambiente digital, que pode ser um site, um ambiente de aprendizagem virtual ou um aplicativo. Quando é assim, e a sua experiência flui bem, curiosamente, você provavelmente quase nem percebe a forma como aquele site se estrutura. Mas, se algo sai errado, logo vamos perceber o que a arquitetura de informação teve a ver com isso (além do conteúdo em si, é claro).

Arquitetura de informação, então, é a maneira como organizamos as informações em um determinado ambiente para que elas se tornem alcançáveis, visíveis; para que não somente o Google e outros buscadores as encontrem (sim, os buscadores encontram melhor e mais rapidamente sites bem construídos, tanto em termos do código bem feito como da organização das informações; isso também tem a ver com SEO, as técnicas de otimização para buscas) como para que pessoas, em diversas condições, as encontrem também – independentemente de estarem usando um celular para isso ou um computador, e de terem ou não uma deficiência, por exemplo. O ramo dedicado a questões específicas de usabilidade para pessoas com deficiência é o da acessibilidade – aliás, um campo de estudo muito vasto e incrivelmente sedutor.

Bem, mas, voltando: o que é que toda essa ciência de organizar dados e informações de uma maneira que nós conseguimos nos entender com eles tem a ver com inteligência artificial? Bem, a inteligência artificial é muitas coisas, e não venho aqui defini-la, mas, de um modo geral, a IA se baseia na maneira como funcionamos ou, ao menos, como se acredita que funcionamos. Isso ela tem em comum com a arquitetura de informação: ao construir um ambiente digital, levamos em conta o mindset das pessoas (os usuários); a maneira como geralmente as pessoas classificam informações, fazem buscas etc. Para compreender isto, usamos métricas que vão nos mostrando os caminhos realizados.

Do mesmo modo, na inteligência artificial, procura-se construir sistemas a partir daquilo que se entende acerca do funcionamento cognitivo de seres humanos – seja para construir sistemas à semelhança de nossos sistemas cognitivos, seja para construir sistemas que nos atendam na realização de nossas tarefas que envolvem cognição.

 Imagem: niklas_hamann on Unsplash

Vamos pensar num exemplo que envolva uma questão de arquitetura de informação para depois analisá-lo à luz da IA: ao construir um site de decoração, pode-se imaginar que o usuário interessado em decorar sua casa vai chegar e buscar por “abajur amarelo”, porque deseja comprar um abajur amarelo, ora pois. Se ele assim o fizer, e a busca do site funcionar, verá resultados para abajures exatamente dessa cor. Mas, e se esse usuário que quer decorar sua casa chegar ao site sem ter tanta ideia de qual cor de abajur ficaria bom no ambiente da casa dele, ou se ele nem mesmo souber direito quais os elementos que deseja usar para decorar seu lar – uma luminária, uma mesinha, um tapete? Que tipo de busca ele vai fazer? Ele provavelmente nem vai ficar só na busca. Ele vai clicar em muitas coisas. Vai escrever vários termos no campo de busca. Vai ver muitas fotos, e por aí vai; até ter as ideias de que necessita para sua decoração.

O ponto é que, no geral, nós parecemos ser muito mais como o segundo decorador do que como o primeiro, quando se trata de viver experiências no mundo. Não temos tudo definido e perfeitamente organizado em nossas cabeças. Quando falamos, não tínhamos previamente todos os pensamentos organizados, que vão então sendo expelidos: nós pensamos ao falar e, ao falar, vamos pensando. Quando caminhamos, não temos mapas internos de todos os lugares para onde vamos, que acessamos quando precisamos: nós nos baseamos no entorno, nas pistas visuais que nos ajudam em nossa localização. Quando lidamos com uma certa situação, não temos listas mentais de opções quanto ao que fazer para acessar e fazer nossas escolhas: quando tomamos decisões e fazemos opções, entram em jogo nossas experiências anteriores, a maneira como nos sentimos – as emoções e sentimentos, e tantos outros fatores.

O engraçado é que, quando algo dá errado, passamos às vezes a refazer os nossos passos, rever mentalmente nossas opções, e até tentamos buscar um mapa mental para evitar nos perdermos. Quando isso acontece, ficamos mais parecidos com o que falei no começo do texto; parece que algo dá errado na fluidez da nossa experiência, de maneira parecida com aquele momento em que algo parece errado na arquitetura de informação de um site. Ficamos mais “robóticos”? Será que isso não revela bastante sobre a maneira como um robô trabalha, versus a maneira como nós lidamos com o mundo em que estamos inseridos?

Essas são questões que, acredito, podem nos levar a decisões importantes sobre a construção de espaços digitais. Como a minha maior preocupação é com a educação, volto-me mais para a construção de espaços de aprendizagem (mas creio que a internet toda é um espaço de aprendizagem!). Precisamos descobrir como a cognição humana funciona, se quisermos construir bons ambientes de aprendizagem virtuais. Conhecer e pensar sobre tudo isso ajuda também a quem deseja melhorar a experiência de seus consumidores em uma loja virtual, por exemplo; ou em um app dedicado a um serviço. Por vezes, as métricas são suficientes, mas na maior parte do tempo há muito que elas não revelam, principalmente se não estiverem ajustadas para os KPIs corretos e baseadas em premissas que façam sentido. Mas isso é tema para outro post 😉

Imagem principal do post: Halacious @Unsplash

Seguem alguns links interessantes sobre IA + UX:

UX of AI

Human-centered machine learning

Machine Learning is Very Much a UX Problem

Google Design – The UX of AI

camila

Inteligência Artificial & Inteligência Emocional

Anotei e trago aqui alguns pontos interessantíssimos do debate que assisti nesta quarta, 29 de julho, com a pesquisadora em IA e ética Dora Kaufman e o CCO da Figtree, Ricardo Figueira, sobre inteligência artificial e inteligência emocional. O debate rolou no Instagram do Clube de Criação (@clubedecriacao).

  • Você quer usar tecnologias de IA na sua empresa/no seu negócio, num empreendimento, num sistema de ensino? Pense no problema que você precisa resolver, antes de pensar na tecnologia. Isso vale para qualquer tecnologia: ela vem para ajudar a resolver alguma questão, dificuldade etc. É preciso um propósito, sempre! Super concordo com isso. Precisamos sempre refletir e analisar aquilo que precisamos resolver para, então, tomar uma decisão sobre qual tecnologia escolher ou desenvolver. Já passei por diversas situações em que foi preciso relembrar os envolvidos no projeto acerca disso. A IA, da mesma forma, é atraente e tem muitas utilidades, mas é preciso pensar para que se quer utilizá-la, e então tomar uma decisão.
  • A IA não é, portanto, uma decisão da TI de uma empresa: é preciso mudar a cultura. E é o propósito que impulsiona a transformação digital de uma empresa. Cada negócio tem a sua necessidade e traz diferentes necessidades de usos de tecnologias. A cultura só muda a partir daí. Vivi bastante isso quando trabalhei num grande jornal que estava implementando a sua transformação digital, por exemplo. Não me refiro particularmente ao uso da IA, que não era o foco da empresa, mas de tecnologias digitais em geral, que foram alvo de muita resistência por parte de funcionários e até gerentes. A cultura, se emperrada não traz transformação.
  • Por trás das grandes empresas de tecnologias está a IA: Google, Amazon etc. O modelo de negócios delas é a inteligência de dados, e os modelos de IA são usados para extrair informações para a criação de serviços mais adaptados a seus públicos. Desse modo, a IA permeia diversas soluções tecnológicas que já estão entre nós;
  • A tecnologia dos bots/chatbots é a mais popular entre as empresas hoje (ex. a IA Bia do Bradesco). Mas as pessoas, segundo pesquisas, não gostam de se relacionar com máquinas e sim com pessoas (mesmo que humanos falhem mais!). Isso aponta para uma questão cultural. Um exemplo dado por Kaufman foi o do Japão: devido à crença no animismo (segundo a qual objetos também têm espírito), os robôs cuidadores são comuns, por exemplo; enquanto, para nós no Brasil, o valor das relações passa pelo olho no olho. Conheço pesquisas sobre robôs cuidadores em Portugal, também, algumas estavam indo bem até onde sei. Mas esse ponto levantado me fez repensar alguns aspectos que venho pesquisando em Hubert Dreyfus, filósofo que desenvolveu uma crítica à IA e sempre defendeu a ideia de que emoções são essenciais para a cognição. Ele menciona a questão do olho no olho na sala de aula: quando estamos online, acaba faltando esse cara a cara, típico do presencial. Quais as consequências disso? São mais relevantes/complexas quando se trata de educação do que de aplicações comerciais e/ou de entretenimento? Tendo a pensar que sim, mas sigo investigando.
  • Também temos, por outro lado, a característica de nos adaptar às transformações. Quanto ao uso de bots, por exemplo, 90% das perguntas feitas por usuários são perguntas padrão: podem, assim, ser previstas. Então, será que não podemos ter robôs respondendo a 95% delas, rápida e precisamente, e pessoas respondendo aos outros 5%, sem prejuízos para nossas interações e resoluções de problemas? Parece que sim. Outro dia, em meio à pandemia, troquei de operadora de celular e fiz tudo pela IA das operadoras, online. Gostei da experiência.
  • Entre os principais pontos de atenção da IA estão as questões éticas advindas do grande acúmulo e circulação de dados, pois eles podem sair do controle. Questões de privacidade surgem aí. Surgem também desigualdades no mercado de trabalho, que coloca as pessoas mais qualificadas (em menor quantidade) em uma ponta e um grande conjunto da população em outra ponta, muito mais numerosa, impactada pela perda de empregos em que a substituição pela tecnologia passa a predominar. Adiciono a essa questão ética uma que mencionei outro dia nesta live da TV PUC, e que diz respeito a educação e democracia: o acesso a tecnologias pode potencializar a cognição, especialmente no caso de tecnologias assistivas (utilizadas por pessoas com deficiência). Mas, como fica o caso das pessoas que não podem acessar essas tecnologias? Isso ficou bastante explícito e radicalmente posto no momento da pandemia, quando inúmeros estudantes, sem acesso à internet, ficaram sem poder assistir às aulas da escola ou faculdade, ou seguir estudando online de alguma maneira. Temos um problema ético, ou melhor, vários.
  • O modelo de deep learning é um modelo estatístico que tem uma capacidade de fornecer um conjunto de milhões de dimensões, enquanto modelos estatísticos tradicionais têm uma capacidade muito menor de fazer isso. Para sistemas de reconhecimento facial, por exemplo, isso faz toda a diferença. As expressões são captadas em detalhes, até mesmo em entrevistas de emprego em que algoritmos agem para identificar a forma como candidato se expressa (já tinha pensado nesse uso da IA? Eu não tinha!)
  • Esses modelos de aprendizagem de máquina correlacionam variáveis que fogem às ações do próprio programador. Eles não usam apenas variáveis pré-programadas. Esse é um ponto bastante importante e que deixa várias dúvidas, uma espécie de caixa preta da IA. Andy Clark fala sobre isso, se não me engano, em Mindware, este livro aqui.
  • Kaufman destacou que precisamos criar uma parceria com os modelos de IA, e podemos fazer isso compreendendo-os, conhecendo esse sistemas minimamente. Não só concordo com ela como falei sobre isso também na live da TV PUC, que já mencionei, bem como nos meus trabalhos acadêmicos. Conhecendo a IA, ainda que de maneira limitada; compreendendo seus usos possíveis, podemos nos posicionar criticamente em relação a essas tecnologias. Isso é fundamental. Temos que conhecer nossas potencialidades, nossas limitações e as potencialidades das tecnologias quando nos unimos a elas. A educação precisa conhecer essas tecnologias. Tememos o que não conhecemos…
  • Figueira destacou que precisamos compreender como as pessoas funcionam, sentem etc, para conseguirmos progredir mais nas tecnologias e em nossa relação com elas. Eu não podia concordar mais, tanto que dedico minha pesquisa de doutorado ao estudo da cognição na educação com foco nas emoções e no corpo. E Kaufman destacou que precisamos também conhecer sobre como as máquinas funcionam. Sim, totalmente. Os dois lados da mesma moeda, como a mente e o mundo na fenomenologia.
camila

Introdução à Fenomenologia com Hubert Dreyfus

Hubert Dreyfus foi um filósofo que deixou como legado uma interpretação de conceitos da fenomenologia advindos de Husserl, Heidegger e Merleau-Ponty aplicados à inteligência artificial. Descobrir os conceitos da fenomenologia por meio dos ensinamentos desse filósofo é uma aventura bastante interessante e rica, que promete subverter muitas ideias pré concebidas que possamos ter da nossa existência no mundo.

Fiz aqui uma seleção de vídeos em que Dreyfus comenta alguns conceitos fundamentais da fenomenologia, que podem ser úteis para quem deseja entrar nesse universo.

Gap sujeito-objeto

Neste primeiro vídeo, na primeira parte da entrevista (chamada Fenomenologia), Dreyfus comenta sobre os movimentos de Heidegger contra a distinção sujeito-objeto cartesiana. Para a fenomenologia, não há um abismo entre sujeito e objeto, ou um gap; sujeito e objeto precisam um do outro para existir. Como aprendemos sobre o mundo? Não é armazenando uma série de fatos em nossas cabeças. Nós aprendemos na medida em que vamos discriminando o mundo, e assim ele vai se descortinando para nós. Merleau-Ponty compara esse fenômeno a uma cidade que a princípio não conhecemos e então nos parece caótica. Na medida em que a experimentamos, na medida em que a conhecemos, nós nos apropriamos dessa cidade e passamos a ser capazes de caminhar, de nos localizar por ela. Não precisamos de modelos do mundo armazenados em nossas mentes porque o mundo é o melhor modelo de si mesmo, diz Dreyfus, em clara referência à frase famosa do roboticista Rodney Brooks, “The world is its own best model”.

Na parte chamada de Inteligência Artificial, Dreyfus comenta sobre a premissa equivocada da IA, que partiu da ideia de que armazenamos representações do mundo, e sobre como isso não poderia dar certo porque não é assim que humanos funcionam. Ele explica o frame problem na IA (mais ou menos aos 13′ do vídeo) e comenta sobre a dificuldade de incutir, nas máquinas, conhecimentos do senso comum.

Imagem do post: Sharon McCutcheon @ Unsplash

camila

Participei da live da PUC-Rio sobre inteligência artificial

Participei de uma das entrevistas ao vivo da série que a TV PUC-Rio criou no intuito de desenvolver temas que se relacionem de alguma maneira com a COVID. Esta teve a ver com inteligência artificial e internet das coisas. Ao lado de dois professores da PUC-Rio, comentei sobre a minha pesquisa em educação e IA sob o viés da filosofia e da educação. O debate pode ser assistido no link a seguir.

camila

Pontos de Interrogação em IA, machine learning e cognição humana – Parte 2

No primeiro post sobre as investigações que marcam os campos da IA, machine learning e cognição, comentei sobre o vídeo do Pedro Domingos sobre machine learning. Aqui, discuto um pouco do que ele falou, contrapondo com questões dos 4Es da cognição que venho pesquisando e também comentando aqui no blog:

“We’re actually now for the first time in history at the point where you could say you can have a supercomputer that is about as powerful as the human brain“

Vamos olhar para este trecho: Domingos diz que atingimos, pela primeira vez, um ponto na história em que se pode dizer que poderemos ter um super computador quase tão poderoso quanto o cérebro humano.

Mas o que isso significa? O que significa ser tão poderoso quanto o cérebro humano? Se o cérebro humano é poderoso por fazer parte de um sistema dinâmico do qual participam nosso corpo com suas especificidades, o ambiente em que estamos inseridos, as tecnologias com as quais nos relacionamos e a sociedade de que fazemos parte, essa colocação dá muito o que pensar. Afinal, não é o cérebro sozinho que é “poderoso”, mas o sistema humano em interação com a natureza…

Vejamos agora este trecho:

“So the thing that is really holding us back is that we don’t understand well enough how, for example, learning works“.

Neste trecho, Domingos diz que o que está impedindo a IA de ir mais longe é a falta de entendimento acerca de como o processo de aprendizagem acontece. Esse é o ponto (ou um dos) que leva a haver tanta pesquisa em cognição humana: ainda não se sabe como aprendemos e há muito o que se investigar sobre isso. Então, pode-se dizer que há algo em comum entre as investigações em machine learning e em educação: entender como o ser humano aprende. Se depender disso para que a aprendizagem de máquina avance, parece que isso ainda demora… 😉

“If we were able to devise a learning algorithm that is truly as good as the one in the human brain, this would be one of the greatest revolutions in history. And it could happen any day at this point. At this point this is a problem that if we could solve it we solve all other problems. If I come up with a better machine learning algorithm, that algorithm will be applied in business, in finance, in biology, in medicine across the board”.

No trecho acima, o destaque vai para o desenvolvimento de um algoritmo que seria capaz de se sair tão bem na atividade de aprender quanto o cérebro humano. Mas será que a aprendizagem é mesmo algo que se deve a um algoritmo no cérebro humano? Como já reforcei acima, não parece ser o cérebro humano que aprende, sozinho. Se o nosso processo de estar no mundo, com um corpo, vivendo, experimentando, nos leva a aprender, como propõem as teses ligadas aos 4Es, como é que um algoritmo no cérebro daria conta disso tudo? Será que é mesmo assim que a cognição funciona?

Toda essa conversa levanta também questões como o que seria a inteligência humana, o que é aprendizado e o que a engenharia de software quer dizer quando afirma que um sistema aprende a partir de algoritmos – assuntos que pretendo explorar.

camila

Are robots the teachers of the future?

Are robots the teachers of the future? Are we going to lose (all) our jobs to artificial intelligence machines? Is the Digital Singularity human’s inescapable future?
 
These questions are on the cutting edge when it comes to the relationship between human cognition and digital technologies. Hence, they also affect the way we glimpse the future of education. These subjects are closely related to questions about the human cognitive system: how do we perceive the world? How do we learn? What makes us cognizers, in the deepest sense of the term? How do we experience the world we inhabit?
 
Our close relationship with technologies transmutes us into cyborgs, according to the philosopher Andy Clark, author of Natural born Cyborgs (2003) and one of the developers of the Extended Mind Thesis. Clark’s thesis advocates that humans extend their cognitive systems through technologies, not only digital but of all kinds. And this ability to integrate these artifacts into our cognitive circuitry, linked to our capacity to transform the environment and be altered by it, would be some of the main elements to distinguish us from other animals. As natural beings, we are in a continuous circular movement with nature, its creatures, plants, all living beings. This connection between experience and nature is part of the philosophy of John Dewey and some ideas that resemble his are also present in the theses of philosophers like Maurice Merleau-Ponty and Hubert Dreyfus. They hold that we are much more than computer-like processing machines, defending that there is much more to human cognition than information processing. Or, as the philosopher Alva Noë and the psychologist James Gibson would say, perception and action cannot be segregated, because we act in order to perceive: without action, there would be no perception at all. This perspective is connected to the enactive cognition approach, one of the contemporary research lines linked to cognition and the human mind.
 
The extended and the enactive cognitive approaches show we are far from being replaceable by robots. Unless artificial intelligence machines become more than input-output information crunchers, they will not be able to simulate some of the most important features of human cognition, and it will be hard for them to substitute us in a range of activities in which our experience is irreplaceable. In what concerns teaching and learning, emotions are a fundamental part of the process – according to philosophers like Dreyfus and the neuroscientist António Damásio, author of Descartes’ Error and The Strange Order of Things. Robots don’t have feelings. Therefore, machines are not able to actually learn anything. So, we could ask: are “creatures” not able to learn skilled to teach? Unless they become sentient, conscious creatures, these systems will probably not be able to become teachers, and will remain, at best, auxiliaries to teaching. So, as these features remain far from reality concerning A.I., we can give a shot at the question in the first paragraph of this text: robots may be the teachers of a distant future, but they are certainly not able to replace our teachers in the present.
 
Some references for those who want to read more:
camila

Um robô para apoiar crianças autistas

O autismo afeta a forma como uma pessoa se comunica, compreende e se relaciona com outras. Pessoas com autismo frequentemente têm dificuldade de usar e entender linguagem não verbal. Com isso em mente, surgiu o projeto DE-ENIGMA, que foca em desenvolver as capacidades de reconhecer e de expressar emoções em crianças com autismo.

(Mais em http://de-enigma.eu/)

O neurocientista António Damásio defende que sentimentos e emoções são diferentes; segundo o pesquisador, as emoções são externas, são aquilo que se lê nas outras pessoas, enquanto os sentimentos são internos. Não há, portanto, consciência sem sentimentos, nem sentimentos sem consciência. E um robô, então, poderia simular emoções, mas nunca teria sentimentos.

camila

O professor é substituível pelas tecnologias digitais?

A pesquisa Nossa Escola em (Re)Construção, promovida pelo Porvir entre os anos de 2017 e 2018, coletou dados entre quase 20 mil jovens de 11 a 21 anos e constatou que “o melhor da escola é o professor“. Texto do Porvir sobre o assunto diz que:

“Na plataforma, os participantes foram convidados a dizer como é a sua escola atual ou a última em que estudaram e como eles gostariam que ela fosse. Ao avaliar 11 aspectos da instituição de ensino, em uma escala de 1 (Tá tenso) a 5 (Tá tranquilo, tá favorável), as maiores notas foram para o professores (3.9), seguidos pelas aulas e matérias (3.8). Entre os últimos itens, aparece o uso de tecnologia (2.7) e as atividades extraclasse (2.9)”.

Que o professor faz toda diferença na vida do aluno não é exatamente novidade. No Brasil, com toda a precariedade do ensino público, ameaçado ainda mais no governo atual, temos professores premiados (veja também este link) e sabemos que, em muita escola onde falta luz, água, merenda e tudo o que se pode imaginar, não raro sobra dedicação de boa parte dos docentes para que os alunos continuem aprendendo.

Mas a questão de a tecnologia aparecer como um dos últimos itens na pesquisa do Porvir, somada a outra notícia recente, é o que impulsiona esta minha reflexão aqui. Apesar de a cada dia ficar mais claro que a presença do professor é insubstituível e que não há tecnologia que dê conta de atuar no lugar dele (muito pelo contrário), existe uma certa tendência a enaltecer as possibilidades de que essa substituição aconteça.

O empreendedor Elon Musk recentemente premiou com U$ 10 milhões duas startups de tecnologias educacionais (as chamadas edtechs) capazes de “substituir” professores por meio do uso da tecnologia. Uma delas foi a onebillion e a outra foi a KitKitSchool. O site Business Insider diz que “launched in 2014, the competition was set up to empower children to take control of their learning. It challenged innovators around the world to create technology that would enable children to teach themselves basic reading, writing, and arithmetic within 15 months”. A competição como um todo me parece equivocada por promover “substituição” em vez de soma, mas este trecho me pareceu ser uma coleção de equívocos ainda maior. “Empoderar” crianças quanto ao “controle de seu aprendizado”? Leitura, escrita e aritmética básicas em 15 meses? Estimular gente inovadora a pensar em tecnologias que, de algum modo, promovem o descarte do professor?

A questão é: o que ganhamos com isso?

Afinal, é para isso mesmo que devemos trabalhar nossas tecnologias? Para substituir o professor, ou para fazer as pessoas pensarem que essa substituição é possível? E o que seria esse “professor”, tão facilmente substituível nessa concepção? Seria um mero transmissor de conteúdos “básicos”?

E mais: crianças “empoderadas” são crianças que têm “poder” e “controle” sua própria aprendizagem?

Não quero tirar o mérito de tecnologias que possam ajudar mais pessoas a aprender a ler e a escrever, de forma alguma. Também não sei ainda como em áreas remotas, pobres e com deficiências de tudo, crianças poderão ter acesso a aplicativos com tais recursos, a não ser aquelas selecionadas para a pesquisa empírica; porém, se tiverem, jamais serei contra; trata-se da importante questão da democratização da tecnologia digital. O ponto em que sempre insisto é o da substituição: é nela que devemos focar, quando falamos de tecnologias educacionais?

A responsabilidade da mídia

Talvez nós, jornalistas, sejamos grandes responsáveis por contribuir para a construção de conceitos equivocados nesse sentido. Afinal, a manchete “Elon Musk awards $10 million prize to 2 startups replacing teachers with tech” ficou a cargo do Business Insider; no site do XPrize, promovido pelo Musk, não se vende a coisa como substituição, ao menos nao num primeiro momento. O site diz “Empowering children to take control of their own learning”. Isso, sem a questão da substituição do professor, pode tomar ares bem diferentes.

Sem dúvida, há muitos fatores envolvidos nessa reflexão, e de indubitável há o fato de que sim, a educação e a tecnologia devem ser para todos. Mas parece estar havendo uma confusão bastante significativa quanto a esse ponto da substituição do professor pelas tecnologias, ainda mais com a popularização da inteligência artificial. Mesmo já tendo muito com o que nos preocupar no Brasil em termos de educação, precisamos ficar atentos a mais esse aspecto, que na realidade relaciona-se com a questão mais profunda e anterior da relação humana com as tecnologias digitais: para onde estamos caminhando? Quais os impactos dessa relação? O que esperamos dela? No que ela nos transforma?

Vale a reflexão.

camila

Vamos ampliar a nossa percepção em vez de deixar que os algoritmos a reduzam cada vez mais?

Quem está ligado nas notícias sobre inteligência artificial já deve ter visto artigos falando sobre como os sistemas de IA reproduzem os nossos preconceitos e as nossas visões estereotipadas. Afinal, são programadores que criam algoritmos e programam esses sistemas. O algoritmos são como receitas que esses sistemas seguem, então… são receitas baseadas em comportamentos humanos.

Melhorar a diversidade na IA demanda nada mais, nada menos que a aumentar a diversidade fora da IA (se é que existe uma maneira de estaremos “fora da inteligência artificial” hoje). Temos que ampliar a maneira como vemos o mundo, buscar novos pontos de vista, compreender por que somos preconceituosos, e de onde vêm os nossos conceitos pré-concebidos acerca de tanta coisa – até daquilo que pouco conhecemos…

Caso contrário, as máquinas vão continuar reproduzindo a pequenez do nosso pensamento limitado, enquanto elas podiam trabalhar para que o universo expandisse e as opiniões múltiplas fossem estimuladas cada vez mais…

Bem, e como podemos começar a repensar nossos preconceitos, nossos olhares enviesados, libertando-nos disso? Eu gostei deste TED, que trago aqui como um pontapé inicial:

Por que 87% dos cientistas afirmam que o aquecimento global está acontecendo por influência da ação humana, enquanto somente 50% das pessoas que não estão pesquisando o tema afirmam acreditar nisso? Por que achamos que sabemos tanto sobre algo, quando não sabemos praticamente nada? Por que propagamos tantas notícias falsas, nas quais acreditamos sem questionar? Por que cientistas como o Dr. Shepherd, que estudam o clima, preveem chuvas fortes com uma semana de antecedência e tanta gente não acredita?

E, algo MUITO importante:

Por que só buscamos informações para embasar aquilo em que já acreditamos?

Este vídeo nos faz pensar sobre tudo isso.

O debate continua, não termina por aqui. Só quis estimular a discussão 😉