Como desenvolver pessoas capazes de trabalhar criticamente com sistemas de IA?

Letramento em IA não é tema de escola; é essencial em T&D

Você já pensou em como a área de T&D da sua corporação pode promover letramento crítico em IA (AI Literacy) e quais os fatores que deveriam estar presentes nesse letramento?

Sim, letramento em IA não é tema da escola básica; é um tema essencial para empresas que querem ver a IA inserida em seus processos e fluxos serem transformados positivamente por IA agêntica.

A maioria das organizações ainda está presa na camada superficial do “ensinar a apertar os botões do ChatGPT”, quando um diferencial competitivo e estratégico está na supervisão crítica, no julgamento humano e no desenho do fluxo de trabalho com a IA.

A verdadeira AI Literacy (Alfabetização ou Letramento em IA) vai além do domínio técnico, mesmo quando (ou ainda mais quando!) se trata de organizações. Ela se sustenta em alguns pilares essenciais, como:

  • Fundamentos técnicos desmistificados: Compreender como os Modelos de Linguagem (LLMs) funcionam (predição estatística de padrões, não consciência!) para saber por que eles falham ou “inventam” dados; para entender para que eles de fato servem ou não servem;
  • Avaliação crítica e verificação: Capacidade de auditagem, checagem de fatos, identificação de viés (bias) e reconhecimento de alucinações.
  • Gestão de Riscos e Ética: Privacidade de dados, segurança da informação, propriedade intelectual e uso responsável da IA;
  • Desenho de problemas e contextualização: A habilidade de enquadrar problemas do mundo real de forma estruturada para que a IA possa processá-los.

AI Literacy para organizações pode incluir, ainda, aspectos como criatividade, a capacidade de olhar para problemas com múltiplos pontos de vista, o resgate de habilidades tipicamente humanas e insubstituíveis – fundamentais para tomada de decisões, trabalho em equipe e liderança equipes; e a capacidade de ser autodidata, essencial para todo profissional hoje.

Para equalizar o melhor da IA com o melhor das pessoas da sua equipe, uma pergunta fundamental é: estamos usando a IA apenas para aumentar produtividade ou também para aumentar capacidade humana? Afinal, a IA deveria expandir as nossas capacidades, e não atrofiá-las 😉

As várias dimensões da desinformação

Lidar com a informação faz parte do meu trabalho de jornalista e de pesquisadora, bem como lidar com a desinformação. Desde 2004 eu trabalho com comunicação digital, o que me proporcionou a experiência de viver a internet antes e depois das redes sociais. Na verdade, antes e depois dos algoritmos. A virada das plataformas digitais para plataformas algorítmicas, alimentadas por big data (os dados dos usuários), acontece de maneira casada com a popularização dos smartphones. Os dispositivos móveis, afinal, facilitam o compartilhamento de dados em tempo real, incrementando as redes neurais artificiais e garantindo que elas operem, já que precisam dos dados dos usuários para fazer previsões e oferecer conteúdos relacionados, “personalizados”.

Isso parecia um bom recurso, numa época em que se preconizava que a internet poderia ser uma alternativa à mídia de massa, tratando nichos de público de maneiras diferentes e garantindo que os mais diversos perfis de pessoas acessassem conteúdos que lhes fosse interessantes (o livro “A Cauda Longa” fala sobre isso). Mas, na verdade, a busca incessante por personalização na Web culminou na criação de “bolhas” de desinformação. Cada um vivendo no “seu mundo”, habitando mundos pequenos e circulares – reduzidos a grupos de WhatsApp, por exemplo – em que a ciência e a informação de qualidade dão lugar às notícias falsas e nada embasadas. Hoje, para tornar isso ainda mais grave ou desafiador, as plataformas baseadas em aprendizagem de máquina são construídas de modo a fazer com que os usuários naveguem de determinadas maneiras pré-determinadas, gerando dados já dentro do que os sistemas são programados para gerar.

Estamos presos em uma circularidade. Quando ela é cercada por muros que não deixam as pessoas acessarem notícias reais, embasadas, e terem acesso à ciência, elas ficam isoladas em círculos de desinformação. Isso foi levado à máxima potência com a eleição da extrema-direita no Brasil, completamente impulsionada por notícias falsas disseminadas dessa maneira. O problema é que as big techs, ou seja, as empresas que mobilizam as plataformas digitais e manipulam os nossos dados, são as mesmas plataformas onde a informação – e a desinformação – circulam. Por isso venho trabalhando, como pesquisadora, educadora e jornalista, para que o público “acorde” e perceba que está sendo levado à desinformação.

É preciso alertar para a construção desses muros invisíveis que isolam as pessoas em círculos de desinformação, e consequentemente de desolação. Simplesmente não é possível dissociar disso tudo os grandes e complexos problemas que temos para enfrentar hoje como humanidade. Muitas vezes, “narrativas da sutileza” contribuem para que alguns vejam os problemas de maneira minimizada – a urgência climática, que alguns preferem ler como “acasos”, “ciclos naturais do planeta” e daí por diante; as guerras que viraram genocídios; as brigas que são, na verdade, crimes; a xenofobia disfarçada de acordo internacional e por aí vai. (Des)informação é uma questão educacional, científica, comunicacional, social, cultural e política.

Centro de Ciência Viva de Bragança, Portugal

Os centros de Ciência Viva em Portugal formam uma rede que conecta empresas, escolas, universidades, politécnicos e unidades de investigação localizados na região em que cada centro se encontra. São 22 centros, no total, e infos sobre eles podem ser consultadas em https://lnkd.in/dQSG2YFt.

No dia 3 de maio eu ministrei uma oficina sobre comunicação de ciência usando a Web que aconteceu na Casa da Seda, em Bragança, região nordeste de Portugal. O local é parte do Centro de Ciência Viva de Bragança, onde aconteceu a edição deste ano do SciComPt.

A facilitadora Camila Leporace com a turma participante do workshop sobre comunicação de ciência usando a Web em Bragança, Portugal, maio de 2023

Na Casa da Seda, pode-se compreender o ciclo de vida do bicho-da-seda e conhecer a indústria de produção artesanal da seda, que teve grande importância para a economia local em outros tempos.

No outro pavilhão do Centro de Ciência Viva da cidade, pode-se interagir com diversas temática da ciência por meio de games, quebra-cabeças, dispositivos de realidade virtual, exposições itinerantes e outras atrações. O lugar é incrível, e vale demais a visita, especialmente para despertar nas crianças o interesse pela ciência.

Serviço:

Centro de Ciência Viva de Bragança, norte de Portugal

Terça a Sexta – 10h-18h
Sábados, Domingos, Feriados – 11h-19h
Encerrado à Segunda
(Última admissão meia hora antes do encerramento)
O Centro encerra ao público nos dias 1 de Janeiro, 24, 25 e 31 de Dezembro.

https://braganca.cienciaviva.pt/

O que a minha faceta nômade digital tem a ver com a minha tese

Jardim da Sereia, Coimbra, Portugal

Estudar a aprendizagem humana e a inteligência artificial foi algo que levou a valorizar ainda mais as experiências genuinamente HUMANAS. Existe algo que é exclusivo nosso e que é a capacidade de SENTIR, de experimentar, de vivenciar na pele cada momento vivido. Conhecemos texturas, gostos, sabores, cheiros e sensaç˜ões – que podemos considerar boas ou más. Máquinas não sentem. Não experimentam nada, de fato. E esse foi um dos pontos mais importantes que explorei na minha pesquisa.

A experiência é um aspecto essencial da aprendizagem humana. Justamente porque experimentamos é que aprendemos; cada habilidade que vamos desenvolvendo fica entranhada em nós, e é sentindo que vamos conhecendo o que está no nosso entorno e adquirindo mais e mais habilidades. Percebo que gosto de me desafiar. Estar em lugares desconhecidos, com pessoas novas, fazendo coisas diferentes e até viver situações não tão confortáveis são elementos que levam a grandes aprendizagens. Acho que além de ser viciada em desafios eu sou viciada em aprender. Por isso esse meu entusiasmo tão grande por VIAJAR.

Acho interessante que a minha pesquisa de doutorado tenha me levado além do que era esperado; isto é, desenvolvi conhecimento em determinada área, sim, claro mas, mais do que isso, eu adquiri “na pele” a dimensão de como a experiência humana é que nos diferencia dos sistemas artificiais. Um tratamento especial da experiência faz parte das teses que investiguei, pertencentes ao enativismo e à cognição corporificada. Mas o toque principal foi dado pelas próprias vivências que tive enquanto fazia a minha investigação de doutorado. Elas me fizeram refletir muito e acabaram compondo o resultado final que está na minha tese.

Chat GPT: precisamos fazer perguntas melhores

Adorei o texto de Stefaan G. Verhulst (pesquisador chefe e um dos fundadores do GovLab da Universidade de Nova York) que se intitula Debate: ChatGPT reminds us why good questions matter.

Basicamente, Verhulst indica como o Chat GPT nos instiga a pensar nas perguntas que temos feito. Para obter dados, precisamos fazer perguntas e procurar respostas para elas, afinal, dados não significam nada sem interpretação.

Como espécie e como sociedade, o autor diz, nós tendemos a procurar por respostas para guiar nossas ações e decisões relativas a políticas, por exemplo. Mas nos esquecemos de que é a maneira como perguntamos que afeta o tipo de resposta gerado.

Será que as perguntas que estamos fazendo estão mesmo levando `às respostas que pretendemos?

– O autor nos instiga a pensar

O processo de pesquisa científica é todo guiado por perguntas. Os relatórios finais trazem respostas, mas elas são a ponta do iceberg.

Perguntas também qualificam dados: elas transformam dados crus em informações ricas, úteis e aplicáveis. Isso que o autor indica serve até mesmo para os dados de acesso a um site, por exemplo. Pensei aqui em algo: se uma companhia deseja saber se o tempo que os usuários passam em seu site é um tempo “bom” ou não, ela precisa saber o que deseja que eles façam em seu site. Se é um site para resolver um problema imediato, como encontrar um contato ou submeter um formulário, provavelmente será ideal que time on site seja curto. Pode significar (não necessariamente, mas é uma das métricas) que rapidamente os usuários têm resolvido seu problema quando entram no site.

Por outro lado, um tempo mais longo passado num site pode ser desejável para uma plataforma de e-commerce, por exemplo. Nesse caso, poderia significar que os usuários estão navegando bastante pelos produtos ou serviços. Claro que, além da métrica do tempo, outras como as métricas que indicam conversão são também essenciais. Se muitas pessoas acessam uma página mas poucas efetivamente compram, isso pode representar um problema para quem deseja vender online, por exemplo.

Voltando ao texto do Verhulst: ele sinaliza que a inteligência artificial torna ainda mais evidente a importância de fazermos boas perguntas.

Quando os engenheiros da IA desenvolvem um modelo de aprendizagem de máquina que aprende com os dados, o que ele aprende – ou seja, o próprio modelo – depende da pergunta que procura responder a partir dos dados.

– Stefaan Verhulst
Entre aqui para ler o texto dele todo (vale muito a pena) 

O alívio e o vazio

Sobre terminar um doutorado e abraçar o que vem depois, mesmo sem saber ao certo o que é que vem!

Fiz um doutorado. Defendi a minha tese no dia 6 de janeiro de 2023, na primeira semana do ano. Só aí meu ano começou. Mas não foi exatamente alívio que senti. Talvez tenha sentido, sim, algum alívio por um dia ou dois. Mas o que tomou conta de mim depois da defesa foi a apreensão pela incerteza, pela dúvida do que vem agora. Foram quatro anos que passei envolvida em uma pesquisa, durante os quais eu mudei de casa oito vezes; morei no Brasil e em Portugal; publiquei artigos; organizei um livro que foi publicado em Portugal; editei um livro que ainda não foi lançado; traduzi artigos do inglês para o português. Apresentei trabalhos em eventos mais de 20 vezes.

Passei (passamos) por uma pandemia! Uma pandemia…

E mesmo assim, ali estava o meu horizonte, produzir a tese, produzir artigos, seguir pesquisando. Eu sabia o que fazer, eu tive financiamento para a minha pesquisa (apertado, mas tive) e eu segui fazendo. Cumpri minhas metas. Foi um bom truque de sobrevivência. Mas eu quase não respirei, e um dia a conta vem. Veio. Enquanto todos me perguntam se estou feliz e tranquila, eu tenho vontade de dizer não…! Tudo menos tranquila.

O doutorado é um tempo incrível em que a gente se dedica a um tema e o estuda com profundidade; no meu caso, machine learning e aprendizagem humana! Fantástico, não é? Mas esse período acaba, e quando a tese “nasce”, em vez de um bebê no colo, ficamos com a sensação de ter as mãos vazias. É um parto sofrido, mas o nosso “bebê” sai direto do nosso “útero” para o mundo. O que fazer?

Haverá dias difíceis, e todos a sua volta só dirão que você deveria estar aproveitando o fim do doutorado, “que alívio”, “aproveita”, etc e tal. Mas só quem chegou ao fim de um projeto importante – de qualquer tipo, não apenas uma tese! – sabe como é louca essa gangorra do alívio-e-vazio. Aprendendo enquanto vivo essa experiência, diria o seguinte: fugir do sentimento não adianta. É super importante se dedicar a novos projetos, participar de eventos em que haja a possibilidade de compartilhar aprendizagens, seguir adiante; mas também é preciso abraçar o aparente “vazio”, e simplesmente sentir. Sentir o fim de um ciclo para que outros venham. Sentir o que aquele aprendizado representou e no que ele pode se transformar. Abraçar o novo, abraçar o desconhecido e até mesmo abraçar a dúvida: será que fiz a(s) melhor(es) escolha(s)?

Faz parte. Até porque, enquanto estivermos vivos, sempre erraremos nas escolhas e poderemos escolher de novo e de novo. E quem tiver medo dos fins de ciclo nunca poderá viver os inícios, nem os processos, nem as transformações…

Onde estão as mulheres na tecnologia?

Dia 11 de fevereiro é o Dia Internacional das Mulheres e Meninas na Ciência

Neste Dia Internacional das Mulheres e Meninas na Ciência, data criada pela Organização das Nações Unidas (ONU) para ressaltar a participação feminina na comunidade científica, trago esta pergunta: onde estão as mulheres na tecnologia?

Imagem: https://unsplash.com/pt-br/@cdc

Em sua conferência TED, Zoe Philpott lança luz à primeira programadora de computadores do mundo, Ada Lovelace. Ela escreveu seu primeiro programa complexo em 1843. E sabem o que aconteceu com ela? Foi cancelada. Isso mesmo! Em vez de consagrada, Lovelace foi cancelada, basicamente porque sua mãe se separou do pai, que era o controverso poeta Lord Byron. Pois é.

Ao nome de Ada Lovelace na história da programação se soma o de Grace Hopper, responsável por introduzir as palavras no mundo da programação. A importância disso? Não era mais necessário ser matemático para trabalhar com programação. Isso mudou tudo.

Aproveito para deixar um incentivo especialmente às mulheres que queiram ser programadoras: a plataforma Potência Tech, do iFood, está oferecendo cursos rápidos e bolsas para cursos completos em programação. Eu produzi alguns dos cursos que estão na plataforma, incluindo esse que conta um pouco da história do universo da programação – passando, é claro, por Ada Lovelace.

Para acessar esse curso e o conteúdo completo da plataforma, basta clicar neste link e fazer um cadastro super rápido e gratuito, se ainda não tiver feito. Aproveitem para indicar a amigos e amigas. 

https://lnkd.in/dFsZhmPF

O que os computadores continuam não conseguindo fazer, 50 anos depois

O artigo que escrevi e submeti para a Revista Portuguesa de Educação, intitulado “O que os computadores continuam não conseguindo fazer, 50 anos depois: A aprendizagem sob a perspectiva da fenomenologia do cotidiano de Hubert Dreyfus”, foi publicado neste link.

É uma grande satisfação ter um artigo publicado nessa revista, que é muito bem conceituada na área da Educação. Vejo o filósofo Hubert Dreyfus como um precursor de ideias da abordagem chamada de cognição enativa, que é a base da minha tese de doutorado. Aqui no blog já escrevi sobre ele – releia os posts:

Introdução à Fenomenologia com Hubert Dreyfus

What Computers Can’t Do (Hubert Dreyfus)

Dreyfus fez críticas muito pertinentes à inteligência artificial quando a área estava ainda nascendo. Eu amo o trabalho dele. Por conta disso, quis fazer um artigo que fosse também uma espécie de homenagem. Por isso esse título, que ficou bem “jornalístico” – sou de fato jornalista, e afinal a identidade da gente se transforma, mas a essência permanece 😉 “What Computers Can’t Do” é o título de um livro de Dreyfus lançado em 1972, mas que mobiliza até hoje a atenção dos interessados em cognição e IA. Quando me dei conta do “aniversário” de 50 anos do livro (e eu ainda fiz 40 anos em 2022, nasci em 82 haha coincidências), fiz questão de que fosse publicado ainda este ano e corri para enviar para a revista. E eis que o artigo saiu faltando um dia para o ano acabar!

A mulher como a mente estendida do homem: desequilíbrio e sobrecarga*

A Tese da Mente Estendida, desenvolvida pelo cientista cognitivo Andy Clark, sugere que a mente se estende para além do cérebro. O ambiente, as tecnologias, as instituições, as linguagens que criamos são todas formas de estendermos as nossas mentes. O próprio corpo é considerado extensão da mente também, sendo concebido, nessa perspectiva, como a primeira tecnologia cognitiva a que temos acesso durante as nossas vidas.

Mais do que apenas potencializar a cognição, esses recursos, externos ao cérebro e ao organismo humano como um todo, são vistos como constitutivos da mente; ela não existiria sem eles. A Tese preconiza, ainda, que a função de todos esses elementos é permitir um offload ou uma redução da carga da atividade cerebral; isto é, a partir da distribuição da operação cognitiva entre todos esses componentes, o cérebro não precisa ficar encarregado da atividade mental sozinho; em suma, não precisa ficar sobrecarregado. O exemplo mais clássico é o do celular que, ao guardar os números de telefone e tantas outras informações para nós, nos alivia de ter que memorizar tudo isso.

Críticos da Tese da Mente Estendida colocaram uma questão que, nomeada como cognitive bloat, se resume no seguinte: se a mente humana se estende por esses domínios externos ao organismo, e esses domínios incluem as outras pessoas, seriam então as mentes de outras pessoas consideradas também parte da mente de um determinado indivíduo?

Desde 2017, venho estudando essa Tese e as críticas a ela, além de outras perspectivas que guardam semelhança com a ideia da mente estendida. E acredito cada vez mais que sim, as mentes de outras pessoas podem ser extensões da mente de um determinado indivíduo. Isso não é necessariamente ruim. Afinal de contas, construímos juntos, criamos juntos, a inteligência é compartilhada. Muitas coisas que existem – projetos, ideias, famílias, conversas – somente existem porque são construções coletivas. E isso é ótimo.

Mas, para pensarmos assim, é preciso que todas as mentes envolvidas se beneficiem dessa espécie de expansão mental proporcionada por tais compartilhamentos. E nem sempre é esse o caso. Talvez, pelo olhar de uma mulher, eu possa contribuir com uma outra perspectiva hoje, neste 8 de março, dia em que se celebra o Dia da Mulher. E o olhar que quero trazer é o seguinte: seríamos nós, mulheres, extensões das mentes dos homens, tornando para eles tantas tarefas mais leves (ou reduzindo a quantidade de tarefas), enquanto nós seguimos sobrecarregadas – e sem ter para onde estender as nossas mentes?

Cena da minissérie MAID (Netflix), que recomendo muito que você,
que está lendo este post, assista!

Não faltam dados que mostram que essa hipótese é verdadeira. Historicamente, nós mulheres temos progredido em nossos direitos, alcançado lugares a que antes jamais poderíamos chegar e assumido posições também outrora impensáveis para o “segundo sexo” (obrigada, Beauvoir). Mas ainda temos um longo caminho pela frente, até porque, na não linearidade típica do fluxo da vida, retrocedemos (principalmente graças ao fascismo, diga-se de passagem) bastante nos últimos tempos.

Esse longo caminho ainda por vir anseia pelo fim definitivo da ideia de que mulheres são responsáveis pela casa e homens “ajudam”. Substitua a casa na frase por: os filhos, o cuidado com pessoas idosas e/ou doentes, as decisões sobre compras de mercado, sobre as prioridades domésticas etc. Muitas vezes, homens contribuem com a casa e os filhos, mas precisam que a mulher diga tudo o que precisa ser feito, caso contrário não tomam iniciativa alguma. Isso significa que por vezes as tarefas até são divididas, mas recai sobre a mulher o gerenciamento das coisas em casa.

Você já viu uma gerente ganhar menos do que a equipe a ela subordinada? Não. Tomar decisões é uma tarefa pesada e deveria ser reconhecida e valorizada; quase nunca é, no caso da mulher sobrecarregada (recomendo estes quadrinhos aqui para que quer um resumo perfeito disso).

Nós, mulheres, por mais que tenhamos a tecnologia para nos ajudar em nossas tarefas cognitivas (muitas delas são tecnologias que reproduzem os estereótipos e preconceitos, e que precisam de nós para ficar menos enviesadas), ainda tendemos a ser o “HD externo” de muitos homens, como bem colocou a Karla Fontoura no Planeta Ella no Instagram há alguns dias (@planetallea).

Acabamos tendo que contar com outras mulheres, que compreendam a nossa sobrecarga, para serem as nossas “mentes estendidas”. Formamos as nossas redes de apoio. Pedimos as nossas ajudas a quem acaba nos entendendo mais facilmente. Enquanto isso, boa parte dos homens segue recorrendo às mulheres para fazerem offload cognitivo; isto é, liberar-se de tarefas chatas e cansativas para que possam cuidar do que realmente interessa ou o que é divertido (seja o seu trabalho, sua pesquisa acadêmica, suas amizades, o futebol e por aí vai).

Em relações em desequilíbrio, sempre sobra para alguém; quando sobra para alguém, esse alguém deixa seus sonhos em standby, suspende os planos, deixa de seguir em frente para dar conta de algo que não deveria ser só seu. Para toda mulher que trabalha como mente estendida de um homem – no sentido que aqui expliquei como negativo – existe um homem acomodado que não se preocupa em sair dessa posição.

É muito válido e muito bonito dizermos que “fulana é meu braço direito”. Mas a reciprocidade é fundamental e temos que persegui-la sem cansar.

*Dedico este texto a todas as mulheres, especialmente às minhas amigas, e aos homens bacanas com quem trabalho e convivo diariamente e que sei que olham para essas questões. Tive a sorte de ter sido criada por um homem que me respeita, me incentiva e me estimula a ser quem eu quiser ser. Acredito, por causa do meu pai e desses homens bacanas, que podemos seguir sendo mentes estendidas uns dos outros no sentido coletivo, no sentido das trocas constantes, e não da sobrecarga feminina.

Breve ideia que me deixou feliz… e então compartilho!

Tive o prazer de participar do XI Curso de Verão promovido pelo INCOg, da PUC-Rio, apresentando ideias da mente estendida. Sempre ficava incomodada com as referências bibliográficas apertadinhas em letras miúdas ao final da apresentação e que não facilitavam em nada para quem quisesse se aprofundar.

Desta vez, resolvi então inovar: fiz um post no meu blog contendo todas as referências, inclusive livros e imagens usados ou mencionados na apresentação, e gerei um QR Code e um link rápido para ele.

Quem não assistiu mas tem interesse, pode dar uma olhadinha se quiser. Aqui está o post.

Fiquei feliz de ter tido essa ideia, achei uma boa solução que pretendo adotar daqui por diante. Ah, e não foi do nada: eu tive essa ideia quando circulei por uma exposição esta semana em que o artista (Jens Müller, que está expondo aqui em Coimbra no Centro Cultural Penedo da Saudade; veja o Insta dele) colocou nas paredes do centro cultural o QR Code levando para o Instagram dele. Nada se cria, tudo se recria, e isso está totalmente alinhado com a tese de Andy Clark. Nossa cognição se forma em camadas, aproveitamos tudo que está no entorno para avançar de “nível” cognitivo.