Mark Zuckerberg, CEO da Meta (META), tem feito declarações em que insinua que o futuro das interações humanas será moldado pela inteligência artificial. Para ele, as pessoas terão amigos na forma de chatbots, que também farão o papel de terapeutas. Ele diz que isso se torna realidade na medida em que “a IA começar a conhecer você mais e mais”.

Dei algumas declarações sobre o assunto para uma matéria que saiu na Gama Revista – leia aqui.

Há tantos problemas na fala dele. Vou tentar explicar alguns sob o ponto de vista da pesquisa em cognição.

Mas, afinal, o que o Sr. Meta sabe sobre conexões reais?

Um modelo de IA não realmente “conhece” ninguém. Conhecemo-nos uns aos outros por meio de nossas interações sociais (reais!), que são construídas a partir da empatia, de ajustes finos contínuos entre os indivíduos, de diálogos em que se molda ao outro, e só se pode conhecer o outro quando se é capaz de perceber a si mesmo. A IA não tem essa capacidade de percepção, não pode realmente perceber o outro e criar uma real conexão com ele. O que ela pode fazer é coletar dados dos usuários e com isso parecer que os conhece. Hoje, ela coleta dados de todos os usuários, e por meio de estatística oferece conteúdo para quem tenta conversar, e por mais que a pessoa se sinta contemplada em suas questões pessoais aquilo é apenas um resultado estatístico das questões pessoais de muitas pessoas.

Redes sociais nada sociais…

Outro ponto essencial é o seguinte: as redes sociais tornaram-se antissociais. As pessoas têm centenas de amigos, entre muitas aspas, no Facebook; afinal, desses, quem são verdadeiros amigos, que aparecem quando precisamos deles? Provavelmente o Sr. Meta sabe que temos na verdade cerca de dois, três amigos, que é o que ele cita na entrevista, complementando que as pessoas querem ter mais amigos, mas, então ele sabe que a rede social que ele criou é na verdade antissocial? Porque ele sabe que ali não há laços reais, mas se são centenas de amigos, como não se pode contar com mais de dois? E por que as pessoas querem então mais amigos? E são os chatbots que vão fazer esse papel?

Plataformas

E quando ele fala que as pessoas se sentem sozinhas, e que as conexões reais fazem falta, ele não pontua em nenhum momento, não reconhece em nenhum momento que ele faz parte da criação de um universo, que chamei no meu livro de “algoritmosfera”, que é um universo que contribui para esse isolamento.

Rolar o feed é uma eterna disputa pela nossa atenção que tira a nossa atenção a nós mesmos. Estamos desconectados de nós mesmos.

Mas seria possível e seria inteligente resolver esse problema da desconexão real, na era das hiper conexões digitais, com IA? Esta é uma boa questão. Com base na minha pesquisa, sobre cognição e IA, em que me aprofundei bastante na questão daquilo que é uma interação real – o que caracteriza uma interação social? O que a diferencia de uma interação com robôs? – Posso dizer que somos seres sociais por natureza, desde antes de nascermos, e nossa cognição em pleno funcionamento simplesmente não existe sem a sua dimensão social. Então, se o celular é parte da mente e todos sentem quando estão longe dele, o outro também é parte constitutiva de nós, e se o outro está ausente é uma parte de nós que não está presente, de certo modo.

(Des)conexão

Mas também é importante lembrar do que a Sherry Turkle coloca; ela é psicóloga, trabalha no MIT, fundadora da Iniciativa do MIT sobre Tecnologia e Self, que é o seguinte: conectar-se consigo mesmo é uma camada essencial para conseguir conectar-se com o outro. E as distrações programadas que encontramos online, especialmente nas plataformas de redes sociais, são elementos dentre aqueles que mais desviam as pessoas da capacidade de se conectarem consigo mesmas. Nessas plataformas, a cada segundo se dirige a atenção do usuário para outra coisa, já que elas são uma arena de disputa por essa atenção – é a chamada economia da atenção; mas as pessoas ficam na verdade sem atenção nenhuma, pois cada hora é um conteúdo chamando, é uma interrupção.

As mensagens, o eterno rolar do feed, prendem as pessoas – porque são feitos para isso mesmo – e, enquanto estão ali, ávidas pela próxima dose de dopamina, elas ficam adormecidas, entorpecidas por aquele processo. A atenção na verdade se esvai. E com isso as pessoas desaprendem a viver sem essas eternas iscas da sua atenção, e não sabem mais viver no tédio – que faz parte, ou deveria fazer parte, das nossas vidas. No tédio florescem momentos que levam ao autoconhecimento, à conexão consigo mesmo, e no tédio se constrói a noção também de que, por mais que sejamos seres sociais, somos também seres individuados, seres que têm a sua identidade, e assim temos a capacidade de perceber que sermos seres sociais não significa que tenhamos que ter companhia de outros o tempo todo, e nem diversão e distrações o tempo todo.  A capacidade de compreender a si mesmo é o que leva cada um a ter um propósito, a conseguir traçar um caminho para si, enxergar um futuro a partir do tempo presente, e quem tem isso se motiva, se mantém motivado, e pode evitar o caminho da depressão.

Então, é claro que a conexão com outros também apoia esse processo, mas, antes de tudo, as redes ditas sociais online desconectam as pessoas de próprias, elas perdem a atenção em si mesmas, e sua identidade passa a ser moldada de uma maneira muito dura por algo que não é humano e que está ali, em volta delas, dizendo o que devem sentir, se são feias ou bonitas, se estão à altura de algo ou de alguém, o que elas devem acreditar que é sucesso, tudo que as distancia de realmente compreenderem o que pode ser bom ou mau para elas mesmas.

O primeiro chatbot

Outro ponto interessante é: Zuckerberg pontua que o campo da terapia com agentes de IA é muito novo, não sei o que ele quer dizer com isso, se o primeiro chatbot de que se tem notícia era uma terapeuta entre muitas aspas e se chamava ELIZA. Claro, ele está se referindo ao campo os chatbots com IA generativa, isso pode ser novo. Ele quer dizer que a tecnologia ainda pode avançar tanto, que não podemos dizer que esses terapeutas virtuais não vão evoluir tanto a ponto de não serem realmente bons.

Mas, diante desse cenário de aparentes incertezas, temos uma certeza: a empatia está ligada ao fato de sermos seres vivos; somos parte da natureza, somos animais, temos a vida e estamos conectados uns aos outros porque temos vida. Tal qual uma célula, até por temos trilhões delas em nosso corpo, vivemos em trocas de energia constantes com o nosso meio, e são essa trocas que nos permitem um equilíbrio. Como podemos viver em equilíbrio com um meio que é hostil a nós? Se torna hostil quando não há uma preocupação da indústria da tecnologia, dos chatbots de nos manter informados acerca daquilo que acontece com as interações que temos com esses sistemas, os nossos dados coletados, nós não sabemos o que acontece; hostil também porque há a sugestão de que devemos resolver os nossos problemas de desconexão – causados até certo grau pela tecnologia – com a própria tecnologia que os criou ou que alimenta esses problemas.

Não tem sentido pensar que a tecnologia, na medida em que evolui, vai ser capaz de conexão, se conexão é empatia  e é sociabilidade e isso só tem realmente entre seres vivos. É também sem sentido falar em substituição disso. Aliás, o Sr. Meta fala que não se trata de substituir, que a conexão real e física é melhor, mas então por que depois ele diz que a IA ainda vai evoluir muito? Está implícita no discurso ele a intenção de evolui-la ate o ponto em que possa sim substituir as relações humanas, ate porque não há transparência, então pode ser que num dado momento uma pessoa não saiba se interage com um terapeuta humano ou com uma IA. Isso em certa medida já acontece.

O poder humano na algoritmosfera

Esse é o mundo construído por empresas que produzem tecnologia sem se preocupar com o humano e com a natureza. Como somos nós que alimentamos as máquinas desse mundo com nossos dados, temos também o poder de desativá-las. Mas precisamos, para isso, voltar a acreditar na nossa capacidade de viver bem sem ter uma mensagem pulando a cada minuto. Sem necessariamente ter companhia para tudo, até numa fila (“companhia”= celular na mão rolando o feed…).

A contemplação, o tédio, a vida real, a conexão consigo mesmo, podem não parecer, porque não são imediatos, mas são os caminhos para uma vida social que começa consigo mesmo e que é muito frutífera. Se ela não garante que não se tenha depressão ou outros problemas psicológicos – claro, poque há vários fatores que os geram – ao menos conectar-se consigo mesmo nos devolve à posição de autônomos, de seres capazes de liderar suas escolhas. 

E afinal talvez o Sr. Meta saiba, sim, algo sobre conexões reais. Afinal, enquanto tanta gente opta pela superexposição nas redes sociais, quando é o Sr. Zuck a postar fotos das filhas no Instagram, ele protege os rostos das crianças. Isso talvez nos diga algo sobre como devemos reconsiderar as nossas demonstrações de afeto nas redes sociais. Afinal, superexposição, cuidado e conexão real não combinam muito.