{"id":2753,"date":"2023-10-04T17:13:40","date_gmt":"2023-10-04T17:13:40","guid":{"rendered":"http:\/\/camilaleporace.com.br\/?p=2753"},"modified":"2023-10-05T17:57:30","modified_gmt":"2023-10-05T17:57:30","slug":"deletar-o-passado-para-construir-o-futuro","status":"publish","type":"post","link":"https:\/\/camilaleporace.com.br\/index.php\/2023\/10\/04\/deletar-o-passado-para-construir-o-futuro\/","title":{"rendered":"Deletar o passado para construir o futuro?"},"content":{"rendered":"\n

J\u00e1 ouviu falar em \u201cmachine unlearning”, ou desaprendizagem de m\u00e1quina?<\/h3>\n\n\n\n
\"\"
Foto de Robynne Hu<\/a> na Unsplash<\/a> <\/figcaption><\/figure>\n\n\n\n

\u00c9 comum mem\u00f3rias serem \u201capagadas\u201d do c\u00e9rebro humano com o decorrer do tempo. Isso acontece por v\u00e1rios motivos, como o fato de informa\u00e7\u00f5es corriqueiras n\u00e3o estarem armazenadas na nossa mem\u00f3ria de longo prazo (temos classificados dois tipos, de curto prazo ou \u201cmem\u00f3ria de trabalho\u201d e a mem\u00f3ria de longo prazo). Tamb\u00e9m a mem\u00f3ria de longo prazo oferece informa\u00e7\u00f5es mais difusas, enquanto a mem\u00f3ria de trabalho nos ajuda a lembrar de detalhes mais v\u00edvidos daquilo com que estamos em contato no presente.<\/p>\n\n\n\n

Mas, e quando queremos lembrar de algo e a informa\u00e7\u00e3o n\u00e3o \u201cvem\u201d de jeito nenhum? Existem v\u00e1rios estudos que investigam as raz\u00f5es pelas quais esquecemos coisas que prefer\u00edamos n\u00e3o esquecer. De todo modo, n\u00e3o \u00e9 poss\u00edvel \u201cpin\u00e7ar\u201d mem\u00f3rias dos nossos c\u00e9rebros e simplesmente remov\u00ea-las. Nossa mente n\u00e3o \u00e9 um software rodando num hardware! Apesar disso, existem pesquisas sobre como poder\u00edamos selecionar determinadas mem\u00f3rias para serem esquecidas de prop\u00f3sito, ajudando por exemplo as pessoas a se recuperarem de traumas. Enquanto isso, no mundo da IA, come\u00e7ou-se a falar em \u201cmachine unlearning”, ou desaprendizagem de m\u00e1quina, em refer\u00eancia \u00e0 aprendizagem de m\u00e1quina. O que \u00e9 isso?<\/p>\n\n\n\n

A ideia \u00e9 retirar dos modelos de IA – na forma de machine learning – certas informa\u00e7\u00f5es dos conjuntos de dados usados para trein\u00e1-los. Ou fazer os modelos \u201creaprenderem\u201d parte dessas informa\u00e7\u00f5es. Essa iniciativa n\u00e3o vem do nada. Ela tem a ver com o \u201cdireito ao esquecimento\u201d (\u201cRight to be Forgotten” ou “Right to Erasure”) previsto na legisla\u00e7\u00e3o da Uni\u00e3o Europeia para a regula\u00e7\u00e3o da IA, a European Union’s General Data Protection Regulation (GDPR).<\/p>\n\n\n\n

Um dos desdobramentos mais legais dessa iniciativa de machine unlearning seria fazer as m\u00e1quinas \u201cesquecerem\u201d informa\u00e7\u00f5es enviesadas e que aumentam o preconceito e a desinforma\u00e7\u00e3o. Mas, mesmo quando se trata de sistemas artificiais, esse tamb\u00e9m n\u00e3o \u00e9 um desafio f\u00e1cil. Afinal, as redes neurais artificiais se ramificam em muitas conex\u00f5es paralelas, e ent\u00e3o uma mesma informa\u00e7\u00e3o faz parte de diversos desses grupos, n\u00e3o est\u00e1 apenas concentrada em um \u00fanico lugar.<\/p>\n\n\n\n

Para entender isso, basta pensar em como o preconceito se alastra e se infiltra em todas as dimens\u00f5es do pensamento e da constru\u00e7\u00e3o social e cultural. Como \u00e9 que se poderia remover o preconceito da sociedade, como se fosse um v\u00edrus? Seria bom, usar\u00edamos m\u00e1scaras e desenvolver\u00edamos vacinas para ele at\u00e9 que fosse superado (gatilho feelings!), mas n\u00e3o \u00e9 assim. Tamb\u00e9m n\u00e3o adianta s\u00f3 remover textos nocivos da internet, porque as ideias ainda estar\u00e3o l\u00e1, e os pensadores que as propagam, tamb\u00e9m.<\/p>\n\n\n\n

Mas d\u00e1 um al\u00edvio pensar que certos conjuntos de informa\u00e7\u00f5es poder\u00e3o ser removidos das bases de dados de IA se estiverem causando danos a pessoas. N\u00e3o \u00e9 justo que os dados se perpetuem de forma tal que nunca aquilo seja esquecido, ainda que a pessoa se arrependa, mude de opini\u00e3o, queira que aquilo suma, enfim, esse sempre foi um desafio na Web. Mas fica mais dif\u00edcil com a IA.<\/p>\n\n\n\n

Tamb\u00e9m \u00e9 importante podermos nos proteger, e especialmente preservar as nossas crian\u00e7as e adolescentes das falhas nos sistemas de informa\u00e7\u00e3o com os quais estamos enredados. Algumas delas podem causar grandes traumas e danos emocionais, principalmente nos mais novos.<\/p>\n\n\n\n

No entanto, a verdade \u00e9 que, se os sistemas erraram, processando dados prejudiciais a indiv\u00edduos e \u00e0 sociedade, trabalhar para remover os dados das bases pode ser j\u00e1 de grande ajuda. Mas, quem tem que desaprender preconceitos, e (re)aprender a viver coletivamente e de maneira mais saud\u00e1vel e amorosa, somos n\u00f3s enquanto sociedade. A IA, por sua vez, vai seguir refletindo os nossos problemas enquanto eles existirem. E querer retir\u00e1-los das bases de dados vai ser como enxugar gelo. Big data, big (complex) problems.<\/p>\n\n\n\n

PS. Isso sem mencionar o fato de que criar regulamentos para a IA n\u00e3o resolve o assunto em definitivo, at\u00e9 porque n\u00e3o basta querer apagar dados sens\u00edveis que a empresa dona dos dados assim o far\u00e1. Vale consultar este link aqui<\/a> sobre isso.
<\/p>\n","protected":false},"excerpt":{"rendered":"

J\u00e1 ouviu falar em \u201cmachine unlearning”, ou desaprendizagem de m\u00e1quina? \u00c9 comum mem\u00f3rias serem \u201capagadas\u201d do c\u00e9rebro humano com o decorrer do tempo. Isso acontece por v\u00e1rios motivos, como o Read More …<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,3,16],"tags":[],"class_list":["post-2753","post","type-post","status-publish","format-standard","hentry","category-artificial-intelligence","category-children","category-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2753"}],"collection":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=2753"}],"version-history":[{"count":3,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2753\/revisions"}],"predecessor-version":[{"id":2765,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/posts\/2753\/revisions\/2765"}],"wp:attachment":[{"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=2753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=2753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/camilaleporace.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=2753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}