A intelig\u00eancia artificial cada vez mais permeia e influencia nossas vidas. Afeta decis\u00f5es das mais relevantes: quem pode conseguir um empr\u00e9stimo ou financiamento, quem deve conseguir um emprego ou ser demitido, quem deve ser preso. Conecta indiv\u00edduos em apps de relacionamentos, podendo influenciar nos rumos sentimentais das vidas das pessoas, tamb\u00e9m. <\/p>\n\n\n\n
Diante da presen\u00e7a crescente da IA em nossas vidas, cresce tamb\u00e9m a import\u00e2ncia de compreender o que significa vivermos entrela\u00e7ados a sistemas que se alimentam dos nossos dados.
Por isso, crescem as preocupa\u00e7\u00f5es com os riscos a que potencialmente somos expostos.<\/p>\n\n\n\n
H\u00e1 uma mobiliza\u00e7\u00e3o enorme para que se analise esses riscos e para que sejam mitigados. <\/p>\n\n\n\n
Nesse contexto, s\u00e3o preocupantes os mecanismos opacos de tomada de decis\u00e3o embutida em sistemas algor\u00edtmicos.<\/p>\n\n\n\n
Transpar\u00eancia \u00e9 importante quando se trata de sistemas de #IA<\/a>. “Os modelos de neg\u00f3cios baseados em dados, sistemas e AI devem ser transparentes: mecanismos de rastreabilidade podem ajudar nisso. Al\u00e9m disso, os sistemas de IA e suas decis\u00f5es devem ser explicados de uma maneira adaptada \u00e0s partes interessadas. Os seres humanos precisam estar cientes de que est\u00e3o interagindo com um sistema de IA, e devem ser informados acerca das capacidades e limita\u00e7\u00f5es desse sistema”, diz documento do AI HLEG de 2019. <\/p>\n\n\n\n Vou mais al\u00e9m e defendo, com base em teorias da cogni\u00e7\u00e3o em que venho me aprofundando no doutorado, que “intera\u00e7\u00e3o” \u00e9 humano-humano; quando lidamos com sistemas de IA temos uma troca, mas n\u00e3o \u00e9 exatamente uma “intera\u00e7\u00e3o” como seria uma intera\u00e7\u00e3o social. H\u00e1 algo que s\u00f3 humanos t\u00eam, ainda bem \ud83d\ude09 <\/p>\n\n\n\n No artigo acad\u00eamico dispon\u00edvel neste link<\/a>, o qual inspirou este meu post, h\u00e1 uma discuss\u00e3o interessante sobre “variedades de transpar\u00eancia” em sistemas de IA. Foi escrito por Gloria Andrada, Robert Clowes e Paul Smart.<\/p>\n","protected":false},"excerpt":{"rendered":"
A quest\u00e3o da transpar\u00eancia aparece nos documentos do AI HLEG – the European Commission\u2019s High-Level Expert Group on Artificial Intelligence, de 2018.<\/p>\n\n\n\n