Inteligência artificial e direitos da personalidade: uma contradição em termos?
Eduardo Tomasevicius Filho* Professor Associado do Departamento de Direito Civil da Faculdade de Direito da Universidade de São Paulo – USP. E-mail: tomasevicius@usp.br
Resumo: A inteligência artificial surgiu concomitantemente com a eletrônica e a ciência da computação na década de 1950. Tem sido aplicada cada vez mais em diversas áreas e potencializou-se com a maior capacidade de armazenamento e tráfego de dados pela Internet. Todavia, especialmente em 2018, ampliou-se a percepção da sociedade para os efeitos positivos e negativos do emprego dessa tecnologia, do ponto de vista não apenas político, mas também dos direitos da personalidade, sobretudo o direito à privacidade. Neste artigo, faz-se a apresentação da inteligência artificial, os problemas que esta pode causar às pessoas e os desafios dos direitos da personalidade na defesa da dignidade humana. Palavras-chave: Inteligência artificial. Direitos da personalidade. Direito à privacidade. Internet. Controle social.
Introdução Do ponto de vista cultural, a modernidade corresponde ao período histórico de aproximadamente duzentos anos, que se iniciou no século XVIII com o Iluminismo, o liberalismo econômico, a Revolução Industrial e as Revoluções políticas decorrentes da crise do Antigo Regime. O marco final desse período é a Segunda Guerra Mundial, com a conscientização de que nem sempre a humanidade evolui em termos de relacionamentos interpessoais, sociais e políticos. A partir da década de 1950, inaugurou-se uma nova era: a pós-modernidade. Desde então, relativizaram-se as antigas instituições, entre as quais, as religiões e a família. A revolução sexual e a revolução nos costumes ocorridas na década de 1960, bem como as transformações nos mercados de trabalho – em nível local e em escala mundial –, somadas à massificação dos meios de comunicação, resultaram no pluralismo de ideias, na ausência de consensos sobre valores, no aumento exponencial do consumo de bens e serviços, na multiplicidade de estruturas familiares, além da crescente aceitação das opções sexuais das pessoas e da diversidade de identidades de gênero. É certo que a eletrônica e a informática contribuíram significativamente para a ocorrência de todas essas transformações. Com a invenção do transístor na década de 1950 e, anos depois, dos circuitos integrados, os televisores e os computadores diminuíram de tamanho e passaram a consumir muito menos energia elétrica. O mesmo fenômeno deu-se com a Internet, também criada na década de 1950 com fins militares e usada pela comunidade científica até a sua abertura irrestrita em 1994. A rede cresceu sobremaneira e tornou-se parte da vida de grande parte dos seres humanos, revolucionando as telecomunicações, a imprensa e o comércio, contribuindo, desse modo, para que as relações humanas se desenvolvessem em ambiente virtual, em especial, nas redes sociais. Todavia, o aumento da capacidade de armazenamento de informações nos servidores das “gigantes da Internet”, a maior velocidade de transmissão e circulação de informações e a mudança dos registros de imagens, de analógicas para digitais, produzidas com qualidade a partir de um telefone celular, deixaram a pessoa humana vulnerável dentro e fora do mundo virtual. Assim, o conceito de privacidade sofreu abalos sensíveis. Tornou-se insuficiente, nos dias atuais, imaginar que o direito à privacidade se restringe à ideia tradicional de invasão de privacidade, sintetizada no “direito de estar só” (“right to be let alone”), concebido por Warren e Brandeis (1890). Antes se invadia a privacidade pela procura de informações ou fatos sobre a vida de uma pessoa. Agora é a própria pessoa, vítima das potenciais ou reais violações à privacidade, que, espontânea e alegremente, fornece esses dados, obtidos por meio de pesquisas em sites de mecanismos de busca, “postagens” nas redes sociais e aplicativos de mensagens, o que permite a formação de “big data” e elaboração de dossiers (“profiling”) completos sobre si mesma. Tem-se ainda a ampliação da coleta de dados dos veículos, equipamentos e aparelhos eletrodomésticos das pessoas, por meio da denominada Internet das Coisas (IoT). Em 2019, iniciar-se-á o projeto da “Internet dos Animais”, organizado pelo Instituto Max Planck de Ornitologia, em parceria com a Agência Espacial Russa e o Centro Espacial Alemão, com o intuito de, a partir do comportamento dos amimais, estudar zoonoses e epidemias globais, mudanças climáticas e fazer previsão de desastres naturais, como os terremotos tsunamis e pragas agrícolas, por meio de registros de aceleração, temperatura, umidade, pressão, altitude e frequência cardíaca. (ALISSON, 2018). Preocupações quanto ao uso de computadores no processamento de dados relativos às pessoas não são recentes. Na década de 1960, juristas norte-americanos, como Edward J. Bloustein (1964), Donald N. Michael (1964) e, sobretudo, Alan Westin (1970), alertavam para as possíveis violações ao direito à privacidade dos indivíduos pelo processamento de informações armazenadas nos bancos de dados de órgãos do governo dos Estados Unidos, o que veio a confirmar-se, em 2013, com a divulgação dos escândalos de espionagem realizados pelo governo daquele país. Aliás, o ano de 2018 será lembrado pela promulgação e entrada em vigor, respectivamente, de dois textos legais em matéria de proteção à privacidade. O primeiro deles consiste na Lei Brasileira de Proteção de Dados Pessoais (Lei n. 13.709), o qual pouco inovou nessa matéria. O segundo, no âmbito europeu, consiste na General Data Protection Regulation – GDPR (Regulamento n. 679/2016), bastante detalhado e que aproveitou as experiências europeias colhidas durante a vigência da agora revogada Diretiva n. 95/46/CE sobre proteção de dados. Quando se pensou que o controle sobre a vida das pessoas pela falta de privacidade na Internet tinha atingido seu ápice, toma-se consciência de que esse controle pode ser ainda mais intenso pelo uso da inteligência artificial. Embora seu uso prático tenha início na década de 1950, foi em 2018 que se divulgaram seus efeitos com frequência pela imprensa, despertando a atenção da sociedade como um todo para as suas consequências, bem como para a necessidade de encontrar soluções para essa questão ao longo do século XXI (HARARI, 2018). Inclusive, a “Manipulação do comportamento do usuário pelo controle de dados na internet” foi o tema da redação do Exame Nacional do Ensino Médio – ENEM em 2018 (Brasil, 2018a). A maior preocupação deve-se à capacidade potencial ou real de manipulação da verdade mediante circulação de notícias falsas (“fake news”) na Internet por meio de “robôs” e em que medida isso distorce ou distorceu os processos eleitorais – e, consequentemente, o controle do poder político na sociedade (GOMI, 2017). Neste artigo, é feita uma apresentação sobre a inteligência artificial, seus usos no cotidiano, os riscos que dela podem advir para a vida, integridade física, honra, vida privada, imagem e identidade das pessoas, bem como os desafios para a proteção da dignidade humana por meio dos direitos da personalidade. 1. A Inteligência Artificial Uma possível definição de inteligência artificial foi apresentada na década de 1980 por Elaine Rich (1988, p. 1): consiste em fazer os computadores realizarem tarefas nas quais, e nos dias atuais, os seres humanos ainda são melhores do que as máquinas. Assim, inteligência artificial é o conjunto de rotinas lógicas que, aplicadas no campo da ciência da computação, permite aos computadores dispensar a necessidade de supervisão humana na tomada de decisões e na interpretação de mensagens analógicas e digitais. Isso é possível ante a capacidade do sistema de adaptar-se por conta própria às necessidades humanas, por meio do uso de dados de experiências pretéritas armazenados nas memórias, tomando decisões com um mínimo de “livre-arbítrio”. Distingue-se, todavia, da automação, por meio da qual se executam processos similares, mas sem a capacidade de adaptação às novas realidades. Esse é o caso, por exemplo, do termostato de um ar-condicionado: quando se atinge determinada temperatura previamente programada, o equipamento liga ou desliga o aparelho, sem, jamais, tomar a iniciativa de interagir proativamente com o ambiente no qual está instalado. A ideia de construção de máquinas pensantes não é recente. Leibniz e Babbage inventaram calculadoras. George Boole criou uma lógica binária, usada nos computadores, facilmente adaptável aos equipamentos eletrônicos pelo uso de válvulas e, posteriormente, de transistores. Mas foi no século XX que a inteligência artificial ganhou força entre os pesquisadores. O matemático Alan Turing é considerado um dos precursores dessa tecnologia. Em 1950, publicou um artigo no qual se propôs a analisar se as máquinas poderiam pensar. Tomando por base jogos de adivinhação, Turing discutiu se tais ideias poderiam ser usadas nos então recentes computadores digitais. Para tanto, analisou diversos argumentos sobre a natureza do pensamento, bem como acerca do funcionamento dos neurônios, verificando se as máquinas poderiam adquirir conhecimento tal como os seres humanos (TURING, 1950). Porém, John McCarthy (1959) é considerado o precursor no uso do termo “inteligência artificial”, embora também se use o termo “aprendizagem de máquina” para descrever o processo em que esta se adapta a partir das experiências anteriores de sua utilização. Houve euforia com o surgimento dessa tecnologia, acreditando-se que seria possível às máquinas escrever uma partitura musical, desvendar teoremas matemáticos e interpretar a personalidade humana. Na década de 1970, estudou-se a possibilidade de realização de diagnósticos médicos por inteligência artificial (GANASCIA, 1997, p. 40). Com efeito, a inteligência artificial consiste em softwares que usam algoritmos emuladores de métodos básicos de solução de problemas. O método básico mais simples de resolução de problemas é aquele usado nos jogos de xadrez, que, em vez de calcular todas as possibilidades de jogadas futuras a cada lance do jogador, usa um modelo dinâmico de representação de espaços vazios em uma matriz de 8x8 (RICH, 1988, p. 29-30). Outro método relaciona-se a operações de teste de alternativas, aplicadas nas buscas em amplitude e em profundidade, usadas, por exemplo, na solução do “problema do caixeiro-viajante”, no qual o algoritmo calcula a rota mais curta para um vendedor que precisa percorrer diversas cidades interligadas por estradas diretas (RICH, 1988, p. 39). Importante técnica de solução de problemas é a das “buscas heurísticas”, em que o algoritmo controla o computador para que se encontre a resposta suficiente ou satisfatória, em vez da melhor resposta. Em outras palavras, o software “segue pistas” (GANASCIA, 1997, p. 64), a partir da comparação com experiências anteriores, para que seja possível economizar tempo de pesquisa, quando respostas precisas não são absolutamente necessárias ao usuário (RICH, 1988, p. 40). Também merecem destaque os esquemas lógicos baseados em perguntas e respostas (RICH, 1988, p. 191), assim como aqueles sobre a representação lógica do processo de conhecimento humano. Em síntese, a inteligência artificial estrutura-se para a solução de problemas modelados do ponto de vista lógico-matemático, pela teoria das probabilidades ou, ainda, pela logica fuzzy, que usa proposições vagas. Como desdobramento da inteligência artificial, foram desenvolvidas as denominadas “redes conexionistas” ou “redes neurais”, por meio das quais os softwares dos computadores imitam o funcionamento dos neurônios, a partir da modelagem matemática dessas células (TAFNER; XEREZ, RODRIGUES FILHO, 1996). Quando os computadores estavam isolados uns dos outros, a capacidade da inteligência artificial limitava-se aos dados disponíveis nas memórias dessas máquinas. Porém, com a melhoria dos softwares de reconhecimento de textos, imagens e informações originalmente registradas em suportes materiais – e, sobretudo, com a possibilidade de acesso a esses dados de maneira instantânea em qualquer parte do mundo por meio da Internet, além do armazenamento de informações em grandes servidores de dados, também conhecida como “computação na nuvem” –, a inteligência artificial assumiu nova dimensão, porque possibilitou o acesso a informações ad infinitum. Além disso, a Internet facilita a formação e coleta de big data, isto é, de informações relativas à navegação pela rede, como também sobre o que é inserido ou consultado pelo interessado. Destarte, as aplicações da inteligência artificial estão em jogos, planejamentos de processos, processamento de linguagens naturais, percepção (visão e audição), aprendizagem, geração de soluções de senso comum (RUSSELL; NORVIG, 1995) e, nos últimos tempos, análises desses big data, formados a partir dos dados coletados da Internet, que permitem o denominado deep learning. Hoje existem diversos algoritmos de inteligência artificial, que vão se aperfeiçoando a partir dos algoritmos básicos elaborados nas últimas décadas. Os computadores que executam softwares com inteligência artificial para a realização de atividades específicas de modo ininterrupto, como no caso do envio de mensagens, têm sido denominados de “robôs”. Em síntese, desde o início das pesquisas sobre inteligência artificial, buscou-se compreender como se forma o pensamento humano e de que maneira as pessoas resolvem problemas, adaptando essas estruturas em forma de algoritmos e, posteriormente, transformando-os em softwares (TOMASEVICIUS FILHO, 2005). A despeito de todo esse desenvolvimento, a inteligência artificial é aplicada em situações do cotidiano há vários anos. O exemplo mais corriqueiro é o dos processadores de textos, quando indicam ao usuário a grafia errada de uma palavra ou equívocos de concordância verbal. Além disso, é também usada nas traduções de textos. Quando essa tecnologia começou a ser usada cerca de vinte anos atrás, os resultados eram desastrosos e não faziam sentido, porque as frases e orações eram apresentadas “ao pé da letra”. Com o emprego da inteligência artificial ao longo dos anos, houve melhoras significativas a partir das correções feitas pelos usuários e assimiladas pelo sistema, embora ainda exista uma longa estrada a ser percorrida no aperfeiçoamento dessas ferramentas. Os websites de buscas na Internet são aplicações diretas da inteligência artificial. Pela “busca heurística”, antecipam ao usuário os resultados da busca em ordem de importância, ou já fazem a pesquisa com os critérios supostamente corretos. Ademais, indicam as perguntas mais comuns feitas por outros usuários. Redes sociais usam o mesmo método para mostrar ao usuário quais publicações supostamente gostaria de ler e ver em primeiro lugar, de acordo com o aprendizado do comportamento, e sugere amigos a partir da análise dos vínculos de relacionamentos entre seus participantes. Sistemas operacionais de computadores têm usado inteligência artificial para proporcionar uso mais interativo do usuário com a máquina. Os telefones celulares têm inteligência artificial nos softwares que permitem ao usuário “conversar” com o aparelho, a partir do reconhecimento de voz e sistemas de perguntas e respostas. Câmeras fotográficas de última geração tiram fotos automaticamente com base no que imaginam ser do interesse do usuário, como, por exemplo, a presença de pessoas da família ou durante o desenvolvimento de uma atividade pessoal, como um hobby ou exercício físico, sem a necessidade de disparar qualquer botão, como também aquelas que identificam o objeto de uma foto para buscar informações sobre o mesmo, como o preço nas lojas ou os nutrientes dos alimentos em um prato. Ainda nesse processo de automação de procedimentos, robôs mecânicos são fabricados a partir de softwares com inteligência artificial, o que lhes permite “aprender” com as experiências de uso, deixando de serem autômatas, mas, sim, autônomas. Automóveis estarão equipados com controles que usam inteligência artificial para reduzir ou, no limite, assumir o controle do veículo no lugar do motorista. Por enquanto, tornaram-se populares os aplicativos de rotas no trânsito, que calculam o trajeto mais rápido para se chegar a determinado local, ou em softwares aplicativos de transporte, que localizam o motorista mais próximo e preveem o valor a ser cobrado pela corrida. Ambos são aplicações do modelo do “caixeiro-viajante” em inteligência artificial. Enquanto nos exemplos anteriores a inteligência artificial é usada para o conforto do usuário, há exemplos de uso na tomada de decisões que afetam os seres humanos. Nesse sentido, a inteligência artificial tem sido usada para substituir pessoas em postos de trabalho. A partir dos softwares de reconhecimento de voz, ampliou-se o uso dessas ferramentas para que os atendimentos aos usuários por telefone sejam feitos por computadores, em vez daqueles feitos por funcionários. Também começam a ser usadas para a tomada de decisões em investimentos financeiros. Existem dois casos emblemáticos sobre o uso da inteligência artificial em processos similares de tomada de decisões. O primeiro deles é na obtenção de diagnósticos médicos por imagem, por meio do qual é possível identificar tumores imperceptíveis a olho nu (ALVES, 2018). O Google desenvolveu software com redes neurais, alimentado a partir de informações constantes em prontuários médicos, capaz de prever quando determinado paciente morrerá em um hospital, com antecedência de um a dois dias, permitindo à equipe médica tomar medidas para reverter essa situação (BERGEN, 2018). No Brasil, o Instituto de Matemática e Ciências da Computação de São Carlos e a Faculdade de Medicina de Ribeirão Preto, ambos da Universidade de São Paulo, vêm conduzindo pesquisa similar, com o uso de dados de 1,6 milhão de pacientes de vinte e quatro hospitais públicos de São Paulo, com o intuito de desenvolver software capaz de auxiliar médicos no diagnóstico de doenças e definição de estratégicas de tratamento (CISCATI, 2018). O segundo caso dá-se na área jurídica, que parecia ser um campo inatingível de aplicação da inteligência artificial quando se tentou fazer tais experimentos na década de 1970, e chegou-se à época à conclusão de que seria impossível substituir o ser humano na arte de fazer justiça no caso concreto, tendo em vista as diversas variáveis que devem ser levadas em consideração na tomada de uma decisão. Seu uso está cada vez mais presente por meio de softwares que analisam documentos, elaboram minutas de contratos e redigem petições, incluindo buscas de jurisprudência. Do mesmo modo, com o intuito de dar vazão à enorme carga de trabalho, deu-se início no Poder Judiciário ao uso de inteligência artificial para auxiliar na elaboração de decisões judiciais, com o denominado “Projeto Victor” (BRASIL, 2018c), do Supremo Tribunal Federal, que lê os recursos extraordinários e os classificará de acordo com os critérios de repercussão geral. Tendo em vista a enorme dificuldade de uniformização da jurisprudência entre as turmas e câmaras, a inteligência artificial será capaz de sistematizar os entendimentos convergentes e divergentes, promovendo maior aperfeiçoamento da prestação jurisdicional, uma vez que a enorme quantidade de acórdãos prolatados impede a análise de todos esses dados por meio da leitura de cada um deles por parte dos pesquisadores e operadores do direito (BRASIL, 2018b). Por fim, cresce o uso da inteligência artificial em atividades e serviços realizados pelo Estado. Pode-se aplicar a inteligência artificial no policiamento urbano. Já está em uso o reconhecimento de placas de veículos furtados ou roubados. Pelo reconhecimento facial, podem-se identificar criminosos com as milhares de câmeras espalhadas pela cidade. Começa-se a implantar a inteligência artificial em aeroportos para substituir agentes de imigração (PICHETA, 2018). A mobilidade urbana pode ser aprimorada pela inteligência artificial. Em geral, a abertura e o fechamento das vias dão-se por meio de temporizadores pré-programados, independentemente do volume de veículos e pedestres nas vias. Com a inteligência artificial, pode-se deixar para que esse tempo de abertura e fechamento seja regulado nas situações concretas. Por exemplo, com a abertura do tráfego somente quando um pedestre com mobilidade reduzida já tenha cruzado a via, ou para evitar que um veículo fique parado desnecessariamente (AUTRAN, 2018). Quiçá unindo-se os sistemas relacionados aos aplicativos de trânsito com o controle do fluxo de veículos nas vias, seja possível fazer uma melhor organização do tráfego nas cidades, substituindo companhias de engenharia de tráfego e seus agentes. 2. As violações aos direitos da personalidade causadas pela inteligência artificial O uso da inteligência artificial tem contribuído para a melhoria dos produtos e serviços oferecidos às pessoas, trazendo conforto e comodidade a todos. Resultará em mudanças nas relações de trabalho ao longo do século XXI, tal como já aconteceu no século XVIII com a Revolução Industrial, como também durante o século XX com o uso da automação industrial e o uso de computadores em praticamente todas as atividades laborais. Trata-se da denominada “Quarta Revolução Industrial” ou Indústria 4.0 (BRASIL, [2018]), a qual fará a união dos mundos físico, biológico e digital, pelo uso de manufaturas em 3D, Internet das coisas, biologia sintética, sistemas ciberfísicos, computação em nuvem e inteligência artificial. No entanto, existem riscos que podem causar sérios danos aos direitos fundamentais, protegidos pelo direito civil mediante direitos da personalidade, em especial, o direito à privacidade. Em fevereiro de 2018, foi lançado o relatório intitulado “The malicious use of artificial intelligence: forecasting, prevention and mitigation” (Brundage et al, 2018), elaborado por pesquisadores das Universidades de Cambridge e Oxford, no qual foram apontados três tipos de riscos que podem advir da inteligência artificial. O primeiro deles é o risco à segurança digital, por meio de intensos ciberataques generalizados. O segundo deles consiste nos riscos à segurança física, por meio de lesões causadas por drones ou armas operadas com inteligência artificial. O terceiro risco consiste nos riscos à segurança política, por meio do monitoramento decorrente da análise de dados coletados em massa, a manipulação de vídeos, a invasão da privacidade e a manipulação social, por meio da análise de comportamentos humanos, costumes e crenças. De acordo com os autores desse relatório, tal monitoramento é preocupante em Estados totalitários, mas pode prejudicar a democracia e sua capacidade de promoção de debates verdadeiros.1 Diversos direitos da personalidade podem ser violados pelo uso indevido da inteligência artificial, como nos casos relativos à vida e à integridade física, disposição do próprio corpo em questões relativas à saúde, além da honra, privacidade, imagem e discriminações referentes às identidades pessoais. Pode-se, até mesmo, do ponto de vista retórico, indagar se inteligência artificial e direitos da personalidade representam contradição em termos, tamanha a vulnerabilidade da pessoa em razão do uso inadequado dessas tecnologias. O primeiro risco aos direitos da pessoa é que a inteligência artificial não pode ser encarada como solução para todos os problemas da humanidade. Existe um problema de matriz filosófica, igualmente de objeto de estudo da medicina e da psicologia, que é o fato de a inteligência artificial não se tratar de uma inteligência holística. Até o momento, ainda se limita a uma inteligência lógico-matemática. Como se sabe, o ser humano tem inteligências múltiplas e já está superada a ideia de que inteligência é somente racionalidade. A inteligência artificial é incapaz de levar em conta todas as variáveis advindas da multiplicidade de inteligências, uma vez esse aspecto é que faz do ser humano um ser diferente de uma máquina (GARDNER, 1995, p. 24-28). Por exemplo, se uma pessoa, no exercício de sua inteligência linguística, escrever uma palavra intencionalmente errada no editor de texto, este interpretará como erro. Podemse artificialmente reproduzir os processos lógicos do cérebro, mas ainda não se podem reproduzir emoções artificialmente, tais como aquelas decorrentes de maior ou menor grau de inteligência emocional (POLANI, 2017). Por exemplo, com o intuito de economizar um minuto do trajeto, o aplicativo de trânsito pode fazer a pessoa entrar em diversas ruas – o que é lógico do ponto de vista do menor trajeto – mas não leva em consideração a passagem por locais indesejados, assim considerados pela inteligência intrapessoal, assim como nem sempre o que aparece como relevante em uma rede social ou no site de mecanismo de buscas é, de fato, relevante para o usuário. Assim, quando se trata de máquinas controladas por inteligência artificial, como no caso de robôs e drones, que podem colocar em risco a vida e a integridade física das pessoas, o direito civil tem um conjunto de normas suficientes para a solução desses problemas. Consistem, pois, na aplicação das regras relativas à responsabilidade civil pelo fato da coisa ou responsabilidade civil pelo fato do produto, conforme o regime jurídico a que se subordina a relação jurídica em questão. Todavia, parece ser excessivamente artificial – ou mera ficção científica – imaginar um robô androide perfeitamente inteligente, andando pelas ruas sem qualquer controle, com iniciativa própria de carregar suas baterias, dotado de enorme força, invencibilidade e capacidade de reproduzir-se por fabricar outros entes similares. O mais comum será o uso de robôs em indústrias, os quais podem causar danos aos seres humanos, como toda e qualquer máquina, sendo aplicável o regime da responsabilidade civil por acidentes de trabalho, ou robôs usados no serviço doméstico, que serão adquiridos como um eletrodoméstico qualquer. Do mesmo modo, um automóvel dotado de sistema de pilotagem com inteligência artificial. Em todos esses casos, pressupõe-se que diversos testes de segurança tenham sido realizados antes da inserção do produto no mercado. Também se pode imaginar que, na operação dos veículos equipados com essa tecnologia, a taxa de erros possa ser pequena, porque a velocidade de resposta do sistema provavelmente será bem maior em comparação com os reflexos do motorista. Caso ocorra um acidente envolvendo um robô doméstico ou veículo controlado por inteligência artificial, a responsabilidade civil é do fabricante, por ter inserido o produto no mercado. Afinal, quando o acidente automobilístico é causado por defeito de fabricação ou de projeto do veículo, o fabricante, nos termos do art. 12 do Código de Defesa do Consumidor, responde pelos danos que advieram desse fato. No contexto europeu, recomenda-se a adoção de um sistema de seguro obrigatório para reparação de danos, tal como existe para os veículos (UNIÃO EUROPEIA, 2017). Ainda que se pretenda atribuir personalidade jurídica aos robôs dotados de inteligência artificial – o que também parece ser nonsense –, a responsabilidade civil será sempre imputada ao ser humano, jamais à máquina em si. Reconhecer tal fato seria mais bizarro do que se fazia séculos atrás, quando se julgavam animais pelos danos por eles causados. Com efeito, os verdadeiros danos não serão causados por robôs ou veículos dotados de inteligência artificial, mas, sim, pelos computadores que executem softwares de inteligência artificial. Estes causam e causarão danos à privacidade das pessoas, o que exige maior atenção dos juristas quanto ao aperfeiçoamento do direito à privacidade. A proteção assegurada por esse direito tem como objetivo, entre outros, impedir que uma pessoa seja chantageada ou manipulada pelo fato de terceiro possuir informações que não lhe dizem respeito. Quanto mais se sabe sobre um indivíduo, menor é a sua esfera de liberdade pessoal. O direito à privacidade foi estruturado a partir da ideia de que uma pessoa recolhe informações sensíveis sobre outra, analisa e as usa em seu favor. Situação diversa, porém, é utilizar computadores com softwares de inteligência artificial processando e analisando incessantemente essa enorme quantidade de dados recolhidos sobre uma pessoa, o que potencializa essas invasões, uma vez que os computadores não sofrem fadiga, tal como os seres humanos. Um dos grandes escândalos de 2018 divulgados na imprensa foi aquele relativo à possibilidade de invasão da privacidade das pessoas por meio da formação de dossiers ou “psicográficos”, elaborados a partir da análise dos dados coletados, com o intuito de influenciar resultados eleitorais, como o caso da Cambridge Analytica (FLORESTI, 2018). Em procedimentos semelhantes, mediante coleta de informações voluntariamente fornecidas pelos usuários a partir de perguntas inocentes, conseguia-se mapear a personalidade das pessoas. Caso fossem respondidas trezentas perguntas, era possível conhecê-la mais do que a si mesma. Igualmente, basta observar os aplicativos de trânsito, que preveem para qual lugar a pessoa deseja ir, de acordo com o horário de acesso ao software. De maneira silenciosa, os aplicativos disponíveis para instalação nos telefones celulares exigem que o usuário permita o acesso irrestrito às fotos e à agenda de telefones das pessoas para que possam funcionar, o que, evidentemente, é um abuso, porque importa clara violação à privacidade. Serão mais graves as consequências do uso da inteligência artificial quando estiverem sendo usadas de forma geral nos aplicativos de comunicação instantânea e e-mails. Sob o pretexto de fornecerem respostas automáticas, monitora-se toda a conversa da pessoa e poder-se-á aprender quase tudo sobre ela, inclusive seus pensamentos, sentimentos, emoções, segredos, quando estes forem registrados por escrito em um computador ou telefone celular. Essas invasões de privacidade já são protegidas pela Constituição Federal e pela Lei n. 9.296, de 1996, porque são notadamente violações ao sigilo das comunicações. A partir do recolhimento excessivo de dados sobre a pessoa, ciberataques podem ser realizados contra elas, ao se conseguir vencer as senhas de e-mails ou de contas bancárias por meio das “pistas” deixadas pelas pessoas na navegação pela Internet. Em vez de serem testadas todas as senhas possíveis, pode-se deduzir qual seria a provável senha utilizada. Outro problema gravíssimo é que os algoritmos dos softwares de inteligência artificial podem traçar um perfil equivocado sobre a pessoa e, a partir disso, tomarem decisões equivocadas em relação a ela. Antes mesmo do uso intenso da inteligência artificial por meio dos algoritmos, havia problemas de invasão de privacidade na navegação na Internet por meio dos denominados “cookies”, que eram arquivos inseridos no computador do usuário e comandavam a execução de anúncios a partir de então. Embora seja uma invasão à privacidade, era possível, no entanto, a remoção desses arquivos do computador do usuário. Porém, com a inteligência artificial, não é possível distinguir os motivos que levam uma pessoa a ler determinado tema e, a partir disso, fazem-se ilações indevidas, inapropriadas e indesejadas sobre ela. Por exemplo, se alguém pesquisa sobre um assunto polêmico, a mera pesquisa pode ser interpretada como a vontade de aderir à ideia polêmica, quando, na verdade, se desejava o contrário. Ou, ainda, em uma rede social, determinada pessoa acessa o perfil de outra que não faz parte de sua rede e o algoritmo, interpretando esse acesso como interesse, sugere que ambas façam contato como se fossem amigas. Riscos concretos relacionados à liberdade de ir e vir ou até mesmo à vida de uma pessoa seja decidida justamente devido à falta de inteligência interpessoal pelo emprego de inteligência artificial, quando somente se tomarem decisões a partir desses perfis. Diagnósticos médicos excessivamente aprofundados por meio de inteligência artificial, a despeito de sua utilidade, podem gerar problemas de invasão de privacidade. Em certo sentido, viola a dignidade humana impor o monitoramento da expectativa de vida de alguém. Estas não podem ser questões a serem tomadas com o uso da racionalidade. Fé, esperança e amor são sentimentos que fazem os seres humanos diferentes de uma máquina dotada de inteligência artificial. Sendo possível ampliar a previsão sobre a sobrevida de um paciente, por exemplo, nada obsta que médicos sejam pressionados para não salvar o paciente, ou operadoras de planos de saúde se recusem a pagar o atendimento médico a quem dele precisa. Vale lembrar que, no campo da medicina, a sensibilidade do profissional ainda é importante na tomada de decisões (BROWN, 2018). Com o constante avanço da informática, da capacidade de armazenamento e de tratamento dos dados na Internet, talvez se caminhe para a situação em que, em um primeiro momento, amplia-se o conhecimento das pessoas mediante a enorme capacidade de coleta de informações sobre elas, o que aumenta potencialmente a hipótese de violação de privacidade; em um segundo momento, promover-se-á a discriminação e controle da pessoa por meio da inteligência artificial. É o que se teme a partir do uso da Internet para a criação de propaganda dirigida ou de desinformação. Mediante o conhecimento do comportamento das pessoas, podem-se direcionar informações verdadeiras ou falsas para manipular o comportamento delas, não somente em termos de preferências culturais ou de consumo, mas também as preferências de cunho político ou religioso, violando, portanto, a vida privada, a intimidade e o segredo delas. Por fim, falta pouco para chegar à situação em que uma pessoa, pesquisando algo na Internet, seja automaticamente monitorada por esse fato. Dessa forma, pode-se estatuir uma “polícia do pensamento” e impor um “ranking” social a boa parte da população. Uma falácia existente na proteção dos dados pessoais é basear-se o sistema de proteção legal no consentimento do interessado. Esse modelo de proteção da pessoa funciona adequadamente quando se trata de uma única informação a seu respeito, como no caso de um banco de dados de serviço de proteção ao crédito, por meio do qual se pode localizar a informação contida nesse banco de dados e solicitar a sua retificação. Porém, é inviável exigir o consentimento da pessoa quando centenas de informações a seu respeito são coletadas somente pelo fato de estarem conectadas à Internet e processadas automaticamente por meio dos algoritmos de inteligência artificial. No caso, o art. 20, caput e §§ 1º e 2º, da Lei n. 13.709/2018, dispõe que a pessoa tem o direito de exigir retificação de seus dados pessoais quando isso afetar seus interesses ou implicar prejuízo em tomada de decisões em relação a si, devendo o controlador das informações, a requerimento, esclarecer os critérios e procedimentos para a tomada de decisões automatizadas, podendo, em caso de recusa, a autoridade nacional realizar auditorias no sistema. A lei brasileira, lamentavelmente, é insuficientemente detalhada para tentar impedir as violações à privacidade. Considerando o tempo que se levou para promulgar a lei, poderia muito bem o legislador ter preparado um texto legal mais bem elaborado e que contemplasse as mudanças ocorridas nessa matéria. No caso da General Data Protection Regulation - GDPR, ainda que sejam necessários anos para avaliar de que maneira esses parâmetros de proteção serão acolhidos pelos membros da União Europeia, é, ao menos, bastante detalhista quanto à proteção a ser conferida aos dados. Pelo que se observa, houve a preocupação de impor o dever de informação sobre a finalidade com que os dados são coletados. Proibiu-se o tratamento de dados relativos a informações que revelem origens raciais e étnicas, convicções políticas e religiosas, filiação sindical, dados genéticos e biométricos, dados relativos à saúde, vida sexual e orientação sexual de uma pessoa (art. 9º) e distingue o tratamento de dados que permitam a identificação da pessoa daquele tratamento de dados que não têm a identificação da pessoa (art. 11). Ademais, prevê o direito ao apagamento ou esquecimento dos dados da pessoa (art. 17) e, de um modo ou de outro, impõe precauções relativas à proteção dos direitos e liberdades das pessoas em face das novas técnicas de tratamento de dados pessoais (arts. 25 e 32). Importante seria que as legislações, as constituições e os códigos civis afirmassem e reafirmassem a proibição do uso de dados pessoais identificáveis fornecidos voluntariamente pelas pessoas pelo simples fato de navegarem na Internet. Assim como não faz sentido algum a situação em que uma pessoa, com um drone ao qual se tenha acoplada uma câmera, telepilote-o à janela de uma pessoa e, por meio de um alto-falante acoplado a esse drone, se pergunte se a pessoa aceita ou não ter a sua privacidade e intimidade devassada, não deveria fazer sentido, do mesmo modo, indagar se a pessoa aceita ou não ter a vida devassada e controlada, caso aceite que se faça a coleta de dados a seu respeito pela navegação na Internet. Considerações finais A despeito de todos esses perigos decorrentes do mau uso da inteligência artificial, isso não significa que o direito civil – ou o direito como um todo – não tenha institutos jurídicos aptos a dar respostas para a solução desses problemas. As leis de proteção à privacidade, por mais sofisticadas que sejam, não puderam levar em conta que o uso da inteligência artificial representasse intensa violação à privacidade das pessoas da maneira como o fazem. Ainda se baseiam na ideia de que seres humanos alimentam e acessam bancos de dados, tais como os bancos de dados de proteção ao crédito, razão pela qual é possível solicitar, nesses casos, o consentimento da pessoa sobre os dados relativos a si mesma. Nos dias atuais, dados são recolhidos fácil e automaticamente sem conhecimento por parte do interessado. Analisados por softwares de inteligência artificial, ainda não se faz a real ideia do que está por vir em termos de perda de liberdade e autonomia da pessoa pelas violações em massa aos direitos da personalidade, em especial, ao direito à privacidade. Por isso se coloca a questão acerca do uso irrestrito da inteligência artificial. Existe um importante precedente, o qual deve ser lembrado. Na Segunda Guerra Mundial, realizaram-se pesquisas com seres humanos aprisionados, com o aparente intuito de obter conhecimentos a serem usados no tratamento de feridos de guerra. Testou se a investigação sobre os limites do corpo humano, além das pesquisas sobre um possível desenvolvimento da raça autoproclamada superior. A despeito do conhecimento médico obtido com esses experimentos, estes advieram de graves violações éticas, o que não podia ser tolerado. Julgados em Nuremberg, a sentença condenatória proferida contra os médicos nazistas trouxe um decálogo que deveria ser observado doravante nas pesquisas com seres humanos, tornando-se conhecido como Código de Nuremberg. A partir de então, estabeleceu-se que a ciência e a técnica não podem ser usadas para fins políticos, de dominação e de discriminação. Também nesse contexto se promulgaram as constituições italiana e alemã, além da Declaração Universal dos Direitos Humanos, que consagram a dignidade da pessoa humana. Por meio desses textos, reconhece-se e declara-se que o ser humano não pode ser reduzido à condição de objeto, tampouco de um sistema político. Com o controle de enorme quantidade de dados sobre as pessoas e a possibilidade de conhecê-las com precisão, tem-se hipótese de subversão da ética no uso da tecnologia: em vez de servir à humanidade, servirá para controlá-la. Em suma, a inteligência artificial não é um mal em si mesma. O mal está no mau uso que alguém pode fazer dela. Impõe-se, portanto, o dever de exigir que seja usada exclusivamente em favor da humanidade, jamais com o intuito de promover o controle social e o fim das liberdades.
Fonte: file:///C:/Users/Marcia%20Cristina/Downloads/document.pdf. Acesso: 05/09/2019
Resumo: A inteligência artificial surgiu concomitantemente com a eletrônica e a ciência da computação na década de 1950. Tem sido aplicada cada vez mais em diversas áreas e potencializou-se com a maior capacidade de armazenamento e tráfego de dados pela Internet. Todavia, especialmente em 2018, ampliou-se a percepção da sociedade para os efeitos positivos e negativos do emprego dessa tecnologia, do ponto de vista não apenas político, mas também dos direitos da personalidade, sobretudo o direito à privacidade. Neste artigo, faz-se a apresentação da inteligência artificial, os problemas que esta pode causar às pessoas e os desafios dos direitos da personalidade na defesa da dignidade humana. Palavras-chave: Inteligência artificial. Direitos da personalidade. Direito à privacidade. Internet. Controle social.
Introdução Do ponto de vista cultural, a modernidade corresponde ao período histórico de aproximadamente duzentos anos, que se iniciou no século XVIII com o Iluminismo, o liberalismo econômico, a Revolução Industrial e as Revoluções políticas decorrentes da crise do Antigo Regime. O marco final desse período é a Segunda Guerra Mundial, com a conscientização de que nem sempre a humanidade evolui em termos de relacionamentos interpessoais, sociais e políticos. A partir da década de 1950, inaugurou-se uma nova era: a pós-modernidade. Desde então, relativizaram-se as antigas instituições, entre as quais, as religiões e a família. A revolução sexual e a revolução nos costumes ocorridas na década de 1960, bem como as transformações nos mercados de trabalho – em nível local e em escala mundial –, somadas à massificação dos meios de comunicação, resultaram no pluralismo de ideias, na ausência de consensos sobre valores, no aumento exponencial do consumo de bens e serviços, na multiplicidade de estruturas familiares, além da crescente aceitação das opções sexuais das pessoas e da diversidade de identidades de gênero. É certo que a eletrônica e a informática contribuíram significativamente para a ocorrência de todas essas transformações. Com a invenção do transístor na década de 1950 e, anos depois, dos circuitos integrados, os televisores e os computadores diminuíram de tamanho e passaram a consumir muito menos energia elétrica. O mesmo fenômeno deu-se com a Internet, também criada na década de 1950 com fins militares e usada pela comunidade científica até a sua abertura irrestrita em 1994. A rede cresceu sobremaneira e tornou-se parte da vida de grande parte dos seres humanos, revolucionando as telecomunicações, a imprensa e o comércio, contribuindo, desse modo, para que as relações humanas se desenvolvessem em ambiente virtual, em especial, nas redes sociais. Todavia, o aumento da capacidade de armazenamento de informações nos servidores das “gigantes da Internet”, a maior velocidade de transmissão e circulação de informações e a mudança dos registros de imagens, de analógicas para digitais, produzidas com qualidade a partir de um telefone celular, deixaram a pessoa humana vulnerável dentro e fora do mundo virtual. Assim, o conceito de privacidade sofreu abalos sensíveis. Tornou-se insuficiente, nos dias atuais, imaginar que o direito à privacidade se restringe à ideia tradicional de invasão de privacidade, sintetizada no “direito de estar só” (“right to be let alone”), concebido por Warren e Brandeis (1890). Antes se invadia a privacidade pela procura de informações ou fatos sobre a vida de uma pessoa. Agora é a própria pessoa, vítima das potenciais ou reais violações à privacidade, que, espontânea e alegremente, fornece esses dados, obtidos por meio de pesquisas em sites de mecanismos de busca, “postagens” nas redes sociais e aplicativos de mensagens, o que permite a formação de “big data” e elaboração de dossiers (“profiling”) completos sobre si mesma. Tem-se ainda a ampliação da coleta de dados dos veículos, equipamentos e aparelhos eletrodomésticos das pessoas, por meio da denominada Internet das Coisas (IoT). Em 2019, iniciar-se-á o projeto da “Internet dos Animais”, organizado pelo Instituto Max Planck de Ornitologia, em parceria com a Agência Espacial Russa e o Centro Espacial Alemão, com o intuito de, a partir do comportamento dos amimais, estudar zoonoses e epidemias globais, mudanças climáticas e fazer previsão de desastres naturais, como os terremotos tsunamis e pragas agrícolas, por meio de registros de aceleração, temperatura, umidade, pressão, altitude e frequência cardíaca. (ALISSON, 2018). Preocupações quanto ao uso de computadores no processamento de dados relativos às pessoas não são recentes. Na década de 1960, juristas norte-americanos, como Edward J. Bloustein (1964), Donald N. Michael (1964) e, sobretudo, Alan Westin (1970), alertavam para as possíveis violações ao direito à privacidade dos indivíduos pelo processamento de informações armazenadas nos bancos de dados de órgãos do governo dos Estados Unidos, o que veio a confirmar-se, em 2013, com a divulgação dos escândalos de espionagem realizados pelo governo daquele país. Aliás, o ano de 2018 será lembrado pela promulgação e entrada em vigor, respectivamente, de dois textos legais em matéria de proteção à privacidade. O primeiro deles consiste na Lei Brasileira de Proteção de Dados Pessoais (Lei n. 13.709), o qual pouco inovou nessa matéria. O segundo, no âmbito europeu, consiste na General Data Protection Regulation – GDPR (Regulamento n. 679/2016), bastante detalhado e que aproveitou as experiências europeias colhidas durante a vigência da agora revogada Diretiva n. 95/46/CE sobre proteção de dados. Quando se pensou que o controle sobre a vida das pessoas pela falta de privacidade na Internet tinha atingido seu ápice, toma-se consciência de que esse controle pode ser ainda mais intenso pelo uso da inteligência artificial. Embora seu uso prático tenha início na década de 1950, foi em 2018 que se divulgaram seus efeitos com frequência pela imprensa, despertando a atenção da sociedade como um todo para as suas consequências, bem como para a necessidade de encontrar soluções para essa questão ao longo do século XXI (HARARI, 2018). Inclusive, a “Manipulação do comportamento do usuário pelo controle de dados na internet” foi o tema da redação do Exame Nacional do Ensino Médio – ENEM em 2018 (Brasil, 2018a). A maior preocupação deve-se à capacidade potencial ou real de manipulação da verdade mediante circulação de notícias falsas (“fake news”) na Internet por meio de “robôs” e em que medida isso distorce ou distorceu os processos eleitorais – e, consequentemente, o controle do poder político na sociedade (GOMI, 2017). Neste artigo, é feita uma apresentação sobre a inteligência artificial, seus usos no cotidiano, os riscos que dela podem advir para a vida, integridade física, honra, vida privada, imagem e identidade das pessoas, bem como os desafios para a proteção da dignidade humana por meio dos direitos da personalidade. 1. A Inteligência Artificial Uma possível definição de inteligência artificial foi apresentada na década de 1980 por Elaine Rich (1988, p. 1): consiste em fazer os computadores realizarem tarefas nas quais, e nos dias atuais, os seres humanos ainda são melhores do que as máquinas. Assim, inteligência artificial é o conjunto de rotinas lógicas que, aplicadas no campo da ciência da computação, permite aos computadores dispensar a necessidade de supervisão humana na tomada de decisões e na interpretação de mensagens analógicas e digitais. Isso é possível ante a capacidade do sistema de adaptar-se por conta própria às necessidades humanas, por meio do uso de dados de experiências pretéritas armazenados nas memórias, tomando decisões com um mínimo de “livre-arbítrio”. Distingue-se, todavia, da automação, por meio da qual se executam processos similares, mas sem a capacidade de adaptação às novas realidades. Esse é o caso, por exemplo, do termostato de um ar-condicionado: quando se atinge determinada temperatura previamente programada, o equipamento liga ou desliga o aparelho, sem, jamais, tomar a iniciativa de interagir proativamente com o ambiente no qual está instalado. A ideia de construção de máquinas pensantes não é recente. Leibniz e Babbage inventaram calculadoras. George Boole criou uma lógica binária, usada nos computadores, facilmente adaptável aos equipamentos eletrônicos pelo uso de válvulas e, posteriormente, de transistores. Mas foi no século XX que a inteligência artificial ganhou força entre os pesquisadores. O matemático Alan Turing é considerado um dos precursores dessa tecnologia. Em 1950, publicou um artigo no qual se propôs a analisar se as máquinas poderiam pensar. Tomando por base jogos de adivinhação, Turing discutiu se tais ideias poderiam ser usadas nos então recentes computadores digitais. Para tanto, analisou diversos argumentos sobre a natureza do pensamento, bem como acerca do funcionamento dos neurônios, verificando se as máquinas poderiam adquirir conhecimento tal como os seres humanos (TURING, 1950). Porém, John McCarthy (1959) é considerado o precursor no uso do termo “inteligência artificial”, embora também se use o termo “aprendizagem de máquina” para descrever o processo em que esta se adapta a partir das experiências anteriores de sua utilização. Houve euforia com o surgimento dessa tecnologia, acreditando-se que seria possível às máquinas escrever uma partitura musical, desvendar teoremas matemáticos e interpretar a personalidade humana. Na década de 1970, estudou-se a possibilidade de realização de diagnósticos médicos por inteligência artificial (GANASCIA, 1997, p. 40). Com efeito, a inteligência artificial consiste em softwares que usam algoritmos emuladores de métodos básicos de solução de problemas. O método básico mais simples de resolução de problemas é aquele usado nos jogos de xadrez, que, em vez de calcular todas as possibilidades de jogadas futuras a cada lance do jogador, usa um modelo dinâmico de representação de espaços vazios em uma matriz de 8x8 (RICH, 1988, p. 29-30). Outro método relaciona-se a operações de teste de alternativas, aplicadas nas buscas em amplitude e em profundidade, usadas, por exemplo, na solução do “problema do caixeiro-viajante”, no qual o algoritmo calcula a rota mais curta para um vendedor que precisa percorrer diversas cidades interligadas por estradas diretas (RICH, 1988, p. 39). Importante técnica de solução de problemas é a das “buscas heurísticas”, em que o algoritmo controla o computador para que se encontre a resposta suficiente ou satisfatória, em vez da melhor resposta. Em outras palavras, o software “segue pistas” (GANASCIA, 1997, p. 64), a partir da comparação com experiências anteriores, para que seja possível economizar tempo de pesquisa, quando respostas precisas não são absolutamente necessárias ao usuário (RICH, 1988, p. 40). Também merecem destaque os esquemas lógicos baseados em perguntas e respostas (RICH, 1988, p. 191), assim como aqueles sobre a representação lógica do processo de conhecimento humano. Em síntese, a inteligência artificial estrutura-se para a solução de problemas modelados do ponto de vista lógico-matemático, pela teoria das probabilidades ou, ainda, pela logica fuzzy, que usa proposições vagas. Como desdobramento da inteligência artificial, foram desenvolvidas as denominadas “redes conexionistas” ou “redes neurais”, por meio das quais os softwares dos computadores imitam o funcionamento dos neurônios, a partir da modelagem matemática dessas células (TAFNER; XEREZ, RODRIGUES FILHO, 1996). Quando os computadores estavam isolados uns dos outros, a capacidade da inteligência artificial limitava-se aos dados disponíveis nas memórias dessas máquinas. Porém, com a melhoria dos softwares de reconhecimento de textos, imagens e informações originalmente registradas em suportes materiais – e, sobretudo, com a possibilidade de acesso a esses dados de maneira instantânea em qualquer parte do mundo por meio da Internet, além do armazenamento de informações em grandes servidores de dados, também conhecida como “computação na nuvem” –, a inteligência artificial assumiu nova dimensão, porque possibilitou o acesso a informações ad infinitum. Além disso, a Internet facilita a formação e coleta de big data, isto é, de informações relativas à navegação pela rede, como também sobre o que é inserido ou consultado pelo interessado. Destarte, as aplicações da inteligência artificial estão em jogos, planejamentos de processos, processamento de linguagens naturais, percepção (visão e audição), aprendizagem, geração de soluções de senso comum (RUSSELL; NORVIG, 1995) e, nos últimos tempos, análises desses big data, formados a partir dos dados coletados da Internet, que permitem o denominado deep learning. Hoje existem diversos algoritmos de inteligência artificial, que vão se aperfeiçoando a partir dos algoritmos básicos elaborados nas últimas décadas. Os computadores que executam softwares com inteligência artificial para a realização de atividades específicas de modo ininterrupto, como no caso do envio de mensagens, têm sido denominados de “robôs”. Em síntese, desde o início das pesquisas sobre inteligência artificial, buscou-se compreender como se forma o pensamento humano e de que maneira as pessoas resolvem problemas, adaptando essas estruturas em forma de algoritmos e, posteriormente, transformando-os em softwares (TOMASEVICIUS FILHO, 2005). A despeito de todo esse desenvolvimento, a inteligência artificial é aplicada em situações do cotidiano há vários anos. O exemplo mais corriqueiro é o dos processadores de textos, quando indicam ao usuário a grafia errada de uma palavra ou equívocos de concordância verbal. Além disso, é também usada nas traduções de textos. Quando essa tecnologia começou a ser usada cerca de vinte anos atrás, os resultados eram desastrosos e não faziam sentido, porque as frases e orações eram apresentadas “ao pé da letra”. Com o emprego da inteligência artificial ao longo dos anos, houve melhoras significativas a partir das correções feitas pelos usuários e assimiladas pelo sistema, embora ainda exista uma longa estrada a ser percorrida no aperfeiçoamento dessas ferramentas. Os websites de buscas na Internet são aplicações diretas da inteligência artificial. Pela “busca heurística”, antecipam ao usuário os resultados da busca em ordem de importância, ou já fazem a pesquisa com os critérios supostamente corretos. Ademais, indicam as perguntas mais comuns feitas por outros usuários. Redes sociais usam o mesmo método para mostrar ao usuário quais publicações supostamente gostaria de ler e ver em primeiro lugar, de acordo com o aprendizado do comportamento, e sugere amigos a partir da análise dos vínculos de relacionamentos entre seus participantes. Sistemas operacionais de computadores têm usado inteligência artificial para proporcionar uso mais interativo do usuário com a máquina. Os telefones celulares têm inteligência artificial nos softwares que permitem ao usuário “conversar” com o aparelho, a partir do reconhecimento de voz e sistemas de perguntas e respostas. Câmeras fotográficas de última geração tiram fotos automaticamente com base no que imaginam ser do interesse do usuário, como, por exemplo, a presença de pessoas da família ou durante o desenvolvimento de uma atividade pessoal, como um hobby ou exercício físico, sem a necessidade de disparar qualquer botão, como também aquelas que identificam o objeto de uma foto para buscar informações sobre o mesmo, como o preço nas lojas ou os nutrientes dos alimentos em um prato. Ainda nesse processo de automação de procedimentos, robôs mecânicos são fabricados a partir de softwares com inteligência artificial, o que lhes permite “aprender” com as experiências de uso, deixando de serem autômatas, mas, sim, autônomas. Automóveis estarão equipados com controles que usam inteligência artificial para reduzir ou, no limite, assumir o controle do veículo no lugar do motorista. Por enquanto, tornaram-se populares os aplicativos de rotas no trânsito, que calculam o trajeto mais rápido para se chegar a determinado local, ou em softwares aplicativos de transporte, que localizam o motorista mais próximo e preveem o valor a ser cobrado pela corrida. Ambos são aplicações do modelo do “caixeiro-viajante” em inteligência artificial. Enquanto nos exemplos anteriores a inteligência artificial é usada para o conforto do usuário, há exemplos de uso na tomada de decisões que afetam os seres humanos. Nesse sentido, a inteligência artificial tem sido usada para substituir pessoas em postos de trabalho. A partir dos softwares de reconhecimento de voz, ampliou-se o uso dessas ferramentas para que os atendimentos aos usuários por telefone sejam feitos por computadores, em vez daqueles feitos por funcionários. Também começam a ser usadas para a tomada de decisões em investimentos financeiros. Existem dois casos emblemáticos sobre o uso da inteligência artificial em processos similares de tomada de decisões. O primeiro deles é na obtenção de diagnósticos médicos por imagem, por meio do qual é possível identificar tumores imperceptíveis a olho nu (ALVES, 2018). O Google desenvolveu software com redes neurais, alimentado a partir de informações constantes em prontuários médicos, capaz de prever quando determinado paciente morrerá em um hospital, com antecedência de um a dois dias, permitindo à equipe médica tomar medidas para reverter essa situação (BERGEN, 2018). No Brasil, o Instituto de Matemática e Ciências da Computação de São Carlos e a Faculdade de Medicina de Ribeirão Preto, ambos da Universidade de São Paulo, vêm conduzindo pesquisa similar, com o uso de dados de 1,6 milhão de pacientes de vinte e quatro hospitais públicos de São Paulo, com o intuito de desenvolver software capaz de auxiliar médicos no diagnóstico de doenças e definição de estratégicas de tratamento (CISCATI, 2018). O segundo caso dá-se na área jurídica, que parecia ser um campo inatingível de aplicação da inteligência artificial quando se tentou fazer tais experimentos na década de 1970, e chegou-se à época à conclusão de que seria impossível substituir o ser humano na arte de fazer justiça no caso concreto, tendo em vista as diversas variáveis que devem ser levadas em consideração na tomada de uma decisão. Seu uso está cada vez mais presente por meio de softwares que analisam documentos, elaboram minutas de contratos e redigem petições, incluindo buscas de jurisprudência. Do mesmo modo, com o intuito de dar vazão à enorme carga de trabalho, deu-se início no Poder Judiciário ao uso de inteligência artificial para auxiliar na elaboração de decisões judiciais, com o denominado “Projeto Victor” (BRASIL, 2018c), do Supremo Tribunal Federal, que lê os recursos extraordinários e os classificará de acordo com os critérios de repercussão geral. Tendo em vista a enorme dificuldade de uniformização da jurisprudência entre as turmas e câmaras, a inteligência artificial será capaz de sistematizar os entendimentos convergentes e divergentes, promovendo maior aperfeiçoamento da prestação jurisdicional, uma vez que a enorme quantidade de acórdãos prolatados impede a análise de todos esses dados por meio da leitura de cada um deles por parte dos pesquisadores e operadores do direito (BRASIL, 2018b). Por fim, cresce o uso da inteligência artificial em atividades e serviços realizados pelo Estado. Pode-se aplicar a inteligência artificial no policiamento urbano. Já está em uso o reconhecimento de placas de veículos furtados ou roubados. Pelo reconhecimento facial, podem-se identificar criminosos com as milhares de câmeras espalhadas pela cidade. Começa-se a implantar a inteligência artificial em aeroportos para substituir agentes de imigração (PICHETA, 2018). A mobilidade urbana pode ser aprimorada pela inteligência artificial. Em geral, a abertura e o fechamento das vias dão-se por meio de temporizadores pré-programados, independentemente do volume de veículos e pedestres nas vias. Com a inteligência artificial, pode-se deixar para que esse tempo de abertura e fechamento seja regulado nas situações concretas. Por exemplo, com a abertura do tráfego somente quando um pedestre com mobilidade reduzida já tenha cruzado a via, ou para evitar que um veículo fique parado desnecessariamente (AUTRAN, 2018). Quiçá unindo-se os sistemas relacionados aos aplicativos de trânsito com o controle do fluxo de veículos nas vias, seja possível fazer uma melhor organização do tráfego nas cidades, substituindo companhias de engenharia de tráfego e seus agentes. 2. As violações aos direitos da personalidade causadas pela inteligência artificial O uso da inteligência artificial tem contribuído para a melhoria dos produtos e serviços oferecidos às pessoas, trazendo conforto e comodidade a todos. Resultará em mudanças nas relações de trabalho ao longo do século XXI, tal como já aconteceu no século XVIII com a Revolução Industrial, como também durante o século XX com o uso da automação industrial e o uso de computadores em praticamente todas as atividades laborais. Trata-se da denominada “Quarta Revolução Industrial” ou Indústria 4.0 (BRASIL, [2018]), a qual fará a união dos mundos físico, biológico e digital, pelo uso de manufaturas em 3D, Internet das coisas, biologia sintética, sistemas ciberfísicos, computação em nuvem e inteligência artificial. No entanto, existem riscos que podem causar sérios danos aos direitos fundamentais, protegidos pelo direito civil mediante direitos da personalidade, em especial, o direito à privacidade. Em fevereiro de 2018, foi lançado o relatório intitulado “The malicious use of artificial intelligence: forecasting, prevention and mitigation” (Brundage et al, 2018), elaborado por pesquisadores das Universidades de Cambridge e Oxford, no qual foram apontados três tipos de riscos que podem advir da inteligência artificial. O primeiro deles é o risco à segurança digital, por meio de intensos ciberataques generalizados. O segundo deles consiste nos riscos à segurança física, por meio de lesões causadas por drones ou armas operadas com inteligência artificial. O terceiro risco consiste nos riscos à segurança política, por meio do monitoramento decorrente da análise de dados coletados em massa, a manipulação de vídeos, a invasão da privacidade e a manipulação social, por meio da análise de comportamentos humanos, costumes e crenças. De acordo com os autores desse relatório, tal monitoramento é preocupante em Estados totalitários, mas pode prejudicar a democracia e sua capacidade de promoção de debates verdadeiros.1 Diversos direitos da personalidade podem ser violados pelo uso indevido da inteligência artificial, como nos casos relativos à vida e à integridade física, disposição do próprio corpo em questões relativas à saúde, além da honra, privacidade, imagem e discriminações referentes às identidades pessoais. Pode-se, até mesmo, do ponto de vista retórico, indagar se inteligência artificial e direitos da personalidade representam contradição em termos, tamanha a vulnerabilidade da pessoa em razão do uso inadequado dessas tecnologias. O primeiro risco aos direitos da pessoa é que a inteligência artificial não pode ser encarada como solução para todos os problemas da humanidade. Existe um problema de matriz filosófica, igualmente de objeto de estudo da medicina e da psicologia, que é o fato de a inteligência artificial não se tratar de uma inteligência holística. Até o momento, ainda se limita a uma inteligência lógico-matemática. Como se sabe, o ser humano tem inteligências múltiplas e já está superada a ideia de que inteligência é somente racionalidade. A inteligência artificial é incapaz de levar em conta todas as variáveis advindas da multiplicidade de inteligências, uma vez esse aspecto é que faz do ser humano um ser diferente de uma máquina (GARDNER, 1995, p. 24-28). Por exemplo, se uma pessoa, no exercício de sua inteligência linguística, escrever uma palavra intencionalmente errada no editor de texto, este interpretará como erro. Podemse artificialmente reproduzir os processos lógicos do cérebro, mas ainda não se podem reproduzir emoções artificialmente, tais como aquelas decorrentes de maior ou menor grau de inteligência emocional (POLANI, 2017). Por exemplo, com o intuito de economizar um minuto do trajeto, o aplicativo de trânsito pode fazer a pessoa entrar em diversas ruas – o que é lógico do ponto de vista do menor trajeto – mas não leva em consideração a passagem por locais indesejados, assim considerados pela inteligência intrapessoal, assim como nem sempre o que aparece como relevante em uma rede social ou no site de mecanismo de buscas é, de fato, relevante para o usuário. Assim, quando se trata de máquinas controladas por inteligência artificial, como no caso de robôs e drones, que podem colocar em risco a vida e a integridade física das pessoas, o direito civil tem um conjunto de normas suficientes para a solução desses problemas. Consistem, pois, na aplicação das regras relativas à responsabilidade civil pelo fato da coisa ou responsabilidade civil pelo fato do produto, conforme o regime jurídico a que se subordina a relação jurídica em questão. Todavia, parece ser excessivamente artificial – ou mera ficção científica – imaginar um robô androide perfeitamente inteligente, andando pelas ruas sem qualquer controle, com iniciativa própria de carregar suas baterias, dotado de enorme força, invencibilidade e capacidade de reproduzir-se por fabricar outros entes similares. O mais comum será o uso de robôs em indústrias, os quais podem causar danos aos seres humanos, como toda e qualquer máquina, sendo aplicável o regime da responsabilidade civil por acidentes de trabalho, ou robôs usados no serviço doméstico, que serão adquiridos como um eletrodoméstico qualquer. Do mesmo modo, um automóvel dotado de sistema de pilotagem com inteligência artificial. Em todos esses casos, pressupõe-se que diversos testes de segurança tenham sido realizados antes da inserção do produto no mercado. Também se pode imaginar que, na operação dos veículos equipados com essa tecnologia, a taxa de erros possa ser pequena, porque a velocidade de resposta do sistema provavelmente será bem maior em comparação com os reflexos do motorista. Caso ocorra um acidente envolvendo um robô doméstico ou veículo controlado por inteligência artificial, a responsabilidade civil é do fabricante, por ter inserido o produto no mercado. Afinal, quando o acidente automobilístico é causado por defeito de fabricação ou de projeto do veículo, o fabricante, nos termos do art. 12 do Código de Defesa do Consumidor, responde pelos danos que advieram desse fato. No contexto europeu, recomenda-se a adoção de um sistema de seguro obrigatório para reparação de danos, tal como existe para os veículos (UNIÃO EUROPEIA, 2017). Ainda que se pretenda atribuir personalidade jurídica aos robôs dotados de inteligência artificial – o que também parece ser nonsense –, a responsabilidade civil será sempre imputada ao ser humano, jamais à máquina em si. Reconhecer tal fato seria mais bizarro do que se fazia séculos atrás, quando se julgavam animais pelos danos por eles causados. Com efeito, os verdadeiros danos não serão causados por robôs ou veículos dotados de inteligência artificial, mas, sim, pelos computadores que executem softwares de inteligência artificial. Estes causam e causarão danos à privacidade das pessoas, o que exige maior atenção dos juristas quanto ao aperfeiçoamento do direito à privacidade. A proteção assegurada por esse direito tem como objetivo, entre outros, impedir que uma pessoa seja chantageada ou manipulada pelo fato de terceiro possuir informações que não lhe dizem respeito. Quanto mais se sabe sobre um indivíduo, menor é a sua esfera de liberdade pessoal. O direito à privacidade foi estruturado a partir da ideia de que uma pessoa recolhe informações sensíveis sobre outra, analisa e as usa em seu favor. Situação diversa, porém, é utilizar computadores com softwares de inteligência artificial processando e analisando incessantemente essa enorme quantidade de dados recolhidos sobre uma pessoa, o que potencializa essas invasões, uma vez que os computadores não sofrem fadiga, tal como os seres humanos. Um dos grandes escândalos de 2018 divulgados na imprensa foi aquele relativo à possibilidade de invasão da privacidade das pessoas por meio da formação de dossiers ou “psicográficos”, elaborados a partir da análise dos dados coletados, com o intuito de influenciar resultados eleitorais, como o caso da Cambridge Analytica (FLORESTI, 2018). Em procedimentos semelhantes, mediante coleta de informações voluntariamente fornecidas pelos usuários a partir de perguntas inocentes, conseguia-se mapear a personalidade das pessoas. Caso fossem respondidas trezentas perguntas, era possível conhecê-la mais do que a si mesma. Igualmente, basta observar os aplicativos de trânsito, que preveem para qual lugar a pessoa deseja ir, de acordo com o horário de acesso ao software. De maneira silenciosa, os aplicativos disponíveis para instalação nos telefones celulares exigem que o usuário permita o acesso irrestrito às fotos e à agenda de telefones das pessoas para que possam funcionar, o que, evidentemente, é um abuso, porque importa clara violação à privacidade. Serão mais graves as consequências do uso da inteligência artificial quando estiverem sendo usadas de forma geral nos aplicativos de comunicação instantânea e e-mails. Sob o pretexto de fornecerem respostas automáticas, monitora-se toda a conversa da pessoa e poder-se-á aprender quase tudo sobre ela, inclusive seus pensamentos, sentimentos, emoções, segredos, quando estes forem registrados por escrito em um computador ou telefone celular. Essas invasões de privacidade já são protegidas pela Constituição Federal e pela Lei n. 9.296, de 1996, porque são notadamente violações ao sigilo das comunicações. A partir do recolhimento excessivo de dados sobre a pessoa, ciberataques podem ser realizados contra elas, ao se conseguir vencer as senhas de e-mails ou de contas bancárias por meio das “pistas” deixadas pelas pessoas na navegação pela Internet. Em vez de serem testadas todas as senhas possíveis, pode-se deduzir qual seria a provável senha utilizada. Outro problema gravíssimo é que os algoritmos dos softwares de inteligência artificial podem traçar um perfil equivocado sobre a pessoa e, a partir disso, tomarem decisões equivocadas em relação a ela. Antes mesmo do uso intenso da inteligência artificial por meio dos algoritmos, havia problemas de invasão de privacidade na navegação na Internet por meio dos denominados “cookies”, que eram arquivos inseridos no computador do usuário e comandavam a execução de anúncios a partir de então. Embora seja uma invasão à privacidade, era possível, no entanto, a remoção desses arquivos do computador do usuário. Porém, com a inteligência artificial, não é possível distinguir os motivos que levam uma pessoa a ler determinado tema e, a partir disso, fazem-se ilações indevidas, inapropriadas e indesejadas sobre ela. Por exemplo, se alguém pesquisa sobre um assunto polêmico, a mera pesquisa pode ser interpretada como a vontade de aderir à ideia polêmica, quando, na verdade, se desejava o contrário. Ou, ainda, em uma rede social, determinada pessoa acessa o perfil de outra que não faz parte de sua rede e o algoritmo, interpretando esse acesso como interesse, sugere que ambas façam contato como se fossem amigas. Riscos concretos relacionados à liberdade de ir e vir ou até mesmo à vida de uma pessoa seja decidida justamente devido à falta de inteligência interpessoal pelo emprego de inteligência artificial, quando somente se tomarem decisões a partir desses perfis. Diagnósticos médicos excessivamente aprofundados por meio de inteligência artificial, a despeito de sua utilidade, podem gerar problemas de invasão de privacidade. Em certo sentido, viola a dignidade humana impor o monitoramento da expectativa de vida de alguém. Estas não podem ser questões a serem tomadas com o uso da racionalidade. Fé, esperança e amor são sentimentos que fazem os seres humanos diferentes de uma máquina dotada de inteligência artificial. Sendo possível ampliar a previsão sobre a sobrevida de um paciente, por exemplo, nada obsta que médicos sejam pressionados para não salvar o paciente, ou operadoras de planos de saúde se recusem a pagar o atendimento médico a quem dele precisa. Vale lembrar que, no campo da medicina, a sensibilidade do profissional ainda é importante na tomada de decisões (BROWN, 2018). Com o constante avanço da informática, da capacidade de armazenamento e de tratamento dos dados na Internet, talvez se caminhe para a situação em que, em um primeiro momento, amplia-se o conhecimento das pessoas mediante a enorme capacidade de coleta de informações sobre elas, o que aumenta potencialmente a hipótese de violação de privacidade; em um segundo momento, promover-se-á a discriminação e controle da pessoa por meio da inteligência artificial. É o que se teme a partir do uso da Internet para a criação de propaganda dirigida ou de desinformação. Mediante o conhecimento do comportamento das pessoas, podem-se direcionar informações verdadeiras ou falsas para manipular o comportamento delas, não somente em termos de preferências culturais ou de consumo, mas também as preferências de cunho político ou religioso, violando, portanto, a vida privada, a intimidade e o segredo delas. Por fim, falta pouco para chegar à situação em que uma pessoa, pesquisando algo na Internet, seja automaticamente monitorada por esse fato. Dessa forma, pode-se estatuir uma “polícia do pensamento” e impor um “ranking” social a boa parte da população. Uma falácia existente na proteção dos dados pessoais é basear-se o sistema de proteção legal no consentimento do interessado. Esse modelo de proteção da pessoa funciona adequadamente quando se trata de uma única informação a seu respeito, como no caso de um banco de dados de serviço de proteção ao crédito, por meio do qual se pode localizar a informação contida nesse banco de dados e solicitar a sua retificação. Porém, é inviável exigir o consentimento da pessoa quando centenas de informações a seu respeito são coletadas somente pelo fato de estarem conectadas à Internet e processadas automaticamente por meio dos algoritmos de inteligência artificial. No caso, o art. 20, caput e §§ 1º e 2º, da Lei n. 13.709/2018, dispõe que a pessoa tem o direito de exigir retificação de seus dados pessoais quando isso afetar seus interesses ou implicar prejuízo em tomada de decisões em relação a si, devendo o controlador das informações, a requerimento, esclarecer os critérios e procedimentos para a tomada de decisões automatizadas, podendo, em caso de recusa, a autoridade nacional realizar auditorias no sistema. A lei brasileira, lamentavelmente, é insuficientemente detalhada para tentar impedir as violações à privacidade. Considerando o tempo que se levou para promulgar a lei, poderia muito bem o legislador ter preparado um texto legal mais bem elaborado e que contemplasse as mudanças ocorridas nessa matéria. No caso da General Data Protection Regulation - GDPR, ainda que sejam necessários anos para avaliar de que maneira esses parâmetros de proteção serão acolhidos pelos membros da União Europeia, é, ao menos, bastante detalhista quanto à proteção a ser conferida aos dados. Pelo que se observa, houve a preocupação de impor o dever de informação sobre a finalidade com que os dados são coletados. Proibiu-se o tratamento de dados relativos a informações que revelem origens raciais e étnicas, convicções políticas e religiosas, filiação sindical, dados genéticos e biométricos, dados relativos à saúde, vida sexual e orientação sexual de uma pessoa (art. 9º) e distingue o tratamento de dados que permitam a identificação da pessoa daquele tratamento de dados que não têm a identificação da pessoa (art. 11). Ademais, prevê o direito ao apagamento ou esquecimento dos dados da pessoa (art. 17) e, de um modo ou de outro, impõe precauções relativas à proteção dos direitos e liberdades das pessoas em face das novas técnicas de tratamento de dados pessoais (arts. 25 e 32). Importante seria que as legislações, as constituições e os códigos civis afirmassem e reafirmassem a proibição do uso de dados pessoais identificáveis fornecidos voluntariamente pelas pessoas pelo simples fato de navegarem na Internet. Assim como não faz sentido algum a situação em que uma pessoa, com um drone ao qual se tenha acoplada uma câmera, telepilote-o à janela de uma pessoa e, por meio de um alto-falante acoplado a esse drone, se pergunte se a pessoa aceita ou não ter a sua privacidade e intimidade devassada, não deveria fazer sentido, do mesmo modo, indagar se a pessoa aceita ou não ter a vida devassada e controlada, caso aceite que se faça a coleta de dados a seu respeito pela navegação na Internet. Considerações finais A despeito de todos esses perigos decorrentes do mau uso da inteligência artificial, isso não significa que o direito civil – ou o direito como um todo – não tenha institutos jurídicos aptos a dar respostas para a solução desses problemas. As leis de proteção à privacidade, por mais sofisticadas que sejam, não puderam levar em conta que o uso da inteligência artificial representasse intensa violação à privacidade das pessoas da maneira como o fazem. Ainda se baseiam na ideia de que seres humanos alimentam e acessam bancos de dados, tais como os bancos de dados de proteção ao crédito, razão pela qual é possível solicitar, nesses casos, o consentimento da pessoa sobre os dados relativos a si mesma. Nos dias atuais, dados são recolhidos fácil e automaticamente sem conhecimento por parte do interessado. Analisados por softwares de inteligência artificial, ainda não se faz a real ideia do que está por vir em termos de perda de liberdade e autonomia da pessoa pelas violações em massa aos direitos da personalidade, em especial, ao direito à privacidade. Por isso se coloca a questão acerca do uso irrestrito da inteligência artificial. Existe um importante precedente, o qual deve ser lembrado. Na Segunda Guerra Mundial, realizaram-se pesquisas com seres humanos aprisionados, com o aparente intuito de obter conhecimentos a serem usados no tratamento de feridos de guerra. Testou se a investigação sobre os limites do corpo humano, além das pesquisas sobre um possível desenvolvimento da raça autoproclamada superior. A despeito do conhecimento médico obtido com esses experimentos, estes advieram de graves violações éticas, o que não podia ser tolerado. Julgados em Nuremberg, a sentença condenatória proferida contra os médicos nazistas trouxe um decálogo que deveria ser observado doravante nas pesquisas com seres humanos, tornando-se conhecido como Código de Nuremberg. A partir de então, estabeleceu-se que a ciência e a técnica não podem ser usadas para fins políticos, de dominação e de discriminação. Também nesse contexto se promulgaram as constituições italiana e alemã, além da Declaração Universal dos Direitos Humanos, que consagram a dignidade da pessoa humana. Por meio desses textos, reconhece-se e declara-se que o ser humano não pode ser reduzido à condição de objeto, tampouco de um sistema político. Com o controle de enorme quantidade de dados sobre as pessoas e a possibilidade de conhecê-las com precisão, tem-se hipótese de subversão da ética no uso da tecnologia: em vez de servir à humanidade, servirá para controlá-la. Em suma, a inteligência artificial não é um mal em si mesma. O mal está no mau uso que alguém pode fazer dela. Impõe-se, portanto, o dever de exigir que seja usada exclusivamente em favor da humanidade, jamais com o intuito de promover o controle social e o fim das liberdades.
Fonte: file:///C:/Users/Marcia%20Cristina/Downloads/document.pdf. Acesso: 05/09/2019
Comentários
Postar um comentário
Qualquer sugestão ou solicitação a respeito dos temas propostos, favor enviá-los. Grata!