Eduardo Tomasevicius Filho* Professor Associado do Departamento de Direito Civil da Faculdade de Direito da Universidade de São Paulo – USP. E-mail: tomasevicius@usp.br
Resumo:
A inteligência artificial surgiu concomitantemente com a eletrônica e a ciência
da computação na década de 1950. Tem sido aplicada cada vez mais em diversas
áreas e potencializou-se com a maior capacidade de armazenamento e tráfego de
dados pela Internet. Todavia, especialmente em 2018, ampliou-se a percepção da
sociedade para os efeitos positivos e negativos do emprego dessa tecnologia, do
ponto de vista não apenas político, mas também dos direitos da personalidade,
sobretudo o direito à privacidade. Neste artigo, faz-se a apresentação da inteligência
artificial, os problemas que esta pode causar às pessoas e os desafios dos direitos da
personalidade na defesa da dignidade humana.
Palavras-chave: Inteligência artificial. Direitos da personalidade. Direito à
privacidade. Internet. Controle social.
Introdução
Do ponto de vista cultural, a modernidade corresponde ao período histórico
de aproximadamente duzentos anos, que se iniciou no século XVIII com o Iluminismo, o
liberalismo econômico, a Revolução Industrial e as Revoluções políticas decorrentes da
crise do Antigo Regime. O marco final desse período é a Segunda Guerra Mundial, com a
conscientização de que nem sempre a humanidade evolui em termos de relacionamentos interpessoais, sociais e políticos. A partir da década de 1950, inaugurou-se uma nova
era: a pós-modernidade. Desde então, relativizaram-se as antigas instituições, entre as
quais, as religiões e a família. A revolução sexual e a revolução nos costumes ocorridas na
década de 1960, bem como as transformações nos mercados de trabalho – em nível local
e em escala mundial –, somadas à massificação dos meios de comunicação, resultaram no
pluralismo de ideias, na ausência de consensos sobre valores, no aumento exponencial do
consumo de bens e serviços, na multiplicidade de estruturas familiares, além da crescente
aceitação das opções sexuais das pessoas e da diversidade de identidades de gênero.
É certo que a eletrônica e a informática contribuíram significativamente
para a ocorrência de todas essas transformações. Com a invenção do transístor na década
de 1950 e, anos depois, dos circuitos integrados, os televisores e os computadores
diminuíram de tamanho e passaram a consumir muito menos energia elétrica. O mesmo
fenômeno deu-se com a Internet, também criada na década de 1950 com fins militares
e usada pela comunidade científica até a sua abertura irrestrita em 1994. A rede cresceu
sobremaneira e tornou-se parte da vida de grande parte dos seres humanos, revolucionando
as telecomunicações, a imprensa e o comércio, contribuindo, desse modo, para que as
relações humanas se desenvolvessem em ambiente virtual, em especial, nas redes sociais.
Todavia, o aumento da capacidade de armazenamento de informações nos
servidores das “gigantes da Internet”, a maior velocidade de transmissão e circulação de
informações e a mudança dos registros de imagens, de analógicas para digitais, produzidas
com qualidade a partir de um telefone celular, deixaram a pessoa humana vulnerável
dentro e fora do mundo virtual. Assim, o conceito de privacidade sofreu abalos sensíveis.
Tornou-se insuficiente, nos dias atuais, imaginar que o direito à privacidade se restringe à
ideia tradicional de invasão de privacidade, sintetizada no “direito de estar só” (“right to be
let alone”), concebido por Warren e Brandeis (1890). Antes se invadia a privacidade pela
procura de informações ou fatos sobre a vida de uma pessoa. Agora é a própria pessoa,
vítima das potenciais ou reais violações à privacidade, que, espontânea e alegremente,
fornece esses dados, obtidos por meio de pesquisas em sites de mecanismos de busca,
“postagens” nas redes sociais e aplicativos de mensagens, o que permite a formação de
“big data” e elaboração de dossiers (“profiling”) completos sobre si mesma. Tem-se ainda
a ampliação da coleta de dados dos veículos, equipamentos e aparelhos eletrodomésticos
das pessoas, por meio da denominada Internet das Coisas (IoT). Em 2019, iniciar-se-á o
projeto da “Internet dos Animais”, organizado pelo Instituto Max Planck de Ornitologia,
em parceria com a Agência Espacial Russa e o Centro Espacial Alemão, com o intuito de,
a partir do comportamento dos amimais, estudar zoonoses e epidemias globais, mudanças
climáticas e fazer previsão de desastres naturais, como os terremotos tsunamis e pragas
agrícolas, por meio de registros de aceleração, temperatura, umidade, pressão, altitude e
frequência cardíaca. (ALISSON, 2018). Preocupações quanto ao uso de computadores no processamento de dados
relativos às pessoas não são recentes. Na década de 1960, juristas norte-americanos,
como Edward J. Bloustein (1964), Donald N. Michael (1964) e, sobretudo, Alan Westin
(1970), alertavam para as possíveis violações ao direito à privacidade dos indivíduos pelo
processamento de informações armazenadas nos bancos de dados de órgãos do governo
dos Estados Unidos, o que veio a confirmar-se, em 2013, com a divulgação dos escândalos
de espionagem realizados pelo governo daquele país. Aliás, o ano de 2018 será lembrado
pela promulgação e entrada em vigor, respectivamente, de dois textos legais em matéria
de proteção à privacidade. O primeiro deles consiste na Lei Brasileira de Proteção de
Dados Pessoais (Lei n. 13.709), o qual pouco inovou nessa matéria. O segundo, no
âmbito europeu, consiste na General Data Protection Regulation – GDPR (Regulamento
n. 679/2016), bastante detalhado e que aproveitou as experiências europeias colhidas
durante a vigência da agora revogada Diretiva n. 95/46/CE sobre proteção de dados.
Quando se pensou que o controle sobre a vida das pessoas pela falta
de privacidade na Internet tinha atingido seu ápice, toma-se consciência de que esse
controle pode ser ainda mais intenso pelo uso da inteligência artificial. Embora seu uso
prático tenha início na década de 1950, foi em 2018 que se divulgaram seus efeitos com
frequência pela imprensa, despertando a atenção da sociedade como um todo para as suas
consequências, bem como para a necessidade de encontrar soluções para essa questão ao
longo do século XXI (HARARI, 2018). Inclusive, a “Manipulação do comportamento
do usuário pelo controle de dados na internet” foi o tema da redação do Exame Nacional
do Ensino Médio – ENEM em 2018 (Brasil, 2018a). A maior preocupação deve-se à
capacidade potencial ou real de manipulação da verdade mediante circulação de notícias
falsas (“fake news”) na Internet por meio de “robôs” e em que medida isso distorce ou
distorceu os processos eleitorais – e, consequentemente, o controle do poder político na
sociedade (GOMI, 2017).
Neste artigo, é feita uma apresentação sobre a inteligência artificial, seus
usos no cotidiano, os riscos que dela podem advir para a vida, integridade física, honra,
vida privada, imagem e identidade das pessoas, bem como os desafios para a proteção da
dignidade humana por meio dos direitos da personalidade.
1. A Inteligência Artificial
Uma possível definição de inteligência artificial foi apresentada na década
de 1980 por Elaine Rich (1988, p. 1): consiste em fazer os computadores realizarem
tarefas nas quais, e nos dias atuais, os seres humanos ainda são melhores do que as
máquinas. Assim, inteligência artificial é o conjunto de rotinas lógicas que, aplicadas no
campo da ciência da computação, permite aos computadores dispensar a necessidade de supervisão humana na tomada de decisões e na interpretação de mensagens analógicas e
digitais. Isso é possível ante a capacidade do sistema de adaptar-se por conta própria às
necessidades humanas, por meio do uso de dados de experiências pretéritas armazenados
nas memórias, tomando decisões com um mínimo de “livre-arbítrio”. Distingue-se,
todavia, da automação, por meio da qual se executam processos similares, mas sem a
capacidade de adaptação às novas realidades. Esse é o caso, por exemplo, do termostato de
um ar-condicionado: quando se atinge determinada temperatura previamente programada,
o equipamento liga ou desliga o aparelho, sem, jamais, tomar a iniciativa de interagir
proativamente com o ambiente no qual está instalado.
A ideia de construção de máquinas pensantes não é recente. Leibniz e
Babbage inventaram calculadoras. George Boole criou uma lógica binária, usada nos
computadores, facilmente adaptável aos equipamentos eletrônicos pelo uso de válvulas e,
posteriormente, de transistores. Mas foi no século XX que a inteligência artificial ganhou
força entre os pesquisadores. O matemático Alan Turing é considerado um dos precursores
dessa tecnologia. Em 1950, publicou um artigo no qual se propôs a analisar se as máquinas
poderiam pensar. Tomando por base jogos de adivinhação, Turing discutiu se tais ideias
poderiam ser usadas nos então recentes computadores digitais. Para tanto, analisou diversos
argumentos sobre a natureza do pensamento, bem como acerca do funcionamento dos
neurônios, verificando se as máquinas poderiam adquirir conhecimento tal como os seres
humanos (TURING, 1950). Porém, John McCarthy (1959) é considerado o precursor
no uso do termo “inteligência artificial”, embora também se use o termo “aprendizagem
de máquina” para descrever o processo em que esta se adapta a partir das experiências
anteriores de sua utilização.
Houve euforia com o surgimento dessa tecnologia, acreditando-se que seria
possível às máquinas escrever uma partitura musical, desvendar teoremas matemáticos
e interpretar a personalidade humana. Na década de 1970, estudou-se a possibilidade de
realização de diagnósticos médicos por inteligência artificial (GANASCIA, 1997, p. 40).
Com efeito, a inteligência artificial consiste em softwares que usam
algoritmos emuladores de métodos básicos de solução de problemas. O método básico
mais simples de resolução de problemas é aquele usado nos jogos de xadrez, que, em vez
de calcular todas as possibilidades de jogadas futuras a cada lance do jogador, usa um
modelo dinâmico de representação de espaços vazios em uma matriz de 8x8 (RICH, 1988,
p. 29-30). Outro método relaciona-se a operações de teste de alternativas, aplicadas nas
buscas em amplitude e em profundidade, usadas, por exemplo, na solução do “problema
do caixeiro-viajante”, no qual o algoritmo calcula a rota mais curta para um vendedor que
precisa percorrer diversas cidades interligadas por estradas diretas (RICH, 1988, p. 39).
Importante técnica de solução de problemas é a das “buscas heurísticas”,
em que o algoritmo controla o computador para que se encontre a resposta suficiente ou satisfatória, em vez da melhor resposta. Em outras palavras, o software “segue pistas”
(GANASCIA, 1997, p. 64), a partir da comparação com experiências anteriores, para
que seja possível economizar tempo de pesquisa, quando respostas precisas não são
absolutamente necessárias ao usuário (RICH, 1988, p. 40). Também merecem destaque
os esquemas lógicos baseados em perguntas e respostas (RICH, 1988, p. 191), assim
como aqueles sobre a representação lógica do processo de conhecimento humano. Em
síntese, a inteligência artificial estrutura-se para a solução de problemas modelados do
ponto de vista lógico-matemático, pela teoria das probabilidades ou, ainda, pela logica
fuzzy, que usa proposições vagas. Como desdobramento da inteligência artificial, foram
desenvolvidas as denominadas “redes conexionistas” ou “redes neurais”, por meio das
quais os softwares dos computadores imitam o funcionamento dos neurônios, a partir da
modelagem matemática dessas células (TAFNER; XEREZ, RODRIGUES FILHO, 1996).
Quando os computadores estavam isolados uns dos outros, a capacidade da
inteligência artificial limitava-se aos dados disponíveis nas memórias dessas máquinas.
Porém, com a melhoria dos softwares de reconhecimento de textos, imagens e informações
originalmente registradas em suportes materiais – e, sobretudo, com a possibilidade
de acesso a esses dados de maneira instantânea em qualquer parte do mundo por meio
da Internet, além do armazenamento de informações em grandes servidores de dados,
também conhecida como “computação na nuvem” –, a inteligência artificial assumiu nova
dimensão, porque possibilitou o acesso a informações ad infinitum. Além disso, a Internet
facilita a formação e coleta de big data, isto é, de informações relativas à navegação pela
rede, como também sobre o que é inserido ou consultado pelo interessado.
Destarte, as aplicações da inteligência artificial estão em jogos,
planejamentos de processos, processamento de linguagens naturais, percepção (visão e
audição), aprendizagem, geração de soluções de senso comum (RUSSELL; NORVIG,
1995) e, nos últimos tempos, análises desses big data, formados a partir dos dados
coletados da Internet, que permitem o denominado deep learning. Hoje existem diversos
algoritmos de inteligência artificial, que vão se aperfeiçoando a partir dos algoritmos
básicos elaborados nas últimas décadas. Os computadores que executam softwares com
inteligência artificial para a realização de atividades específicas de modo ininterrupto,
como no caso do envio de mensagens, têm sido denominados de “robôs”. Em síntese,
desde o início das pesquisas sobre inteligência artificial, buscou-se compreender como se
forma o pensamento humano e de que maneira as pessoas resolvem problemas, adaptando
essas estruturas em forma de algoritmos e, posteriormente, transformando-os em softwares
(TOMASEVICIUS FILHO, 2005).
A despeito de todo esse desenvolvimento, a inteligência artificial é aplicada
em situações do cotidiano há vários anos. O exemplo mais corriqueiro é o dos processadores
de textos, quando indicam ao usuário a grafia errada de uma palavra ou equívocos de concordância verbal. Além disso, é também usada nas traduções de textos. Quando essa
tecnologia começou a ser usada cerca de vinte anos atrás, os resultados eram desastrosos e
não faziam sentido, porque as frases e orações eram apresentadas “ao pé da letra”. Com o
emprego da inteligência artificial ao longo dos anos, houve melhoras significativas a partir
das correções feitas pelos usuários e assimiladas pelo sistema, embora ainda exista uma
longa estrada a ser percorrida no aperfeiçoamento dessas ferramentas.
Os websites de buscas na Internet são aplicações diretas da inteligência
artificial. Pela “busca heurística”, antecipam ao usuário os resultados da busca em ordem
de importância, ou já fazem a pesquisa com os critérios supostamente corretos. Ademais,
indicam as perguntas mais comuns feitas por outros usuários. Redes sociais usam o mesmo
método para mostrar ao usuário quais publicações supostamente gostaria de ler e ver em
primeiro lugar, de acordo com o aprendizado do comportamento, e sugere amigos a partir
da análise dos vínculos de relacionamentos entre seus participantes.
Sistemas operacionais de computadores têm usado inteligência artificial
para proporcionar uso mais interativo do usuário com a máquina. Os telefones celulares
têm inteligência artificial nos softwares que permitem ao usuário “conversar” com o
aparelho, a partir do reconhecimento de voz e sistemas de perguntas e respostas. Câmeras
fotográficas de última geração tiram fotos automaticamente com base no que imaginam
ser do interesse do usuário, como, por exemplo, a presença de pessoas da família ou
durante o desenvolvimento de uma atividade pessoal, como um hobby ou exercício físico,
sem a necessidade de disparar qualquer botão, como também aquelas que identificam o
objeto de uma foto para buscar informações sobre o mesmo, como o preço nas lojas ou os
nutrientes dos alimentos em um prato.
Ainda nesse processo de automação de procedimentos, robôs mecânicos são
fabricados a partir de softwares com inteligência artificial, o que lhes permite “aprender”
com as experiências de uso, deixando de serem autômatas, mas, sim, autônomas.
Automóveis estarão equipados com controles que usam inteligência artificial para
reduzir ou, no limite, assumir o controle do veículo no lugar do motorista. Por enquanto,
tornaram-se populares os aplicativos de rotas no trânsito, que calculam o trajeto mais
rápido para se chegar a determinado local, ou em softwares aplicativos de transporte, que
localizam o motorista mais próximo e preveem o valor a ser cobrado pela corrida. Ambos
são aplicações do modelo do “caixeiro-viajante” em inteligência artificial.
Enquanto nos exemplos anteriores a inteligência artificial é usada para
o conforto do usuário, há exemplos de uso na tomada de decisões que afetam os seres
humanos. Nesse sentido, a inteligência artificial tem sido usada para substituir pessoas em
postos de trabalho. A partir dos softwares de reconhecimento de voz, ampliou-se o uso
dessas ferramentas para que os atendimentos aos usuários por telefone sejam feitos por computadores, em vez daqueles feitos por funcionários. Também começam a ser usadas
para a tomada de decisões em investimentos financeiros.
Existem dois casos emblemáticos sobre o uso da inteligência artificial em
processos similares de tomada de decisões. O primeiro deles é na obtenção de diagnósticos
médicos por imagem, por meio do qual é possível identificar tumores imperceptíveis a olho
nu (ALVES, 2018). O Google desenvolveu software com redes neurais, alimentado a partir
de informações constantes em prontuários médicos, capaz de prever quando determinado
paciente morrerá em um hospital, com antecedência de um a dois dias, permitindo à equipe
médica tomar medidas para reverter essa situação (BERGEN, 2018). No Brasil, o Instituto
de Matemática e Ciências da Computação de São Carlos e a Faculdade de Medicina de
Ribeirão Preto, ambos da Universidade de São Paulo, vêm conduzindo pesquisa similar,
com o uso de dados de 1,6 milhão de pacientes de vinte e quatro hospitais públicos de São
Paulo, com o intuito de desenvolver software capaz de auxiliar médicos no diagnóstico de
doenças e definição de estratégicas de tratamento (CISCATI, 2018).
O segundo caso dá-se na área jurídica, que parecia ser um campo inatingível
de aplicação da inteligência artificial quando se tentou fazer tais experimentos na década
de 1970, e chegou-se à época à conclusão de que seria impossível substituir o ser
humano na arte de fazer justiça no caso concreto, tendo em vista as diversas variáveis
que devem ser levadas em consideração na tomada de uma decisão. Seu uso está cada
vez mais presente por meio de softwares que analisam documentos, elaboram minutas
de contratos e redigem petições, incluindo buscas de jurisprudência. Do mesmo modo,
com o intuito de dar vazão à enorme carga de trabalho, deu-se início no Poder Judiciário
ao uso de inteligência artificial para auxiliar na elaboração de decisões judiciais, com o
denominado “Projeto Victor” (BRASIL, 2018c), do Supremo Tribunal Federal, que lê os
recursos extraordinários e os classificará de acordo com os critérios de repercussão geral.
Tendo em vista a enorme dificuldade de uniformização da jurisprudência entre as turmas e
câmaras, a inteligência artificial será capaz de sistematizar os entendimentos convergentes
e divergentes, promovendo maior aperfeiçoamento da prestação jurisdicional, uma vez
que a enorme quantidade de acórdãos prolatados impede a análise de todos esses dados
por meio da leitura de cada um deles por parte dos pesquisadores e operadores do direito
(BRASIL, 2018b).
Por fim, cresce o uso da inteligência artificial em atividades e serviços
realizados pelo Estado. Pode-se aplicar a inteligência artificial no policiamento urbano.
Já está em uso o reconhecimento de placas de veículos furtados ou roubados. Pelo
reconhecimento facial, podem-se identificar criminosos com as milhares de câmeras
espalhadas pela cidade. Começa-se a implantar a inteligência artificial em aeroportos
para substituir agentes de imigração (PICHETA, 2018). A mobilidade urbana pode ser
aprimorada pela inteligência artificial. Em geral, a abertura e o fechamento das vias dão-se por meio de temporizadores pré-programados, independentemente do volume de veículos
e pedestres nas vias. Com a inteligência artificial, pode-se deixar para que esse tempo de
abertura e fechamento seja regulado nas situações concretas. Por exemplo, com a abertura
do tráfego somente quando um pedestre com mobilidade reduzida já tenha cruzado a via,
ou para evitar que um veículo fique parado desnecessariamente (AUTRAN, 2018). Quiçá
unindo-se os sistemas relacionados aos aplicativos de trânsito com o controle do fluxo
de veículos nas vias, seja possível fazer uma melhor organização do tráfego nas cidades,
substituindo companhias de engenharia de tráfego e seus agentes.
2. As violações aos direitos da personalidade causadas pela inteligência artificial
O uso da inteligência artificial tem contribuído para a melhoria dos
produtos e serviços oferecidos às pessoas, trazendo conforto e comodidade a todos.
Resultará em mudanças nas relações de trabalho ao longo do século XXI, tal como já
aconteceu no século XVIII com a Revolução Industrial, como também durante o século
XX com o uso da automação industrial e o uso de computadores em praticamente todas as
atividades laborais. Trata-se da denominada “Quarta Revolução Industrial” ou Indústria
4.0 (BRASIL, [2018]), a qual fará a união dos mundos físico, biológico e digital, pelo
uso de manufaturas em 3D, Internet das coisas, biologia sintética, sistemas ciberfísicos,
computação em nuvem e inteligência artificial.
No entanto, existem riscos que podem causar sérios danos aos direitos
fundamentais, protegidos pelo direito civil mediante direitos da personalidade, em
especial, o direito à privacidade. Em fevereiro de 2018, foi lançado o relatório intitulado
“The malicious use of artificial intelligence: forecasting, prevention and mitigation”
(Brundage et al, 2018), elaborado por pesquisadores das Universidades de Cambridge
e Oxford, no qual foram apontados três tipos de riscos que podem advir da inteligência
artificial. O primeiro deles é o risco à segurança digital, por meio de intensos ciberataques
generalizados. O segundo deles consiste nos riscos à segurança física, por meio de lesões
causadas por drones ou armas operadas com inteligência artificial. O terceiro risco consiste
nos riscos à segurança política, por meio do monitoramento decorrente da análise de dados
coletados em massa, a manipulação de vídeos, a invasão da privacidade e a manipulação
social, por meio da análise de comportamentos humanos, costumes e crenças. De acordo
com os autores desse relatório, tal monitoramento é preocupante em Estados totalitários,
mas pode prejudicar a democracia e sua capacidade de promoção de debates verdadeiros.1 Diversos direitos da personalidade podem ser violados pelo uso indevido
da inteligência artificial, como nos casos relativos à vida e à integridade física, disposição
do próprio corpo em questões relativas à saúde, além da honra, privacidade, imagem
e discriminações referentes às identidades pessoais. Pode-se, até mesmo, do ponto de
vista retórico, indagar se inteligência artificial e direitos da personalidade representam
contradição em termos, tamanha a vulnerabilidade da pessoa em razão do uso inadequado
dessas tecnologias.
O primeiro risco aos direitos da pessoa é que a inteligência artificial não
pode ser encarada como solução para todos os problemas da humanidade. Existe um
problema de matriz filosófica, igualmente de objeto de estudo da medicina e da psicologia,
que é o fato de a inteligência artificial não se tratar de uma inteligência holística. Até
o momento, ainda se limita a uma inteligência lógico-matemática. Como se sabe, o
ser humano tem inteligências múltiplas e já está superada a ideia de que inteligência
é somente racionalidade. A inteligência artificial é incapaz de levar em conta todas as
variáveis advindas da multiplicidade de inteligências, uma vez esse aspecto é que faz
do ser humano um ser diferente de uma máquina (GARDNER, 1995, p. 24-28). Por
exemplo, se uma pessoa, no exercício de sua inteligência linguística, escrever uma
palavra intencionalmente errada no editor de texto, este interpretará como erro. Podemse artificialmente reproduzir os processos lógicos do cérebro, mas ainda não se podem
reproduzir emoções artificialmente, tais como aquelas decorrentes de maior ou menor grau
de inteligência emocional (POLANI, 2017). Por exemplo, com o intuito de economizar
um minuto do trajeto, o aplicativo de trânsito pode fazer a pessoa entrar em diversas
ruas – o que é lógico do ponto de vista do menor trajeto – mas não leva em consideração
a passagem por locais indesejados, assim considerados pela inteligência intrapessoal,
assim como nem sempre o que aparece como relevante em uma rede social ou no site de
mecanismo de buscas é, de fato, relevante para o usuário.
Assim, quando se trata de máquinas controladas por inteligência artificial,
como no caso de robôs e drones, que podem colocar em risco a vida e a integridade física
das pessoas, o direito civil tem um conjunto de normas suficientes para a solução desses
problemas. Consistem, pois, na aplicação das regras relativas à responsabilidade civil pelo
fato da coisa ou responsabilidade civil pelo fato do produto, conforme o regime jurídico a
que se subordina a relação jurídica em questão. Todavia, parece ser excessivamente artificial – ou mera ficção científica –
imaginar um robô androide perfeitamente inteligente, andando pelas ruas sem qualquer
controle, com iniciativa própria de carregar suas baterias, dotado de enorme força,
invencibilidade e capacidade de reproduzir-se por fabricar outros entes similares. O mais
comum será o uso de robôs em indústrias, os quais podem causar danos aos seres humanos,
como toda e qualquer máquina, sendo aplicável o regime da responsabilidade civil por
acidentes de trabalho, ou robôs usados no serviço doméstico, que serão adquiridos como
um eletrodoméstico qualquer.
Do mesmo modo, um automóvel dotado de sistema de pilotagem com
inteligência artificial. Em todos esses casos, pressupõe-se que diversos testes de segurança
tenham sido realizados antes da inserção do produto no mercado. Também se pode
imaginar que, na operação dos veículos equipados com essa tecnologia, a taxa de erros
possa ser pequena, porque a velocidade de resposta do sistema provavelmente será bem
maior em comparação com os reflexos do motorista. Caso ocorra um acidente envolvendo
um robô doméstico ou veículo controlado por inteligência artificial, a responsabilidade
civil é do fabricante, por ter inserido o produto no mercado. Afinal, quando o acidente
automobilístico é causado por defeito de fabricação ou de projeto do veículo, o fabricante,
nos termos do art. 12 do Código de Defesa do Consumidor, responde pelos danos que
advieram desse fato. No contexto europeu, recomenda-se a adoção de um sistema de
seguro obrigatório para reparação de danos, tal como existe para os veículos (UNIÃO
EUROPEIA, 2017).
Ainda que se pretenda atribuir personalidade jurídica aos robôs dotados de
inteligência artificial – o que também parece ser nonsense –, a responsabilidade civil será
sempre imputada ao ser humano, jamais à máquina em si. Reconhecer tal fato seria mais
bizarro do que se fazia séculos atrás, quando se julgavam animais pelos danos por eles
causados.
Com efeito, os verdadeiros danos não serão causados por robôs ou veículos
dotados de inteligência artificial, mas, sim, pelos computadores que executem softwares
de inteligência artificial. Estes causam e causarão danos à privacidade das pessoas, o que
exige maior atenção dos juristas quanto ao aperfeiçoamento do direito à privacidade.
A proteção assegurada por esse direito tem como objetivo, entre outros,
impedir que uma pessoa seja chantageada ou manipulada pelo fato de terceiro possuir
informações que não lhe dizem respeito. Quanto mais se sabe sobre um indivíduo, menor
é a sua esfera de liberdade pessoal. O direito à privacidade foi estruturado a partir da ideia
de que uma pessoa recolhe informações sensíveis sobre outra, analisa e as usa em seu
favor.
Situação diversa, porém, é utilizar computadores com softwares de
inteligência artificial processando e analisando incessantemente essa enorme quantidade de dados recolhidos sobre uma pessoa, o que potencializa essas invasões, uma vez
que os computadores não sofrem fadiga, tal como os seres humanos. Um dos grandes
escândalos de 2018 divulgados na imprensa foi aquele relativo à possibilidade de
invasão da privacidade das pessoas por meio da formação de dossiers ou “psicográficos”,
elaborados a partir da análise dos dados coletados, com o intuito de influenciar resultados
eleitorais, como o caso da Cambridge Analytica (FLORESTI, 2018). Em procedimentos
semelhantes, mediante coleta de informações voluntariamente fornecidas pelos usuários
a partir de perguntas inocentes, conseguia-se mapear a personalidade das pessoas. Caso
fossem respondidas trezentas perguntas, era possível conhecê-la mais do que a si mesma.
Igualmente, basta observar os aplicativos de trânsito, que preveem para qual lugar a
pessoa deseja ir, de acordo com o horário de acesso ao software. De maneira silenciosa,
os aplicativos disponíveis para instalação nos telefones celulares exigem que o usuário
permita o acesso irrestrito às fotos e à agenda de telefones das pessoas para que possam
funcionar, o que, evidentemente, é um abuso, porque importa clara violação à privacidade.
Serão mais graves as consequências do uso da inteligência artificial quando
estiverem sendo usadas de forma geral nos aplicativos de comunicação instantânea e
e-mails. Sob o pretexto de fornecerem respostas automáticas, monitora-se toda a conversa
da pessoa e poder-se-á aprender quase tudo sobre ela, inclusive seus pensamentos,
sentimentos, emoções, segredos, quando estes forem registrados por escrito em um
computador ou telefone celular. Essas invasões de privacidade já são protegidas pela
Constituição Federal e pela Lei n. 9.296, de 1996, porque são notadamente violações ao
sigilo das comunicações.
A partir do recolhimento excessivo de dados sobre a pessoa, ciberataques
podem ser realizados contra elas, ao se conseguir vencer as senhas de e-mails ou de contas
bancárias por meio das “pistas” deixadas pelas pessoas na navegação pela Internet. Em
vez de serem testadas todas as senhas possíveis, pode-se deduzir qual seria a provável
senha utilizada.
Outro problema gravíssimo é que os algoritmos dos softwares de
inteligência artificial podem traçar um perfil equivocado sobre a pessoa e, a partir
disso, tomarem decisões equivocadas em relação a ela. Antes mesmo do uso intenso da
inteligência artificial por meio dos algoritmos, havia problemas de invasão de privacidade
na navegação na Internet por meio dos denominados “cookies”, que eram arquivos
inseridos no computador do usuário e comandavam a execução de anúncios a partir
de então. Embora seja uma invasão à privacidade, era possível, no entanto, a remoção
desses arquivos do computador do usuário. Porém, com a inteligência artificial, não é
possível distinguir os motivos que levam uma pessoa a ler determinado tema e, a partir
disso, fazem-se ilações indevidas, inapropriadas e indesejadas sobre ela. Por exemplo,
se alguém pesquisa sobre um assunto polêmico, a mera pesquisa pode ser interpretada como a vontade de aderir à ideia polêmica, quando, na verdade, se desejava o contrário.
Ou, ainda, em uma rede social, determinada pessoa acessa o perfil de outra que não faz
parte de sua rede e o algoritmo, interpretando esse acesso como interesse, sugere que
ambas façam contato como se fossem amigas. Riscos concretos relacionados à liberdade
de ir e vir ou até mesmo à vida de uma pessoa seja decidida justamente devido à falta
de inteligência interpessoal pelo emprego de inteligência artificial, quando somente se
tomarem decisões a partir desses perfis.
Diagnósticos médicos excessivamente aprofundados por meio de
inteligência artificial, a despeito de sua utilidade, podem gerar problemas de invasão
de privacidade. Em certo sentido, viola a dignidade humana impor o monitoramento da
expectativa de vida de alguém. Estas não podem ser questões a serem tomadas com o
uso da racionalidade. Fé, esperança e amor são sentimentos que fazem os seres humanos
diferentes de uma máquina dotada de inteligência artificial. Sendo possível ampliar a
previsão sobre a sobrevida de um paciente, por exemplo, nada obsta que médicos sejam
pressionados para não salvar o paciente, ou operadoras de planos de saúde se recusem a
pagar o atendimento médico a quem dele precisa. Vale lembrar que, no campo da medicina,
a sensibilidade do profissional ainda é importante na tomada de decisões (BROWN, 2018).
Com o constante avanço da informática, da capacidade de armazenamento
e de tratamento dos dados na Internet, talvez se caminhe para a situação em que, em um
primeiro momento, amplia-se o conhecimento das pessoas mediante a enorme capacidade
de coleta de informações sobre elas, o que aumenta potencialmente a hipótese de violação
de privacidade; em um segundo momento, promover-se-á a discriminação e controle da
pessoa por meio da inteligência artificial. É o que se teme a partir do uso da Internet
para a criação de propaganda dirigida ou de desinformação. Mediante o conhecimento do
comportamento das pessoas, podem-se direcionar informações verdadeiras ou falsas para
manipular o comportamento delas, não somente em termos de preferências culturais ou de
consumo, mas também as preferências de cunho político ou religioso, violando, portanto,
a vida privada, a intimidade e o segredo delas. Por fim, falta pouco para chegar à situação
em que uma pessoa, pesquisando algo na Internet, seja automaticamente monitorada
por esse fato. Dessa forma, pode-se estatuir uma “polícia do pensamento” e impor um
“ranking” social a boa parte da população.
Uma falácia existente na proteção dos dados pessoais é basear-se o sistema
de proteção legal no consentimento do interessado. Esse modelo de proteção da pessoa
funciona adequadamente quando se trata de uma única informação a seu respeito, como
no caso de um banco de dados de serviço de proteção ao crédito, por meio do qual se
pode localizar a informação contida nesse banco de dados e solicitar a sua retificação.
Porém, é inviável exigir o consentimento da pessoa quando centenas de informações
a seu respeito são coletadas somente pelo fato de estarem conectadas à Internet e processadas automaticamente por meio dos algoritmos de inteligência artificial. No caso,
o art. 20, caput e §§ 1º e 2º, da Lei n. 13.709/2018, dispõe que a pessoa tem o direito de
exigir retificação de seus dados pessoais quando isso afetar seus interesses ou implicar
prejuízo em tomada de decisões em relação a si, devendo o controlador das informações,
a requerimento, esclarecer os critérios e procedimentos para a tomada de decisões
automatizadas, podendo, em caso de recusa, a autoridade nacional realizar auditorias
no sistema. A lei brasileira, lamentavelmente, é insuficientemente detalhada para tentar
impedir as violações à privacidade. Considerando o tempo que se levou para promulgar
a lei, poderia muito bem o legislador ter preparado um texto legal mais bem elaborado e
que contemplasse as mudanças ocorridas nessa matéria.
No caso da General Data Protection Regulation - GDPR, ainda que
sejam necessários anos para avaliar de que maneira esses parâmetros de proteção serão
acolhidos pelos membros da União Europeia, é, ao menos, bastante detalhista quanto à
proteção a ser conferida aos dados. Pelo que se observa, houve a preocupação de impor
o dever de informação sobre a finalidade com que os dados são coletados. Proibiu-se
o tratamento de dados relativos a informações que revelem origens raciais e étnicas,
convicções políticas e religiosas, filiação sindical, dados genéticos e biométricos, dados
relativos à saúde, vida sexual e orientação sexual de uma pessoa (art. 9º) e distingue o
tratamento de dados que permitam a identificação da pessoa daquele tratamento de dados
que não têm a identificação da pessoa (art. 11). Ademais, prevê o direito ao apagamento ou
esquecimento dos dados da pessoa (art. 17) e, de um modo ou de outro, impõe precauções
relativas à proteção dos direitos e liberdades das pessoas em face das novas técnicas de
tratamento de dados pessoais (arts. 25 e 32).
Importante seria que as legislações, as constituições e os códigos civis
afirmassem e reafirmassem a proibição do uso de dados pessoais identificáveis fornecidos
voluntariamente pelas pessoas pelo simples fato de navegarem na Internet. Assim como
não faz sentido algum a situação em que uma pessoa, com um drone ao qual se tenha
acoplada uma câmera, telepilote-o à janela de uma pessoa e, por meio de um alto-falante
acoplado a esse drone, se pergunte se a pessoa aceita ou não ter a sua privacidade e
intimidade devassada, não deveria fazer sentido, do mesmo modo, indagar se a pessoa
aceita ou não ter a vida devassada e controlada, caso aceite que se faça a coleta de dados
a seu respeito pela navegação na Internet.
Considerações finais
A despeito de todos esses perigos decorrentes do mau uso da inteligência
artificial, isso não significa que o direito civil – ou o direito como um todo – não tenha
institutos jurídicos aptos a dar respostas para a solução desses problemas. As leis de proteção à privacidade, por mais sofisticadas que sejam, não puderam levar em conta que
o uso da inteligência artificial representasse intensa violação à privacidade das pessoas
da maneira como o fazem. Ainda se baseiam na ideia de que seres humanos alimentam
e acessam bancos de dados, tais como os bancos de dados de proteção ao crédito, razão
pela qual é possível solicitar, nesses casos, o consentimento da pessoa sobre os dados
relativos a si mesma. Nos dias atuais, dados são recolhidos fácil e automaticamente sem
conhecimento por parte do interessado. Analisados por softwares de inteligência artificial,
ainda não se faz a real ideia do que está por vir em termos de perda de liberdade e autonomia
da pessoa pelas violações em massa aos direitos da personalidade, em especial, ao direito
à privacidade. Por isso se coloca a questão acerca do uso irrestrito da inteligência artificial.
Existe um importante precedente, o qual deve ser lembrado. Na Segunda
Guerra Mundial, realizaram-se pesquisas com seres humanos aprisionados, com o aparente
intuito de obter conhecimentos a serem usados no tratamento de feridos de guerra. Testou se a investigação sobre os limites do corpo humano, além das pesquisas sobre um possível
desenvolvimento da raça autoproclamada superior. A despeito do conhecimento médico
obtido com esses experimentos, estes advieram de graves violações éticas, o que não
podia ser tolerado. Julgados em Nuremberg, a sentença condenatória proferida contra os
médicos nazistas trouxe um decálogo que deveria ser observado doravante nas pesquisas
com seres humanos, tornando-se conhecido como Código de Nuremberg. A partir de
então, estabeleceu-se que a ciência e a técnica não podem ser usadas para fins políticos, de
dominação e de discriminação. Também nesse contexto se promulgaram as constituições
italiana e alemã, além da Declaração Universal dos Direitos Humanos, que consagram a
dignidade da pessoa humana. Por meio desses textos, reconhece-se e declara-se que o ser
humano não pode ser reduzido à condição de objeto, tampouco de um sistema político.
Com o controle de enorme quantidade de dados sobre as pessoas e a
possibilidade de conhecê-las com precisão, tem-se hipótese de subversão da ética no
uso da tecnologia: em vez de servir à humanidade, servirá para controlá-la. Em suma, a
inteligência artificial não é um mal em si mesma. O mal está no mau uso que alguém pode
fazer dela. Impõe-se, portanto, o dever de exigir que seja usada exclusivamente em favor
da humanidade, jamais com o intuito de promover o controle social e o fim das liberdades.
Fonte: file:///C:/Users/Marcia%20Cristina/Downloads/document.pdf. Acesso: 05/09/2019
Nenhum comentário:
Postar um comentário
Qualquer sugestão ou solicitação a respeito dos temas propostos, favor enviá-los. Grata!