A representação do eu na vida digital

O texto abaixo foi escrito em 2017, como parte das atividades do Núcleo de Direito, Internet e Sociedade, extensão universitária de que participei durante a graduação na FDUSP, e publicado originalmente no blog do InternetLab.

As distopias de Black Mirror, seguindo a tradição de antologias de ficção científica herdada de clássicos como The Twilight Zone (1959-1964), demonstram o que o gênero tem de melhor a oferecer: histórias e universos que, brincando com as possibilidades e limites da tecnologia e de nossa relação com ela, nos confrontam com difíceis questões que perpassam nossas próprias vidas, envolvendo temas como a morte e a condição humana. Séries como Black Mirror, ambientadas em um futuro “não-tão-distante”, são particularmente chocantes muitas vezes não pelas tecnologias incríveis imaginadas pelos roteiristas, mas pela proximidade destas com nossa realidade atual.

Em Volto Já (Be Right Back), episódio da segunda temporada da série, a protagonista Martha perde seu namorado, Ash, em um acidente de carro. Durante seu período de luto, uma amiga a inscreve, contra a sua vontade, em um novo serviço oferecido por uma empresa online: uma inteligência artificial capaz de criar um “Ash virtual”, com quem Martha poderia se comunicar por mensagens. Em poucas palavras, o algoritmo “lia” as publicações de Ash em redes sociais como Twitter ou Facebook, a partir das quais era capaz de “recriar” o falecido em versão digital. Antes que Martha possa discordar da ideia, ela recebe um e-mail sob o nome de Ash dizendo “sou eu mesmo”.

De início relutante à ideia, mas incentivada por sua amiga e sob a dor forte do luto, a personagem continua a explorar o serviço, cedendo acesso a mais dados para alimentar seu banco de dados e criar um Ash “mais fiel à realidade”. Com fotos e vídeos, o serviço oferece à viúva a possibilidade de “conversar” com uma reconstrução digital do rosto de Ash. Mesmo hoje, vale mencionar, já é possível fazer coisas desse tipo: uma equipe de cientistas já conseguiu falsificar vídeos de Barack Obama discursando, por exemplo. Eventualmente, a empresa, mediada pela inteligência artificial que replica Ash, convence Martha a adquirir um robô que imita o corpo de seu namorado falecido – uma máquina capaz de andar, falar, e interagir com seres humanos como se fosse um deles – ou quase.

A réplica sintética de Ash, afinal, não é Ash, mas um androide – um robô criado para replicar a aparência e comportamento humanos. E, apesar da notável semelhança com o falecido, são as diferenças entre original e cópia que ressaltam as limitações fundamentais desta última. Embora algumas diferenças estejam ligadas ao fato de que “Ash” é efetivamente uma máquina – e portanto não sangra, não respira, nem precisa se alimentar, e parece não ter vontade própria -, há diferenças mais sutis que contribuem à sua estranheza e nos fazem pensar sobre a ideia de representação digital – e o que empresas de tecnologia têm a ver com isso.

A inteligência artificial do episódio foi criada inteiramente a partir da “pegada digital” de Ash, ou seja, a partir apenas daquilo que ele decidiu (ou foi capaz de) converter em informações eletrônicas enquanto vivo – sobretudo vídeos, fotos, mensagens de texto e publicações em redes sociais. Dessa forma, o banco de dados que alimentou a inteligência artificial sofria de um inevitável viés de seleção. Em outras palavras, tudo aquilo que Ash não decidiu (ou não foi capaz de) converter em dados ficou de fora de suas “memórias póstumas” e, por consequência, do “novo Ash”. Algumas são características físicas, como uma marca no peito que o corpo sintético não replicou por não tê-la registrada em nenhuma fotografia. Outras, mais desconcertantes: em vários momentos, fica evidente que a máquina não possui as memórias ou referências levantadas por Martha – frequentemente, de coisas que ocorreram offline. Em um passeio, Martha se surpreende quando a inteligência artificial (IA) pede a ela que lhe mostre a paisagem – Ash nunca viu muita graça em paisagens, afinal. Assimilando esta nova informação adquirida, a IA altera seu comportamento e reage de forma entediada à vista da colina: “é só um monte de verde, não é?” É em momentos como esse que fica mais claro que não há nenhum Ash dentro da máquina, mas apenas suas redes neurais, adaptáveis, alimentadas inicialmente apenas com seu conhecimento sobre o que Ash compartilhou no meio digital enquanto vivo – ou seja, sua representação digital.

Da mesma forma, nós temos nossas representações digitais – a imagem de nós disponível à internet, incluindo nossos perfis em redes sociais, fotos, menções em notícias, mas também todo conjunto de dados utilizado por terceiros (humanos, máquinas, ou instituições) para tomar decisões que afetam nossas vidas. Nosso “eu digital” é, com frequência, tudo o que é visto para julgar nosso “eu real”. Do crush semi-conhecido que vai olhar suas fotos antes de um encontro, ao futuro empregador que pode não gostar de seus tuítes políticos, a imagem incompleta e muitas vezes distorcida que a internet mostra de nós é usada para definir quem somos aos olhos de terceiros.

Incompleta, pois tais representações são inevitavelmente recortes do que somos e consumimos – não compartilhamos todos os momentos do nosso dia, como o bom dia ao acordar, ou nossas reclamações no refeitório, mas tais momentos offline fazem tanto parte de quem somos para as pessoas ao nosso redor – talvez mais – quanto nossas stories ou os memes que compartilhamos. Distorcida, pois mesmo este recorte é definido não como um mero “espelho” de quem somos fora da internet, mas é moldado constantemente por nossa interação com as plataformas digitais e pelos interesses destas. Quem eu sou aos olhos do Facebook e de seus usuários depende não apenas do que eu decido publicar, mas também do que a empresa Facebook prefere que eu compartilhe – controlando o conteúdo de nossos feeds, por exemplo. A empresa recentemente começou a testar mudanças que dificultam a vida de criadores de conteúdo independentes, ou seja, não pagantes.

No fim das contas, redes sociais são empresas com o dever de gerar lucro a seus acionistas. E empresas como Facebook, Google, ou Twitter farão de tudo para explorar seu principal recurso, os dados que coletam e processam de seus usuários, da forma mais eficiente possível. Isso significa que escolhas econômicas guiam suas escolhas de design, código, estrutura, enfim, de usabilidade, e portanto influenciam também o tipo de conteúdo produzido por seus usuários – e até mesmo quem serão seus usuários. Assim como um shopping center, o não é como uma praça que por acaso tem lojas, mas lojas que desenharam a “praça ideal” para obter o maior lucro possível sobre você: até mesmo a seleção de novos emojis passa hoje por um consórcio incluindo empresas como Apple e Netflix. Meu “eu digital” é, então, fruto tanto de escolhas minhas como de grandes empresas, com interesses frequentemente diferentes dos meus.

Sem que nos déssemos conta, a forma como nos apresentamos e somos lidos pelo mundo mudou radicalmente – e com a participação da economia de dados nesse processo, relações econômicas raramente conhecidas pelo público passam a ser determinantes de nossos amores, empregos e aspirações. Talvez seja hora de pensar melhor em nossa representação do eu na vida digital e questionar se nossas réplicas digitais realmente espelham quem somos offline.