Redes Sociais Trabalhando para o Mal?

Recentemente finalizei a leitura do livro "Dez argumentos para você deletar agora suas redes sociais" do autor Jaron Lanier e acredito que a principal mensagem que o autor tenta passar é quanto o algoritmo de inteligência artificial de empresas como Facebook, Google e Twitter em conjunto com um modelo de negócio predatório é capaz de prejudicar a sociedade.

De verdade eu acho que li a indicação do livro em algum blog, mas não me recordo onde foi.
Update: Lembrei onde eu vi a recomendação do livro, foi no excelente blog http://pensamentosfinanceiros.blogspot.com/

O algoritmo de classificação e direcionamento de conteúdo dessas empresas tem como objetivo principal aumentar o engajamento do seu produto, ou melhor das pessoas, podemos entender por engajamento o tempo despendido utilizando as redes sociais. Basicamente o algoritmo identifica os assuntos mais atrativos e que geram mais engajamento para direcionar esse conteúdo para os usuários, até esse ponto acredito que não existe nenhuma surpresa para muitas pessoas.

Porém como dito no começo do post o algoritmo possui IA e aprendizado de máquina, ou seja utiliza modelos estatísticos de todo o tipo para otimizar o seu desempenho e precisão e aí que está um ponto chave que habilita esse algoritmo a alterar o comportamento da sociedade.

Como exemplo prático vamos pensar em um perfil comum, a pessoa gosta de fotos de bichos bonitinhos e adora ver fotos de praia, após identificar essas preferências o algoritmo vai popular o feed de notícias e mensagens dessa pessoa com conteúdo relacionado a essas preferências, o algoritmo chega a essa conclusão de maneira muito fácil, pois existem assuntos que tem uma aceitação muito ampla, então as primeiras hipóteses testadas são as que tem maior probabilidade. Vamos chamar esse ciclo inicial, de ciclo da felicidade, ao final desse ciclo o algoritmo conhece bem os assuntos que mais geram felicidade no perfil daquele usuário.

Vamos nos aprofundar no perfil dessa pessoa, por ter essa preferência por bichos essa pessoa nutre algum ódio por seres humanos que maltratam animais, dentro dela existe um demônio adormecido que se sente feliz ao ver seres humanos sofrendo, pois associa o sofrimento dos animais a seres humanos inescrupulosos e acredita que todo ser humano pode ser um potencial risco para os animais. Só relembrando que o nosso perfil experimental é fictício... Ou não? Segue o jogo.

Aqui o assunto vai começar a ficar um pouco mais complexo, como eu disse anteriormente o algoritmo é preparado para evoluir e ter uma mapeamento do perfil cada vez mais preciso dos usuários, e como ele faz isso?

Pois bem de maneira prática o algoritmo de tempos em tempos joga no feed no usuário algum assunto sem sentido, numa primeira vez crianças catarrentas e avalia se isso gerou engajamento, no caso do nosso perfil a criança catarrenta não vai gerar nenhuma atratividade, na próxima janela de assuntos aleatórios aparece algo sobre escalar montanhas e novamente o algoritmo avalia se o assunto gerou algum engajamento para melhorar a quantidade de informação que é conhecida daquele usuário. Vamos chamar esse segundo ciclo, de descoberta aprimorada, após testar alguns assuntos aleatórios e identificar mais assuntos que geram engajamento a máquina conhece ainda melhor o perfil do usuário.

Enfim vamos imaginar um hipotético terceiro e último ciclo, digo hipotético pois o algoritmo vai tentar aumentar o conhecimento sempre, portanto não vai existir ciclo final. No último ciclo, o ciclo do terror, o algoritmo fica ainda mais audacioso, como ele já conhece muita coisa do usuário o algoritmo vai testar assuntos ainda mais fora do senso comum, e é aí que a merda acontece! No feed de notícias aparece um vídeo de um tubarão devorando uma pessoa no mar, você lembra daquele demônio adormecido, sim ele desperta e esse assunto gera um grande engajamento para o nosso perfil experimental.

Uma pausa dramática, infelizmente as desgraças e a violência chamam muito mais atenção, por mais que o algoritmo comece com temas que te façam feliz, no fim ele vai descobrir que assuntos que trazem tristeza são mais eficientes para engajar e prender a atenção dos usuários, sei que existem pessoas que vão argumentar que isso não funciona com elas, mas acreditem vocês podem ser a exceção e a grande maioria das pessoas pode ser atraída por assuntos que geram mais tristeza e revolta.

Voltando para o nosso perfil experimental e o seu demônio escondido, aquele vídeo do tubarão atacando uma pessoa fica bem pontuado no algoritmo e como o objetivo do algoritmo é aumentar o tempo que a pessoa passa na rede social, esse tipo de assunto será cada vez mais frequente na feed daquele usuário e o fato de despertar aquele demônio escondido pode fazer com que o algoritmo de vazão para esse comportamento reprimido, trazendo cada vez mais informações sobre mortes de pessoas até inundar o feed com homicídios de todos os tipos, pronto o algoritmo acabou de produzir um homicida que vai fazer justiça com as próprias mãos em prol do bem dos animais.

Eu tentei utilizar um exemplo bem gritante e espero que seja a exceção da exceção, mas o objetivo principal é mostrar como o algoritmo funciona, ele vai tentar obter o máximo de informação possível sobre o seu perfil, vai descobrir se você gosta de pornografia, se você gosta de surfe, se você gosta de loiras, se você não gosta de árabes... enfim ele vai levantar o máximo de informações na base da força bruta mesmo, tentativa e erro e nesse processo ele pode ajudar a despertar demônios que não deveriam ser despertados ou comportamentos inadequados para vida em sociedade fazendo com que as pessoas tenham um contato muito maior com esse tipo de informação ruim.

Para finalizar o post que já está bem grande para os meus padrões, agora eu faço o link com o modelo de negócios, as empresas que vivem desses algoritmos recebem dinheiro dos anunciantes e o produto que elas fornecem são informações detalhadas dos usuários para que os anunciantes possam escolher o público correto para que seus anúncios sejam mais bem sucedidos. Percebam que o incentivo é fornecer informações detalhas para atrair mais anunciantes que vão pagar por isso, você acha isso inofensivo? E se eu te disser que Russos, com posse dessas informações detalhadas dos perfis dos usuários, podem atrapalhar uma eleição patrocinando mensagens e anúncios para desestimular o comparecimento as urnas, ou que grupos armados podem recrutar jovens com mais facilidade tendo a posse dessas informações para direcionar suas propagandas. No mínimo o assunto dá espaço para muita reflexão, você é o produto nessa história.

Concluindo, a ideia do post é despertar a reflexão e a busca de fontes confiáveis para pesquisar sobre o assunto, para mim é um assunto super interessante e eu com toda certeza vou aprofundar meus conhecimentos em relação ao tema.