Redes Sociais Trabalhando para o Mal?


Recentemente finalizei a leitura do livro "Dez argumentos para você deletar agora suas redes sociais" do autor Jaron Lanier e acredito que a principal mensagem que o autor tenta passar é quanto o algoritmo de inteligência artificial de empresas como Facebook, Google e Twitter em conjunto com um modelo de negócio predatório é capaz de prejudicar a sociedade.

De verdade eu acho que li a indicação do livro em algum blog, mas não me recordo onde foi.
Update: Lembrei onde eu vi a recomendação do livro, foi no excelente blog http://pensamentosfinanceiros.blogspot.com/

O algoritmo de classificação e direcionamento de conteúdo dessas empresas tem como objetivo principal aumentar o engajamento do seu produto, ou melhor das pessoas, podemos entender por engajamento o tempo despendido utilizando as redes sociais. Basicamente o algoritmo identifica os assuntos mais atrativos e que geram mais engajamento para direcionar esse conteúdo para os usuários, até esse ponto acredito que não existe nenhuma surpresa para muitas pessoas.

Porém como dito no começo do post o algoritmo possui IA e aprendizado de máquina, ou seja utiliza modelos estatísticos de todo o tipo para otimizar o seu desempenho e precisão e aí que está um ponto chave que habilita esse algoritmo a alterar o comportamento da sociedade.

Como exemplo prático vamos pensar em um perfil comum, a pessoa gosta de fotos de bichos bonitinhos e adora ver fotos de praia, após identificar essas preferências o algoritmo vai popular o feed de notícias e mensagens dessa pessoa com conteúdo relacionado a essas preferências, o algoritmo chega a essa conclusão de maneira muito fácil, pois existem assuntos que tem uma aceitação muito ampla, então as primeiras hipóteses testadas são as que tem maior probabilidade. Vamos chamar esse ciclo inicial, de ciclo da felicidade, ao final desse ciclo o algoritmo conhece bem os assuntos que mais geram felicidade no perfil daquele usuário.

Vamos nos aprofundar no perfil dessa pessoa, por ter essa preferência por bichos essa pessoa nutre algum ódio por seres humanos que maltratam animais, dentro dela existe um demônio adormecido que se sente feliz ao ver seres humanos sofrendo, pois associa o sofrimento dos animais a seres humanos inescrupulosos e acredita que todo ser humano pode ser um potencial risco para os animais. Só relembrando que o nosso perfil experimental é fictício... Ou não? Segue o jogo.

Aqui o assunto vai começar a ficar um pouco mais complexo, como eu disse anteriormente o algoritmo é preparado para evoluir e ter uma mapeamento do perfil cada vez mais preciso dos usuários, e como ele faz isso?

Pois bem de maneira prática o algoritmo de tempos em tempos joga no feed no usuário algum assunto sem sentido, numa primeira vez crianças catarrentas e avalia se isso gerou engajamento, no caso do nosso perfil a criança catarrenta não vai gerar nenhuma atratividade, na próxima janela de assuntos aleatórios aparece algo sobre escalar montanhas e novamente o algoritmo avalia se o assunto gerou algum engajamento para melhorar a quantidade de informação que é conhecida daquele usuário. Vamos chamar esse segundo ciclo, de descoberta aprimorada, após testar alguns assuntos aleatórios e identificar mais assuntos que geram engajamento a máquina conhece ainda melhor o perfil do usuário.

Enfim vamos imaginar um hipotético terceiro e último ciclo, digo hipotético pois o algoritmo vai tentar aumentar o conhecimento sempre, portanto não vai existir ciclo final. No último ciclo, o ciclo do terror, o algoritmo fica ainda mais audacioso, como ele já conhece muita coisa do usuário o algoritmo vai testar assuntos ainda mais fora do senso comum, e é aí que a merda acontece! No feed de notícias aparece um vídeo de um tubarão devorando uma pessoa no mar, você lembra daquele demônio adormecido, sim ele desperta e esse assunto gera um grande engajamento para o nosso perfil experimental.

Uma pausa dramática, infelizmente as desgraças e a violência chamam muito mais atenção, por mais que o algoritmo comece com temas que te façam feliz, no fim ele vai descobrir que assuntos que trazem tristeza são mais eficientes para engajar e prender a atenção dos usuários, sei que existem pessoas que vão argumentar que isso não funciona com elas, mas acreditem vocês podem ser a exceção e a grande maioria das pessoas pode ser atraída por assuntos que geram mais tristeza e revolta.

Voltando para o nosso perfil experimental e o seu demônio escondido, aquele vídeo do tubarão atacando uma pessoa fica bem pontuado no algoritmo e como o objetivo do algoritmo é aumentar o tempo que a pessoa passa na rede social, esse tipo de assunto será cada vez mais frequente na feed daquele usuário e o fato de despertar aquele demônio escondido pode fazer com que o algoritmo de vazão para esse comportamento reprimido, trazendo cada vez mais informações sobre mortes de pessoas até inundar o feed com homicídios de todos os tipos, pronto o algoritmo acabou de produzir um homicida que vai fazer justiça com as próprias mãos em prol do bem dos animais.

Eu tentei utilizar um exemplo bem gritante e espero que seja a exceção da exceção, mas o objetivo principal é mostrar como o algoritmo funciona, ele vai tentar obter o máximo de informação possível sobre o seu perfil, vai descobrir se você gosta de pornografia, se você gosta de surfe, se você gosta de loiras, se você não gosta de árabes... enfim ele vai levantar o máximo de informações na base da força bruta mesmo, tentativa e erro e nesse processo ele pode ajudar a despertar demônios que não deveriam ser despertados ou comportamentos inadequados para vida em sociedade fazendo com que as pessoas tenham um contato muito maior com esse tipo de informação ruim.

Para finalizar o post que já está bem grande para os meus padrões, agora eu faço o link com o modelo de negócios, as empresas que vivem desses algoritmos recebem dinheiro dos anunciantes e o produto que elas fornecem são informações detalhadas dos usuários para que os anunciantes possam escolher o público correto para que seus anúncios sejam mais bem sucedidos. Percebam que o incentivo é fornecer informações detalhas para atrair mais anunciantes que vão pagar por isso, você acha isso inofensivo? E se eu te disser que Russos, com posse dessas informações detalhadas dos perfis dos usuários, podem atrapalhar uma eleição patrocinando mensagens e anúncios para desestimular o comparecimento as urnas, ou que grupos armados podem recrutar jovens com mais facilidade tendo a posse dessas informações para direcionar suas propagandas. No mínimo o assunto dá espaço para muita reflexão, você é o produto nessa história.

Concluindo, a ideia do post é despertar a reflexão e a busca de fontes confiáveis para pesquisar sobre o assunto, para mim é um assunto super interessante e eu com toda certeza vou aprofundar meus conhecimentos em relação ao tema. 
Redes Sociais Trabalhando para o Mal? Redes Sociais Trabalhando para o Mal? Reviewed by Surfista Calhorda on 4:26 PM Rating: 5

10 comentários:

  1. Olá Surfista,

    Eu li esse livro também. E foi pela indicação do Soul também.
    Concordo com você e com o livro em quase tudo. Só que nessa parte de os russos usarem informações para manipular as eleições eu não acredito muito. Já que o autor é um progressista declarado. Lá no livro ele fala que o Trump foi mais experto em usar as redes sociais. E com isso o ajudou muito. Nesse caso eu concordo.

    Abraços!

    ResponderExcluir
    Respostas
    1. Cowboy eu gostei do livro também, pois ele trouxe vários assuntos para reflexão.
      O ponto do Trump ter utilizado bem o Facebook, pode ser visto aqui https://www.wired.com/story/how-trump-conquered-facebookwithout-russian-ads/ inclusive o título a matéria diz que o Trump teria ido bem mesmo sem a ajuda dos Russos.
      Vai ser difícil dizer se os Russos realmente foram decisivos, porém que eles tentaram ajudar acredito que existam poucas dúvidas. https://www.vox.com/policy-and-politics/2018/2/24/17047880/conservatives-amplified-russian-trolls-more-often-than-liberals
      O grande ponto é que com um capital relativamente pequeno, pessoas podem influenciar grupos de pessoas cada vez maiores.
      Valeu pelo comentário, discussão bem produtiva.

      Excluir
    2. Olá, Surfista. Grato pela lembrança.
      Se você quer se aprofundar um pouco sobre a inferência russa nas eleições americanas de 2016, ouça esse podcast: https://samharris.org/podcasts/145-information-war/.
      É muito interessante as técnicas simples utilizadas.
      Se você quer mais detalhes sobre o tema mais geral abordado por sua postagem, sugiro esses dois podcasts: https://samharris.org/podcasts/146-digital-capitalism/ e principalmente https://samharris.org/podcasts/what-is-technology-doing-to-us/.

      Se você realmente quer explorar de forma mais ampla sobre inteligência artificial e as grandes mudanças que podem vir a ocorrer em 15-20 anos, sugiro a leitura das duas partes desse já clássico artigo: https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

      Abs!

      Excluir
    3. Valeu Soul, vou ler o artigos indicados.

      Excluir
  2. Acho que esses algoritmos fizeram uma extensão da vida real. Na minha infância tinha sempre um vizinho que adorava contar tragédias e assassinatos do bairro (é, morei num lugar violento). Meus pais sempre evitavam contato com ele, mas entre um bom dia ou um boa noite ele sempre achava uma brecha pra contar uma nova história de terror.
    Evitando, meus pais me isolaram destes assuntos. O meu medo é que pais desatentos deixem seus filhos expostos a todos estes testes, aí acho q a coisa pode complicar.

    Muito bom seus textos Surfista!!
    Abraços

    ResponderExcluir
    Respostas
    1. Com toda certeza Anom, os algoritmos só estão constando a preferência das pessoas.

      Excluir
  3. A experiencia e o conhecimento sempre vao vencer.
    Os algoritmos de AI podem levar a massa, mas não todo mundo.
    Hj em dia dou risada da forma como vejo isso.
    Nós também amadurecemos no nosso uso da rede e das redes sociais.
    Abraço!

    ResponderExcluir
    Respostas
    1. Esse é o ponto Frugal, sempre existem pessoas que são menos impactadas pela manipulação, mas acredito que a proporção dos manipulados é maior. Eu também acredito que tanto as soluções de rede social devem evoluir, quanto as pessoas que interagem nas redes sociais.

      Excluir
  4. Sai fora do Facebook.
    Investimentos (e isso inclui as cotações das ações) só olho entre meio-dia e 13:00 e depois de chegar em casa do trabalho. Twitter, idem. Estou mais produtivo, mas esqueço os aniversários de todo mundo agora...
    O preço a pagar kkk
    Em compensação, não tinha LinkedIn e hoje tenho, finalmente uma rede social que serve para algo!

    ResponderExcluir
  5. Rapaz, estou usando agora só o Twitter, e mesmo assim evito ficar navegando na time line. Usando mais para divulgar alguns posts e olhe lá. Tb não uso Whats App.
    Abraço!

    ResponderExcluir

“Em tempos de embustes universais, dizer a verdade se torna um ato revolucionário.”
George Orwell

Tecnologia do Blogger.