FCW Cultura Científica – Professor Ruben, em duas décadas, as redes sociais passaram a ser usadas pela maioria da população mundial, que se tornou absolutamente dependente de seu uso, seja como meio de comunicação ou de informação. Por que as redes sociais são tão populares?

Ruben Interian – Temos a necessidade imperiosa de nos relacionar, de socializar. Isso é uma característica intrínseca do ser humano. À medida que digitalizamos as mais diversas atividades humanas – trabalho, finanças, consumo –, a atividade social naturalmente as acompanha.

Quanto à dependência, ela ocorre de forma semelhante à nossa vida offline. Provavelmente, muitos de nós sentimos necessidade de obter aprovação em relação a aspectos cotidianos: roupas que vestimos, nosso visual, nossas opiniões. O mesmo acontece no mundo virtual: todos, em maior ou menor medida, dependem da aprovação de outros para construir uma autoimagem consistente.

A dependência entre crianças e adolescentes me preocupa muito mais do que entre adultos. Sabemos que o sistema límbico – ligado a emoções e recompensas – amadurece no início da puberdade, mas o córtex pré-frontal – responsável pelo autocontrole e pela avaliação de riscos – amadurece muito mais tarde. O adolescente sente intensamente e busca recompensas, mas ainda não tem plena capacidade de controlar seus impulsos nem de avaliar riscos. Precisamos considerar esses fatos ao criar políticas públicas e ao regulamentar a idade mínima para o uso das redes sociais, o que diversos países, como Austrália, França e Itália, já têm feito.

FCW Cultura Científica – O que as redes sociais têm, na forma como foram projetadas e em como são usadas, que explica essa popularidade? Estamos à mercê dos algoritmos?

Ruben Interian – Não diria, de forma categórica, que estamos à mercê dos algoritmos. Alguns algoritmos podem ser personalizados. Porém, muitas pessoas nunca irão alterar a configuração do feed ou a frequência das notificações em uma plataforma digital. Podemos dizer que essas pessoas estão à mercê dos algoritmos? Talvez.

Da mesma forma, poderíamos dizer que, no século 20, as pessoas estariam à mercê das escolhas editoriais dos poucos periódicos de grande circulação da época. Essas escolhas moldaram a percepção da realidade e influenciaram as decisões de muitos leitores. Por exemplo, a Globo apoiou o golpe militar de 1964.

Além disso, os algoritmos não decidem a quais informações teremos acesso apenas com base em critérios internos e obscuros. Sabemos que eles nos mostram posts similares aos que já vimos ou curtimos no passado, ou que pessoas com gostos parecidos aos nossos assistiram ou curtiram. Existem outros critérios também, como priorizar informações virais ou aumentar a probabilidade de engajamento. Os algoritmos são complexos e há critérios específicos que desconhecemos.

No entanto, as escolhas mais relevantes são feitas por nós. Somos influenciados por fatores econômicos, ideológicos e morais. Às vezes, não temos interesse em sair das nossas bolhas. Não somos simplesmente conduzidos pelos algoritmos. Eles abrem caminhos, mas somos nós que escolhemos a direção.

FCW Cultura Científica – Aprofundando esse ponto, é comum ouvir que os algoritmos “polarizam” a sociedade. Isso realmente ocorre ou é principalmente o comportamento humano que reforça o funcionamento algorítmico?

Ruben Interian – Muitas pessoas, incluindo alguns pesquisadores e cientistas, consideram que os algoritmos implementados nas plataformas digitais polarizam a sociedade. Penso que essa afirmação não descreve inteiramente o fenômeno da polarização.

A polarização envolve aspectos comportamentais – escolhas individuais –, institucionais e algorítmicos. Os algoritmos nos oferecem a possibilidade de personalizar fontes de notícias e de feeds. Seria possível ou desejável restringir a capacidade dos usuários de personalizar suas fontes de informação? Não tenho uma resposta definitiva a essa pergunta, mas essa solução seria, sem dúvida, eticamente questionável.

Alguns estudos mostram que, mesmo quando os algoritmos oferecem informações não enviesadas, o usuário escolhe consistentemente informações similares. Sabemos que as decisões e escolhas das pessoas estão sujeitas a um forte viés de confirmação quando interagimos em comunidades de indivíduos com ideias semelhantes às nossas.

Por outro lado, as mídias sociais deram voz a muitas pessoas que não eram ouvidas. Antes, tínhamos instituições – por exemplo, a imprensa credenciada ou o sistema de títulos acadêmicos – que atuavam como filtros das informações que chegavam ao público. Hoje, não temos mais esses filtros institucionais, o que gerou consequências tanto positivas quanto negativas.

Entre as consequências positivas, temos a crescente capacidade de auto-organização da sociedade civil, a possibilidade de denunciar violações de direitos e a existência de muitos e excelentes canais de divulgação científica. Entre as negativas, há a proliferação de grupos dedicados a atividades ilegais, fraudes e comportamentos extremistas. Muitos desses grupos se sentem imunes, protegidos pelo anonimato online.

Independentemente da opinião de cada um, não há como voltar atrás. Precisamos aprender a conviver com essas novas instituições descentralizadas e introduzir mudanças, sem destruí-las, de modo a reduzir o risco de surgimento de comportamentos potencialmente danosos aos demais indivíduos.

FCW Cultura Científica – A forma como os algoritmos organizam a visibilidade e a circulação de conteúdos contribui para o surgimento de fenômenos autoritários nas redes?

Ruben Interian – Como poderíamos definir esses fenômenos autoritários nas redes? Se estamos falando de mensagens ou movimentos predominantemente antidemocráticos, não temos evidência suficiente para afirmar que, em geral, há maior visibilidade dada a conteúdos relacionados a grupos políticos dessa natureza. E temos exemplos que mostram o surgimento orgânico de movimentos sociais democráticos nas redes, como os que emergiram durante a Primavera Árabe: movimentos, em grande medida, contrários às injustiças políticas e sociais. Por outro lado, sabemos que as redes favorecem conteúdos que geram emoções fortes – indignação, medo, empatia –, pois essas reações aumentam o engajamento dos usuários e, consequentemente, o tempo de permanência nas plataformas.

FCW Cultura Científica – Quais são os principais objetivos do seu projeto de pesquisa “Redes de interação em plataformas digitais” [1], apoiado pela Fapesp?

Ruben Interian – O projeto possui dois eixos: um mais teórico e outro mais aplicado. No eixo teórico, pretendemos identificar características estruturais de grupos polarizados e radicalizados nas redes sociais, utilizando a Teoria do Equilíbrio Estrutural, originária da psicologia e da sociologia e que pode ser interpretada por meio da teoria de grafos, redes complexas e estatística.

No eixo mais prático, queremos estudar a propagação de sequências de interações negativas nas redes e, de forma mais ampla, compreender os efeitos causais das redes sociais. Para explorar esses efeitos, vamos examinar o impacto da desativação temporária de contas sobre a polarização afetiva, os conflitos intergrupais e a aceitação do uso da violência, entre outros aspectos.

FCW Cultura Científica – Como o projeto investigará a intensidade e a natureza das interações entre os grupos nas redes?

Ruben Interian – As interações entre indivíduos e grupos nas redes sociais podem ser positivas, neutras ou negativas. Além disso, elas podem ser mais fortes ou mais fracas. Parece razoável, então, modelar essas características das relações utilizando variáveis numéricas. Um valor positivo indica uma relação de apoio, aliança ou concordância com alguma pessoa, grupo ou opinião, enquanto um valor negativo indica discordância, inimizade ou desaprovação.

A partir dessas ideias, os modelos matemáticos e computacionais das redes sociais fazem uso da teoria de grafos, da estatística e da teoria das redes complexas para comprovar ou refutar diversas hipóteses de pesquisa. Por exemplo: é verdade que relações negativas entre pessoas e grupos seguem padrões que podem levar a configurações de equilíbrio, nas quais as alianças e inimizades se organizam de modo a reduzir tensões sociais dentro dos grupos e concentrar essas tensões entre os grupos? Modelos computacionais permitem explorar essas hipóteses ao estudar ou simular como opiniões se propagam, comunidades se formam e conflitos se estabilizam ao longo do tempo.

Essas abordagens não apenas ajudam a compreender o comportamento coletivo em redes sociais, mas também a prever dinâmicas futuras, como a difusão de informações, a polarização de grupos e a formação de bolhas sociais, também chamadas de câmaras de eco (echo chambers).

FCW Cultura Científica – O projeto poderá contribuir para mitigar o extremismo e a desinformação online?

Ruben Interian – O projeto começou neste ano e ainda está em fase inicial, estamos formando a equipe. Já temos um aluno de mestrado e um de iniciação científica, mas ainda é um grupo pequeno. A ideia central é investigar de onde surgem as sequências de interações negativas que se espalham nas redes sociais e entender como elas se transformam em dinâmicas de radicalização. Queremos analisar como certos grupos polarizados acabam se tornando radicalizados – o que é uma forma extrema de polarização – e de que modo essas comunidades se estruturam. A partir da modelagem dessas redes, nas quais os nós são indivíduos e as arestas representam interações, buscamos identificar padrões estruturais: que tipos de grupos tendem a se comportar de determinadas maneiras e como esses comportamentos podem ser detectados antecipadamente.

Em termos práticos, pretendemos desenvolver métricas numéricas que permitam detectar grupos radicalizados e avaliar os riscos que oferecem, tanto no ambiente online quanto no mundo offline. No futuro, essas informações podem ajudar governos, instituições de pesquisa e formadores de opinião a antecipar comportamentos nocivos e prevenir a escalada de conflitos.

FCW Cultura Científica – Seu artigo “Group polarization, influence, and domination in online interaction networks”, sobre as eleições brasileiras de 2022, indica que as comunidades de direita apresentavam maior capacidade de comunicação coordenada e isolamento extremo. O que esse padrão revela sobre o funcionamento político das redes no Brasil?

Ruben Interian – É importante ter clareza em um ponto: as redes favorecem aqueles que melhor sabem usá-las. E, geralmente, quem melhor aproveita suas capacidades é o grupo político contestatário, que contraria o status quo – a visão dominante. Estruturas tradicionais da política muitas vezes ainda não dispõem de expertise para explorar as vantagens do novo universo digital.

Também é importante evitar explicações simplistas, baseadas em análises ideologica e geograficamente limitadas. Ao olhar para o Brasil e os Estados Unidos, encontramos um padrão semelhante de surgimento de grupos conservadores e, em certa medida, reacionários, com grande presença nas plataformas digitais e redes sociais.

Porém, ao analisarmos outros contextos, como Colômbia e México, verificamos exemplos em que as mobilizações mais expressivas nas redes e nos espaços digitais foram protagonizadas por movimentos progressistas e de esquerda. No caso colombiano, destacam-se campanhas em defesa da paz e dos acordos com as  FARC; no México, movimentos contra a violência de gênero e por justiça social. Ou seja, vemos a mesma dinâmica, mas com o sinal ideológico invertido. Nos dois países, há base empírica para afirmar que os movimentos digitais e as mobilizações online mais influentes nos últimos anos têm vindo de setores progressistas, liberais ou de esquerda, ao contrário do Brasil e dos Estados Unidos, onde o crescimento mais notável ocorreu em torno de grupos conservadores.

O impacto político das redes no Brasil, portanto, segue um padrão mais geral, no qual as redes facilitam a entrada de novos atores no discurso público. Estes novos atores geralmente vêm para desafiar o status quo, mas também para canalizar a insatisfação com instituições e partidos políticos tradicionais. 

FCW Cultura Científica – Quando apenas um punhado de empresas é dono das redes sociais usadas por bilhões em todo o mundo, que riscos isso representa para o sistema democrático? Estamos entrando em uma sociedade de controle digital?

Ruben Interian – É verdade que as Big Techs têm muito poder, recursos financeiros e ferramentas capazes de influenciar a forma como consumimos informação, nossos momentos de lazer e o bem-estar psicológico de nossos filhos. Contudo, o sistema democrático oferece mecanismos de regulação e responsabilização dessas empresas. Eu não diria que estamos entrando em uma sociedade de controle digital. Ainda. Existe espaço para que diferentes entidades da sociedade civil se organizem no ambiente online. Há diversos exemplos de grupos de pressão que conseguem chamar atenção para problemas ou até estimular mudanças legislativas positivas por meio de movimentos online e redes sociais.

Porém, se não tivermos ferramentas para implementar formas eficazes de governança e fiscalização digital, poderemos perder o controle sobre o espaço digital. Precisamos garantir que crimes ocorridos no ambiente virtual sejam investigados e punidos com a mesma seriedade do mundo físico, em particular quando causam consequências ou prejuízos a pessoas. Por exemplo, devem existir regras específicas para conteúdos criminosos relacionados à pedofilia e outros tipos de exploração ilegal de indivíduos nas redes.

Outro exemplo em que há necessidade de regulamentação é o de postagens impulsionadas ou monetizadas em redes sociais. Na minha opinião, deve haver responsabilização pelo conteúdo impulsionado, pois ele alcança um público significativamente maior do que o do conteúdo orgânico e gera lucro para a plataforma. Esse ganho econômico justifica a adoção de procedimentos de controle sobre o material cuja visibilidade é contratualmente ampliada.

FCW Cultura Científica – A tecnologia também se tornou um campo de disputa geopolítica, como vemos em exemplos como a fabricação de chips, a extração de minerais raros e a proibição de plataformas chinesas nos Estados Unidos. Como você vê a crescente participação de governos em empresas de tecnologia e dessas empresas em governos?

Ruben Interian – Sou absolutamente contrário à participação de governos ou de representantes democraticamente eleitos em empresas de tecnologia. Sabemos que, historicamente, o controle dos meios de comunicação trouxe ameaças substanciais às democracias, tanto em governos totalitários de esquerda quanto de direita. Uma situação distópica em que o governo controlasse o discurso dos cidadãos por meio de plataformas tecnológicas nos aproximaria da sociedade orwelliana apresentada no livro 1984. O que impediria a existência da Polícia do Pensamento se todas as nossas interações e mensagens privadas fossem acessíveis ao governo?

Infelizmente, já temos exemplos de sistemas semelhantes. Na China, há o Grande Firewall, operado pela Administração do Ciberespaço, subordinada ao Comitê Central do Partido Comunista Chinês. A plataforma Truth Social, controlada indiretamente pelo presidente Donald Trump, é mais um exemplo de um perigosíssimo conflito de interesses entre o público e o privado, capaz de distorcer o sistema de pesos e contrapesos presente nas sociedades democráticas.

FCW Cultura Científica – Como esse cenário pode se agravar com o desenvolvimento da inteligência artificial?

Ruben Interian – A inteligência artificial está trazendo mudanças disruptivas. Ela já alterou a forma como fazemos buscas na internet, ameaçando o ecossistema de produção de conteúdo em sites e plataformas menores. A IA generativa permite criar textos, imagens, vídeos e até perfis de forma barata e em massa. A produção automatizada de conteúdo amplia a possibilidade de manipulação política e ideológica. A diferença em relação ao século 20 é a escala: antes, havia poucos jornais e emissoras; hoje, milhões de vozes automatizadas podem simular espontaneidade e consenso em relação a determinado tópico.

Apesar dos riscos, existem diversas alternativas para lidar com esses problemas. A regulação do uso da IA em plataformas digitais é um tema muito relevante. O Artigo 5º da nossa Constituição destaca que "é livre a expressão do pensamento, sendo vedado o anonimato". A transparência é, na minha opinião, a chave. A identificação clara de contas automatizadas e daquelas geridas por humanos deve se tornar regra, e as violações devem ser punidas, seja pelas próprias plataformas, seja por meio de medidas externas. Por fim, não há como avançar sem educação midiática e digital, que desenvolva consciência sobre o funcionamento e os limites das novas tecnologias.

FCW Cultura Científica – Do ponto de vista tecnológico, as plataformas têm condições de detectar e poderiam bloquear comportamentos nocivos ou criminosos, se quisessem?

Ruben Interian – Em parte, sim. As grandes empresas têm acesso a dados e ferramentas suficientes para identificar usuários, comunidades e padrões de comportamento. O problema é que não há incentivos para isso. O modelo econômico das plataformas baseia-se no tempo de permanência: quanto mais tempo o usuário passa conectado, mais anúncios ele vê, mais dados são coletados, e mais cresce o valor da rede.

Então, há um incentivo econômico perverso – a lógica do engajamento – que estimula justamente os conteúdos que mais prendem a atenção, muitas vezes negativos ou polarizadores. Além disso, há uma dimensão política e regulatória: se os governos não criarem incentivos diferentes, as empresas continuarão privilegiando o que dá lucro, e não o que fortalece o debate público.

FCW Cultura Científica – Então, além da educação digital, a regulação é indispensável?

Ruben Interian – Sem dúvida. Eu acredito na liberdade individual, inclusive na liberdade de expressão online, mas nenhuma liberdade é absoluta. Há comportamentos inaceitáveis no mundo real – como crimes, incitação à violência ou pornografia infantil – que devem ser igualmente banidos do ambiente digital.

Defendo uma regulação inteligente, que trate as plataformas como atividades econômicas, não apenas como meios de expressão. Um exemplo é o conteúdo impulsionado: quando alguém paga para ampliar o alcance de uma mensagem, há um benefício financeiro envolvido. Nesse caso, é perfeitamente razoável que o Estado regulamente o que pode ou não ser impulsionado, assim como regula a publicidade em outros meios. Essa abordagem não limita o discurso, mas restringe a monetização de práticas nocivas. É um tipo de regulação econômica, não ideológica.

FCW Cultura Científica – As empresas de tecnologia estão dispostas a aceitar esse tipo de mudança regulatória?

Ruben Interian – Não será fácil. São empresas poderosas, com recursos gigantescos e grande influência política. Haverá resistência. Mas a Europa já começou a avançar com legislações que exigem mais transparência e responsabilidade das plataformas, e isso mostra que é possível.

Acredito que vamos chegar lá, embora demore. É bom termos cautela, pois não sabemos como regular o discurso online de forma equilibrada. Mas regular a atividade econômica das plataformas e proteger grupos vulneráveis é algo que já podemos e devemos fazer.

FCW Cultura Científica – Você destacou também o impacto sobre crianças e adolescentes. Quais medidas seriam urgentes nesse campo?

Ruben Interian – Sim, é uma questão urgente. Os danos ao desenvolvimento infantil e adolescente são enormes. Para muitos pais, é mais fácil dar um celular à criança, mas isso tem consequências profundas. Os adultos já desenvolveram mecanismos para lidar com os estímulos das plataformas – sabem, por exemplo, quando precisam se desconectar. As crianças não têm esse filtro. Por isso, eu defendo que as primeiras regulações incidam sobre o uso das plataformas por menores de idade, com mecanismos de verificação de idade e limites de exposição.

Outro ponto crítico é a identificação de usuários reais. Hoje, é fácil criar dezenas de perfis falsos ou automatizados que simulam pessoas reais e distorcem artificialmente o debate. Regular a verificação de identidade digital – sem violar a privacidade – seria um avanço importante para restaurar a confiança no ambiente online.

FCW Cultura Científica – É possível reduzir a polarização nas redes? Que estratégias poderiam ser aplicadas?

Ruben Interian –  Primeiro, algum grau de polarização não é apenas esperado, mas também positivo em sociedades democráticas. As únicas sociedades em que há unanimidade são as totalitárias. Nelson Rodrigues já disse que "toda unanimidade é burra". A unanimidade só pode existir por dois motivos: pela concordância cega ou pelo silêncio dos críticos. A presença da unanimidade é, sem dúvida, algo perigoso.

Por outro lado, é desejável evitar a polarização excessiva, pois ela pode levar à radicalização. O “outro lado” do debate, neste caso, deixa de ser apenas um interlocutor com quem discordamos e passa a ser o inimigo que precisa ser silenciado ou eliminado. 

Na minha opinião, precisamos nos abrir para ouvir principalmente pessoas de quem discordamos. Para isso, é necessário adotar políticas públicas que garantam que toda opinião será respeitada, mas que nenhum tipo de violência ou dano será tolerado. Devemos criar fóruns, inclusive nas universidades, onde pessoas com opiniões completamente contrárias possam conversar de forma ordenada. Queremos o bem do país, mas muitas vezes por caminhos diferentes.

O pior que podemos fazer é nos isolar em bolhas de pessoas que pensam como nós. Por isso, o surgimento de novas redes sociais ideologicamente homogêneas é uma preocupação muito grande. Alguns exemplos são Truth Social e Parler (de direita) e Mastodon (mais à esquerda).

Uma iniciativa recente e muito interessante foi criada pelos canais Spectrum e Canal Foco no YouTube: pessoas com orientações ideológicas, políticas ou até religiosas diferentes debatem seguindo regras específicas e inteligentes, que definem quem tem a palavra em cada momento. Vários desses vídeos têm milhões de visualizações.

[1] O trabalho foi apoiado pelo Instituto Kunumi e pela Fapesp (processo nº 2024/12936-5). O autor agradece às instituições pelo apoio financeiro e pelo compromisso com o avanço da pesquisa científica. As opiniões, hipóteses e conclusões ou recomendações expressas neste material são de responsabilidade do autor e não necessariamente refletem a visão da Fapesp.