“Homo sapiens” ? Reflexões do professor israelense e autor deste livro, sobre o momento atual que o mundo ocidental vive, intensa e perigosamente.
Sua reflexão está baseada na pergunta: ‘por que o fascismo é tão sedutor – e como os nossos dados pessoais podem alimentá-lo?’.
Transcrição de sua palestra, traduzida para o português, por Maricene Crus e revisada por Carolina Aguirre, a quem agradecemos por nos oportunizarem este conhecimento.
00:12 – Olá a todos. É meio engraçado, porque escrevi que os humanos se tornarão digitais, mas não achei que isso aconteceria tão rápido e que aconteceria comigo! Mas aqui estou eu, como um avatar digital e aí estão vocês, então vamos lá. Vamos começar com uma pergunta: “Quantos fascistas temos na plateia hoje?”
00:38 – (Risos)
00:39 – Bem, é um pouco difícil dizer porque esquecemos o que é o fascismo. As pessoas agora usam o termo “fascista” como um tipo de uso geral do abuso. Ou confundem fascismo com nacionalismo. Vamos usar alguns minutos pra esclarecer o que é o fascismo, na verdade, e como ele é diferente do nacionalismo.
01:05 – As formas mais brandas do nacionalismo têm estado entre algumas das criações humanas mais benevolentes. Nações são comunidades de milhões de estranhos que não se conhecem. Por exemplo, eu não conheço os 8 milhões de pessoas que compartilham a minha cidadania israelense. Mas graças ao nacionalismo, todos podemos nos preocupar uns com os outros e cooperar de forma eficaz. Isso é muito bom. Algumas pessoas, como John Lennon, imaginam que sem nacionalismo, o mundo será um paraíso pacífico. Mas, mais provavelmente, sem nacionalismo, estaríamos vivendo no caos tribal. Se observarmos hoje os países mais prósperos e pacíficos do mundo, como a Suécia, Suíça e Japão, veremos que eles têm um forte senso de nacionalismo. Em contraste, países que não têm um forte senso de nacionalismo, como Congo, Somália e Afeganistão, tendem a ser violentos e pobres.
02:16 – Então, o que é fascismo e como ele é diferente do nacionalismo? Bem, o nacionalismo me diz que minha nação é única e que tenho obrigações especiais com ela. Já o fascismo me diz que minha nação é suprema e que tenho obrigações exclusivas com ela. Não preciso me preocupar com ninguém ou com nada a não ser com minha nação. Normalmente, claro, as pessoas têm muitas identidades e lealdade a diferentes grupos. Por exemplo, posso ser um grande patriota, fiel ao meu país e, ao mesmo tempo, ser fiel a minha família, a minha vizinhança, minha profissão, à humanidade como um todo, à verdade e à beleza. Mas quando temos diferentes identidades e lealdades, isso pode criar conflitos e complicações. Mas, quem disse que a vida é fácil? A vida é complicada. Lidemos com isso.
03:26 – Fascismo é o que acontece quando as pessoas tentam ignorar as complicações e facilitar muito a própria vida delas. O fascismo nega todas as identidades, exceto a identidade nacional, e insiste que tenho obrigações somente com a minha nação. Se minha nação exige que eu sacrifique minha família, então, vou sacrificar minha família. Se a nação exige que eu mate milhões de pessoas, então vou matar milhões de pessoas. E se minha nação exige que eu traia a verdade e a beleza, devo trair a verdade e a beleza. Por exemplo, como um fascista avalia arte? Como um fascista decide se um filme é bom ou ruim? É extremamente simples. Existe, na verdade, apenas um critério: se o filme serve aos interesses da nação, é um bom filme; se não serve aos interesses da nação, é um filme ruim. É bem por aí. Do mesmo modo, como um fascista decide o que ensinar às crianças na escola? De novo, é muito simples.Existe apenas um critério: você ensina às crianças o que serve aos interesses da nação. A verdade não importa em nada.
05:00 – Os horrores da Segunda Guerra Mundial e do Holocausto nos lembram das terríveis consequências deste raciocínio. Mas, geralmente, ao falarmos sobre os males do fascismo, fazemos isso de modo ineficaz, pois a tendência é descrever o fascismo como um monstro hediondo, sem realmente explicar o que havia de tão sedutor nele. É um pouco como nos filmes de Hollywood que retratam os bandidos, Voldemort, Sauron ou Darth Vader, como feios, malignos e cruéis. Eles são cruéis até mesmo com aqueles que os apoiam. Quando vejo esses filmes, nunca entendo: por que alguém ficaria tentado a seguir um asqueroso nojento como o Voldemort? O problema com o mal é que, na vida real, o mal não parece necessariamente feio. Ele pode parecer muito bonito. E isso é algo que o cristianismo sabia muito bem, é por isso que na arte cristã, ao contrário de Hollywood, Satanás é geralmente representado como um homem lindo. É por isso que fica tão difícil resistir às tentações de Satanás, e porque também fica difícil resistir às tentações do fascismo.
06:22 – O fascismo faz com que as pessoas se vejam como pertencendo à coisa mais bela e mais importante do mundo: a nação. E então elas pensam: “Nos ensinaram que o fascismo é feio, mas quando me olho no espelho, vejo algo muito bonito. Não tem como eu ser um fascista, certo?” Errado. Esse é o problema com o fascismo. Quando você se olha no espelho fascista, se vê muito mais bonito do que realmente é. Na década de 1930, quando os alemães se olharam no espelho fascista, viram a Alemanha como a coisa mais linda do mundo. Se os russos se olharem no espelho fascista hoje, vão ver a Rússia como a coisa mais linda do mundo. E se os israelenses se olharem no espelho fascista, vão ver Israel como a coisa mais linda do mundo. Não significa que estejamos enfrentando agora uma reprise da década de 1930.
07:24 – Fascismo e ditaduras podem voltar, mas vão voltar num novo formato, que é bem mais relevante às novas realidades tecnológicas do século 21. Em tempos antigos, a terra era o bem mais importante do mundo. Política, portanto, era a luta para controlar as terras. E ditadura significava que todas as terras pertenciam a um único governante ou a uma pequena oligarquia. E na era moderna, as máquinas tornaram-se mais importantes do que a terra. Política tornou-se a luta para controlar as máquinas. E ditadura significava que muitas das máquinas ficavam concentradas nas mãos do governo ou de uma pequena elite. Agora os dados estão substituindo tanto a terra quanto as máquinas como o bem mais importante.Política se torna a luta para controlar os fluxos de dados. E ditadura agora significa que muitos dados estão sendo concentrados nas mãos do governo ou de uma pequena elite.
09:19 – Mas não é uma lei da natureza que processamento centralizado de dados seja sempre menos eficiente que o processamento distribuído de dados. Com o surgimento da IA e do aprendizado de máquina, talvez torne-se viável processar enormes quantidades de informação muito eficientemente num lugar, tomar todas as decisões num só lugar, e, assim, o processamento centralizado de dados será mais eficiente que o processamento distribuído de dados. E, então, a principal desvantagem de regimes autoritários no século 20, a tentativa deles de concentrar todas as informações num só lugar, se tornará a maior vantagem deles.
10:10 – Outro perigo tecnológico que ameaça o futuro da democracia é a fusão da tecnologia da informação com a biotecnologia, o que pode resultar na criação de algoritmos que me conhecem melhor do que eu me conheço. E uma vez em posse desses algoritmos, um sistema externo, como o governo, pode não apenas prever minhas decisões, mas também pode manipular meus sentimentos, minhas emoções. Um ditador pode não ser capaz de me fornecer boa assistência médica, mas será capaz de me fazer amá-lo e me fazer odiar a oposição. Será difícil para a democracia sobreviver a tal desenvolvimento porque, no final, a democracia não é baseada na racionalidade humana, mas em sentimentos humanos. Durante eleições e referendos, não estão te perguntando: “Qual é a sua opinião?” Na verdade, estão te perguntando: “Como você está se sentindo?” E se alguém puder manipular suas emoções efetivamente, a democracia se tornará um show emocional de marionetes.
11:30 – Então, o que podemos fazer pra evitar o retorno do fascismo e o surgimento de novas ditaduras? A primeira questão que enfrentamos é: quem controla os dados? Se você for engenheiro, encontre formas de evitar que muitos dados sejam concentrados nas mãos de poucos. E encontre formas de se certificar que o processamento distribuído de dados seja, pelo menos, tão eficiente quanto o processamento centralizado de dados. Esta será a melhor proteção para a democracia. Quanto ao restante de nós que não somos engenheiros, a questão número um que enfrentamos é como não permitir sermos manipulados por aqueles que controlam os dados.
12:23 – Os inimigos da democracia liberal têm um método. Eles reprogramam nossos sentimentos. Não nossos e-mails, nem nossas contas bancárias. Eles reprogramam nossos sentimentos de medo, ódio e vaidade e depois usam esses sentimentos para polarizar e destruir a democracia a partir de dentro. Este é um método pioneiro, usado pelo Vale do Silício, para nos vender produtos. Mas agora, os inimigos da democracia estão usando esse mesmo método para nos vender medo, ódio e vaidade. Eles não podem criar esses sentimentos do nada. Eles aprendem a reconhecer nossas próprias fraquezas preexistentes, e depois as usam contra nós. Portanto, é nossa responsabilidade conhecermos nossas fraquezas e garantirmos que elas não se tornem uma arma nas mãos dos inimigos da democracia.
13:27 – Conhecer nossas próprias fraquezas também nos ajudará a evitar a armadilha do espelho fascista. Como expliquei anteriormente, o fascismo explora nossa vaidade e isso faz com que nos vejamos bem mais bonitos do que realmente somos. Essa é a sedução. Mas se vocês realmente se conhecem, não vão cair por este tipo de bajulação. Se colocarem um espelho a sua frente, que esconde o seu lado feio e faz com que se veja muito mais bonito e mais importante do que você realmente é, simplesmente quebre esse espelho.
14:13 – Obrigado.
14:14 – (Aplausos)
14:22 – Chris Anderson: Yuval, obrigado. Incrível! É muito bom te ver de novo. Se entendi direito, você está nos alertando para dois grandes perigos: um deles é o possível ressurgimento de uma forma sedutora de fascismo, mas, junto a isso, ditaduras que podem não ser exatamente fascistas, mas que controlem todos os dados. Eu me pergunto se existe uma terceira preocupação, que algumas pessoas aqui já expressaram, de que não os governos, mas grandes corporações controlam todos nossos dados. Como você chama isso, e deveríamos ficar preocupados com isso?
14:56 – Yuval Noah Harari: Bem, no final, não há uma diferença tão grande entre as corporações e os governos, pois, como eu disse, a pergunta é: quem controla os dados? Este é o verdadeiro governo. Se você chama de corporação ou governo… se é uma corporação e realmente controla os dados, este é o nosso verdadeiro governo. Então a diferença é mais aparente do que real.
15:18 – CA: Mas, de alguma forma, pelo menos com corporações, podemos imaginar mecanismos de mercado nos quais eles possam ser retirados. Se os consumidores decidirem que a empresa não está mais atendendo ao interesse deles, isso abre a porta para outro mercado. Parece mais fácil imaginar isso do que, digamos, cidadãos se rebelando e derrubando um governo que esteja no controle de tudo.
15:37 – YNH: Ainda não chegamos lá, mas, novamente, se uma corporação te conhece melhor do que você se conhece, ou pelo menos que ela possa manipular suas emoções e desejos mais profundos, e você nem vai perceber, você achará que esse é o seu eu autêntico. Em teoria, sim, você pode se rebelar contra uma corporação, assim como, em teoria, você pode se rebelar contra uma ditadura. Mas na prática, é extremamente difícil.
16:07 – CA: No livro “Homo Deus” você discute que este seria o século no qual humanos meio que se tornariam deuses, quer seja pelo desenvolvimento da inteligência artificial quer seja pela engenharia genética. Essa perspectiva de mudança, de colapso do sistema político, impactou a sua opinião sobre essa possibilidade?
16:29 – YNH: Acho que isso deixa ainda mais provável e muito provavelmente irá acontecer mais rápido, pois, em tempos de crise, as pessoas estão dispostas a assumir riscos que não assumiriam em outra época. E elas estão dispostas a tentar todo tipo de tecnologias de alto risco e de alto ganho. Então, esse tipo de crise pode ter a mesma função que as duas guerras mundiais no século 20. Elas aceleraram muito o desenvolvimento de tecnologias novas e perigosas. A mesma coisa pode acontecer no século 21. Quero dizer, é preciso ser meio louco para acelerar muito, digamos, a engenharia genética. Mas agora temos cada vez mais pessoas malucas no comando de diferentes países do mundo, então as chances são maiores, não menores.
17:36 – YNH: Até agora, conseguimos superar todas as crises anteriores. E especialmente, se observarmos a democracia liberal e acharmos que as coisas estão ruins agora vamos nos lembrar do quanto pior estava tudo em 1938 ou em 1968. Então, isso não é nada, é apenas uma pequena crise. Mas nunca se sabe, pois, como historiador, sei que jamais deveríamos subestimar a estupidez humana.
18:05 – (Risos) (Aplausos)
18:18 – YNH: Muito obrigado.
18:20 – (Aplausos)