A verdade é que estamos automatizados em nossas buscas e interação com o mundo virtual, sem nos perguntar se nosso emprego, nossa privacidade, nossa família e nosso futuro está seguro.
Na última coluna eu comentei sobre a dependência bioquímica causada pela internet. A gente lembrou que os algoritmos, que são os sistemas que enviam mensagens que impulsionam emoções e sensações prazerosas, são um risco para nossa saúde. Os males associados ao tempo excessivo passado em frente às telas são conhecidos.
O que a gente não sabe é porque ninguém faz nada com essa informação. Bem, a academia tem lançado diversos alertas sobre os malefícios que a internet e o sistema de plataformas digitais tem imposto ao mundo, em larga escala. A perda dos direitos trabalhistas para os motoristas de Uber é apenas um exemplo. Na literatura acadêmica, os pensadores contemporâneos lançam alertas sombrios, a começar pelos títulos das obras: “A sociedade do cansaço”, “Capitalismo Tardio e os fins do sono”, “Big Tech – a ascensão dos dados e a morte da política”; “Depois do Futuro”. Dez Argumentos para você deletar agora suas redes sociais”; “reinvenção da intimidade – Políticas de Sofrimento Cotidiano”, “Os pecados secretos da Economia”, e por aí vai.
Somos quase 156 milhões de usuários da internet, somente no Brasil, e a maior parte das mensagens que recebemos diz respeito a “como ganhar dinheiro da internet”, “como se tornar milionário em um ano sendo influencer digital”, mas pouca gente se pergunta: “nessa corrida por fama, dinheiro e prestígio na net, onde a gente vai parar?”
Por mais bizarro que pareça, essa pergunta partiu de quem já ganha dinheiro na rede, como o CEO da SpaceX, Tesla e Twitter, Elon Musk; do co-fundador da Apple, Steve Wozniak e do célebre escritor Youval Harari, autor de best seller Homo Deus.
A verdade é que estamos automatizados em nossas buscas e interação com o mundo virtual, sem nos perguntar se nosso emprego, nossa privacidade, nossa família e nosso futuro está seguro.
Na última coluna eu comentei sobre a dependência bioquímica causada pela internet. A gente lembrou que os algoritmos, que são os sistemas que enviam mensagens que impulsionam emoções e sensações prazerosas, são um risco para nossa saúde. Os males associados ao tempo excessivo passado em frente às telas são conhecidos.
O que a gente não sabe é porque ninguém faz nada com essa informação. Bem, a academia tem lançado diversos alertas sobre os malefícios que a internet e o sistema de plataformas digitais tem imposto ao mundo, em larga escala. A perda dos direitos trabalhistas para os motoristas de Uber é apenas um exemplo. Na literatura acadêmica, os pensadores contemporâneos lançam alertas sombrios, a começar pelos títulos das obras: “A sociedade do cansaço”, “Capitalismo Tardio e os fins do sono”, “Big Tech – a ascensão dos dados e a morte da política”; “Depois do Futuro”. Dez Argumentos para você deletar agora suas redes sociais”; “reinvenção da intimidade – Políticas de Sofrimento Cotidiano”, “Os pecados secretos da Economia”, e por aí vai.
Somos quase 156 milhões de usuários da internet, somente no Brasil, e a maior parte das mensagens que recebemos diz respeito a “como ganhar dinheiro da internet”, “como se tornar milionário em um ano sendo influencer digital”, mas pouca gente se pergunta: “nessa corrida por fama, dinheiro e prestígio na net, onde a gente vai parar?”
Por mais bizarro que pareça, essa pergunta partiu de quem já ganha dinheiro na rede, como o CEO da SpaceX, Tesla e Twitter, Elon Musk; do co-fundador da Apple, Steve Wozniak e do célebre escritor Youval Harari, autor de best seller Homo Deus.
Esses expoentes mundiais do ecossistema digital assinaram uma carta abaixo-assinado, pedindo uma trégua nos experimentos em Inteligência Artificial (IA). A carta denuncia uma corrida por experimentos cujo resultado ninguém pode prever ou, claramente, controlar.
Eu conversei com a Dora Kaufman, pesquisadora sobre os impactos sociais da inteligência artificial, professora da PUC São Paulo e colunista da Época Negócios. Para entender por que tanto medo, se a inteligência artificial ainda é um problema do futuro, ainda que próximo.
Ouçam a resposta da Dora:
“A inteligência há pelo menos uma década saiu dos filmes de ficção científica e ela está na nossa vida cotidiana. Ela que está por trás. O que faz essas plataformas funcionarem da maneira como funcionam são os sistemas de inteligência artificial. Por isso, é importante que o cidadão do Século XXI adquira alguma noção do funcionamento dessa tecnologia.”
A ideia de que a inteligência artificial já controla as nossas vidas não me parece nada estranha, e, como diz Dora Kaufman, isso não é mais uma ficção científica. Ao assistir um podcast na internet chamado de Seleção Literária[11], o que girava na conversa era como a internet já responde a comandos de voz, e não mais cliques. Traduzindo: quantas vezes você passou pela “coincidência” de comentar com um amigo sobre uma moto ou uma pescaria, e o seu celular te mostra conteúdo associado logo em seguida.
Resumindo: os celulares, ao que tudo indica, já atendem a comandos de voz dirigidos a terceiros. As suas conversas são escutadas, e os algoritmos que a Dora explicou como funcionam, estão trabalhando em segundo plano, mesmo sem o seu comando. Nos shoppings em Madrid, capital da Espanha, a placa do seu carro é lida sem você fazer nada. Nos mercados, seu rosto é reconhecido ainda que não te peçam autorização. O seu perfil na rede social pode ser derrubado sem que ninguém te explique por quê. Aquela vaga para emprego pode ser decidida por um sistema racista que não gosta da sua cor de pele.
E a maioria das pessoas não sabe disso?
Essa é uma boa questão. Para aqueles que colocam tudo na internet, sem se perguntar quem vai usar essa informação, ou dados, como se usa no jargão da internet, nem como, quando e por que, ouçam o que a Dora Kaufman tem a dizer:
“São diversas as potencialidades de eventuais danos. A base da inteligência artificial, eles extraem informações de grandes conjuntos de dados. O que são os dados? Eles são gerados pela nossa interação no meio digital, quando a gente faz compras na internet, e esses dados têm o nosso comportamento, e consequentemente, eles têm também os nossos preconceitos, e essa é uma parte dos problemas que tem que ser equacionados, mitigados”.
Eu perguntei ao ChatGPT, a sensação do momento em inteligência artificial, sobre o que as pessoas sabem e o que elas deveriam saber sobre inteligência artificial e a resposta foi redondinha, como sempre.
Respondeu o ChatGPT: “as pessoas deveriam estar cientes dos riscos associados à IA, como vieses algorítmicos e privacidade de dados. Ou seja, o risco de preconceito que a Dora comentou.
Por outro lado, não há transparência por parte das empresas na chamada “corrida pela inteligência artificial”. Ou seja, se a gente não sabe no que vai dar esta corrida, como podemos garantir que os seus usos serão pautados de maneira ética e responsável.
Dora me explicou, por exemplo, qual o problema com os carros autônomos.
Vamos ouvi-la:
“Os carros autônomos não são ainda uma realidade do ponto de vista comercial, há usos com caminhões, porque em estrada é mais fácil, o grande problema é interação com os outros motoristas, a interação com a cidade e sua infraestrutura e regulamentações que não estão resolvidas em relação à responsabilidade, se houver algum acidente com os carros autônomos, quem será o responsável, é quem fez o carro, quem alugou o carro ,quem está dirigindo o carro. São várias questões que podem resultar em potencial dano no uso da IA, mas os benefícios são extraordinários, caso contrário não estaríamos aqui nem conversando sobre este assunto”.
Na Espanha, as máquinas já roubam o lugar dos caixas de supermercado. No Japão, me diz Dora, os robôs pessoais já existem para medicar e entreter idosos em casas de repouso. Os assistentes virtuais são as orelhas que escutam pelas paredes. O preço que estamos pagando por essas facilidades está entre as questões que não sabemos responder. Hoje, os motoristas de aplicativos trabalham o dobro e ganham a metade do valor de antes da pandemia. Ou seja, é uma força de trabalho que sofre espoliação, em outras palavras, violência e privação de direitos.
O recado da carta dos bilionários da internet é claro: os sistemas artificiais de inteligência são competidores da raça humana. Ademais de desemprego em massa, como já se vê na indústria do Vale do Silício, que dispensou mais de 300 mil pessoas só no último ano, esses sistemas podem gerar dramáticas perturbações econômicas e políticas (especialmente para a democracia, como ciberataques de desinformação.
E o que os governos e as empresas estão fazendo a respeito? Muito pouco. E menos ainda quando a gente fala em educar os milhões de usuários da rede para entender que inteligência artificial não serve só para criar “avatares” de nós mesmos. Ela também pode matar.
No Senado, está sendo discutida uma proposta com mais de 40 artigos com diretrizes, princípios e regras para aplicação e desenvolvimento da IA no Brasil, discussão que teve origem na Câmara com o projeto de Lei 21, de 2000, deputado Eduardo Bismarck.
Sem um processo de educação em massa para entendermos, na escola e nas redes, que estamos passando da sociedade da disciplina para a sociedade do controle, seguiremos com perguntas sem respostas.
Afinal, são poucos os que sabem que passamos da máquina que agia fora do corpo e da mente para a bioinformática, a máquina essencialmente internalizada, a máquina de controle, como diz o filósofo italiano Franco Berardi, ator de “Depois do Futuro”. O que vem depois do futuro parece ser apenas o “Iluminismo Obscuro”, marcado por uma desordem mental baseada na impotência, no autodesprezo e no individualismo desenfreado.
A exemplo da geração Z ou geração do milênio, dos anos 2000, seremos conhecidos como uma sociedade precarizada e altamente conectada, além de super desinformada?
Como dizem os espanhóis: “Ya veremos”.
O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo..
AUTORIA
BETH VELOSO Doutoranda pela Universidade do Minho, em Portugal, e mestre em Políticas de Comunicações pela University of Westminster, na Inglaterra. É jornalista e atua como consultora legislativa da Câmara, nas áreas de Comunicação, Informática, Telecomunicações e Ciências da Comunicação. Tem especial interesse nos temas de regulação da internet, capitalismo digital e capitalismo de vigilância.
