Roteiro referente ao programa Trabalheira #8: Que tal treinar um robô no home office?.

Trilha – “Samba do Approach”

Venha provar meu brunch / Saiba que eu tenho approach / Na hora do lunch / Eu ando de ferryboat

Carlos Juliano Barros

Ana, hoje a gente está abrindo o programa com esse som – o “Samba do Approach”, do Zeca Baleiro – em homenagem à minha mãe, que é professora de português. Eu me lembro que essa música fez bastante sucesso quando foi lançada. E a  minha mãe adorava, achava super engraçada. Ela até usava nas aulas…

Ana Aranha

Eu também curto, Caju! Essa parceria do Zeca Baleiro com o Zeca Pagodinho foi um acerto, a música ficou ainda melhor. Agora… eu tô pesquisando aqui <sfx_som de teclado>: esse disco é de 99! 99… A gente nem tinha entrado na faculdade ainda… nossa, como o tempo passa! 

Carlos Juliano Barros

O tempo voa! Bom… eu trouxe o “Samba do Approach” aqui pro nosso podcast porque os assuntos da nossa conversa de hoje bem que poderiam tar na letra dessa música do Zeca Baleiro. A gente vai falar – presta atenção no meu sotaque, ou melhor, no meu “accent”, Ana – de home office, crowdsourcing, micro task, Amazon Mechanical Turk…

Ana Aranha

Por um momento achei que tivesse diante do Shakespeare. Deu até orgulho da sua pronúncia!

Carlos Juliano Barros

Que orgulho que eu tenho do Trabalheira, isso sim! Aqui a gente acelera de 0 a 100 num instante. Vamo de Zeca Pagodinho a Shakespeare em menos de um minuto.

Ana Aranha

Mas tem uma diferença importante entre essas palavras que você, muito “shakespirianamente”, pronunciou e as que tão na música do Zeca Baleiro, Caju. Approach, brunch, ferryboat, esses estrangeirismos que a gente vai incorporando, já tão bem difundidos. 

Mas muita gente – acho que a maioria das pessoas na verdade – não tem a menor ideia do que seja crowdsourcing e microtask. Apesar de até já ter feito essas coisas várias vezes na vida, né? 

Carlos Juliano Barros

Verdade… a gente faz isso sempre. 

Ana Aranha

Todo mundo que usa internet com certeza já teve que decifrar uma sequência de letras meio distorcidas e digitar essa sequência numa caixa de texto – essa tecnologia é chamada de “captcha”. E, além das letrinhas, tem também outros tipos de testes. Olhar pruma imagem e diferenciar… sei lá, um semáforo de um gato. Esse é um exemplo banal de micro task (ou microtarefa) que a gente faz quase todos os dias na internet – sem nem saber que na verdade a gente tá ajudando no treinamento de robôs, dos algoritmos – quer dizer: da Inteligência Artificial.  

Carlos Juliano Barros

Muito bem observado, Ana. A gente vai conversar bastante sobre isso, como a inteligência humana alimenta a inteligência artificial. E vamo falar muito também da Amazon. Todo mundo conhece a Amazon como um site pra comprar qualquer coisa pela internet – livro, fralda, celular. Mas, por outro lado, a plataforma que a Amazon criou pra terceirizar todo tipo de trabalho que pode ser feito online – de traduzir texto a catalogar produtos – ainda não é tão popular no Brasil quanto nos Estados Unidos e na Índia, por exemplo. Mas tá crescendo… 

Ana Aranha

Então, vamo que vamo, Caju! Mas eu confesso que eu tô triste…

Carlos Juliano Barros

Por quê? 

Ana Aranha

Porque esse já é o último, o derradeiro, o finalíssimo episódio da primeira temporada do Trabalheira.  

<sfx_som de lamento (aaaaaa… nãããão)>

Carlos Juliano Barros

Que que é isso, Ana?

Ana Aranha

Pedi pra nossa editora colocar esse efeitinho. Curtiu?

Carlos Juliano Barros

Muito bom. Também já tô saudoso, Ana. Mas a gente volta em breve. Então bora aproveitar esse último episódio do nosso podcast.

Ana Aranha

Bora! Então seja bem-vinda, seja bem-vindo ao Trabalheira, um podcast da Rádio Batente. Eu sou a Ana Aranha.

Carlos Juliano Barros

Eu sou Carlos Juliano Barros, o Caju. A Rádio Batente é a central de podcasts da Repórter Brasil. O Trabalheira é uma série de oito episódios que fica no feed da Rádio Batente no seu tocador de podcasts, ou no YouTube. E fica um convite pra você visitar o nosso site. Dá pra conferir lá os textos dos roteiros e as referências de livros, vídeos e filmes que a gente cita nos episódios. Então vai lá: reporterbrasil.org.br/radiobatente. É isso! Então, liberta DJ!

<sfx_Samba do Approach>

Eu tenho savoir-faire / Meu temperamento é light / Minha casa é hi-tech / Toda hora rola um insight / Já fui fã do Jethro Tull / Hoje me amarro no Slash / Minha vida agora é cool / Meu passado é que foi trash

Carlos Juliano Barros [gritando por cima da música]

Não, pô! É pra libertar a vinheta do Trabalheira…

Jacqueline Lafloufa

Mas me preparando aqui pra conversar com você, eu me lembrei de uma época em que eu tinha acabado de sair da graduação, tinha me formado em literatura e estava procurando algum tipo de trabalho que eu pudesse fazer. Enquanto não achava nada, achei uma plataforma que falava assim: “traduza pra gente. A gente recebe conteúdos, a gente manda para você traduzir e você é remunerada por isso”. Eu falei: “sensacional”! E chegavam pacotes de trabalho que eram divididos em pedacinhos. Imagine como se fosse um grande livro para ser traduzido e cada página fosse um trabalho diferente. Então, estavam todas as páginas soltas ali e você podia apertar um botão e dizer: “vou executar esse trabalho”. E você tinha um prazo máximo para executar aquele trabalho. Se você não terminasse, outra pessoa da fila poderia pegar. Tinha dias que eu chegava e a tela estava cheia de trabalhinhos para serem feitos. Você ia lá, apertava um botão e começava a executar, entregava, e podia ir para o próximo, se quisesse, ad infinitum. Você podia ficar fazendo aquilo por quantas horas você desse conta, por quantas horas você estivesse disponível. Mas, se o meu email avisava “chegou um novo pacote de trabalho” e não fosse ver naquele momento, e chegasse duas horas depois, às vezes aqueles trabalhos já tinham acabado.

Ana Aranha

Essa é a Jacqueline Lafloufa, uma jornalista especializada em pautas sobre tecnologia e inovação que escreve pra vários sites e revistas. Em fevereiro, ela publicou no UOL TAB – aquela seção de reportagens especiais do UOL – uma matéria muito bacana com o título “Pago por clique”. Pra fazer esse texto, a Jacqueline entrevistou várias pessoas que trabalham fazendo serviços muito simples pela internet, de casa – o que o Zeca Baleiro chamaria de home office, Caju! (sfx_ref_samba_do approach). 

Esses serviços são chamados de human intelligence tasks ou, pra facilitar, micro tasks. Traduzindo: micro tarefas, tarefas extremamente elementares, mas que os computadores ainda não conseguem fazer. E é aí que entra o ser humano na jogada. Tem de tudo: desde identificar a cor exata de um produto até ler o número da camiseta de uma foto de um corredor de maratona. O curioso é que a própria Jacqueline já trabalhou nesse esquema de mega terceirização online, como ela contou:

Jacqueline Lafloufa 

Só que rememorando agora, a lógica é exatamente a mesma lógica que é utilizada em todas essas plataformas de turkerização. Existe um pacote de trabalhos que é colocado ali à disposição daquela massa de trabalhadores multi terceirizados. Eu entendia aquilo muito mais como uma renda extra do que como um trabalho. Mas, fazendo a minha apuração pro UOL TAB, o que eu percebi é que muita gente hoje em dia está numa situação muito mais traumática do que a que eu estava na época, como uma recém-formada buscando um bico, uma renda extra. Tem gente que está desempregada e usando isso como fonte de renda. Mas muitas das pessoas não entendem isso. Na época em que eu fazia parte dessa plataforma nem eu tinha noção de que isso era um trabalho precarizado, mecanizado. Eu entendi que era uma forma de fazer um trabalho online, ganhar um dinheiro em dólar – olha só, rola uma valorização do real ainda. Mas as pessoas com quem eu conversei pra fazer a matéria, elas não entendiam que o trabalho era exatamente isso, que era um trabalho precarizado, que era uma coisa difícil, que de certa forma estava esfolando aquelas pessoas. Elas entendiam como se fosse uma carreira e algumas delas até colocavam no currículo que passaram um tempo trabalhando naquela plataforma. 

Ana Aranha

Não sei se você reparou, Caju, mas a Jacqueline usou o termo “turkerizado”. Esse termo, turkerizado, vem da Amazon Mechanical Turk – a plataforma de terceirização online de micro tarefas mais conhecida da internet. 

Carlos Juliano Barros

Eu me liguei, sim, Ana. E você sabe de onde vem esse nome estranho que a Amazon escolheu pra plataforma – “Mechanical Turk”?

Ana Aranha

Eu sei que tem a ver com xadrez!

Carlos Juliano Barros

Exatamente. Essa história é muito legal e vale a pena contar. Tudo começou em 1770, quando um húngaro chamado Wolfgang von Kempelen, um desses inventores malucos geniais, criou uma máquina chamada “Mechanical Turk” – o Turco Mecânico. E o que era, afinal, o bendito Turco Mecânico? Era um jogador de xadrez autômato. Não era um robô porque naquela época não tinha robôs, evidentemente. Acho que o jeito mais fácil de visualizar é a imagem de uma marionete. Imagina uma marionete bem grande, um boneco do tamanho de um homem, vestido com aquelas roupas bem estereotipadas de cidadão turco – turbante na cabeça, bata folgada, um bigodão. E essa marionete tá sentada de frente pra você, numa mesa de xadrez, comendo suas peças, uma por uma, até te dar um xeque-mate. Sentiu o drama, Ana?

Ana Aranha

Confesso que eu tenho medo de marionete, Caju.

Carlos Juliano Barros

Faz parte, Ana. Minha filha também não gosta, não. Só que tinha um detalhe nesse autômato: claro que quem jogava não era a marionete do cidadão turco. A traquitana que o Kempelen inventou tinha todo um esquema pra esconder um mestre de xadrez embaixo do tabuleiro, e era ele quem de fato jogava – e ganhava de todo mundo. A invenção do Kempelen fez muito sucesso e excursionou por vários países naquele fim de século 18. E olha que curioso: o Edgar Allan Poe, aquele escritor bem conhecido de contos policiais e de mistério, publicou um livro pra desmascarar a fraude do Turco Mecânico.

Ana Aranha

Nossa, que viagem! O livro chamava “A fraude do Turco Mecânico”?

Carlos Juliano Barros

Não… isso aí seria nome de novela do SBT… Mas a gente precisa voltar pra Amazon, né? Afinal, por que ela escolheu esse nome pra plataforma de multi terceirização de micro tarefas? Justamente porque, ao colocar uma tarefa pra ser executada nessa plataforma, você até vai interagir com robôs e algoritmos, mas quem vai colocar a mão na massa de fato é um ser humano. É a inteligência artificial sendo construída e alimentada pela inteligência humana. Sacou, Ana?

Ana Aranha

Saquei! Então, quer dizer que por baixo do tabuleiro somos nós humanos que tamo mexendo as pecinhas pra automação rolar. A Amazon Mechanical Turk não é a única, mas é a principal referência de crowdsourcing na internet. E entre brasileiros tem duas plataformas que também vêm ganhando popularidade: a Appen (com dois pês) e a Lionbridge. Ih… eu já tô falando de crowdsourcing, mas a gente nem fez uma definição ainda. 

Numa tradução livre, crowdsourcing significa “terceirizar pra uma multidão”. Quer dizer: a ideia é dividir o trabalho em uma infinidade de pequenas tarefas de um jeito que você possa contratar uma multidão de pessoas – cada uma em sua casa, no seu computador – pra fazer o que precisa ser feito. 

O Renan Kalil, procurador do Ministério Público do Trabalho, fez um doutorado sobre esse tema na Faculdade de Direito da USP. Ele cita um exemplo bem atual e interessante, que mistura “crowd work”  – nosso tema de hoje – com uberização – assunto do nosso segundo episódio aqui no Trabalheira.

Renan Kalil 

As plataformas de transporte, geralmente elas estão colocando como um dos grandes requisitos de segurança delas agora, a conferência pra ver se quem está cadastrado numa determinada conta é quem de fato está dirigindo. Então, os trabalhadores de tempo em tempo têm que fazer uma selfie e mandar pra plataforma que são eles mesmos que estão dirigindo e fazendo as corridas. Quando essa foto é enviada e é feita a análise, parte considerável das plataformas usa o trabalho do crowdwork pra fazer essa verificação. É curioso como essas novas formas de trabalho vão se entrecruzando e se alimentando.

Carlos Juliano Barros

Ótimo exemplo mesmo. Mas vamo falar mais da Amazon Mechanical Turk? Pra muita gente, esse tema do crowd work pode até soar como novidade, mas essa plataforma de trabalho remoto da Amazon já existe há nada mais, nada menos que 15 anos. Já tem uma estrada… O embrião dessa plataforma foi uma experiência que a Amazon fez com seus próprios funcionários, internamente, como contou pra gente o Renan Kalil. 

Renan Kalil 

Quando a Amazon era essencialmente ainda uma empresa que basicamente era um ponto de referência para a venda de produtos, o que acontecia é que os vendedores, quando faziam o registro disso no site da Amazon, muitas vezes tinha duplicidade de informações, informações conflitantes, tinha alguns problemas no cadastro desse produtos que causavam alguma espécie de problema pros usuários no momento de fazerem busca. A Amazon não queria passar essa tarefa pros vendedores dessas mercadorias. E também não queria que os engenheiros responsáveis pelo desenho do site ficassem por conta disso. O que ela fez foi pegar os empregados que realizavam outras tarefas e no momento em que eles estavam sem uma atividade eles eram ativados pra fazer essas adequações nos sites. A experiência deu muito certo, eles conseguiram aprimorar o mecanismo de busca dessas mercadorias que eram comercializadas no site deles. E aí a Amazon resolveu abrir a AMT para trabalhadores e solicitantes de tarefas online de fora da empresa.

Ana Aranha

Por enquanto, tá tudo lindo e maravilhoso, Caju… Parece uma ideia genial  – e de fato é – usar a tecnologia pra subdividir um trabalho complexo e cumprir a missão de um jeito ágil, eficaz e, principalmente, barato. Mas é aí que o papo começa a ficar bom – ou ruim, na verdade. E por vários motivos. Primeiro, porque a remuneração pra cada tarefa é bem baixa, na casa dos centavos mesmo, e a justificativa pra pagar pouco é que são tarefas muito simples e rápidas de fazer. Em segundo lugar, porque a pessoa que contrata a tarefa tem o poder de dizer se gostou ou não do trabalho – e só paga se quiser.

Carlos Juliano Barros

Pera lá, Ana. Acho bom a gente explicar melhor porque, pra quem tá começando a se familiarizar com essa história de crowdsourcing, pode soar até exagerado. Mas é isso mesmo: a pessoa trabalha e não tem garantia nenhuma de que vai receber. O Renan Kalil também falou disso. Antes de ouvir , eu queria fazer um comentário rápido sobre a metodologia que ele usou na pesquisa de doutorado. É complicado encontrar trabalhadores da Amazon Mechanical Turk. A plataforma se esforça pra esconder os dados das pessoas. Então, o que o Renan fez? Ele pediu autorização pra faculdade, entrou na Amazon Mechanical Turk e criou uma tarefa – remunerada, obviamente – que deveria ser feita apenas por brasileiros. E qual era essa tarefa? Responder um questionário. O objetivo dele era traçar um perfil dos brasileiros que caçam trabalho na Amazon Mechanical Turk. E o Renan também contou uma coisa curiosa: pra garantir que as pessoas respondessem o questionário com seriedade, ele colocou umas perguntas que não tinham nada a ver com o tema, mas que funcionavam como uma espécie de teste de atenção. Era uma precaução pra evitar que alguém marcasse qualquer resposta, sem nem ler a pergunta. 

Renan Kalil 

Na Amazon, quando quem demandou a tarefa recebe ela, ele tem um prazo para fazer a avaliação da tarefa e se ele não estiver satisfeito com o trabalho entregue ele pode não fazer o pagamento. Isso é uma fonte de grande injustiça porque, embora a Amazon coloque nos termos e condições de uso que é necessário apresentar uma justa causa para situações em que não é feito o pagamento e existe a recusa da tarefa, o que acontece na prática é que as pessoas colocam qualquer coisa lá. Se você apertar um caractere do computador e dar um enviar para que conste isso como justificativa para rejeição da tarefa, a Amazon não tem nenhum tipo de intervenção. Não precisa nem ser inteligível o que você está usando como argumento para recusar a tarefa. Dos trabalhadores que eu consegui entrevistar, por volta de 55% disse que já realizou tarefa sem receber a remuneração devida. E desses mais de 70% entendem que as recusas foram injustificadas. O que eles diziam é que tinham uma série de problemas. O que eles relatavam é que tinha desde requerente de tarefa que aplica golpe mesmo, faz isso de forma deliberada com o intuito de obter trabalho gratuito dessas pessoas, até falta de apresentação de instruções suficientes pelos requerentes. Não explicavam direito o que era pro trabalhador fazer (…) e isso levou a uma rejeição.

Ana Aranha

Isso é surreal, né? Na verdade, o mais maluco é que já dá um baita trabalho encontrar trabalho nessa plataforma da Amazon. A pessoa perde um tempão vendo se a tarefa que pinga na plataforma vale a pena, se tem um bom custo-benefício… Às vezes, como disse o Renan, nem dá pra entender exatamente o que deve ser feito e aí ainda vai ter que tirar dúvidas em fóruns online. Sem falar na questão do pagamento, que é outra bucha! Quem fala sobre isso é o Bruno Moreski, que coordena o GAIA, Grupo de Arte e Inteligência Artificial – um núcleo de pesquisa bem interessante também da USP. Há alguns anos ele estuda os “turkers” brasileiros – “turkers” é o nome dado a quem trabalha dentro desse esquema.  

Bruno Moreschi 

Os turkers que não são norteamericanos têm dificuldade para receber o pagamento de forma direta. Porque, teoricamente, pelo site da AMT, os turkers que não são americanos ganham um crédito para consumir no próprio site da Amazon Americana. Como se fosse um gift card. Evidentemente, ninguém conseguiria sobreviver no Brasil consumindo no site da Amazon americana. Então, os turkers brasileiros e alguns indianos revendem esses créditos na Amazon via outros leilões na internet. É até uma maneira ilegal de fazer, mas é o jeito que eles têm para receber esse dinheiro. Na maioria das vezes eles revendem créditos… Eles revendem num leilões de Playstation pra você jogar videogame online. Essa é uma questão de precarização não só porque eles precisam fazer todo esse processo pra receber mas porque… quando eles tiram esse dinheiro que está no sistema da Amazon e colocam nesse leilão online e depois revende… tudo isso são taxas que eles vão tendo que pagar ao longo do processo. 

Carlos Juliano Barros

Essa história do Playstation é sensacional, né? Os turkers brasileiros revendem os créditos que eles acumulam na Amazon pra outras pessoas que querem participar de campeonato de videogame online. O típico jeitinho brasileiro. E eu não sei se é pra rir ou pra chorar. Dá trabalho achar trabalho, como você disse agora há pouco, Ana. Mas dá um trabalho ainda maior receber a grana pelo trabalho realizado!

Ana Aranha

Exatamente. O Rafael Grohmann também falou sobre esse assunto. Eu já apresento o Rafael em detalhes. Antes, a gente vai ouvir uma comentário dele rapidinho, só pra não perder o raciocínio…

Rafael Grohmann 

Isso mostra como numa sociedade como a brasileira você tem a mistura do ápice do que seria um trabalho que sustenta a Inteligência Artificial com o ápice da viração característica da sociedade brasileira, do rolo, como a gente às vezes chama no interior de São Paulo. Vou revender tal coisa. E é assim que eles conseguem o dinheiro do trabalho deles. E aproveita desse momento econômico nosso – 2008 é um primeiro acelerador e a pandemia ajuda com isso – que é: “não tenho emprego, vou fazer isso”. “Não tenho opções, é o que me resta”. Ou então, “preciso complementar bem a minha renda”. O que a gente tem visto no Brasil é que em geral não é a única fonte de renda das pessoas, mas é uma fonte importante de renda das pessoas que trabalham para essas plataformas.

Ana Aranha

Eu deixei pra apresentar o Rafael Grohmann depois porque ele faz um trabalho essencial pra quem se interessa pelos temas que a gente discute aqui no Trabalheira.

Carlos Juliano Barros

É alguma micro tarefa?

Ana Aranha

Olha, tava demorando para sair uma piada – ela tarda, mas não falha, né, Caju? Bom, o Rafael Grohmann é professor de comunicação na Unisinos, do Rio Grande do Sul, e pesquisa a relação do trabalho com a tecnologia digital. Ele também faz uma newsletter muito interessante com um monte de referências de livros, artigos, filmes e notícias desse universo. Vale assinar essa newsletter, chama Digilabour (labour de trabalho em inglês).

Carlos Juliano Barros

Assino embaixo da recomendação! Agora, Ana, mudando de pato pra ganso, como você acha que os sistemas de Inteligência Artificial do Google ou da IBM leriam um quadro do Picasso? 

Ana Aranha

Nossa… e essas obras de arte mais contemporâneas, então? Que não são nem pintura nem escultura…

Carlos Juliano Barros

Pois é… foi essa pergunta que o Bruno Moreschi, que a gente ouviu agora há pouco, fez num filme de curta-metragem que está no “É Tudo Verdade” deste ano. O “É Tudo Verdade” é o principal festival de documentários da América Latina. Bom… o filme se chama “Recoding Art” (em português, seria algo como “Recodificando a Arte”) e é realmente muito interessante. O Bruno falou um pouco do documentário. 

Bruno Moreschi 

A gente criou um sistema que qualquer imagem que a gente inserisse ali a gente conseguiria entender como que as principais Inteligências Artificiais comerciais iriam ler aquela imagem. Dessas empresas que a gente conhece, Google, FB, Amazon, IBM… Aí a gente decidiu de colocar as imagens do museu e ver o que que ia dar. Deu milhares de resultados e eu fiquei mais ou menos um mês analisando esses resultados brutos pra tentar entender como que a Inteligência Artificial se comportaria ao ler uma obra de arte contemporânea, que não é uma obra de arte figurativa, a pintura de uma pessoa. Quando tende a ser figurativa, a Inteligência Artificial tende a acertar. Ela vê aquilo comos se fosse uma fotografia. Mas o que acontece quando você coloca uma arte abstrata ou mesmo uma coisa mais poética? O que a gente percebeu é que a Inteligência Artificial errava na maioria das vezes, não entregava o que a gente queria que ela entregasse.

Ana Aranha

Que ideia original prum filme, hein? Agora, eu fiquei curiosa pra saber quais foram os “erros de leitura” da Inteligência Artificial… 

Carlos Juliano Barros

Já te adianto, Ana, que boa parte desses erros têm a ver com os vieses, os valores, as ideologias e os pontos de vista das pessoas que treinam esses sistemas de Inteligência Artificial.

Ana Aranha

E, muitas vezes, quem faz esse treinamento são os trabalhadores turkerizados, né? 

Carlos Juliano Barros

Exatamente, são eles mesmos. A cada tarefa feita por um trabalhador, o sistema de Inteligência Artificial aprende um pouquinho mais. É que nem o mestre de xadrez embaixo do tabuleiro do boneco turco – com a diferença que a marionete tá aprendendo. Vamo ouvir o Bruno Moreschi sobre os erros que os sistemas de Inteligência Artificial cometem quando interpretam uma obras de arte. E a gente já volta pra esse assunto porque ele tem implicações éticas muito, muito importantes.

Bruno Moreschi

Agora várias vezes a gente se deparava com erros que nitidamente mostravam como essas Inteligências Artificiais eram treinadas, sob ponto de vista ideológico mesmo. A gente começou a perceber que toda vez que tinha uma imagem de mulher nas obras de arte… isso assim, mulheres nuas ou não, a Inteligência Artificial do Google, por exemplo, sempre lia aquilo como algo potencialmente erótico. Tem uma tag da Inteligência Artificial do Google que é “racy” – que em inglês significa provocativo. Todas as vezes em que aparecia uma mulher aparecia que era provocativo. Aí já tem uma questão bastante ideológica, uma interpretação muito misógina. A gente via também que tudo, tudo não, mas 80% das obras de arte que as Inteligências Artificiais liam elas tendiam a ler aquilo como produtos triviais de consumo. A gente até brinca no filme que a nossa lista de resultados parecia uma lista de compras da EQ, uma lista de compras da Tok Stok, sei lá, dessas empresas de decoração. Uma obra do Picasso virava uma almofada, outra coisa uma toalha de mesa, outra coisa uma geladeira… o que também mostra como essas Inteligências Artificiais são treinadas pra pensar tudo a partir de uma lógica do consumo. 

Ana Aranha

Cara, eu sempre me assusto em ver como a inteligência artificial absorve muito do que há de pior na nossa sociedade. A ideia do algoritmo inteligente e infalível,  capaz de tomar decisões neutras e objetivas, não para em pé, né? Tem uma série de estudos que mostram que essa imagem tão “asséptica” da Inteligência Artificial não é verdade nem de longe. Pra quem quiser saber mais sobre esse assunto, eu recomendo um livro muito bacana chamado “Weapons of Math Destruction” que discute como os algoritmos são cheios de preconceitos. 

Carlos Juliano Barros

Esse é um título complicado de traduzir pro português, né… Mas “Weapons of Math Destruction” é uma brincadeira de “Armas de Destruição em Massa” com a “matemática”, “math” em inglês, dos algoritmos.

Ana Aranha

Isso… acho que é mais fácil a gente explicar do que traduzir o título do livro! A autora, a Cathy O’Neil, é formada em matemática, com passagem por Harvard, e trabalhou um bom tempo numa startup de Wall Street, programando códigos de algoritmos pro mercado financeiro. 

Nesse livro, o “Weapons of Math Destruction”, ela descreve uma série de casos que mostram como sistemas automatizados – de seleção de emprego ou de venda de seguro de carro –, por exemplo, não só reproduzem preconceitos (contra negros, contra mulheres, contra imigrantes), mas dão uma escala ainda maior pra decisões importantes tomadas com base nesses preconceitos. 

Em resumo: a gente tá deixando na mão de um robô mal treinado, preconceituoso, escolhas que vão ter impacto na vida de muita gente. 

O Rafael Grohmann fala sobre isso. 

Rafael Grohmann 

A ideia de Inteligência Artificial do jeito que a gente imagina é uma visão também hollywoodiana. Nossa… São robôs. E não existe Inteligência Artificial sem muito trabalho humano para alimentar dados. O que é Inteligência Artificial senão… tomadas de decisões automatizadas. Tem uma outra questão que são os vieses de classe, de raça, de gênero inscritos nos próprios algoritmos e inscritos nos próprios dados. Desde você automatizar escolha de emprego, seleção de emprego, com base no que as pessoas foram, como base no bairro onde nasceram, onde vivem, já vão selecionando e automaticamente intensificando desigualdades de classe ou de raça. Se você digitar no Google, gatos molhados, vai aparecer o animal. Se você digitar gatas molhadas, vão aparecer mulheres tomando banho, essas coisas todas. Isso vai mostrando como os dados e os algoritmos têm esses vieses. 

Carlos Juliano Barros

E ainda sobre esse assunto o Bruno Moreschi faz uma reflexão muito interessante: como a gente vai conseguir construir bons sistemas de Inteligência Artificial, se a alimentação de dados e o treinamento desses algoritmos são feitos por trabalhadores absolutamente precarizados?

Bruno Moreschi 

A gente está criando uma sociedade extremamente conectada e automática à base de um trabalho precarizado, em que a gente não paga praticamente nada para esses trabalhadores, não dá nenhuma condição… Se no início desse processo a gente não está preocupado com as questões éticas, como é que lá no final a gente vai estar? Como é que quando a gente coloca um sistema de Inteligência Artificial pra ler uma obra de arte que tem uma mulher e aquilo dá como potencialmente pornográfico… aí a gente fala: temos um problema ético na Inteligência Artificial. Bom… mas da onde veio aquilo? Quem deu o input? Porque Inteligência Artificial, é muito mais complicado do que isso, mas tem uma camada estatística, né? Eu fui treinado para dizer que na maioria das vezes em que vem esse input de informação, eu preciso responder isso. Quem treinou isso? Isso é uma questão pra além da ética em Inteligência Artificial. É uma questão da própria Inteligência Artificial em si. Se a gente quer de fato máquinas eficientes, que funcionem, a gente vai ter que dar condições melhores pra esses trabalhadores.   

Ana Aranha

Essencial essa discussão que o Bruno trouxe. Sem condições decentes de trabalho pra todos os envolvidos nessa construção, vão sair pela culatra essas previsões fetichizadas de um futuro todo tecnológico, com robôs e máquinas hiper eficientes… É que nem cachorro bravo, né? Se você for investigar, vai encontrar um dono que trata mal, ou que deixa o bicho trancado… 

Carlos Juliano Barros 

Como eu disse lá no comecinho, eu adoro o Trabalheira por causa dessa mistura de todo tipo de referência, né? Da mais cult à mais popular…  

Ana Aranha

Mas não foi boa a comparação?

Carlos Juliano Barros 

Claro que foi, pô! E, pra fechar o nosso papo de hoje – e a temporada – com uma reflexão que tá na raiz das investigações desse podcast, Ana, a gente vai ouvir uma previsão do Rafael Grohmann sobre como vai ser, ou melhor, sobre como pode ser o futuro do trabalho – esse tema tão vasto quanto instigante que a gente discutiu ao longo dos oito episódios dessa primeira temporada do Trabalheira. E vou te dizer uma coisa, Ana: a fala do Rafael é uma bela deixa pra gente pensar nos episódios da segunda temporada!

Rafael Grohmann 

O futuro do trabalho, do lado dos trabalhadores, vai ser um futuro em que cada vez mais a gente fica espremido em microtarefas como já se prefiguram nas plataformas globais de Inteligência Artificial. E aí… dá pra pensar numa generalização de alguns mecanismos do trabalho em plataforma: que é uma gestão algorítmica do trabalho, uma que é de vigilância do trabalhador, e uma extração de dados de tudo o que acontece e isso sendo transformado como uma forma de capital.

Ana Aranha

Gestão algorítmica, vigilância, extração de dados… Tem assunto pra mais de metro aí, Caju!  

Carlos Juliano Barros 

Tem mesmo. Mas fica pra nossa próxima temporada, combinado?

Ana Aranha

E que venha logo!

Carlos Juliano Barros 

É isso aí. E enquanto a próxima temporada não chega, fica o convite pra você maratonar os outros episódios do Trabalheira – a gente discutiu se os sindicatos têm algum futuro, se vai rolar a tal da Renda Básica, se um dia a gente vai conseguir trabalhar menos… Sempre com a ideia de unir reflexões com um monte de referências diferentes. É só entrar no feed da Rádio Batente no seu tocador de podcasts e escolher qual o próximo episódio pra ouvir. 

Carlos Juliano Barros 

Obrigado a todas e a todos que acompanharam a gente ao longo dessa jornada. De coração. 

O Trabalheira é uma produção da Rádio Novelo pra Rádio Batente, a central de podcasts da Repórter Brasil. A coordenação geral é da Paula Scarpin.

O roteiro original é de minha autoria, Carlos Juliano Barros, com a colaboração da Ana Aranha. O tratamento de roteiro é do Vitor Hugo Brandalise.

A edição e a montagem são da Juliana Santana, da Clara Rellstab e da Mari Romano. A nossa música tema é composta pelo João Jabace, que também faz a finalização e a mixagem do programa. A coordenação digital é da Juliana Jaeger, e a distribuição é da Bia Ribeiro.

Sigam nossas redes, Repórter Brasil, pra ficar sabendo dos nossos podcasts que vêm por aí. 

Valeu, Ana. Foi uma honra.

Ana

Tchau, Caju! Até a próxima temporada!

FIM