Consequências não intencionais no Vale do Silício

A pausa é um trecho que permite que alguns de nós, no Vale do Silício, parem e reflitam. Dirigindo durante o meu tempo de inatividade, fui pego de surpresa quando um Chevy, mais velho e cinza, correu com um outdoor digital preso ao teto. A palavra “byte” em vermelho brilhante saltou para mim, mas rapidamente virou para outro anúncio – depois de oito segundos, este – com um tipo menor, mais difícil de ler.

Eu me apressei para ver o que o aviso dizia. Eu já estava indo rápido, mas o Chevy foi mais rápido. Eu falei brevemente, mas ainda não consegui entender as palavras. Então, de repente, eu desviei. Endireitando meu carro, eu reduzi a velocidade e assisti o Chevy voar na distância. Eu parei para refletir.

Indiscutivelmente, eu tenho um dos mais belos trajetos nas estradas dos EUA. Duas estradas, a 101 e a 280, conectam São Francisco ao Vale do Silício. A Highway 101 é uma bagunça – seu típico impasse de amortecimento a pára-choque. Mas o 280, especialmente se você tiver tempo, é o sonho de um piloto.

Se você olhar para o oeste em direção às montanhas de Santa Cruz, uma muralha de verde desce até Crystal Springs Reservoir, a água potável da área da baía. A cena pode incluir garças esculturais, veados e vacas pastando. Pôr do sol são espetaculares. Ainda por cima, é claro, o nevoeiro majestoso que passa pela faixa costeira. Eu amo esse nevoeiro. Quando meus filhos eram pré-adolescentes, eu me tornava poética, contando a eles e a seus amigos que um dia, quando fossem mais velhos, eles seguiriam esse caminho, apontariam o romance da neblina e atrairiam alguém para se apaixonar. “Eca!”, Diziam eles naquela época, mas acabou acontecendo.

Ao contrário de muitos no Vale do Silício, não preciso de um aplicativo de meditação. Eu posso “mudar de canal” entre casa e trabalho. Meu caminho para a Universidade de Stanford me enche de antecipação pela manhã e me deixa relaxar no caminho de casa.

Mas o outdoor no Chevy mudou brevemente isso. Parecia invasivo, disruptivo, chato e dissonante. Isso me deixou curiosa – e brevemente furiosa da mesma maneira que os outdoors eletrônicos em barcaças com rolamentos nos rios Hudson e East ofendem alguns nova-iorquinos. Além disso, dado o pequeno tipo e velocidade dos carros, parecia perigoso.

Um par de anos atrás, no entanto, eu pensei que a idéia de “outdoor em um veículo” era brilhante; em alguns locais, ainda pode ser. Você vê, a outra razão pela qual o cartaz chamou minha atenção foi porque um co-fundador da empresa que o criou, Kaan Gunay, era um dos nossos alunos de negócios em Stanford.

Quando Gunay explicou sua ideia em uma oficina um tempo atrás, eu estava entusiasmada. Telas inteligentes digitais conectadas a anúncios relevantes e localizados geograficamente? Super! Na minha imaginação, imaginei um cartão digital em um táxi amarelo em Nova York, um lugar já carregado de marketing digital. Encorajei-o a solicitar um subsídio de inovação financiado pelo Instituto Brown para Inovação em Mídia, para o qual trabalho. Ele não conseguiu a concessão, mas não importa; a empresa Firefly já captou mais de US $ 20 milhões em financiamento de risco.

Com tudo isso em minha mente, liguei para ele. De fato, o Chevy era um de seus frota. “Sim, estamos executando uma campanha publicitária para essa empresa”, disse Gunay.

A Firefly, que recentemente emergiu do modo furtivo, está a todo vapor com 75 funcionários. A equipe está testando campanhas publicitárias em Los Angeles e São Francisco. Suas telas digitais não propagam nenhum anúncio, mas são conectadas a sensores que podem rastrear e marcar geograficamente os buracos e medir a poluição. Os motoristas da Uber e da Lyft desfrutam de uma parte da receita criada pelos anúncios e operam a frota. Os anúncios podem ser “geo-fenced”, por isso as tentações para bebidas não aparecem como os veículos dirigidos pelas escolas secundárias. E uma porcentagem do inventário de anúncios é dedicada a mensagens de organizações sem fins lucrativos e de serviços públicos.

Ainda assim, fiquei imaginando as conseqüências não intencionais dessa nova tecnologia. Muitos no Vale do Silício estão fazendo essa pergunta hoje em dia e refletindo sobre o impacto imprevisto das criações tecnológicas aqui. Stanford está desenvolvendo novas classes que exploram esse terreno inexplorado. No mês passado, a universidade lançou uma iniciativa interdisciplinar de Inteligência Artificial com Enfoque Humano (HAI), com o objetivo de antecipar os efeitos positivos e negativos da IA, a próxima onda tecnológica esperada para superar nossas vidas.

Quando descrevi minha reação ao cartaz, Gunay riu. “Eu estou supondo que o seu” foi um comportamento anormal “, disse ele. “Você estava curioso porque você me conhecia.” Justo o suficiente. Em uma nota mais séria, ele acrescentou: “A última coisa que queremos fazer é distrair os motoristas. A segurança é nossa maior preocupação. ”Diferente da publicidade envolvente que, de outra forma, está chegando aos veículos, nenhum conteúdo aparece na frente ou na traseira dos carros que exibem os anúncios da Firefly. Os anúncios estão voltados para os lados e são voltados principalmente para pedestres e motoristas presos no trânsito.

“O que é mais”, disse Gunay, “a empresa apresenta conteúdo útil para os bairros” – por causa da natureza de direcionamento geográfico de seus Fireflys – incluindo “uma diversidade de dados de cidades inteligentes junto com grandes marcas” que impulsionarão o crescimento geral da região. o negócio. Uma vez que os carros sem motoristas se tornam realidade, Firefly espera que a receita publicitária impulsione o setor para tornar as cidades mais habitáveis ​​e justas.

Ainda assim, quando se trata de consequências não intencionais, ele disse: “Tenho certeza de que há uma boa maneira de atenuar isso … Talvez não mostremos conteúdo em movimento quando o carro ultrapassar determinada velocidade”.

As aulas foram retomadas em Stanford. Convidei Gunay, que se formou com um MBA em 2018, a voltar ao campus para participar de uma aula planejada para refletir sobre as conseqüências não intencionais da tecnologia. Dê aos alunos um desafio que eles possam explorar, sugeri. Por exemplo: como podemos continuar a experimentar a vida na via rápida, garantindo que as telas digitais da Firefly sejam úteis para uma vida urbana mais inteligente e, como vagalumes reais, aumentem nosso senso de serenidade?

Resposta de Gunay? Ele está dentro.

O delírio de eficiência

seu ano começou com o escritor David Pogue identificando seis lições importantes que ele aprendeu observando como as empresas de tecnologia se comportam. Um deles é o seguinte: “Frictionless sempre vence”.

“Se você quiser apostar no sucesso de novas tecnologias, examine o quanto” atrito “elas eliminam: esforço, etapas e problemas”, escreveu Pogue na Scientific American. “O controle remoto; refeições de microondas; o email; mensagens de texto; o iPod; Google Maps; Amazon.com; Siri e Alexa; e, sim, carros autônomos – cada um, à sua maneira, introduziu uma nova maneira de nos deixarmos mais preguiçosos ”.

O impulso para remover o atrito no espaço da tecnologia digital permeia tudo, desde interações sociais até transações comerciais, do Facebook bombardeando-nos com notificações sobre o que nossos amigos estão dizendo e fazendo para milhões de pessoas ao redor do mundo pedindo Uber em seus telefones em vez de ficar em pé esquinas para chamar táxis.

Não é difícil entender por que a remoção do atrito funciona como um modelo de negócios. A redução dos custos de transação tem provado ser uma maneira poderosa de influenciar o comportamento. E também não é difícil ver por que nós, os usuários, gostamos disso: geralmente é realmente útil quando alguém automatiza uma tarefa difícil ou chata para nós.

Mas a eficiência nem sempre é neutra. Colocar eficiência sobre outros valores pode ser um erro – um lapso no julgamento ético, político, pessoal ou profissional. Algumas interações humanas ou cívicas prosperam quando são deliberadas e desgastadas quando são aceleradas. Há uma ótima citação que foi atribuída a Virginia Woolf – “A eficiência corta a grama da mente até suas raízes” – embora, infelizmente, não possamos encontrar nenhuma evidência de que foi Woolf quem realmente disse isso. Mas o sentimento soa verdadeiro e a expressão é tão bonita que gostaríamos que ela colocasse as coisas desse jeito.

Acreditamos que, se a tecnologia puder tornar algum aspecto de nossas vidas mais eficiente, receberemos o tempo livre. Em vez disso, muitas vezes precisamos recalibrar o que fazemos.
Nós dois escrevemos livros que discutem por que a mentalidade de eficiência é sedutora e o que pode dar errado quando vai longe demais. Evan, um professor de filosofia, mergulhou fundo com Brett Frischmann na Re-Engineering Humanity. Clive, um escritor de longa data da Wired e da New York Times Magazine, chega ao fundo das coisas em seu novo livro, Coders: A criação de uma nova tribo e o refazer do mundo. O seguinte excerto editado entre nós capta o sabor de uma conversa recente.

A vida é uma planilha
Evan Selinger: Enquanto você escrevia Coders, você falou sobre sua pesquisa para meus alunos – muitos dos quais são engenheiros e estudantes de ciências. O que realmente ressoou é que alguns dos engenheiros que você entrevistou descreveram como situações realmente ineficientes como realmente perturbadoras, como cheirar algo horrível ou provar algo grosseiro. Você pode elaborar esse sentido visceral de como os engenheiros agem, refletir suas sensibilidades nos produtos e projetar uma visão de mundo impaciente para o resto de nós?

Clive Thompson: Se você tivesse me perguntado quais são alguns dos traços típicos das pessoas que tendem a achar a codificação divertida antes de começar a trabalhar no livro, eu teria feito observações bastante óbvias. Os programadores são bons em pensar logicamente. Eles gostam de resolver quebra-cabeças e quebrar coisas complicadas.

O que eu não esperava ouvir rotineiramente de pessoas que se tornaram programadoras é que, desde cedo, elas apreciaram que as máquinas são realmente boas em coisas que os humanos são ruins. Eles são incríveis em adotar qualquer processo que seja chato e mais rápido e eficiente por meio da automação.

Codificadores diferentes muitas vezes me contavam a mesma história da escola, um momento em que a lâmpada de eficiência disparava. Quando crianças, eles estavam na aula de matemática, odiando ter que mostrar todo o seu trabalho. Sempre foi uma pergunta chata que eles sabiam a resposta para um relance, mas foram forçados a escrever em várias etapas. Então, todos eles disseram “deixe-me escrever um solucionador” em qualquer idioma que eles estivessem usando. Eles digitam a equação e, boom, uma máquina produz todos os diferentes passos sem que eles tenham que fazer todo o trabalho.

Após esse sucesso, uma compreensão se passa em: “Uau, minha vida está cheia de tarefas repetitivas e maçantes. E agora sei como instruir uma máquina para realizar tarefas chatas. Então, eu deveria entregá-los ”. Nasce uma espécie de emoção na otimização.

Como os computadores são máquinas funcionais que podem fazer muitas coisas diferentes, esses programadores rapidamente começariam a desenvolver um tipo de visão de raios X sobre o próprio mundo. Eles apenas continuavam pensando: “Uau, eu poderia automatizar isso. Eu poderia tornar isso mais eficiente. Eu poderia automatizar essa outra coisa também ”.

Você consegue pensar em algum exemplo da sala de aula que se encaixa nesse padrão?

Selinger: Sim. Nas aulas de filosofia, pedimos aos alunos que apresentem críticas respeitosas e racionais das ideias de outras pessoas. Não diga apenas que alguém está errado; em vez disso, dê a melhor interpretação de um argumento com o qual você discorda e explique cuidadosamente onde ele se desvia. Essa abordagem de falar e pensar leva tempo. É muito mais lento do que kneecapping verbalmente e afirmando uma opinião contrária. Mas a falta de eficiência é uma característica do sistema, não um bug.

“Acreditamos que, se a tecnologia puder tornar algum aspecto de nossas vidas mais eficiente, receberemos o tempo livre para fazer as coisas que realmente consideramos significativas. Em vez disso, muitas vezes precisamos recalibrar o que fazemos ”.
Eu percebi que alguns alunos inicialmente acham estranho esse tipo de interação, e me disseram que as coisas funcionam de maneira diferente nas aulas de engenharia – pelo menos algumas delas, de qualquer forma. Aparentemente, alguns instrutores vão direto ao ponto ao criticar suas atribuições. Ser completamente brutal neste contexto é visto como um sinal de respeito, não de grosseria. Ele é visto como uma maneira de reconhecer a capacidade de um aluno de aprender rapidamente e corrigir erros rapidamente – erros que, digamos, poderiam ter consequências terríveis no mundo real, como acidentes acontecendo em uma ponte estruturalmente insegura. Vindo desse pano de fundo, o que os filósofos chamam de “ética do discurso” pode parecer uma lisonja desnecessária que desperdiça tempo precioso.

Em sua experiência, qual é um bom exemplo que ilustra como é difícil para os programadores pararem de pensar no mundo como um problema de eficiência?

Thompson: Eu tenho dois para você. O primeiro é sobre um engenheiro sênior que provavelmente era um gerente de projetos. Em algum momento, ele ficou muito irritado com o número de piadas que estavam sendo contadas nas reuniões, porque ele dizia: “Bem, isso é uma perda de tempo, e nosso tempo é precioso”. Ele literalmente calculou o que ele estimava ser o número de piadas contadas ao longo de um ano e calculou quantas horas pessoais ele sentia estar sendo desperdiçado com isso.

Naturalmente, o mais surreal sobre isso é que qualquer um que realmente saiba como as organizações trabalham lhe dirá que pequenas brincadeiras em uma reunião podem ser a coisa mais importante sendo feita lá. Eles fornecem coesão unitária. São momentos de leveza que permitem que as pessoas continuem trabalhando sob prazos frustrantes e coisas assim. Mas esse cara simplesmente não conseguia ver a vida como uma planilha.

Uma mulher que trabalha para Trulia uma vez me disse: “Eu vou estar andando para o trabalho, e eu literalmente ficarei parada na esquina observando as pessoas atravessarem a rua e pensarem: ‘Meu Deus, eles estão fazendo isso moda completamente ineficiente. Eu queria poder fazer todos andarem de uma maneira mais otimizada. ”E ela está rindo, porque sabe que parece loucura. Mas ela também percebe que o instinto é difícil de desligar.

Selinger: Eu amo essa história, porque o segundo capítulo da Re-Engineering Humanity é intitulado “Engrenagens na Máquina de Nossas Próprias Vidas”. Ele apresenta uma série de experimentos para ajudar os leitores a considerar criticamente uma questão importante: qual comportamento não deveria você terceiriza para máquinas?

Por exemplo, se uma tecnologia semelhante a GPS pudesse direcionar com segurança seu corpo na direção que você queria andar, você o usaria para liberar sua mente? Em vez de prestar atenção ao seu entorno, você pode assistir a um vídeo on-line. Se sim, por que você não iria mais longe? Que tal uma máquina que poderia mexer sua boca e mastigar sua comida para você? Ou um que poderia ajustar seu rosto para que você nunca perdesse a chance de sorrir na ocasião certa?

Em última análise, esses exemplos apontam na direção de um futuro assustador que algumas pessoas estão realmente animadas. Se você acha que a visão transumanista de um dia abandonar completamente seu corpo e baixar sua consciência é uma má ideia, que argumentos contra ela você está disposto a fazer e que valores você, sem trocadilho, representa?

O delírio de eficiência
Selinger: Por que você acha que muitos de nós continuam cometendo o mesmo erro repetidas vezes? Acreditamos que, se a tecnologia puder tornar alguns aspectos de nossas vidas mais eficientes, teremos tempo livre para fazer as coisas que realmente consideramos significativas. Em vez disso, muitas vezes precisamos recalibrar o que fazemos. E isso porque as expectativas mudam com as mudanças no cenário tecnológico.

Aceite o mito de que, uma vez que os carros autônomos poupam as pessoas do fardo de precisar dirigir até o trabalho e prestar atenção à estrada, eles poderão concentrar suas atenções em atividades revigorantes e recompensadoras, como ler por prazer durante o trajeto. Mais provavelmente, os empregadores esperam que o dia de trabalho comece no segundo em que você entrar no veículo. Em vez de ser desburada, mais produtividade será removida de nós.

Thompson: A maioria dos desenvolvedores de software ainda defende a ideia de que, quando eles fazem algo mais eficiente, terão o efeito positivo de liberar mais tempo em outro lugar. E eu posso entender porque eles veem as coisas assim. Os codificadores mantêm seus narizes para baixo quando resolvem um problema oneroso. Quando eles terminam, eles se sentem bem. E quando eles veem as pessoas usando o software que eles criaram, parece muito satisfatório.

“Infelizmente, uma vez que algo não é mais novidade e a mudança de tempo ou estilo deixa de parecer nova, o efeito desaparece.”
Parte da questão é que a cultura americana está há muito tempo encantada com a idéia de que a velocidade é boa e de que conseguir mais é bom. Isso remonta a caras como Benjamin Franklin, que estavam obcecados em tentar ganhar mais vida. Ele inventou lentes bifocais porque estava cansado de trocar um par de óculos por outro. Então, em muitos aspectos, somos particularmente suscetíveis à visão da eficiência como um estilo de vida porque está entrelaçada no espírito que governa o país.

Por que os consumidores estão tão ansiosos para encontrar um novo aplicativo que esperamos que acelere nossas vidas ou nos proporcione mais tempo livre? Eu acho que isso tem a ver com o efeito de novidade. Quando mudamos algo em nosso ambiente, às vezes descobrimos que somos temporariamente mais produtivos e criativos. Infelizmente, uma vez que algo não é mais novidade e a mudança de ritmo ou estilo deixa de parecer nova, o efeito desaparece.

Selinger: Esse é um ótimo diagnóstico. Embora nossa citação de Virginia Woolf seja provavelmente falsa, espero que os outros adotem o idioma real que vou usar para caracterizar esse problema. Este fetiche com fricção deve ser visto como a ilusão da eficiência.

Endereço: R. Campos Sáles, 2576 - Centro, Mirassol - SP, 15130-013