“O acidente serviu para mobilizar o interesse público…pelo transporte público. Também, é claro, chamou a atenção para seus perigos”
~ FT, descrevendo uma fatalidade ferroviária em 1830
Você está prestes a atravessar uma rua usando a faixa de pedestres indicada. Considerando que você tem a preferência, você:
- Avança. Você tem a preferência.
- Olha para os dois lados. Depois, avança.
- Avança somente quando tem certeza de que o tráfego que se aproxima está realmente diminuindo a velocidade.
- Continua enviando mensagens enquanto ouve sua playlist.
A menos que tenha decidido se desconectar completamente do mundo ao seu redor, você sabe exatamente por que estou fazendo essa pergunta.
Uber. Tempe, Arizona, 18 de março. Foi o tiro ouvido ao redor do mundo: “Carros-robôs põem humanos à prova” foi a manchete mais recente sobre o trágico acontecimento.
“À prova”? Que tal “Atropelam”? Isso estaria mais próximo da verdade.
Talvez você nunca mais se aproxime de uma faixa de pedestres da mesma forma. Você nunca mais deveria se aproximar de uma faixa de pedestres da mesma forma. A menos que sua conduta sempre tenha sido presumir que nenhum carro vindo em sua direção vai parar… até que ele realmente pare.
Há um provérbio espanhol que deveria reger todas essas atividades: “Entre os caminhos seguros, o mais seguro de todos é duvidar.” Se fosse assim, o mundo seria um lugar muito mais seguro para viver e trabalhar.
Infelizmente, não é. As pessoas se colocam rotineiramente em perigo, fazendo suposições e confiando nelas, para depois descobrirem que estavam erradas.
Uber: o exemplo perfeito
Em mais uma de uma longa lista de ironias, a palavra “uber” vem do alemão e significa o maior e melhor exemplo. O primeiro evento desse tipo envolvendo a Uber — uma colisão entre um de seus carros sem motorista e uma pedestre — provavelmente se tornará um daqueles exemplos “uber” sobre os quais as pessoas ainda falarão daqui a um século.
“O risco da introdução de novas tecnologias” foi como o Financial Times enquadrou a situação, citando logo na abertura a primeira morte de um passageiro ferroviário na nova linha entre Liverpool e Manchester. Em 1830.
Outro exemplo uber semelhante.
Quase dois séculos depois, o acontecimento atual está provocando todo tipo de discussão e debate sobre automação, segurança, testes de campo de novos produtos e a contribuição relativa de robôs e humanos para a confiabilidade e a segurança. E assim deve ser. Os testes foram interrompidos no Arizona: isso, sim, é uma decisão.
Talvez você já tenha participado desse debate durante um café: os humanos são péssimos motoristas, distraem-se facilmente, tendem a exceder a velocidade e, às vezes, dirigem sob efeito de álcool ou drogas. Os robôs não sofrem de nenhum desses problemas.
Se as máquinas nunca falhassem em serviço, seria vitória absoluta. Entregue as chaves ao R2D2 e acomode-se confortavelmente no banco traseiro.
Você talvez faça isso. Mas eu não pretendo afivelar o cinto no assento 13 B do próximo voo para Keokuk, Iowa, com base nessa teoria. Quero ver dois seres humanos sentados na cabine de comando, para, como dizem nas instruções de segurança, “no caso improvável de…” ….. o computador de voo parar de funcionar.
Mas espere, tem mais
Obviamente, houve algum tipo de falha no computador que impediu o veículo da Uber de detectar a presença de uma pessoa na faixa de pedestres. Ele atravessou o cruzamento a 40 mph sem hesitar. Mais cedo ou mais tarde, os programadores e engenheiros de robótica descobrirão a causa e encontrarão a solução. É possível fazer isso com uma máquina. A solução representará um pequeno avanço, ao custo de sangue e recursos humanos, mas pelo menos haverá algum progresso.
Nem sempre acontece dessa forma. Ultimamente, quando o National Transportation Safety Board investiga tipos semelhantes de falhas nas quais o humano — e não o computador — estava no comando, como nos acidentes ferroviários de Midland e Filadélfia, seus integrantes simplesmente levantam as mãos, como se dissessem: “Quando há pessoas no comando, essas coisas simplesmente acontecem.”
A propósito, prevejo a mesma conclusão no recente descarrilamento no estado de Washington, em que um trem em velocidade muito acima do permitido saiu dos trilhos e caiu sobre a I-5. Aguardem.
Quanto ao progresso, os especialistas em segurança do setor apontarão a tecnologia como o caminho a seguir. Gaste mais dinheiro em algum dispositivo novo para evitar que esse tipo de coisa aconteça. No setor ferroviário, Positive Train Control é o nome sofisticado dado à retirada do controle das mãos do maquinista e à sua transferência para um computador.
Pode ser uma melhoria, mas, depois que o trem sai da estação, não há garantia.
Quais são as probabilidades?
Em 1966, quando eu fazia aulas de direção no ensino médio, nosso instrutor tinha um pedal de freio no lado do passageiro do carro, para o caso de algum aluno de dezesseis anos com carteira provisória dirigir… como um motorista de dezesseis anos com carteira provisória. Ironicamente — desculpe usar essa palavra novamente, mas esta história está cheia de ironias — havia uma motorista de reserva sentada ao volante daquele veículo da Uber em Tempe. Chamada de “Motorista de Segurança”, a função dessa pessoa era estar pronta para agir caso o computador não detectasse um perigo ou não conduzisse o veículo com segurança.
Desempenhar essa função corretamente exige vigilância constante por parte do Motorista de Segurança. Não há como saber onde ou quando o computador que dirige o veículo pode deixar passar alguma coisa. Assim como acontece com o instrutor de direção. Um ex-Motorista de Segurança explicou perfeitamente: “O computador é falível, então é o ser humano que deve ser perfeito. É meio que o contrário do que se pensa sobre computadores.”
A câmera do painel do veículo mostrou a Motorista de Segurança olhando para baixo nos segundos anteriores à colisão. Um robô jamais faria isso.
Portanto, a tecnologia falhou e, simultaneamente, o sistema de reserva conhecido como Motorista de Segurança também falhou. Na estatística, isso é chamado de Lei da Probabilidade Independente; existe uma fórmula simples para calcular as probabilidades.
Elas não são zero. E jamais serão zero.
Risco Moral
Falha de equipamento e falha humana: dois problemas que todo líder de operações do planeta conhece intimamente. Nem todo o trabalho de projeto baseado em Six Sigma e Fatores Humanos do universo conseguirá eliminar qualquer um deles.
Isso significa que as coisas ainda darão errado, apenas com menor frequência e menor gravidade, supondo que o projeto se baseie em princípios sólidos de engenharia e gestão de pessoas. Isso é simplesmente ser honesto sobre como as coisas realmente são. Em questões de segurança, não existe Risco Zero.
Entre os fatores importantes para a segurança, o risco é o mais mal compreendido e mal aplicado. Se não fosse assim, ninguém jamais entraria em uma faixa de pedestres sem antes ver o branco dos olhos do motorista que se aproxima.
Essa é a minha regra nessas situações e, sim, sei que ela está se tornando problemática. Durante metade do ano, moro em uma rua movimentada de uma cidade repleta de espaços seguros conhecidos como Faixas de Pedestres. Adivinhe: se houver um carro sem motorista se aproximando, eu não vou atravessar. O céu pode esperar.
Pense de outra forma e você estará se colocando como possível vítima do que é conhecido na Economia como Risco Moral.
Há quem entre em pânico sempre que economia e segurança são mencionadas na mesma frase: “Quando a vida das pessoas está em risco, não ouse falar de dinheiro!” Eu entendo isso. Mas, se você realmente quiser compreender a segurança, há muito a aprender com a ciência sombria, mais conhecida como economia. Uma coisa muito útil é compreender o Risco Moral.
Após o colapso das hipotecas subprime — verifique o rendimento do seu plano 401k e você saberá o ano —, o termo Risco Moral foi usado para descrever a causa principal do problema. Quando as pessoas acreditam que não há risco de perder dinheiro, investem em negócios ruins.
E como investiram! Algumas das pessoas mais inteligentes que restaram no mercado após o fim da Enron levaram seus clientes, suas empresas e, em alguns casos, suas próprias contas bancárias à lona ao comprar hipotecas que jamais seriam pagas. Até pessoas inocentes — como você e eu, que não possuíamos nada nem remotamente relacionado — sofreram. Isso é o que se chama de dano colateral.
Quanto à parte do perigo, um perigo é uma fonte de risco; algo que pode causar dano. Na segurança, trata-se de dano físico. Nos investimentos, o dano vem na forma da perda do dinheiro conquistado com tanto esforço. Ambos doem, embora em lugares diferentes.
Quanto ao motivo de colocarem “moral” na frente, é porque pessoas bem-intencionadas fizeram absolutamente tudo o que podiam para evitar que alguém sentisse dor ou sofresse as consequências de suas decisões de investimento. As garantias transformaram a compra de hipotecas em um “espaço seguro”. Sem risco, sem preocupações.
Assim como uma faixa de pedestres: sem risco, sem preocupações. Certo?
Errado.
A palavra final
Perdida em meio a todas as reportagens, discussões e debates posteriores ao incidente está a “vítima inocente” que atravessou uma faixa de pedestres à noite empurrando uma bicicleta, enquanto um carro se aproximava a 40 MPH. Ela apostou a própria vida que o motorista cederia a preferência e pararia.
E perdeu.
Um exemplo uber do Risco Moral dos espaços seguros, do Risco Zero e do valor daquele provérbio espanhol: “Entre todos os caminhos seguros, o mais seguro de todos é duvidar.”
Paul Balmert
Março de 2018