Espaços seguros?

Você está prestes a atravessar uma rua, usando a faixa de pedestres designada. Dado que você tem a prioridade, você:

1. Continuar. Você tem o direito de passagem.
2. Olhe para ambos os lados. Então prossiga.
3. Prossiga apenas quando tiver certeza de que o tráfego em sentido contrário está realmente diminuindo.
4. Continuar a enviar mensagens de texto enquanto ouve sua lista de reprodução.

A menos que você tenha decidido se desconectar completamente do mundo ao seu redor, você sabe exatamente por que estou fazendo esta pergunta.

Uber. Tempe, Arizona, 18 de março. Foi o tiro ouvido em todo o mundo: “Robot Cars Test Humans” foi a última manchete do trágico evento.

"Teste"? Que tal “atropelar”? Isso estaria mais perto da verdade.

Você nunca pode se aproximar de uma faixa de pedestres da mesma forma. Você nunca deve se aproximar de uma faixa de pedestres da mesma forma. A menos que sua abordagem tenha consistentemente assumido que nenhum carro que se aproxima parará ... até que ele realmente pare.

Há um provérbio espanhol que deveria reger todas essas atividades: “Entre os cursos seguros, o mais seguro de todos é duvidar”. Se assim fosse, o mundo seria um lugar muito mais seguro para se viver e trabalhar.

Infelizmente, isso não acontece. As pessoas rotineiramente se colocam em perigo, fazendo e se baseando em suposições que mais tarde se provaram erradas.

Uber: o exemplo perfeito

Em outra de uma longa lista de ironias, a palavra “uber” vem da palavra alemã que significa o maior e melhor exemplo. O Uber, o primeiro de seu tipo de evento - uma colisão envolvendo um de seus carros sem motorista e um pedestre - provavelmente será um daqueles exemplos “uber” sobre os quais as pessoas estarão falando daqui a um século.

“O risco da introdução de uma nova tecnologia” foi como o Financial Times enquadrou a situação, citando na capa a primeira fatalidade de passageiro ferroviário na nova linha entre Liverpool e Manchester. Em 1830.

Outro exemplo uber semelhante.

Dois séculos depois, o evento atual está provocando todos os tipos de discussão e debate sobre automação, segurança, testes de campo de novos produtos e a contribuição relativa de robôs versus humanos para a confiabilidade e segurança. Como deveria. O teste foi interrompido no Arizona: isso seria uma decisão.

Você já deve ter se envolvido no debate sobre uma xícara de café: os humanos são péssimos motoristas, se distraem facilmente, tendem a acelerar e, às vezes, dirigem sob a influência. Os robôs não sofrem com nenhum desses problemas.

Se as máquinas nunca falhassem em serviço, seria jogo, jogo, jogo. Vire as chaves para R2D2 e sente-se confortável no banco de trás.

Você pode. Mas não pretendo sentar-me no assento 13 B no próximo vôo para Keokuk Iowa com base nessa teoria. Quero ver dois humanos sentados na cabine de comando, como dizem no briefing de segurança, "no caso improvável de ..." … .. o computador de vôo cai.

Mas espere, tem mais

Obviamente, houve algum tipo de falha no computador que impediu o veículo do Uber de detectar a presença de um humano na faixa de pedestres. Ele passou pelo cruzamento a 40 mph sem piscar. No final, os programadores de computador e engenheiros robóticos descobrirão a causa e encontrarão a solução. Você pode fazer isso com uma máquina. A correção será um pequeno passo, à custa de sangue humano e tesouro, mas pelo menos algum progresso será feito.

Nem sempre acontece assim. Recentemente, quando o National Transportation Safety Board investigou tipos semelhantes de falhas onde o humano (não o computador) estava ao volante - por exemplo, os acidentes ferroviários de Midland e Filadélfia - eles simplesmente levantaram as mãos, como se dissessem: “ Quando são as pessoas ao volante, as coisas simplesmente acontecem. ”

A propósito, estou prevendo a mesma descoberta no recente descarrilamento do estado de Washington, onde um trem indo muito rápido saiu dos trilhos e caiu na I-5. Fique ligado.

Quanto ao progresso, os especialistas em segurança da indústria apontam a tecnologia como o caminho a seguir. Gaste mais dinheiro em algum novo gadget para evitar que esse tipo de coisa aconteça. Na ferrovia, Positive Train Control é o nome chique para tirar o controle do engenheiro e dá-lo a um computador.

Pode ser uma melhoria, mas, uma vez que o trem sai da estação, não é uma garantia.

Quais são as hipóteses?

Em 1966, quando eu estava cursando Driver Ed na High School, nosso instrutor tinha um pedal de freio no lado do passageiro do carro, apenas no caso de algum motorista estudante de dezesseis anos com licença de aprendizagem dirigir ... como um jovem de dezesseis anos motorista com licença de aprendizagem. Ironicamente (desculpe por usar isso de novo, mas essa história está cheia deles), havia um motorista reserva sentado ao volante daquele veículo Uber em Tempe. Chamado de “motorista de segurança”, o papel do humano era estar pronto caso o computador não detectasse um perigo ou dirigisse o veículo com segurança.

Desempenhar essa função de forma adequada exige vigilância constante por parte do motorista de segurança. Não há como dizer onde ou quando o computador que dirige o veículo pode perder algo. Assim como o instrutor Driver Ed. Um ex-Safety Driver explicou perfeitamente: “O computador é falível, então é o humano que deveria ser perfeito. É o oposto do que você pensa sobre computadores. ”

A câmera do painel do veículo mostrou o Safety Driver olhando para baixo segundos antes da colisão. Um robô nunca faria isso.

Portanto, a tecnologia falhou e o sistema de backup conhecido como Safety Driver falhou simultaneamente. Nas estatísticas, é chamada de Lei da Probabilidade Independente; existe uma fórmula simples para calcular as probabilidades.

Eles não são zero. Nem nunca serão zero.

Perigo moral

Falha de equipamento e falha humana: dois problemas com os quais todo líder de operações no planeta está intimamente familiarizado. Todo o trabalho de design do Seis Sigma e Fatores Humanos no universo nunca os eliminará.

O que significa que as coisas ainda darão errado, apenas com menos frequência e menos severidade, assumindo que o design seja baseado em sólidos princípios de engenharia e gerenciamento de pessoas. Isso é simplesmente ser honesto sobre como as coisas realmente são. Em matéria de segurança, não existe Risco Zero.

Das coisas que importam para a segurança, o risco é o mais mal compreendido e mal aplicado. Se assim não fosse, ninguém jamais entraria na faixa de pedestres sem primeiro ver o branco dos olhos do motorista que se aproxima.

Essa é minha regra nessas situações, e sim, eu sei que está se tornando problemático. Moro meio ano em uma rua movimentada em uma cidade repleta de espaços seguros conhecidos como faixas de pedestres. Adivinha: se houver um carro sem motorista se aproximando, não vou atravessar. O paraíso pode esperar.

Pense de outra forma e você se apresentará como uma vítima em potencial do que é conhecido em Economia como Risco Moral.

Há quem enlouqueça sempre que a economia e a segurança são mencionadas na mesma frase: “Quando a vida das pessoas está em risco, não se atreva a trazer dinheiro!” Isso eu entendo. Mas se você quer realmente entender a segurança, há muito a aprender com a ciência sombria, mais conhecida como economia. Uma coisa muito útil é entender o Moral Hazard.

Logo após o colapso das hipotecas subprime (verifique o retorno do seu plano 401k e você saberá o ano), o termo Moral Hazard foi usado para descrever a causa raiz do problema. Quando as pessoas pensam que não há risco de perder dinheiro, elas colocam dinheiro em investimentos ruins.

E eles sempre! Algumas das pessoas mais inteligentes que ficaram na sala após o fim da Enron derrubaram seus clientes, empresas e, em alguns casos, suas próprias contas bancárias, comprando hipotecas que nunca seriam reembolsadas. Mesmo pessoas inocentes - como você e eu, que não possuíamos nada nem remotamente relacionado - sofreram. É assim que se chama dano colateral.

Quanto à parte do perigo, um perigo é uma fonte de perigo; algo que pode te machucar. Na segurança, é um dano físico. Para investir, o dano vem na forma de perder seu dinheiro suado. Ambos doem, embora em lugares diferentes.

Quanto ao motivo de “moral” ter sido pendurado na frente, é porque as pessoas com boas intenções fizeram o possível para evitar que alguém sentisse qualquer dor ou sofrimento por causa de suas decisões de investimento. As garantias tornaram a compra de hipotecas um "espaço seguro". Sem risco, sem preocupações.

Como uma faixa de pedestres: sem risco, sem preocupações. Certo?

Errado.

A última palavra

Perdida em todos os relatórios, discussões e debates pós-incidente está a “vítima inocente” que caminhou com uma bicicleta na faixa de pedestres à noite, com um carro se aproximando a 40 MPH. Ela apostou sua vida que o motorista cederia o direito de passagem e pararia.

E perdido.

Um uber exemplo do risco moral de espaços seguros, risco zero, e o valor daquele provérbio espanhol: “De todos os cursos seguros, o mais seguro de todos é duvidar.”

Paul Balmert

Março 2018