Contando el costo de Mi ‘Error de clave crítico’

Satisfacer la demanda de plazas de aparcamiento de primera calidad siempre es una molestia. Además, Cuando sabes que has pagado tu billete, pero de repente una carta de Euro Car Parks te exige el pago. Y tenían fotos para comprobarlo. Tardé 10 minutos en enviar prueba de que fue en ese momento y lugar. La máquina expendedora de billetes ya cargó en mi tarjeta de débito el aparcamiento nocturno. Después de reflexionar un tiempo sobre la cuestión, Euro Car Parks adoptó un enfoque diferente: retiró su exigencia de pagar la multa. y en su lugar me cobró una tarifa administrativa de £20 por todos los problemas que había causado. Mi delito parece haber sido haber ingresado sólo las primeras cuatro letras en el registro del vehículo. Este “fallo grave al ingresar la clave” es un incumplimiento de los términos y condiciones del estacionamiento. Pero el percance sólo despertó curiosidad: ¿por qué ocurren los “errores críticos de escritura” y hay algo que podamos hacer para evitarlos? En Mayo Un par de reguladores del Reino Unido han multado a Citigroup con más de £60 millones por una serie de fallas en el control de riesgos. Lo más sorprendente fue cuando un comerciante planeó vender 58 millones de dólares en acciones pero cometió un gran error en la clave. En cambio, emitió órdenes para vender 444.000 millones de dólares en acciones. Algunas de estas órdenes fueron bloqueadas. Pero el resto fue más que suficiente para provocar el precipitado colapso de los mercados bursátiles de toda Europa. El sistema hace que los errores sean sorprendentemente fáciles: los comerciantes escriben números en los campos equivocados. Pidió al sistema que vendiera 58 unidades en lugar de 58 millones de dólares, cada unidad por valor de miles de dólares. Y ese es el problema. Es una mala idea tener un sistema de negociación de acciones que le haga vender accidentalmente acciones por valor de casi medio billón de dólares. Eso explica la multa de 62 millones de libras (espero que se convenza a los reguladores para que impongan una multa tan magnífica a Euro Car Parks). Una posibilidad es decirles a los usuarios del sistema que no cometan errores. Esta parece ser la posición de Euro Car Parks y no es nada satisfactoria. Nadie planea ingresar el número de matrícula incorrecto al pagar el estacionamiento. Y no hay duda de que los operadores de Citigroup intentaban no vender accidentalmente acciones por valor de medio billón de dólares. Pero cometerá errores Otra opción es programar el software para que observe los errores de Euro Car Parks. Puede aparecer un mensaje que diga. “Solo ingresaste cuatro dígitos. ¿Estás seguro de que esto es correcto?” o incluso “jaja, la peor persona que escucharás de nuestro abogado” puede servir como advertencia. El sistema de la ciudad mostró 711 advertencias, con solo las primeras 18 líneas visibles. Eso es sólo un poco mejor que ninguna advertencia. Esto se debe a que las advertencias que fomentan la felicidad a menudo se descartan como una cuestión de hábito. Y la advertencia de Citi debe haber quedado algo eclipsada por el hecho de que el sistema a veces no asumía que las acciones tenían un precio por unidad de -1, lo que significa que si escribías mal 58 millones de unidades en lugar de 58 millones de dólares, el sistema podría decirte «Vender». Por cada 58 millones de dólares, en lugar de la cifra obviamente impactante de, ejem, 444 mil millones de dólares, podemos consolarnos con el hecho de que este no es el error de codificación más costoso de la historia. De hecho Ni siquiera fue el error de ingreso más costoso de Citigroup en esta década: en 2020, el banco volvió a transferir accidentalmente 900 millones de dólares a algunos acreedores de la empresa de cosméticos Revlon. Esto se debe a que el sistema de software facilita demasiado dichas transferencias. Algunos acreedores decidieron quedarse con el dinero, alegando que Revlon en realidad les debía dinero. Reguladores estadounidenses multan a Citi con 400 millones de dólares por sistemas defectuosos podríamos reírnos Pero cuando el sistema exige perfección por parte del operador. Las consecuencias pueden ser trágicas, afirmó Nancy Leveson, profesora del MIT especializada en seguridad de software. Se ha registrado el caso infame: Therac-25 Therac-25 es un dispositivo de radioterapia de los años 80 que puede disparar haces de electrones o rayos X de alta energía a un paciente. El tipo de viga es importante. Se dispara un haz de rayos X. «Máquina alisadora» para distribuir el tratamiento en la zona correcta Pero también absorbe mucha energía. Si el haz de rayos X se expulsa con la placa plana en la posición incorrecta, El desastre seguirá. Sobrevienen desastres. En un caso, en un hospital de Texas, en 1986, un operador ingresó «e» para el haz de electrones. Luego se dio cuenta de que quería escribir «x» para la radiografía. y mueva rápidamente el cursor hacia atrás para editar el elemento. Los fallos ocultos en el sistema son tales que las soluciones rápidas pueden resultar confusas. Si tales correcciones ocurren durante los ocho segundos en los que todo está configurado La máquina plana no girará hasta su lugar. ¿Y el software se confunde acerca de la configuración de la máquina? El haz de rayos X se dispara sin plano. que transmite grandes cantidades de radiación Luego, la computadora informó al operador que solo se había administrado una pequeña cantidad del medicamento. e invítela a presionar «P» para continuar por segunda vez. El paciente, que sufría ardores, intentaba bajarse de la camilla de tratamiento cuando fue alcanzado por el segundo rayo. Posteriormente se estimó que recibió unas 100 veces la dosis prevista. Perdió el uso de sus brazos. Paralizado por quemaduras de radiación en la columna. y murió cinco meses después por numerosas complicaciones. No fue el único accidente grave que involucró al Therac-25; por supuesto, se trató de un error importante de manipulación. No existe un sistema informático infalible. Pero el software puede diseñarse para fallar de manera elegante o vergonzosa. Pensándolo bien, tal vez £20 no sea una tarifa considerable por una lección de vida. Escrito y publicado por primera vez en el Financial Times el 12 de julio de 2024, los lectores leales también pueden disfrutar del libro que empezó todo, The Undercover Economist. He instalado escaparates en librerías de EE. UU. y el Reino Unido. Los enlaces a librerías y Amazon pueden generar tarifas de referencia.