El Imperativo de la Auditoría — Por Qué los Sistemas que te Gobiernan Deben Poder Leerse
Abrí una terminal y escribí un comando que nunca habías corrido. Podés leer su código fuente, rastrear su salida, encadenarlo a otro comando, deshacer lo que haya hecho. Ahora intentá averiguar por qué te negaron el crédito, por qué te subió la prima del seguro, por qué un algoritmo de selección te puso por debajo de un desconocido. No podés. No porque el razonamiento sea demasiado complejo de explicar, sino porque nadie que construyó el sistema tenía intención de que lo vieras. Poné las dos cosas una al lado de la otra y aparece una pregunta que no tiene nada que ver con computadoras específicamente: ¿qué le debe un sistema a las personas que gobierna, y por qué algunos sistemas honran esa deuda mientras otros tratan la opacidad como una virtud? …