Imagina que formas parte del gobierno de la ciudad responsable de la planificación urbana. Escribe una carta para abordar la mayor obligación ética de un sistema similar al LASER.
Como división encargada de la planificación urbana de la ciudad de Los Ángeles, estamos obligados a garantizar que el sistema LASER genere mejoras sostenibles y equitativas para nuestros barrios, especialmente los socialmente marginados. Para ello, necesitamos que el LASER genere resultados que no se dirijan a grupos raciales -comunidades afroamericanas, por ejemplo- y agraven a su vez el acoso policial preexistente en esas regiones. Sin embargo, no existe ninguna fuente posible de datos de entrada para que el LASER logre ese objetivo. El algoritmo ha sido acusado históricamente de elaboración de perfiles raciales a pesar de no utilizar la raza como predictor de tendencias delictivas. Sin embargo, nuestra sociedad está plagada de un racismo tan arraigado que los propios puntos de datos llevan la marca de la ideología y las prácticas discriminatorias. Por ejemplo, la pertenencia a bandas como predictor en el LASER sirve esencialmente como sustituto de la raza. Las bandas en las comunidades afroamericanas surgieron como resultado de la privación económica, la insuficiencia de recursos y el acoso policial, fenómenos cuyas raíces se remontan fácilmente a la antigua segregación racial. Del mismo modo, los antecedentes penales guardan los vestigios del Nuevo Jim Crow. Por tanto, utilizar la actividad de las bandas y las detenciones anteriores como predictores en el sistema LASER sólo genera resultados con fuertes connotaciones raciales, que a su vez refuerzan y reifican los prejuicios históricos.

A pesar de lo problemático del algoritmo, no necesitamos desechar el sistema por completo. Cuando el LASER señala lugares de discriminación y privación profundamente arraigadas, debemos repararlas, pero no agravarlas. En lugar de redactar boletines sobre delincuentes crónicos, podemos tratar los resultados del LASER como agenda para nuestros próximos proyectos de bienestar social y construcción de infraestructuras: ¿dónde necesitamos construir más escuelas y hospitales? ¿Adónde debe ir el dinero para crear más oportunidades de empleo? ¿Dónde tenemos que abordar el problema de la mala conducta policial y reconstruir la relación entre las personas y las fuerzas del orden? Si no podemos arreglar un algoritmo de "sesgo dentro, sesgo fuera", al menos podemos atender a la información que ha generado y averiguar dónde los sesgos han causado estragos y se han cobrado un alto precio. Entonces podremos redistribuir los recursos y la financiación en consecuencia, de modo que los barrios históricamente desfavorecidos tengan la oportunidad de prosperar. Al hacerlo, podemos lograr tanto la sostenibilidad como la equidad. Podemos esperar que los índices de delincuencia bajen cuando el barrio consiga crecimiento económico y empleo, y esa reducción de la delincuencia es sostenible, a diferencia del sistema LASER original, que sigue discriminando y privando.