__Esta publicación es de Tim de Sousa, editor del [Manual de reglas como código](https://github.com/Rules-as-Code-League/RaC-Handbook/wiki/1-Introduction:-What-is-Rules -como código% 3F) __

  • ** El problema: ** El pensamiento sobre las reglas como código a menudo se centra en los pasos iniciales.
  • ** Por qué es importante: ** No podemos construir lo que no podemos imaginar.
  • ** La solución: ** Imagine las ideales Rules como Code habilitado en el futuro, para que podamos diseñar para ello.

En 2021, Rules as Code (** RaC **) realmente está alcanzando su ritmo. Más gobiernos están explorando el concepto de legislación, regulación y política de consumibles de máquinas, se han establecido institutos de investigación, [artículos](https: //oecd-opsi. org / projects / rulesascode / #: ~: text = OPSI's% 202020% 20report% 2C% 20Cracking% 20the, tres% 20interrelacionados% 20problems% 20for% 20governments.) e [reports](https://hamish.dev/research/ lac / index), se están creando herramientas y plataformas, y [los equipos multidisciplinarios están aprendiendo nuevas formas de redactar e implementar reglas ensuciándose las manos](https://reganmeloche.medium.com/rules-as -code-encoding-rules-in-a-Government-context-part-3-360347dcb573).

RaC es todavía una práctica emergente. Gran parte de la discusión actual sobre RaC se centra en preguntas introductorias como por qué y _ cómo deberíamos codificar reglas ([y hemos intentado responder esas preguntas aquí](https://apolitical.co/en/solution_article/we-can -creamos-mejores-resultados-cuando-codificamos-las-reglas)), pero para comprender el verdadero potencial de RaC, tenemos que tener una visión más amplia.

En esta serie de dos partes, expuse algunos posibles futuros optimistas que podría habilitar RaC. Tenemos que preguntarnos qué tipo de mundo queremos construir con reglas codificadas. para que podamos planificar mejor cómo llegar allí.

Decisiones automatizadas confiables

La primera reacción a la que a menudo se enfrentan los practicantes de RaC es el miedo al robot asesino. ¿Qué sucede si el sistema automatizado toma una decisión incorrecta? ¿Y si esa decisión lastima a alguien? Este no es un temor infundado: hemos visto sistemas automatizados mal implementados y mal utilizados [aumentar deudas que no se adeudan](https://www.theguardian.com/australia-news/2021/jun/11/robodebt-court- aprueba-18bn-acuerdo-para-víctimas-de-gobiernos-vergonzoso-fracaso), y conducen al [arresto de personas inocentes](https://www.nytimes.com/2020/06/24/technology/facial- reconocimiento-arresto.html). Todos los sistemas construidos por humanos tienen fallas y los sistemas habilitados para RaC no son inmunes.

Como ex abogado administrativo y alguien que lidia con los usos éticos de la tecnología a diario, el uso de RaC para ayudar a las personas a comprender qué decisiones se toman y cómo se toman, es decir, para permitir decisiones automatizadas _ confiables_ es particularmente convincente.

El derecho administrativo es el cuerpo de leyes que regula la forma en que los gobiernos toman decisiones. En los países de common law, esto generalmente incluye requisitos de que solo se deben tener en cuenta los asuntos relevantes, no se deben tener en cuenta los asuntos irrelevantes, se deben dar las razones para las decisiones y debe haber vías viables para las revisiones de fondo de las decisiones.

En un futuro optimista, los gobiernos han reconocido y se han adaptado al hecho de que las máquinas son usuarios importantes de sus conjuntos de reglas.

Lo que la ley administrativa nos brinda es un marco probado para la toma de decisiones confiable y responsable. Una visión del futuro es que integramos total y consistentemente esos principios en los sistemas de toma de decisiones habilitados para RaC. En este futuro, tendremos decisiones más automatizadas, pero no necesitamos confiar de que esas decisiones son correctas porque se puede demostrar que son dignas de confianza.

Tomando mejores decisiones

Para mí, el verdadero potencial de RaC no es una toma de decisiones más rápida a través de la automatización, sino una mejor toma de decisiones. Las empresas y las organizaciones están fuertemente motivadas para automatizar los procesos de toma de decisiones: los posibles ahorros de costos y los beneficios de eficiencia son demasiado grandes para ignorarlos. Sin embargo, los procesos de toma de decisiones automatizados basados en una implementación óptima de RaC pueden garantizar que la decisión sea completamente transparente y rastreable. Específicamente, podemos construir un sistema de toma de decisiones basado en un conjunto de reglas abierto e inspeccionable, por lo que está claro qué reglas se están aplicando. También podemos entregar la decisión junto con información sobre qué reglas se aplicaron, a qué hechos o pruebas; esto proporciona razones totalmente rastreables para la decisión.

Un excelente ejemplo de este enfoque es la plataforma DataLex de Austlii, que genera automáticamente un informe con cada decisión que explica cómo se llegó a la decisión en función de las reglas y la entrada del usuario. (consulte, por ejemplo, esta consulta que le indica si es elegible postularse para un cargo federal en Australia). Esto ofrece la posibilidad de decisiones automatizadas que en realidad son más confiables que las decisiones tomadas actualmente por humanos; podremos probar, de manera concluyente, que solo se consideraron los asuntos relevantes y que solo se aplicaron las reglas correctas a la evidencia correcta. En ese sentido, las implementaciones óptimas de RaC nos ofrecen una posible herramienta para combatir problemas como sesgo implícito en humanos- tomó decisiones.

Este sistema también facilitaría mucho la realización y determinación de las apelaciones, ya sea que haya un error en las reglas o en las pruebas a las que se han aplicado las reglas. De cualquier manera, con una toma de decisiones completamente transparente y rastreable, una persona que no está de acuerdo con la decisión ya tiene todo lo que necesita para apelar, y la apelación debería ser mucho más fácil de determinar para el tomador de decisiones.

Diseñando lejos de las cajas negras

Es por eso que mi visión de futuro optimista de RaC incluye requisitos normativos claros y fundamentales para la toma de decisiones automatizada, requiriendo explícitamente que las decisiones automatizadas o parcialmente automatizadas sean transparentes, rastreables, responsables y apelables. Es decir, la regulación debe imponer una línea de base para las decisiones automatizadas que refleje los principios básicos de la toma de decisiones administrativas. Ya estamos viendo algún movimiento hacia esto: el Reglamento general de protección de datos de la UE restringe el uso de la toma de decisiones automatizada sin un 'humano en el circuito' ([Art. 22](https://gdpr-info.eu/art -22-gdpr /)), y las jurisdicciones de todo el mundo están implementando marcos y políticas de ética de IA . En un futuro optimista, la transparencia, la trazabilidad de las decisiones automatizadas se acepta ampliamente y se implementa de forma rutinaria, y los gobiernos y las empresas dan por hecho que los sistemas de "caja negra" no son adecuados para decisiones que afectan el bienestar de las personas. Las personas saben cuándo se ha automatizado una decisión que les afecta, pueden comprender fácilmente la decisión que se está tomando y cómo se está tomando, y es simple y fácil para ellos apelar si creen que hay un error.

Es probable que esta sea una propuesta más fácil en el gobierno, que generalmente tiene una expectativa de transparencia y apelación, pero las empresas pueden estar preocupadas por revelar información de propiedad a través de reglas abiertas, por ejemplo, cálculos de solvencia, que son un secreto muy bien guardado en los servicios financieros. industria. Aún así, los enfoques de RaC pueden adoptarse en entornos corporativos para permitir la transparencia _ interna_ y la continuidad de la toma de decisiones; es decir, para asegurarse de que las propias empresas comprendan cómo tomaron sus decisiones y estén en mejores condiciones de explicárselo a sus clientes.

De cualquier manera, las decisiones automatizadas serán más confiables, los ciudadanos obtendrán más transparencia y comprensión de cómo se toman las decisiones y mejores opciones para abordar las decisiones problemáticas, y los tomadores de decisiones dedicarán menos tiempo a las quejas y apelaciones, un escenario en el que todos ganan.

Modelado de resultados para respaldar leyes basadas en evidencia

En un futuro optimista, los gobiernos han reconocido y se han adaptado al hecho de que las máquinas son usuarios importantes de sus conjuntos de reglas. Como tal, han vuelto a desarrollar la forma en que crean leyes, redactando simultáneamente versiones de reglas prescriptivas legibles por humanos y máquinas, y permitiendo que las disciplinas del derecho y el código influyan en el proceso de redacción. Con los borradores de conjuntos de reglas codificados, los gobiernos pueden realizar simulaciones y modelos de políticas más fácilmente: una vez que se codifican los borradores de reglas y se crea un sistema para aplicarlos, es tan simple como cambiar las entradas, ajustar las reglas y observar los resultados. . Es similar a lo que solía considerarse un modelo económico tradicional, pero más rápido y más flexible. Cuando la intención de la política no se refleja totalmente en los resultados proyectados, los equipos de políticas vuelven a la mesa de dibujo, asistidos por la transparencia y la trazabilidad del sistema habilitado para RaC.

Por supuesto, modelar los resultados de las políticas no es nuevo y no depende de RaC. Sin embargo, RaC ofrece la oportunidad de acelerar el modelado e integrarlo en más procesos de desarrollo de políticas y, por lo tanto, respaldar políticas más basadas en evidencia. Este trabajo ya está en marcha, por ejemplo, el conjunto de herramientas Mes Aides, construido originalmente por el Gobierno francés t y ahora un proyecto civil sin fines de lucro , ayuda a los ciudadanos franceses a comprender cómo se les aplican a ellos y a su sociedad las diferentes leyes fiscales y de beneficios sociales. Entre otras cosas, proporciona calculadoras de impuestos que ayudan a los usuarios a experimentar y simular diferentes configuraciones y resultados de impuestos.

De manera similar, el gobierno canadiense está trabajando en el desarrollo de un motor de diferencia de políticas; una herramienta que, entre otras cosas, repetirá cómo las políticas evolucionan y se repiten con el tiempo, y si cumplen con los objetivos establecidos. — Tim de Sousa

En la Parte 2, discutiremos cómo RaC podría ayudar a que las leyes sean más fáciles de entender y aplicar. y desarrollar mejores procesos de cumplimiento.

👋 ¡Puedes crear una publicación como esta! Comparta sus pensamientos con una comunidad de servidores públicos. Más información .

(Crédito de la foto: Unsplash)