Estas reflexiones parten de un proceso polietápico contenido en la Teoría U desarrollada por Senge y Scharmer (2007)¹, la cual es utilizada para ofrecer nuevos puntos de vista y nociones sobre algún fenómeno en particular. Este proceso permite abandonar los prejuicios que se cargan y abrirse a la posibilidad de cambios en las formas de mirar y concebir estos fenómenos de interés.

En este caso, se realizó una invitación abierta a toda la ciudadanía a participar en este proceso, con el fin de tener una mirada que trascienda las disciplinas, condiciones socioeconómicas, edades, y otras características personales. En síntesis, a partir de muchas miradas individuales sobre el problema, que además se van transformando durante cada uno de los encuentros realizados, se llega a una comprensión holística, en este caso, de los efectos que tiene la digitalización de la seguridad sobre el contrato social de los habitantes de Medellín. El resultado final es un documento en el que se recogen, pero no se agotan, las contribuciones de todos los asistentes al encuentro.

En el primer encuentro los integrantes de este proceso se conocieron, enunciaron sus concepciones, temores y esperanzas frente al auge de las nuevas herramientas digitales y su rol en el ámbito de la seguridad. Esto permitió reconocerse como individuos con una posición válida, pero también reconocer a sus interlocutores como iguales, que aunque tienen opiniones diferentes, también pueden ser escuchados y con los que se puede construir nuevas posiciones y consensos.

En el segundo encuentro los participantes conocieron el sistema en el que se enmarca el proceso de digitalización de la seguridad, y mediante un ejercicio lúdico identificaron los actores institucionales y no institucionales más relevantes, la posición de estos al interior del sistema, sus puntos de contacto y de tensiones. La conclusión de este ejercicio colectivo es la creación performativa de la sociedad, construida de forma colectiva e identificando las potencialidades y riesgos que implican la introducción de las nuevas tecnologías en este. Es decir, se pasa de la posición individual del primer encuentro a una posición más integradora.

El tercer encuentro consistió en una observación de caso en la que se evidenció la materialización del fenómeno de interés. En este caso, se visitó el Sistema Integrado de Emergencias de Medellín (SIES-M), lugar que alberga el sistema de recepción de llamadas de emergencia así como el sistema de vigilancia por cámaras de la ciudad. Estar allí permitió contrastar las posiciones y visiones de la digitalización de la seguridad que se construyeron en los dos encuentros con sus aplicaciones reales, esto ofrece mayor solidez a algunas de las conclusiones a las que los participantes habían llegado, pero también abre paso a nuevos interrogantes y miradas que quizás no eran consideradas al inicio de este proceso.

Este recorrido de enunciación, descarga, representación y observación lleva de forma natural al cuarto encuentro, dedicado a la reflexión de lo vivido. A este los participantes llegaron con una pregunta base que sirvió para llevar a cabo una discusión mucho más amplia: ¿Cuánta de mi privacidad y libertad individual estoy dispuesto a sacrificar por la seguridad y el bien común? Mediante un ejercicio de presencia plena y cocreación lúdica se discutieron este y otros aspectos relacionados de los cuales se recogieron los aspectos más relevantes y las conclusiones a las que se llegó de forma conjunta.

Esto se plasmó en un escrito, denominado “documento mártir” pues en un último encuentro los participantes tuvieron la oportunidad de leerlo, revisarlo, subrayarlo, reconstruir algunas de las partes con las que no se encontraban totalmente de acuerdo y agregar otros aspectos que pudieran haberse omitido.

La versión última, que no pretende agotar la discusión sobre el objeto de estudio, agrupa todas las voces de los participantes, sin que ninguna tenga preponderancia sobre otras. Acá se desarrollan las reflexiones más significativas que se generó en el proceso acerca de los efectos que tiene la digitalización de la seguridad sobre el contrato social de los medellinenses. Estas reflexiones, de forma muy general, pueden sintetizarse en dos frases:

Un fragmento de una canción de Jorge Drexler: “La máquina la hace el hombre, y es lo que el hombre hace con ella” y,

Una frase del poeta y crítico literario Jorge Gaitán Durán: “Todo edificio estético [social en este caso] descansa sobre un proyecto ético. Las fallas en la conducta vital corrompen las posibilidades de la conducta creativa [social]”.

En este ejercicio de construcción ciudadana nadie cuestionó la utilidad que tiene la digitalización de la seguridad, materializada en la ubicación de cámaras o en la implementación de herramientas de Big Data y Machine Learning, en la prevención y contención del delito. Estas herramientas han demostrado ser efectivas cómo método de protección, pues disuaden a los posibles delincuentes, graban hechos delictivos y “pueden servir como material probatorio en caso de injusticias o abusos.”²³

“No se debe sentir miedo de sentirse grabado o grabada si se puede contribuir a una efectiva consolidación de la Seguridad Ciudadana.”

Las discusiones alrededor de la digitalización de la seguridad toman otro cariz, pasando de la pregunta por la utilidad de las tecnologías a la pregunta por la necesidad o el fin que tienen estas. El “¿Por qué?” y el “¿Para qué?” de la digitalización remite a toda una conversación sobre principios en los que los participantes rescataron algunos como la confianza, la compasión y la ética. Este último fue mencionado en cinco de los documentos de conclusiones realizados al final de la actividad de presencia plena (cuarto encuentro). Algunas de las menciones fueron:

• Que los datos recolectados puedan ir de la mano no solo con la seguridad sino también con la construcción de una sociedad ética.
• La Administración Pública debería regir sus acciones con base en la ética y el respeto por el otro, dejando de lado los intereses mercantiles y performativos.
• Cámaras y vigilancia con ética profesional.
• La herramienta sin criterio ético no soluciona.

Partiendo entonces de este enunciado: “Las herramientas per se no son buenas o malas. El uso que se les dé a estas es lo relevante, acá lo ético en el uso y manejo de la información y datos es útil para prevenir posibles daños”, podemos formular la siguiente tesis o consigna de la cual se desprenden otras ramificaciones:

Es necesario establecer un protocolo que garantice la ética en el empleo de las herramientas tecnológicas

En primer lugar, es importante llegar a una definición básica de lineamientos éticos en entornos digitales. Se resaltó la necesidad de orientarlos hacia el tipo de sociedad que necesitamos o nos imaginamos⁴. En este caso, una aproximación deseable puede ser la adoptada en Corea del Sur y que puede sintetizarse en cuatro principios:

1) responsabilidad de los usuarios de regular el uso, 2) responsabilidad de evaluar el impacto social negativo de la IA y los robots en los proveedores, 3) responsabilidad de los desarrolladores de eliminar el sesgo y las características discriminatorias en la IA, y 4) llamamientos para desarrollar IA y robots que no tienen características “antisociales”. En términos generales, la mayoría de las políticas y los principios éticos en Corea del Sur ponen énfasis en equilibrar la protección de la “dignidad humana” y el “bien común”, y reafirman la idea de que estas son “herramientas destinadas a proteger la dignidad humana y promover el bien social común”.⁵

Las intervenciones y acuerdos de los participantes guardaron muchas relaciones aunque sin influencia directa, con el párrafo superior. Entonces, se concluye que las políticas públicas que apunten a una digitalización de la seguridad deben construirse sobre la base de unos protocolos o guías de acción que garanticen entre otras cosas, los siguientes puntos:

1. Transparencia en el uso de la información recolectada: la información debe ser usada para los fines dispuestos, la prevención y contención de hechos delictivos y para garantizar los Derechos Humanos. Además, la ciudadanía tiene el derecho de saber que se hace con su información.
2. Interconectividad entre las instituciones que recolectan información: para garantizar una mayor eficiencia en la prevención y contención de hechos delictivos u otras problemáticas, estas instituciones deben tener criterios previos y sólidos de análisis y ejecución. Esto también implica buscar un equilibrio entre la excesiva centralización y descentralización de la información recolectada.
3. Componente educativo de funcionarios: aquellos que empleen las herramientas tecnológicas deben estar capacitados en los límites éticos y legales de la vigilancia ciudadana.
4. Formación ciudadana en tecnologías: es clave que la ciudadanía pueda formarse un criterio con respecto a estas tecnologías y que puedan ser críticos frente a su uso.
5. No emplearlas para limitar el ejercicio del derecho a la ciudad por parte de la ciudadanía: nadie debe sentirse coaccionado a actuar de una forma distinta a su pensar. Las herramientas tecnológicas como las cámaras no deben emplearse para disuadir a las personas de realizar actos como marchas y manifestaciones ciudadanas.

Es importante también resaltar, como mencionó el filósofo y profesor de la Universidad EAFIT Jonathan Echeverri Álvarez en un reciente conversatorio sobre ética en entornos digitales⁶, que este protocolo no puede quedarse meramente en un código deontológico sin efectos observables. Un gran desafío es convertirlo en un tema cultural cuyos efectos se traduzcan en cambios de conducta y de comportamientos por parte de agentes institucionales y de la ciudadanía en general.

El principio del contrato social implica de forma general la renuncia a ciertas libertades individuales, bajo la garantía de la salvaguarda por parte del Estado, de la integridad personal y de la propiedad privada. Entonces, cuando la seguridad o protección frente al delito se remite solo a la imposición de limitaciones a la autonomía individual, la relación entre el Estado y la ciudadanía se fragmenta y se ve amenazada. Un protocolo ético debidamente aplicado serviría para reconstruir esta relación y daría paso a la segunda consigna:

“Lo contrario de la seguridad no es la inseguridad, sino la desconfianza”

La palabra confianza fue mencionada ocho veces por los participantes del encuentro de presencia plena; por lo tanto, emerge como la condición más importante para una garantía del respeto al contrato social en los tiempos de la digitalización de la seguridad. Un protocolo ético en el empleo de las tecnologías es un primer paso para la reconstrucción de la confianza, en algunos casos resquebrajada. Esto se recoge en la conclusión de uno de los participantes: “Lograr la confianza de la ciudadanía en la cámara, donde el buen uso dependa del equipo humano que hay detrás.”

Una de las maneras más creativas, y acordes con la participación ciudadana, sugeridas para fortalecer la confianza en las instituciones es promover “La posibilidad de que los usuarios participen en el diagnóstico y en las soluciones puede ayudar a tener mayor confianza en las decisiones digitales.” Esto remite a su vez al concepto de seguridad como construcción colectiva y nuevamente a la necesidad de un protocolo ético de manejo de estas herramientas digitales.

En tercer lugar, la necesidad de una definición más integral de la seguridad y que trascienda la mera contención de delito, es otra de las tesis más relevantes identificadas por los asistentes a este espacio de cocreación y presencia plena. La seguridad en el siglo XXI y ante el auge de las herramientas digitales no puede continuar siendo entendida solamente como garantizar ausencia del delito o castigo a los posibles infractores. Existen otras dimensiones que deben entrar en la agenda pública y que a su vez preceden (y condicionan) toda la discusión sobre digitalización de la seguridad y el contrato social. Entonces la consigna a la que llegaron los participantes es:

Es necesario humanizar el concepto de seguridad⁷

Una categoría mencionada en una de las hojas de conclusiones es Seguridad Humana⁸. Este concepto fue desarrollado por la Naciones Unidas en la década de los ochenta y con él se buscaba cambiar el enfoque de la protección de los Estados Nación, a la protección de los individuos, con un entendimiento de la protección muy ligado a las nociones de Desarrollo Humano.

Según este enfoque son siete las dimensiones de la seguridad que deben ser garantizadas por el Estado a los ciudadanos: económica, alimentaria, en la salud, ambiental, personal, de la comunidad, política; y en ocasiones se considera una octava dimensión: seguridad para las mujeres. Una de las intervenciones en el encuentro de presencia plena se mencionó lo siguiente:

“No se puede hablar de sofisticados mecanismos de seguridad digitales en la ciudad (sus centralidades) cuando en las laderas o periferias, servicios más simples de resolver no son satisfechos.”

Se evidencia entonces la necesidad de garantizar otras dimensiones de la seguridad como la económica y de las comunidades en este caso, previo a una discusión sobre la conveniencia de una digitalización de la seguridad o de su análisis. Otra visión más integral se recoge en la siguiente conclusión de un participante:

“La seguridad no solo se relaciona o define desde la vigilancia y el control, es importante acercarla a la convivencia, la confianza y la garantía de derechos fundamentales para la vida digna y el desarrollo territorial de las comunidades.”

Como si de un tejido se tratara, el párrafo anterior entrecruza los principios rectores de las tres consignas mencionadas: una nueva noción de seguridad, la confianza y la ética. El entrelazamiento de estas tiene como resultado un foco en la garantía de los Derechos Humanos, así como priorizar mayores niveles de desarrollo comunitario. Pero no solo eso, se rescata también una cuarta consigna, muy importante, acerca del papel que juegan las tecnologías en la sociedad y que puede enunciarse de la siguiente manera:

La convivencia es otra de las formas de la seguridad

Por lo tanto, es necesario que las herramientas digitales además de contener la ocurrencia de hechos delictivos, esto basado en un protocolo ético ya enunciado, garanticen también, entre otras cosas, nuevas formas de convivir, de “reconocernos en diversidad para armonizar la convivencia a partir de las singularidades” y de generar también una mayor apropiación de los espacio públicos por parte de la ciudadanía. “La convivencia es la clave de la seguridad, se requiere recuperar la confianza. La seguridad es garantía de derechos.”

En el último encuentro, en el que los participantes leyeron de forma crítica el texto que recogía la construcción colectiva se realizaron recomendaciones y ajustes que fueron recogidos en esta versión final. Además, surgió una nueva consigna que no había sido previamente incluida:

La seguridad no depende tanto del ciudadano como de las instituciones.

La seguridad, además de ser una construcción colectiva es un proceso de corresponsabilidad en el que individualmente corresponde a cada uno la labor de hacer sentir seguros e integrados a los demás ciudadanos en un proceso de construcción de convivencia. Sin embargo, el principal encargado de las políticas de seguridad, de la prevención del delito y de garantizar que las herramientas tecnológicas usadas para contener el delito se empleen bajo un protocolo ético es el Estado.

Queda claro que no hay ninguna discusión acerca de la utilidad de las herramientas tecnológicas aplicadas a la seguridad. La discusión más valiosa se desarrolla alrededor de las relaciones de confianza entre la ciudadanía y el Estado, a las nociones de seguridad, al fortalecimiento de la convivencia, a garantías éticas en el uso de estas herramientas y a la noción de corresponsabilidad. Una de las conclusiones que sintetiza todo esto podría ser:

“Las cámaras/tecnología son un soporte de políticas; no son la herramienta principal, y, por ende requieren de políticas de acompañamiento que promuevan seguridad humana, convivencia y desarrollo socioeconómico. Esos tienen que ser los esfuerzos principales.”

Finalmente, dada la multitud de voces contenidas en este ejercicio, surgen algunas preguntas aún sin responder que son tan necesarias como las consignas, para entender de forma plena los efectos de la digitalización de la seguridad sobre el contrato social. Algunas de estas son:

• ¿Dentro de un protocolo para el uso y creación de herramientas tecnológicas puede estar contemplado el respeto por la esfera privada de la vida de los usuarios?
• ¿Cuál es la manera más efectiva de sensibilizar la política de uso de datos y protocolos, teniendo en cuenta que la manera en que se informa y promueve no es llamativa y contraproducente?
• ¿Cuál es la transacción de beneficios entre el uso y venta de datos?, ¿Si yo soy él o la propietaria de mis datos puedo decidir si son vendidos o no?

Y quizás, la cuestión más importante, ¿Quién debería responder estas preguntas?

1^ Theory U: Leading from the Future as It Emerges.

2^ Es otra la discusión acerca de los efectos a mediano y largo plazo de las tecnologías sobre delito así como sobre su difusión en el territorio.

3^ Todas las frases que aparecen en comillas corresponden a aportes orales y escritos realizados por los asistentes a este proceso. En este documento sus voces son prioritarias y son las que marcan su orientación.

4^ Este tópico ha sido trabajado de forma extensiva por varios países e instituciones alrededor del mundo. Este artículo del Banco Mundial recoge algunos de estos esfuerzos: https://blogs.worldbank.org/opendata/ethics-digital-world-where-we-are-now-and-whats-next

5^ Tomado de: https://montrealethics.ai/perspectives-and-approaches-in-ai-ethics-east-asia-research-summary/

6^ El conversatorio puede ser visto en el siguiente enlace: https://www.youtube.com/watch?v=VnjGs9oxRW4

7^ Se toma de una de las conclusiones, la cual es “Es necesario humanizar el concepto de seguridad desde las herramientas tecnológicas, de modo que la ciudadanía se sienta valorada y en reciprocidad de sumar a las acciones de seguridad pública”.

8^ Enfoque que a nivel local ha sido ampliamente desarrollado por el Observatorio de Seguridad Humana (OSH) de la Universidad de Antioquia. https://www.repensandolaseguridad.org/