Hace diez años me "estrellé", tanto en lo profesional como en lo académico, con la importancia de las cuestiones legales y políticas en el terreno tecnológico. Ocurrió mientras estudiaba el fenómeno inverso, el auge del gobierno en línea y lo importante de las Tecnologías de la Información y la Comunicación (TIC) para transformar el Estado colombiano. Al respecto, mi conclusión siempre ha sido que se promueven políticas públicas, se toman decisiones y se emprenden acciones sin considerar detalles técnicos importantes (el diablo está en los detalles, dicen).
Un ejemplo de esos detalles es el margen de error, pues existen tecnologías que no son 100% confiables. En consecuencia, se generan situaciones que afectan a la ciudadanía y casi siempre se termina violando derechos fundamentales de las personas. Por ejemplo, el reconocimiento de las huellas dactilares falla en muchos casos: cuando las personas tienen problemas dermatológicos, por limpieza del dispositivo o por lentitud de la red de datos o los servidores que realizan el reconocimiento. Algo similar ocurre con el reconocimiento facial y la clasificación de imágenes, caso en el cual se pueden tener falsos positivos.
Para quienes formulan las leyes y las políticas públicas y para los tomadores de decisiones resulta muy sencillo proponer soluciones basadas en TIC y fijar tiempos para comenzar a aplicarlas. Sin embargo, en muchos casos ellos (y sus asesores) no saben o saben menos de lo necesario para tomar las decisiones apropiadas. Una solución lógica sería alfabetizar en TIC a las personas que promueven las políticas públicas y toman las decisiones. No se trata de volverlos expertos en temas de TIC, ni tampoco de que tengan un montón de expertos a su cargo devengando dinero público. Se trata simplemente de que consideren los detalles, los matices de las TIC. También se tiene la opción inversa: alfabetizar en temas legales y políticos a los expertos en TIC. Nuevamente, no se trata de crear un Frankestein mezclando abogados, politólogos e ingenieros TIC, sino de lograr una sinergia y un equilibrio en todas esas profesiones.
Yo he venido tomando el segundo camino, manteniéndome alfabetizado en leyes y políticas relacionadas con TIC. Parafraseando el nombre de este blog, he procurado estar legal y políticamente conTICtualizado. En ese camino, hay tres noticias legales recientes que me gustaría comentar brevemente:
La primera noticia es el caso de Uber, la empresa emprendedora de TIC, que ofrece una plataforma para intermediación entre conductores y personas que buscan transportarse, en medio del caos y pésimos sistemas de transporte público (en especial en Bogotá). Por la falta de normatividad, por la ilegalidad evidente y por las demandas y lobby de los taxistas, Uber se fue de Colombia, luego de un fallo de la Superintendencia de Industria y Comercio, en medio de críticas porque el gobierno promueve la economía digital en su discurso pero en la práctica no hace nada...
La segunda noticia es la Ley 2015 del 31/01/2020 "por la cual se crea La Historia Clínica Electrónica Interoperable". La ley establece que el personal tratante deberá firmar digitalmente la historia clínica electrónica, la cual deberá manejarse con los más altos estándares de seguridad y garantizar el cumplimiento de las las leyes 1581 de 2012 (Hábeas Data) y 527 de 1999 (Comercio Electrónico) y de paso deberá cumplir el decreto 1377 de 2013 reglamentario de la ley 1581. Surgen muchas preguntas y se generan muchos riesgos. ¿Quién asumirá la responsabilidad de esta información tan sensible? ¿Qué sucede si un hacker se roba la información? ¿Qué tal si los bancos y aseguradoras compran información médica para decidir si prestan o no prestan dinero? ¿Deberán los médicos alfabetizarse en firmas digitales? ... Recuerdo que hace muchos años una abogada pidió ver la firma digital impresa y por eso un proyecto de memorandos internos firmados digitalmente se detuvo por cinco (5) años, que es justo el plazo que da la ley para implementar esta maravillosa innovación naranja...
La tercera noticia es el anuncio de la Corte Constitucional sobre la inexequibilidad del parágrafo 1 del artículo 8 de la ley 1843 de 2017, sobre las "fotomultas" o multas de tránsito automáticas mediante cámaras y sensores. Estas fotomultas son una de las cosas más criticadas y temidas en Colombia, además es un negocio lucrativo cuyo dinero no se sabe en qué se invierte. Hasta ahora el dueño del carro asumía la multa solidariamente. Pero con el nuevo fallo, debe usarse tecnología de reconocimiento de imágenes. Textualmente dice el anuncio del magistrado en twitter:
"Básicamente se cae el concepto de responsabilidad solidaria... es muy importante identificar a través de la tecnología quién es quien comete la infracción. No se puede imponer una responsabilidad sancionatoria sobre una persona que no ha cometido una falta..."
Pero a Colombia aún le falta recorrer mucho camino para llegar a estos temas de reconocimiento de imágenes, en particular reconocimiento de rostros. Para lo muestra hay que recordar la paranoia generada en las protestas del año pasado, cuando el gobierno y la policía anunciaron que perseguirían e identificarían con drones y aviones especiales... Además, ese tema de reconocimiento de imágenes tiene unas implicaciones políticas bastante complejas (leer aquí y aquí), como el caso de la Inteligencia Artificial de Google reconoció como gorilas a una pareja de personas de raza negra. Incluso, hace poco salió la noticia sobre la incapacidad de las personas para diferenciar rostros naturales (reales) de máscaras (rostros artificiales)... Imaginen conducir con una máscara de una persona famosa o que el sistema de fotomultas diga que debe multarse a un orangután...
 |
| Máscara - Fuente http://web.archive.org/web/20200210215757/https://www.semana.com/mundo/articulo/las-mascaras-hiperrealistas-de-silicona-imposibles-de-detectar/651077 |
Además, los sistemas que clasifican y reconocen imágenes son entrenados por seres humanos y suelen tener sesgos y errores, que nadie vigila ni controla, de lo cual se puede derivar más problemas que soluciones. Por ejemplo, usando un sistema que ya no está disponible (https://imagenet-roulette.paglen.com/) analicé imágenes de políticos famosos y los resultados sorprenden mucho.
Imaginemos que una cámara de fotomultas analiza nuestro rostro y nos considera terroristas o buenos prospectos para presidente... Mientras tanto, aquí dejo una lista de varios sistemas en línea que realizan búsqueda, reconocimiento y clasificación de imágenes (además de los de Google, Amazon, IBM...).
- https://imagga.com/auto-tagging-demo
- https://tineye.com/
- https://cloudsight.ai/
- https://deepai.org/ai-image-processing
- https://www.electronicid.eu/video-id/
- https://aws.amazon.com/es/rekognition/
- https://cloud.google.com/vision/?hl=es
- https://cloud.ibm.com/catalog/services/visual-recognition
Para cerrar y ConTICtualizando, el gobierno expidió a final del año pasado el CONPES 3975 Política Nacional para la Transformación Digital e Inteligencia Artificial, una iniciativa interesante y necesaria. El tercer objetivo de ese CONPES es "Fortalecer las competencias del capital humano para afrontar la 4RI con el fin de asegurar el recurso humano requerido". Hay un trabajo interesante que debemos liderar desde la academia, desde la Universidad y las primeras personas que deben fortalecer sus competencias en TIC son nuestros gobernantes, los hacedores de política pública y tomadores de decisiones. Es necesario cualificar el talento al servicio del Estado, para que se pueda cumplir la promesa de que las TIC transformen el país...
