Estudio de Caso IA – Imágenes diagnósticas para COVID 19

INDIRA – Plataforma basada en IA para proceso de imágenes diagnósticas

¿Qué se sabe sobre el estudio de caso?

Índigo Technologies es una compañía colombiana de desarrollo de software, que utilizan IA para procesar imágenes radiológicas para detección de varias enfermedades. La organización busca utilizar los sistemas de IA y los datos para asumir tareas repetitivas y permitir a los médicos y los pacientes poder tener un mejor trato humano, de acuerdo con el CEO.

Esta entidad desarrolló INDIRA la plataforma que ayuda a diagnósticos médicos basados en imágenes; la plataforma actualmente ayuda a diagnosticar 25 patologías entre ellas cáncer de pulmón, enfermedades cardiovasculares, trastornos en vías respiratorias. Cuando aparece el virus del COVID 19, Índigo desarrolla dentro de la plataforma el reconocimiento de patrones de este virus en el tipo de neumonía que éste produce. Como partner tecnológico Índigo trabaja con Microsoft.

Fuente:   https://indira.ai/wp-content/uploads/2019/10/indira_nodulos.gif

¿Qué papel juega en los imaginarios contemporáneos? ¿En fantasías (o pesadillas)? ¿Qué tipo de narrativas nacionales lo utilizan? ¿Cómo aparece en el entretenimiento? ¿Qué otras grandes narrativas, historias y asociaciones fuertes lo involucran?

En la actualidad el papel de este nuevo desarrollo constituye una herramienta complementaria, a la prueba PCR, desarrollada por Índigo con base en algoritmos de IA que permite en menor tiempo la entrega de resultados, con equipos de rayos x y tomógrafos disponibles en el país. Esta herramienta presenta una solución alcanzable y útil para el cuidado de la salud, que permite diagnósticos tempranos de enfermedades complejas, respiratorias y de corazón que adicionalmente ayuda al diagnóstico del COVID 19.

Teniendo otros ejemplos donde INDIRA es exitoso en su diagnóstico se cuentan con evidencias que este programa tiene una confiabilidad de 99.3% en diagnóstico de cáncer de pulmón. Con base en la experiencia de análisis de imágenes y teniendo en cuenta la afección pulmonar que genera el Coronavirus, Índigo Technologies desarrolla la solución de IA para imágenes de pulmón y la presencia de neumonías derivadas del COVID 19, para poder determinar si la persona ha sido contagiada. Si bien de acuerdo con la Organización Mundial de la Salud, la prueba aprobada es la PCR, la misma implica grandes retos en países donde el ingreso no es alto ni tampoco las capacidades instaladas son suficientes así como la logística de transporte de pruebas se convierte en desafíos adicionales.

Es realmente un avance importante en términos de prevención de enfermedades, utilizando elementos y equipos que ya se encuentran disponibles en los establecimientos médicos y que pueden ser utilizados en varias regiones del país.

Cuáles son las historias “oficiales” de su objeto? ¿Qué se sabe generalmente sobre la invención? ¿Existen versiones diferentes y competitivas de sus historias? ¿Cómo ha viajado históricamente? ¿Qué otras grandes narrativas hacen referencia a él y cómo importan esas referencias?

Índigo Technologies, tiene como objetivo de empresa:  Ayudar y acompañar a clínicas y hospitales a ser altamente eficientes, para salvar y mejorar la vida de las personas a través de tecnologías innovadoras e inteligentes, prestando servicios a nivel de Latinoamérica.

Su propósito es brindar a las instituciones de salud soluciones tecnológicas e inteligentes que permitan cubrir la prestación de servicios, entregar información en tiempo real y ayudar a tomar de decisiones oportunas y acertadas con diagnósticos cada vez más precisos.

Dada la morfología de la neumonía que genera el COVID 19, el algoritmo desarrollado reconoce los patrones de afección ocasionados por el virus. Después de las pruebas realizadas se logra una certeza de 93.7% de sensibilidad y un índice de especificidad de 98.1%, lo que significa la evidencia de la ausencia del virus. De cada 100 casos con neumonías de Coronavirus, el algoritmo está en condición de identificar con exactitud a 98 de ellos.

Fuente: https://blogs.microsoft.com/latino/2020/04/16

Para el funcionamiento de la plataforma únicamente se requiere una conexión a internet lo cual es importante para las instituciones que no cuentas con equipos de diagnóstico. El servicio se presta a través de la nube de Microsoft, y se obtienen resultados en un tiempo no mayor a una hora, buscan como empresa reducir tiempos de entrega de resultados, mayor precisión de diagnósticos y un incremento de capacidades diagnósticas permanente con las tecnologías utilizadas de IA.

Como reflexión final esta es una iniciativa de IA, enfocada netamente en temas de salud y prevención de enfermedades, ya utilizada desde hace décadas pero que con algoritmos adicionales de IA permite ayudar en los diagnósticos de COVID 19.

En este caso de IA claramente se ve el objetivo de la organización de ayudar a las personas generando diagnósticos tempranos de enfermedades complejas, y donde la tecnología se ha convertido en un elemento estratégico para el cumplimiento del objetivo de organización, es un claro ejemplo del uso de la tecnología como un medio para resolver una situación, más que utilizar la tecnología como objetivo mismo.

Las empresas hoy buscan una transformación de sus objetivos alrededor de las tecnologías, no significa cambiar los objetivos sino utilizar las tecnologías como medios estratégicos para lograr un mejor servicio a la sociedad.

No es la tecnología lo importante sino las personas y su salud lo que tiene valor, de acuerdo con lo que Índigo Technologies busca con sus servicios.

Considero un logro importante a nivel país en el desarrollo de IA, con el fin de optimizar los recursos que se tienen y poder entregar algo más a la sociedad, aunque existen en otros países desarrollos similares con estos objetivos.

Links:

BITCOIN COMO UN NUEVO SISTEMA FINANCIERO PARA AMÉRICA LATINA

Durante los primeros años del siglo XXI se vivió lo que muchos nombraron como una época de tecno-utopías por las diferentes propuestas que surgían entorno a las habilidades de la naciente red global, de construir una humanidad activa, participativa y empoderada en comunicación constante a través de redes digitales abiertas. Si bien internet no se convirtió en esto, si generó los espacios necesarios para que las propuestas con estas intenciones tuvieran cabida y lograran generar movimientos de relevancia en diferentes partes del mundo.

Entre estas propuestas en 2008 se crea el Bitcoin como la primera moneda electrónica diseñada por Satoshi Nakamoto como una “cadena de firmas digitales”. Como se lee en un texto de John Baldwin “… el desarrollo y operación de monedas digitales como el Bitcoin puede iluminar la economía digital emergente, su discurso y sus descontentos.” (2018, traducción propia). Para algunos usuarios esta forma de mercado financiero emergente se caracteriza por: “la primera cosa que conozco donde se puede ser rico y cambiar el mundo a la vez” (Voorhees in Popper, 2015, p 9) “Es intercambiar dinero sin bancos y trabajar con el dinero sin dinero” (Lanchester, 2016, p 8)(2018, traducción propia). Lograr construir un sistema financiero sin los sobrecostos de los bancos, independiente de las condiciones internacionales, con posibilidad de ser pensado desde cero, con la inteligencia artificial a su favor, puede generar una nueva forma de relacionarnos con el dinero. 

Todo esto nos lleva a preguntar ¿es posible pensar en una moneda unificada latinoamericana que este soportada en criptomoneda con el fin de ir construyendo estabilidad?

Sin embargo, hay que seguir el argumento del texto de Baldwin donde afirma que las tecno-utopías tienden a ser inocentes de los procesos que explotan internet y que deben ser tenidas en cuenta diferentes críticas antes de glorificar a las criptomonedas. La última alarma la acaba de generar Elion Musk al hacer una jugada financiera que le hizo ganar millones de dólares, perdidos por la gente. Su cambio de opinión sobre la relación entre los carros Tesla y las criptomonedas cambio el precio en cuestión de meses, haciéndole perder credibilidad a las criptomonedas al generar desconfianza por su volatilidad.

También es importante resaltar que la cantidad de energía que se necesita para mantener estos sistemas funcionando es excesiva y debe ser construida con sistemas sostenibles sino colapsará, “…la cantidad de energía que se consume en las operaciones de blockchain es tan grande que ha generado la idea que el Bitcoin es en si mismo insostenible” (Malmo in Golumbia, 2016, p 43). Argumento también de Musk para decir que no sigue apoyando a las criptomonedas.

En este sentido, la inteligencia artificial puede ayudar a evitar las fallas que aprovechan los hackers y buitres de las finanzas, y los sistemas deben ser transformados por energías renovables para pensar en un futuro de criptomonedas que puede ayudar a superar algunas deficiencias del mercado actual. Usar la tecnología para el manejo de data, la eficiencia y optimización de costos, podría ayudar a conformar una realidad soñada donde los bancos son remplazados por un gran sistema de intercambio automatizado completamente digitalizado donde los robots hacen todo el trabajo.

BIBLIOGRAFÍA

https://www.forbes.com/sites/louiscolumbus/2020/10/31/the-state-of-ai-adoption-in-financial-services/?sh=74b0cbc42aac

https://www.nature.com/articles/s41599-018-0065-0

Inteligencia Artificial Sensorial

Por Juan Carlos Torres Lizarazo

La tecnología e inteligencia artificial al servicio de los sentidos probablemente inició con los medios audiovisuales que, rápidamente, fueron evolucionando hasta crear el gran predominio de la cultura de los medios actuales, también aparecieron medidores de temperatura o de calor térmico, y a estos se les han ido sumando sentidos bastantes complejos como el gusto, el tacto y el olfato. La medición de dichos datos tiene que ver, fundamentalmente, con el análisis de aceites, gases y del agua en procesos industriales.

Ahora bien, con la inclusión de la Inteligencia artificial en los procesos, a estos elementos de medición se les añade un proceso de clasificación de olores, niveles de acides, amargura, sequedad, de algunos alimentos, por ejemplo. El proceso de análisis que antes hacía un panel de expertos en la gastronomía, ahora se está trasladando a e-noses o e-tongues. Estos aparatos realizan una clasificación similar, aún no tan compleja, pero mucho más rápida y ¿precisa?

Justamente, dicho concepto de precisión implica una lectura basada en datos muy concretos: niveles de determinando componente químico en una sustancia que puede considerarse más o menos ácida, por ejemplo. Ahora, nos surge una serie de preguntas al respecto. ¿Bajo qué parámetros electroquímicos es posible entender lo dulce, ácido, amargo? ¿De qué manera se analizan los cambios o variables posibles cuando esas características químicas cambian de contexto? ¿El siguiente paso será que puedan realizar juicios de valor sobre sabores, olores, sonidos? Y, por lo que de allí deriva ¿Serán capaces estos aparatos electrónicos de crear sentido, o analizarlo, a partir de ese tipo de datos?

Investigación

A continuación, presento algunos de los conceptos que surgen de este tipo de IA y parte de los procesos que se realizan para los análisis. E-nose es: “un dispositivo que comprende una serie de sensores electroquímicos con sensibilidades parcialmente solapadas entre sí, y un sistema de reconocimiento de patrones apropiado, capaz de reconocer olores simples o complejos [Negrillas añadidas]” (Fernández et al, 2016, P. 354).

Una vez obtenidos esos datos, se da lugar a una etapa de clasificación y procesamiento de los datos. “La etapa de preprocesado tiene como objetivo reducir la redundancia de los datos de entrada, para optimizar la respuesta del bloque de reconocimiento de patrones, cuya salida representa la clasificación del olor” (Fernández et al. 2016, 355).

Dichas clasificaciones son apenas iniciales, una vez conseguidos esos datos, es cuando se vuelve necesario recurrir a la inteligencia artificial, las cuales están generalmente conectadas a unos sistemas conectados a través de la red. Qué permiten estos sistemas de conexión web:

(1) aceptar datos adquiridos por narices electrónicas con capacidad de conexión a red, (2) clasificar las sustancias de interés usando técnicas de IA para reconocimiento de patrones, y (3) proporcionar una aplicación web de altas prestaciones, capaz de generar resultados de clasificación de aromas en respuesta a peticiones de clasificación en línea, con mínimo retardo (Fernández et al. 2016, 355).

Esta tecnología inicial, aún no devela la complejidad de la Inteligencia Artificial que la caracteriza. Pues si bien recoge y clasifica algunos datos, aún no llega al punto de crear unas especies de juicios de valor para esa información. Recordemos que, según la epistemología, el conocimiento surge, justamente, gracias a nuestra experiencia, a través de la cual se recoge información que se categoriza y luego se expresa en juicios.

El perceptrón multicapa es un tipo de red neuronal artificial (RNA) dotado de una red homogénea de procesadores idénticos o neuronas, organizados en varios planos o capas, con interconectividad completa entre cada neurona de una capa y las neuronas de la capa inmediatamente anterior, aplicando una suma ponderada de todas las conexiones, y una función logística o de saturación a la salida” (Fernández et al. 2016, 356).

Así, la premisa “todos los perros son mamíferos” es un ejercicio de categorización a partir de la experiencia. Sin embargo, hay un determinado tipo de juicios más complejos que son de carácter subjetivo, pero que se podrían universalizar o al menos tienen esa pretensión. A esto es a lo que se le podría conocer como el gusto y de él surgen obras de arte, por ejemplo. La inteligencia artificial, al simular un complejo ejercicio neuronal ¿tendría la capacidad de crear obras de arte a partir de datos de color, formas, tonos? O ¿Podría crear un plato desde los conceptos de lo dulce, lo ácido, lo amargo? Y, por lo tanto ¿deberíamos considerar estos como formas “más precisas” de belleza o buen sabor?

Como ejemplo de esta tecnología, está la empresa NUXTU, pionera en Colombia en cuanto a Inteligencia Artificial para e-noses y e-tongues

La nariz y lengua electrónica de NUXTU detecta tanto en cualitativa como cuantitativamente cualquier sustancia, sus parámetros y concentraciones tanto en aceite como en agua e incorpora estos datos en su programación inteleginte, aprendiendo con cada uso y mejorando la calidad de sus análisis con el tiempo. (NUXTU, 2021)

https://todoesciencia.minciencias.gov.co/nuxtu-ruta

https://nuxtu.co/?lang=es

Inteligencia Artificial asociada a vehículos autónomos

Mario Cuéllar

El caso asociado a Inteligencia Artificial (IA) seleccionado gira en torno a los vehículos autónomos. Esta iniciativa tecnológica trae como beneficio el uso del tiempo del conductor (ya no es necesario), trazado de rutas mas eficientes, ahorro de combustible asociado reducción en las emisiones de carbono, movilidad a un sector de la población que no cuenta permisos para conducir, seguridad en las vías, disminución de accidentes con resultados fatales.

Este último aspecto toma fuerza en los fabricantes de autos vehículos autónomos, ya que esta tecnología se presenta como forma de disminuir la accidentalidad fatal y de lesiones debido a errores humanos. Así por ejemplo, en el contexto colombiano la Agencia Nacional para la Seguridad Vial ANSV (https://ansv.gov.co/es/observatorio/novedades/infografia-abril-2021) reporta que entre enero y abril de 2021 se registraron 2.178 fallecidos que a comparación del año 2020, en el mismo periodo, representa un aumento del 31.3%, es decir, 519 víctimas adicionales (accidentes en vehículo 10.5% del total de fallecidos y 15.2% del total de lesionados).

Bajo esta narrativa de seguridad se han venido desarrollando proyectos de vehículos autónomos (Tesla, Volvo, Hyundai, BMW, Mercedes-Benz, Lexus, Mazda) no solo como prototipos sino como flotas que ofrecen servicio de transporte público como Uber y Waymo One. En la ciudad de Phoenix estado de Arizona en el suroeste de los EE.UU., con solo ingresar a la aplicación y marcar el destino (aún cuenta con conductor de seguridad).

Fuente: Captura de pantalla de: https://www.xataka.com/vehiculos/cuales-son-y-que-estan-haciendo-las-principales-empresas-en-la-carrera-por-el-coche-autonomo

Ahora bien, los vehículos autónomos funcionan por medio de un conjunto de sensores que recoge los datos acerca del entorno, su relación con el vehículo y el ambiente. Por medio de una serie de algoritmos el software interpreta los datos recogidos a través de los sensores y los algoritmos crean rutas, trayectorias y decisiones (reconocer, planear y actuar) frente a la velocidad asociadas a las normas de tránsito, maniobras, posición, alerta de proximidad de otros vehículos y peatones.

Sin embrago, el software que controla el vehículo no cuenta con todas las situaciones posibles de programadas, ya que los lenguajes de programación al ser instrumentos de identificación, contenido y relación de los conocimientos contenidos o administrados en un sistema de IA, parte de un conocimiento que un experto físico convierte en conocimiento abstracto.

Esta condición ha hecho que los accidentes fatales como el Elaine Herzberg de 49 años en el estado de Arizona (18 de marzo de 2018) y el del Tesla Model X que se estrelló contra una barrera en Florida a pesar que el piloto automático estaba encendido, ha generado una reflexión sobre de quién es la responsabilidad civil de los vehículos autónomos: ¿del conductor que hace el cambio de control hacia el software?, ¿del fabricante? o ¿de la decisión que el vehículo toma de manera autónoma?

En este sentido, y en sintonía con el primer conjunto de preguntas orientadoras de este pequeño ejercicio de investigación, aparece la construcción de una narrativa de responsabilidad civil, en el campo de las instituciones, liderada por la Junta Nacional de Seguridad del Transporte (NTSB) de Estados Unidos (NTSB), analiza los accidentes provocados o en los que se ven involucrados vehículos autónomos desde una perspectiva de equidad y solidaridad con los afectados.

Fuente: Captura de pantalla de: https://www.bbc.com/mundo/noticias-50498044

Sin embargo, existe una tensión entre el riesgo y el desarrollo de este tipo de tecnología, en los que los sujetos no pueden afectar la seguridad de las personas a expensas de un desarrollo tecnológico.  

De esta manera, emerge dentro de la narrativa de la responsabilidad civil la discusión del equilibrio entre proteger las vidas de las personas y no afectar el desarrollo de la tecnología de los vehículos autónomos.

Esto último, nos ubica en el segundo y último grupo de preguntas orientadoras referidas a las historias oficiales que aparecen alrededor de los vehículos autónomos. Un tipo de historia es la de carácter técnico desarrollada por la Society of Automotive Engineers (SAE) que determina los niveles de automatización: sin, parcial, condicional, alta y completa. Dichos niveles llevan a la responsabilidad civil al grado de automatización con el que cuente el vehículo.

Finalmente, la aparecen historias referentes a los accidentes que han sufrido los vehículos autónomos como una forma de aproximarse a esta realidad que se cuestiona por la efectividad del software, por el grado de responsabilidad del conductor, por los niveles de calidad en la automatización del vehículo, las causas probables a la imprudencia de una peaton, como lo fue el caos de Elaine Herzberg y por la menara en que se debe reparar los daños con justicia y equidad. Aquí, algunas de las principales noticias:

FIN

Afectar el reconocimiento: BrainCo-FocusEdu (De como se persiguen los “sueños” de los estudiantes) By John Vargas.

“BrainCo está creando diademas que pretenden detectar y cuantificar los niveles de atención de los estudiantes a través de la detección de la actividad cerebral”

Seleccioné la IA, porque mi campo de interés y trabajo es la educación pública en Bogotá. 

  • ¿Qué se sabe / imagina colectivamente sobre su estudio de caso / objeto? 

Pienso en un dispositivo que se usaría como un accesorio de moda en la cultura escolar. Demasiados padres estarían de acuerdo en monitorear y controlar la conducta de sus hijos para obtener buenos resultados académicos. Como digo, funcionaría como una moda al principio con sus usos tecnológicos. Luego, se convertiría en un dispositivo sutil de control y “electroencefalovigilancia” social.

  • ¿Qué papel juega en los imaginarios contemporáneos?

El papel en los imaginarios está determinado por la promesa de efectividad, desarrollo y éxito de los estudiantes al medir la concentración de los estudiantes. Además, que es una tendencia algorítmica por homogenizar a la sociedad desde la escuela.

  •  ¿En fantasías (o pesadillas)? 

En cuanto a fantasías, es posible que se ejecute en varios campos como la psicología, la medicina cognitiva y los videojuegos. Una diadema para monitorear la concentración puede ser útil en estos campos, máxime cuando las personas poseen problemas neuronales serios. En la corta indagación que realice, menciona que los profesores obtendríamos un buen resultado en su uso, porque al medir la antención de los estudiantes se pueden mejorar las prácticas académicas.

Sobre las pesadillas, pues es que más allá del determinismo tecnológico su uso tendría una variante comercial al servicio del capitalismo; quienes irían tras los sueños, los secretos y la conducta de la mente. Colonizar la mente es una pesadilla porque los secretos quedarían expuestos. Además, la vigilancia y el control serían más sofisticados.

  • ¿Qué tipo de narrativas nacionales lo utilizan?

En China es el lugar donde más acogida tiene el producto. No es de extrañar porque es una sociedad que tiende al control de la población y la efectividad como sus valores máximos.

  •  ¿Cómo aparece en el entretenimiento?

En el entretenimiento se asocia con el entretenimiento cognitivo. Son múltiples los usos para los videojuegos. Sin embargo, se está probando en situaciones donde la mente y el cerebro pueden controlar el movimiento de los objetos. En el Canal de YouTube Bionic Buzz, hicieron un reportaje en el Centro de Convenciones de Las Vegas sobre BrainCo CES 2020 -Booth Tour-. Allí se notaba el entusiasmo de los chicos al ponerse el dispositivo, así como la promesa para mantener la atención plena de los estudiantes en el aula.

  •  ¿Qué otras grandes narrativas, historias y asociaciones sólidas lo involucran (por ejemplo, progreso, riesgo, alegría, miedo, revolución, militarismo, éxito, declive, horror, superación personal, seguridad financiera, seguridad familiar, independencia, adolescencia, historias de origen, historias de diferencia, privilegio, muerte, pornografía, deportes)? 

Pues como todo proceso social tiene su base en las asociaciones cerebrales, imagínate la cantidad de aplicaciones que tendría dicho dispositivo en las personas y los ámbitos como lo socio-emocional, la atención de los militares en el conflicto armado, en el uso y consumo de articulo en la web.

  • ¿Cuáles son las historias “oficiales” incrustadas en / alrededor de su objeto? 

La historia de progreso y desarrollo, la modernidad desde lo cuantificación de la concentración plena y cognitiva.

Aunque, me inquieta pensar qué dirían los que practican yoga sobre este tipo de artefactos.

  • ¿Qué se sabe generalmente sobre cómo se inventó, cuándo y quién lo inventó?

BrainCo surgió del Laboratorio de Innovación de Harvard. Desarrollan productos de tecnología de entrenamiento cognitivo y aplicamos nuestra experiencia en aprendizaje automático, diseño y neurociencia para crear aplicaciones innovadoras basadas en la cognición. Aquí la descripción del producto en una revista de educación en México:

  •  ¿Existen versiones diferentes y competitivas de sus historias?

No conozco versiones competitivas. Sin embargo, hay una tesis de la Universidad Politécnica de Madrid que realizo un estudio interesante en el año 2016 sobre Análisis de señales EGG para detención de eventos oculares, musculares y cognitivos (electroencefalografía).

  • ¿Quién cuenta o llega a “ver” estas historias?

Los expertos Gadget, como Bionic Buzz; los expertos en educación, las revistas de ciencia y tecnología.

  •  ¿Quién le da forma? 

La prense de divulgación científica y tecnológica.

  • ¿Cómo ha viajado históricamente?

Es interesante porque la idea comenzó con una propuesta de la NASA, para seguir la conducta cerebral de los astronautas y si atención.

  •  ¿Cómo estos ayudan a constituirlo? 

En alianza con varias Universidades y las empresas dedicadas al entretenimiento. “Bajo el lema: “si el mundo en el que vivimos ha cambiado, es momento que cambie el mundo en el que aprendemos”, Progrentis, en colaboración directa con BrainCo e investigadores egresados de Harvard, MIT, Stanford y la Universidad Complutense de Madrid, lanzaron ‘FocusEdu’, una banda que se coloca en la cabeza con la capacidad de medir y emitir un reporte de señales de ondas cerebrales -Alfa, Beta y Theta-, para analizar los diferentes niveles de estados mentales, dentro de los que destacan la concentración y relajación”. (https://expansion.mx/tecnologia/2018/10/19/focusedu-un-gadget-que-mide-el-aprendizaje-en-los-alumnos)

  • ¿Qué otras grandes narrativas hacen referencia a él y cómo importan esas referencias?

“Por último, el equipo de medición está considerado como seguro y como un dispositivo de bienestar general por la Agencia de Administración Federal de Alimentación y Medicamentos de Estados Unidos (FDA por sus siglas en inglés) y por la Comisión Federal de Comunicaciones (FCC)”.

  • Elija una imagen o enlace que le parezca atractivo y que represente su objeto / estudio de caso. Incluya enlace ese en su artículo.

(https://expansion.mx/tecnologia/2018/10/19/focusedu-un-gadget-que-mide-el-aprendizaje-en-los-alumnos)

(https://www.lavanguardia.com/cribeo/geek/20191110/471439402509/polemica-china-uso-diademas-miden-nivel-concentracion-estudiantes.html)

Pensar en las infraestructuras alternativas desde la lucha contra la vigilancia

Preguntas sobre las tres lecturas: 

¿Los discursos y las prácticas “gamificadas de odio” al contrario y lo diferente se pueden relacionar con problemas “mentales” de representación social, cultural y mercadeo de la imagen?

¿Cuál es la posible relación entre “desigualdad codificada” y la reducción de las minorías en el material de arquitectura y digital? ¿Son relaciones de correspondencia, correlación o manipulación?

¿Cómo pensar una estrategia “anti-vigilancia” del algoritmo desde el ejemplo de los mapas trazados en los “peinados” de los esclavos africanos como rutas estéticas para la fuga de la dominación corporal y mental del hombre occidental blanco?

(https://afrofeminas.com/2019/06/17/cuando-las-mujeres-negras-ocultaban-los-mapas-de-escape-de-la-esclavitud-en-sus-peinados/)

Estudio de caso Amazon Rekognition

Por: Henry Romero

Reconocimiento Facial de Amazon

¿Qué se sabe / imagina colectivamente sobre su estudio de caso / objeto?

Según la información divulgada por la propia compañía la tecnología de reconocimiento facial Amazon Rekognition permite identificar objetos, personas, texto, escenas, actividades en imágenes y videos e identificar contenido inapropiado, con lo que es posible analizar y comparar rostros con alta precisión para diversos usos, entre los que se destaca la verificación de usuarios, conteo de personas y la seguridad pública.

¿Qué papel juega en los imaginarios contemporáneos? ¿En fantasías (o pesadillas)? ¿Qué tipo de narrativas nacionales lo utilizan? ¿Cómo aparece en el entretenimiento? ¿Qué otras grandes narrativas, historias y asociaciones fuertes lo involucran?

En los imaginarios contemporáneos el uso de esta tecnología se refleja como una herramienta de utilidad práctica muy potente que muestra los desarrollos en inteligencia artificial y la detección de rostros, objetos o situaciones que al ser valorados de acuerdo a determinados fines pueden direccionar la acción e intervenir ya sea en ámbitos privados o públicos.

La prueba de Amazon Rekognition por parte de la Unión Americana de Libertades Civiles para denunciar los riesgos y el sesgo racial de este software, desencadenó una narrativa contraria a la oficial, señalando el peligro de las fallas cuando esta tecnología es aplicada para fines policivos. Sus márgenes de error conducen a injusticias que de no ser por la aplicación no se presentarían, dado el sesgo con el que se puede alimentar el software o los sesgos del propio algoritmo con el que opera y aprende tal tecnología.

Al evidenciar los errores de Rekognition se pudo llamar la atención sobre los riesgos de la misma solo por el estatus de los datos de las personas sobre las que se aplicó la herramienta. En cualquier caso este hecho dio buenas razones para determinar dichos riesgos y hacer consciente a la sociedad del peligro cuando se usa sin las correcciones necesarias, creando una narrativa muy diferenciada a la oficial. Su impacto fue tan significativo que la propia Amazon reconoce recientemente los posibles riesgos en el uso policial y suspendió el uso con tales fines de manera indefinida.

Un análisis crítico de la tecnología no puede ser una actividad solamente académica, el ejercicio de la ACLU con los sesgos y fallos que pudo haber tenido, evidenció que la Inteligencia artificial no es autónoma y no surge de la nada, al ser un artefacto humano reproduce las imperfecciones humanas e injusticia, por tanto las narrativas de precisión y todopoderosa alrededor de la tecnología,  son solo narrativas que ocultan consecuencias que inintencionadamente se pueden producir sin que se haga un análisis socio humano a profundidad. La crítica sirvió además sirve para una transformación y corrección cuando la tecnología se desborda a usos impensados.   

En términos de entretenimiento y de la recepción no especializada, la tecnología de reconocimiento facial al haber sido empleada por muchas aplicaciones se presenta como un avance más de IA que por ejemplo facilita control de acceso a eventos deportivos de hinchas no deseados, prevención del terrorismo, elección de contenidos inapropiados, coincidencias en aplicaciones de citas, decisiones financieras y de seguros por verificación biométrica, entre muchas otras, lo que refuerza una narrativa de progreso, desarrollo y avance.

¿Cuáles son las historias “oficiales” incrustadas en / alrededor de su objeto? ¿Qué se sabe generalmente sobre cómo se inventó, cuándo y quién lo inventó? ¿Existen versiones diferentes y competitivas de sus historias? ¿Quién cuenta o llega a “ver” estas historias? ¿Quién le da forma? ¿Cómo ha viajado históricamente? ¿Cómo estos ayudan a constituirlo? ¿Qué otras grandes narrativas hacen referencia a él y cómo importan esas referencias?

Amazon Rekognition se desarrolla en 2016 por Amazon Web Services con fines de análisis y comparación de imágenes, video, rostros, etc. como un software de servicio el que en 2017 fue usado por el Sheriff del Condado de Washington para identificar los rostros de personas sospechosas y compararlos con las bases de datos propias. Este uso creativo se extendió a otro tipo de autoridades y agencias de seguridad con fines similares, pero a raíz de los errores en la identificación a partir de la comparación de rostros se crea una alerta y se evidencia la injusticia probable con el uso de esta tecnología para la detección de sospechosos de crímenes.

Las miradas alrededor de Recognition son diferenciadas porque la intencionalidad de esta tecnología es civil y no necesariamente se previeron los usos que se le han dado y que se le podrán dar en el futuro. Desde la propia Amazon destacan su potencialidad, como es natural, y la defienden de los críticos aduciendo mal uso de la herramienta de acuerdo a las recomendaciones de la propia compañía, en tanto los márgenes de error para identificar objetos no deben ser los mismos que para la identificación de rostros, como parece haber ocurrido con la prueba que denunció la ACLU ante el Congreso de los EE. UU.

Es de anotar también que no es la única compañía que ha desarrollado este tipo de software dado que tanto IBM como Microsoft han hecho lo mismo. Desde la perspectiva de mercado Recognition pudo haber estado en el momento y lugar equivocado para que su principales competidores usaran las debilidades manifiestas para aventajar a Amazon en el mercado reforzando su baja eficacia en comparación con la de ellos y capitalizaran este caso en beneficio propio.

Reflexión

El caso descrito de Amazon Recognition es uno más de desarrollo tecnológico, sus determinantes y consecuencias. En sí mismo el desarrollo de la Inteligencia Artificial y el aprendizaje que de esta se deriva es intencionalmente estratégico desde el plano corporativo y económico, pero evidencia que las estructuras que gobiernan las relaciones sociales reales condicionan tales desarrollos, que en muchos casos reproducen lo defectuosas que estas son. Los sesgos en la tecnología recrean los prejuicios sociales de diferente orden como la raza, el género, estrato social, nivel educativo, etc.; no es un asunto del uso dado o el direccionamiento de la tecnología, sino es en la configuración básica de la misma, en la lógica misma de cómo se construyen los algoritmos.

El argumento tradicional de que la tecnología es neutral y que los usos son los que la hacen nociva, es insostenible ahora dado el sesgo que se transfiere en muchos casos al funcionamiento mismo de la tecnología, por lo tanto es un imperativo, más que nunca, atender a un desarrollo tecnológico, desde sus primeras etapas, que sea integral, humano y con sentido de respeto por los derechos de las personas; aunque siempre habrá al interior de los laboratorios intereses que sobrepasan los límites sociales, legales y éticamente permitidos, cobijados con el manto de la libertad, el progreso científico y la propiedad privada.  La tecnología no puede ser ni más bondadosa ni más perversa que los propios seres humanos, por tanto el control aún es nuestro.   

https://aws.amazon.com/es/blogs/aws/thoughts-on-machine-learning-accuracy/

https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28

https://aws.amazon.com/es/rekognition/?blog-cards.sort-by=item.additionalFields.createdDate&blog-cards.sort-order=desc

https://www.thetelegraph.com/news/article/Amazon-extiende-veda-de-reconocimiento-facial-a-16186374.phphttps://www.tecnoseguro.com/analisis/cctv/rekognition-amazon-reconocimiento-facial-investigaciones

Dimensiones narrativas de un objeto de estudio relacionado con el uso de IA y datos grandes

El tema que escogí es el uso de tecnologías de reconocimiento facial en China con el que se perfilan minorías étnicas Uighurs musulmanas[1]. Este perfilamiento tecnológico sirve como un sistema de alarma criminal en China para las autoridades policiales, y, en consecuencia, como un sistema de represión basado en aspectos raciales. El discurso político subyacente al sistema de inteligencia artificial relaciona rasgos físicos con supuestos potenciales ataques terroristas o violencia étnica, y hace parte de un sistema de represión más amplio que involucra el autoritarismo y la violación de derechos humanos en campos de “re-educación”.

Desde mi punto de vista, estos sistemas de clasificación usados en China (y de formas similares en otras partes del mundo) para controlar a la población corresponden con una narrativa maestra que podríamos llamar “criminológica”. Tal narrativa supone que a través de la apariencia física de una persona se puede llegar a conclusiones acerca de los rasgos de su personalidad. Esta creencia, muy difundida socialmente, se soporta en el sistema de análisis que en algunas de las lecturas que hemos hecho denominan “encontrar proxies”[2]. Es decir, obtener conclusiones estadísticas, pero no por una observación directa del fenómeno que se quiere estudiar, sino por para-fenómenos aproximados. El método proxy es una aproximación indirecta y por lo tanto altamente riesgosa, en términos de sesgos, de categorizar a una población, pues puede continuar con estereotipos sociales basados en la apariencia, en los lugares que una comunidad habita, o en sus prácticas culturales. Estos estereotipos soportan un círculo vicioso en el que las comunidades prejuzgadas a través de proxies son revictimizadas y, por lo tanto, se refuerza su categorización criminalizada.

La narrativa maestra criminológica se relaciona con las pseudociencias de los siglos XIX y XX como la frenología, la criminología basada en rasgos faciales, la eugenesia y el darwinismo social. Todas estas prácticas se amparaban en un lenguaje técnico, y en supuestas técnicas empíricas y matemáticas, para defender ideas esencialistas sobre la superioridad de las razas, las clases sociales, o el género. Aunque estas pseudociencias han sido desvirtuadas en el tiempo presente, los sistemas algorítmicos de reconocimiento facial siguen, en principio, las mismas lógicas y por lo tanto son igualmente problemáticas. Así, resulta increíble que prácticas de poder que han sido claramente refutadas se sigan haciendo a escalas aún más grandes, con procedimientos aún más opacos, y con menos oportunidades de auditoría. Incluso, aunque no se usen grandes datos y modelos matemáticos, en Colombia es común que se establezcan relaciones proxies perniciosas entre el estrato social, la raza, la apariencia física, los gustos al vestirse, las formas de hablar, y un sinfín de rasgos superficiales más. El propio gobierno, como sucede en China, estigmatiza a grupos sociales al calificarlos de bandidos o vándalos, y así bloquea su lugar como ciudadanos con sus propias posturas sociales y particularidades culturales. En China, por lo que pude ver en mi rápida búsqueda, los sistemas de reconocimiento facial sirven como un sistema de estigmatización soportado en el discurso tecno-determinista

Para ilustrar este texto, escogí dos imágenes. La primera es una imagen del criminólogo Cesare Lombroso en el que detalla supuestas fisionomías comunes para cuatro tipos de criminales. La segunda es un ejemplo de las llamadas “pinturas de castas” que se realizaban algunos países de América Colonial como México, Perú, Ecuador y Colombia. Estas pinturas de castas servían como una supuesta categorización racial, con ínfulas científicas derivadas de la ilustración, en la que se relacionaba la pertenecía a cierta categoría racial con ciertos rasgos de personalidad.

Imagen 1: Tipología de criminales en el libro El hombre criminal de Cesare Lombroso. Fuente: https://library.artstor.org/#/asset/24726582;prevRouteTS=1621627864116
Un grupo de personas en un evento

Descripción generada automáticamente con confianza baja
Imagen 2: Pintura de castas mexicana. Anónimo. Fuente: https://commons.wikimedia.org/wiki/File:Casta_painting_all.jpg

— Por Sergio Rodríguez Gómez


[1] Paul Mozur, «One Month, 500,000 Face Scans: How China Is Using A.I. to Profile a Minority», The New York Times, 14 de abril de 2019, sec. Technology, https://www.nytimes.com/2019/04/14/technology/china-surveillance-artificial-intelligence-racial-profiling.html.

[2] Ruha Benjamin, Race after technology: abolitionist tools for the new Jim code (Medford, MA: Polity, 2019); Cathy O’Neil, Weapons of math destruction: how big data increases inequality and threatens democracy, First edition (New York: Crown, 2016).

Datos comunitarios // Genealogías de datos en la era de la IA

De acuerdo con nuestro cronograma, la profesora Anita Chan realizará 3 sesiones durante el mes de Mayo, que se agrupan bajo la temática “Datos comunitarios // Genealogías de datos en la era de la IA.” La descripción de estas 3 sesiones es la siguiente:

“En un mundo cada vez más impregnado de prácticas de “big data” corporativizadas y militarizadas y de sistemas de inteligencia artificial (IA) extractivos y a menudo explotadores, ¿cómo podríamos reimaginar las prácticas y pedagogías de los datos en consonancia con los valores, procesos e instituciones democráticos? A partir de estudios interdisciplinarios sobre datos y IA, estudios de ciencia y tecnología, estudios feministas y de raza crítica, y estudios de información y medios de comunicación, interrogamos el desarrollo de la IA en contextos globales para considerar cómo podríamos descentrar los métodos de datos y las infraestructuras de IA que privilegian los intereses corporativos o centrados en la tecnología, a través de PRÁCTICAS DE DATOS COMUNITARIOS que se centran en las preocupaciones y necesidades de las poblaciones y comunidades vulnerables en defensa de la democracia.”

La profesora Chan nos ha compartido un site donde ha compilado la información y materiales para sus sesiones que se puede acceder en el siguiente enlace:

https://scalar.usc.edu/works/javeriana-community-data-workshop–data-genealogies-in-the-ai-age/index?t=1620413718592

Gephi: Software multiplataforma y open source – Mario Cuéllar

El Mini Proyecto pretende identificar el uso de las competencias informacionales y computaciones como apoyo a la formación académica, en especial media y secundaria, en el territorio del Huila. Para ello he seleccionado las principales entidades que inciden en el diseño, desarrollo y promulgación de programas de educación en el que las competencias informacionales y computaciones juega un papel importante dentro de las habilidades de comprensión de los estudiantes. Por esta razón, dentro del Conjunto de datos TCAT, llamado HuilaEducacionCompetencias, los principales actores son:

  • @FondoFFIE
  • @UscoCSP
  • @HuilaGob
  • @PTA_Colombia
  • @programaondas
  • @SideCTeIHuila

Los comentarios e interacción vía Twitter se encuentran dentro de una ventana de tiempo que inicia en el 28 de abril de 2019 al 29 de abril de 2021. La cantidad de tweets es de 72, lo cual muestra una baja interacción en torno al tema de las competencias informacionales y computaciones dentro del territorio del Huila.

El primer grafo realizado es de tipo dirigido, elaborado a partir de los datos contenidos en el dataset TCAT, el cual muestra un total de 73 nodos interconectados a través de 145 aristas y, cuya relación entre las entidades FondoFFIE, HuilaGob y PTA_Colombia muestra una dispersión entre nodos y con una capilaridad de interpretación entre 4 y 15 arista por punto de conexión (modularidad):

Grafo 1:

Fuente: Captura de pantalla (s.f.).

Esto muestra un hecho muy interesante para el horizonte del trabajo de investigación, pues aunque pareciera que le tema de competencias es un asunto abordado en los proyectos educativos institucionales, la influencia e interacción del tema entre los actores esenciales para el fortalecimiento de competencias a través de políticas y planes de acción en Colombia es baja.

El siguiente grafo relaciona las intervenciones individuales con la frecuencia de mención de las entidades FondoFFIE, HuilaGob y PTA_Colombia en el tema educativo, dentro del contexto del Huila, y su relación con el fortalecimiento de competencias. Este grafo muestra una relación prolífica en el seguimiento que hacen los usuarios de Twitter a las entidades, pues de hecho hay una contracción importante frente al anterior grafo. Sin embargo, al someter los datos al laboratorio de datos de Gephi, encuentro una dispersión frente al tema de las competencias, aunque relacionadas al campo de la educación no son referencia de competencias, en especial a las competencias informacionales y computacionales.

Grafo 2:

Fuente: Captura de pantalla (s.f.).

El último grafo corresponde a la relación entre los comentarios generales y la frecuencia de las instituciones en el tema de las competencias informacionales y computacionales. El comportamiento es similar al grafo 1, mostrando una dispersión de nodos y poca interrelación entre aristas en el tema de las competencias informacionales. Esto es un vacío y proporciona una alerta importante, pues las competencias informacionales y computacionales son necesarias para el manejo de la información desde la adecuada identificación, análisis y crítica de datos e información; y que su vez, incluye la importancia del manejo del artefacto y las herramientas necesarias para alcanzar los resultados esperados en el aprendizaje.  

Grafo 3:

Fuente: Captura de pantalla (s.f.).

FIN.

R-GPS, GEPHI, Análisis de modularidad y peso en Twitter.

Apoyado en la tutoría del profesor Andrés Lombana, las explicaciones del Laboratorio 10-11; como de tres tutoriales en YouTube, pude iniciar el aprendizaje sobre el uso de la herramienta para Visualización de datos, Gephi.

Sin continuación, presento el resultado de mis exploraciones en la herramienta.

Grafo dirigido por clúster

Análisis del #LaEducaciónPresencialesVital

Grafo 1 – representación de las redes-

Grafo 2 – selección de un nodo de entradas y salidas de interacciones-

Grafo 3 – modularidad-

Grafo visual – aristas curvas-

Luego, hice el análisis y la visualización de los datos de TCAT, con:

#Alternancia

Nodos: 245

Aristas: 259

dirigidoGrafo

Grafo 1 -etiquetas-

Grafo 2- Grado de entrada-

Grafo 3 – Grado de salida-

Grafo 4 – modularidad-

Grafo 5 –partición por modularidad-

Grado 6 – Grado de entrada por nodos-

Grafo 7 – partición por modularidad de clases-

GrafoVisual