Análisis de la declaración ética y buenas prácticas que dirigen la ciencia
Por Alma Celia Galindo Núñez
En el post anterior nos quedamos con una pregunta incómoda en el aire: si la tecnología debe responder a las necesidades del país, ¿quién decide cuáles son esas necesidades? Con esa espina clavada iniciamos esta tercera y última parte del análisis de la declaración de la Secihti. Después de haber desmenuzado los primeros seis mandamientos éticos de la Inteligencia Artificial, hoy nos toca revisar los principios 8, 9 y 10. Esta última oleada es crucial porque pasa de los buenos deseos abstractos —como el bienestar o la inclusión— a temas mucho más rudos: la soberanía, la seguridad y el papel del Estado. Abrochémonos los cinturones, porque aquí es donde la teoría se pone a prueba frente a la realidad de nuestras aulas y comunidades.
El octavo principio define que el desarrollo de la inteligencia artificial requiere fortalecer la educación y el conocimiento en el país. Curioso: esto que hoy se le atribuye como una tarea a la IA, ha sido el sentido de la educación desde el principio de su existencia. Pero, claro, esto no pasará de ser un bonito discurso si no se integra de manera responsable en políticas y programas educativos que permitan comprender no solo cómo funciona la IA, sino qué relación tiene con los derechos humanos. Aquí la preocupación vuelve a las carencias básicas de nuestras escuelas y nos obliga a preguntar:
¿Cómo se van a capacitar en Inteligencia Artificial a comunidades que ni siquiera tienen internet estable, luz o computadoras funcionales?
Además, impulsar una investigación que realmente integre las ciencias y las humanidades en el desarrollo de la IA requiere un presupuesto enorme y condiciones que los gobiernos y universidades públicas de América Latina rara vez tienen. ¿De dónde saldrán esos recursos? Si la investigación termina siendo financiada por las grandes corporaciones tecnológicas globales o dependiendo de su infraestructura, los resultados no serán independientes ni responderán a las necesidades del país; responderán a los intereses comerciales de esas empresas.
Otro punto clave para el análisis es la contradicción de que las necesidades de un país y la fortaleza de su seguridad dependen, inevitablemente, del dinero.
La IA generativa no puede tomar decisiones políticas ni aumentar por arte de magia los presupuestos que se le asignan a la educación pública. Se nos pide que en el ámbito educativo proyectemos y evaluemos mejoras colaborativas e interdisciplinarias usando IA, pero lo hacemos en medio de una crisis financiera que muchas veces lo impide.
Por otro lado, el noveno principio sugiere reflejar la diversidad cultural del país y fortalecer las lenguas indígenas. Aquí veo el debate bastante lejano. No solo porque es una propuesta muy ambigua, sino porque ni siquiera se está contemplando la visión propia de los pueblos originarios. Uno de los pocos informes que existen sobre este tema lo desarrolló la UNESCO; en su apartado sobre brecha digital, participación y sesgos algorítmicos se confirma que ni siquiera hay datos demográficos sobre el porcentaje de personas indígenas desconectadas, y mucho menos sobre cuántas personas de origen indígena participan activamente en el desarrollo de la IA.
Quienes han sido voceros de estos temas mencionan que los acercamientos tecnológicos suelen darse en tres niveles: el primero, “Para los pueblos indígenas”, con una visión asistencialista que busca incluirlos pero sin darles participación activa; el segundo, “Con los pueblos indígenas”, que busca una inclusión más participativa sumando sus perspectivas; y el último camino, el real, “De los pueblos indígenas”, que posiciona estos proyectos bajo su propio centro y liderazgo. Para pasar del discurso a esta última acción se necesita lo de siempre: presupuesto, infraestructura, escucha, soberanía, representación, datos limpios, comprensión de sesgos e interseccionalidad.
Por su parte, el décimo principio afirma que los datos son un bien público que debe cuidarse con responsabilidad. Ante esto, mi cuestionamiento es:
¿Cómo vamos a resolver la hipervigilancia? ¿Cómo será sostenible un sistema que está tratando de digitalizarlo todo, y en el que nuestros rostros, huellas y documentos ya están flotando en el espacio digital? ¿Quién posee realmente esos datos y de qué dependerá el sostén y la seguridad de nuestra información?
Finalmente, hay algo que la declaratoria no involucra de manera explícita y que me parece vital: la violencia. Es urgente que se contemple la prevención de todas las formas de violencia cometidas a través de los sistemas, herramientas y plataformas de IA. Esto incluye la violencia física, sexual y mental, la violencia de género, el ciberacoso y la exposición a contenidos generados por IA que propagan discursos de odio, incitan a la violencia o promueven delitos graves como la trata de personas o el reclutamiento forzado. No es un tema menor, y es una gran ausencia en los principios del documento.
Ya para terminar, me gustaría cerrar diciendo que las instituciones tienen un rol esencial al promover la alfabetización digital avanzada y los enfoques éticos. Pero quienes estamos en el activismo tenemos la tarea de vigilar que estos principios se sostengan no solo en ideas de buena voluntad, sino en funciones legislativas reales, supervisión constante, presupuestos dignos y acciones afirmativas que eviten caer en regulaciones restrictivas que solo terminen ensanchando las desigualdades.
Al final, la tecnología debe estar al servicio de la comunidad, y no la comunidad al servicio de la tecnología.