Análisis de la declaración ética y buenas prácticas que dirigen la ciencia.
Por Alma Celia Galindo Núñez
En un post anterior, desmenucé los primeros tres principios de la Declaración de ética y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial que recientemente publicó la Secretaría de Ciencia, Humanidades, Tecnología e Innovación (Secihti). Decía que se trata de una guía ética que busca orientar políticas públicas, regulaciones e instrumentos institucionales en todo el ciclo de vida de los sistemas de IA. En este momento, me centraré en los siguientes cuatro principios.
El cuarto principio dice: “La inteligencia artificial se gobierna mejor cuando se decide en colectivo”. Y en el discurso esto suena muy bonito. La propuesta textual dice que se promocionará el diálogo incorporando a la ciudadanía, a la academia, a las comunidades, a las organizaciones sociales y al sector productivo. Pero tendríamos que pensar cómo se van a generar realmente esos espacios de participación.
En concreto, yo pienso en los niños, niñas y adolescentes:
¿Será que esta vez sí les darán voz y voto para opinar? Y si miramos hacia los contextos escolares, ¿estamos hablando de que la IA será un eje transversal primario o de contenidos específicos que se añadirán a marchas forzadas a los ya existentes? Quienes ya están en el campo educativo enfrentando estos retos sugieren que será necesario incluir competencias, objetivos y temas de estudio esenciales sobre IA, integrados en un plan de estudios mucho más amplio. O sea, hablamos de un reto titánico. Como maestra lo pienso, y de inmediato se me viene a la cabeza el meme del hombrecito parado frente al tsunami.
Muy de la mano, el principio 5 sostiene que “la inteligencia artificial solo es valiosa si genera bienestar para todas las personas”. Y aquí me pregunto: ¿quién va a definir y evaluar qué es el interés común y el bienestar? Por un lado, tengo claro que la IA es una herramienta que potencialmente puede contribuir al desarrollo de la infancia, pero me muevo con cuidado. Su implementación debe garantizar que el uso y la apropiación digital vayan acompañados de una corresponsabilidad afectiva, guiada y con enfoque de derechos humanos.
El verdadero reto es enorme: lograr un equilibrio entre la innovación tecnológica y la protección efectiva de los derechos de niñas, niños y adolescentes, garantizando su dignidad, seguridad y desarrollo integral.
Por otro lado, el sexto principio parte de un cuestionamiento que compartimos plenamente quienes trabajamos como facilitadores y analistas de estos temas. Dice que “antes de automatizar, hay que comprender a quién y a qué afecta“. Yo añadiría, además que es básico comprender para qué la vamos a usar, a quién beneficia, a quién perjudica y qué tipo de mundo estamos configurando al implementar estas herramientas. Por ejemplo, en mi experiencia como investigadora, he comprobado que el uso de IA permite acelerar procesos y eficientar tareas. Suena muy positivo, ¿verdad? Pero esto también implica que, como ahora hacemos todo más rápido, también se nos exige producir más. Estamos acelerando nuestros propios ritmos de vida. Nos estamos poniendo la soga al cuello y la estamos apretando nosotras mismas, sin cuestionar ni pararnos a pensar si la rapidez es el camino correcto.
Cierro con el séptimo principio, que me parece el más concreto de todos. La propuesta dice: “la tecnología estratégica debe responder a las necesidades del país”. Fácil: empecemos por debatir primero qué visión de país, luego, pensemos en quién define cuáles son esas necesidades; al mismo tiempo, es urgente que cuestionemos los impactos menos evidentes de la IA, como los ambientales, los políticos o los éticos.
Nada sencillo es gobernar en colectivo, generar bienestar, frenar la prisa automática y responder al país real; sin embargo, son las metas que ya están puestas en el papel.
Como ciudadanas, docentes y creadoras, nos toca vigilar que estos cuatro principios no se queden flotando en el limbo de las buenas intenciones colonizadas por la tecnología. Al final del día, una máquina puede optimizar un proceso en milisegundos, pero jamás tendrá la sensibilidad para entender el contexto de una escuela rural o las emociones de una infancia conectada, las preocupaciones de socialización de una hija.
En la tercera y última parte de esta serie, cerraremos este análisis abordando los principios finales y, sobre todo, tratando de hacer algunas recomendaciones de cómo pasar de la teoría de una declaración oficial a la práctica en nuestras vidas y aulas. ¡Nos leemos pronto!