Análisis de la declaración ética y buenas prácticas que dirigen la ciencia.
Por Alma Celia Galindo Núñez
Parece que estamos en un punto donde hemos asumido que la Inteligencia Artificial (IA) ya es parte de la vida cotidiana y traza un camino sin retorno. Bajo estas creencias, instituciones académicas, sociales y hasta religiosas se están posicionando sobre la apropiación y el avance inminente de su implementación.
Es el caso de la Secretaría de Ciencia, Humanidades, Tecnología e Innovación (Secihti) y la Agencia de Transformación Digital y Telecomunicaciones —quienes dirigen al país en términos de ciencia—, las cuales presentaron recientemente la Declaración de ética y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial. La Secihti ha planteado estos principios como una guía ética que busca orientar políticas públicas, regulaciones e instrumentos institucionales en todo el ciclo de vida de los sistemas de IA.
¡Bravo! Celebro la iniciativa y reconozco siempre los primeros pasos; sin embargo, con el propósito de invitar a la reflexión, iré abordando algunos de sus principios a lo largo de varias publicaciones. Hoy me centraré en el análisis de los primeros tres.
El primer principio sostiene que la inteligencia artificial debe ampliar derechos y nunca reducirlos. Esto implica que los sistemas de IA deberán proteger los derechos humanos y evitar decisiones automatizadas que reproduzcan prejuicios sociales existentes o que generen nuevas formas de exclusión. Para ello, se propone revisar de manera continua si los datos y criterios que utiliza un sistema reproducen desigualdades históricas —por ejemplo, de género, origen étnico, condición social o discapacidad— y, de ser así, evitarlo o corregirlo.
Quienes hablan de esto confirman que mitigar los sesgos implica tener un enfoque dual: técnico y educativo. Desde el punto de vista técnico, hay que mejorar los algoritmos de entrenamiento y diversificar las bases de datos utilizadas; mientras que en la educación, se debe trabajar en el desarrollo de competencias digitales de estudiantes y docentes. Estas competencias deberían incluir la capacidad de identificar sesgos, validar información y utilizar la IA como una herramienta complementaria y no como una fuente única de conocimiento. Pero aquí surgen muchas preguntas que no sé si hoy tengan respuesta: ¿Quién se encargará de revisar estos datos? ¿Qué entenderemos exactamente por sesgo cultural, de género o lingüístico? ¿Cómo vamos a conocer las formas en que se entrenaron esos datos? ¿A quién le toca vigilar que sí se respeten los derechos? Y si no se respetan, como decía el Chespirito: y ahora, ¿quién podrá ayudarnos?
Ahora, el segundo principio refiere que toda decisión apoyada por inteligencia artificial debe tener responsables humanos y que, en el ámbito público, debe sustentarse en marcos institucionales claros que definan quién diseña, quién decide, quién supervisa y quién responde por sus efectos. Aquí estamos ante una tensión inseparable entre la necesidad de transparencia y la protección de información confidencial de las empresas. La confidencialidad empresarial restringe el acceso público a los detalles del funcionamiento interno de los algoritmos, lo que ya de por sí plantea un enorme reto jurídico. En el ámbito de la educación, las propuestas se han limitado a escribir declaratorias o guías de uso para unificar ciertos criterios.
Como maestra y tallerista, mi experiencia me dice que habría que sumar algo más: estos marcos normativos deben estar respaldados por Códigos de Ética que definan normas y penalicen acciones como el plagio, la alteración de datos o el uso de imágenes no autorizadas, así como políticas de uso que respeten la privacidad, la equidad y la transparencia. Hace poco leí cómo la Inteligencia Artificial Generativa ha estado reciclando contenido falso, citas y textos que no existen, pero que ahora se vuelven “virales” sin tener sustento real. Al paso que va, vamos a educar a una generación con alucinaciones virales y vamos a construir realidades que no son reales.
Finalmente, el tercer principio dice algo clave: “Si una decisión no puede explicarse, no debe automatizarse”. Pero aquí es donde la teoría choca con la realidad, y les voy a poner un ejemplo que a mí me vuela la cabeza. En 2024, salió una noticia donde un fiscal del SAT, llamado Gari Flores, aceptó abiertamente que el gobierno ya usa Inteligencia Artificial para cazar evasores fiscales y distinguir quién se está portando bien y quién no. Es decir, el sistema opera como una especie de “espía automático”. Y aquí es donde yo me pregunto: ¿o sea que si el espionaje y la automatización los hace el Gobierno son éticos, pero si los hace un ciudadano común son un peligro? Está raro, ¿no creen?
Cierro esta primera parte invitándolos a reflexionar sobre los riesgos de automatizar en exceso. Pensemos, por ejemplo, en los docentes.
El trabajo de un maestro brilla por su capacidad de conectar y establecer vínculos humanos con sus alumnos; pero si dejamos que un software automatice las evaluaciones y califique todo en masa, apagamos esa chispa y nos transformamos en simples operadores de una computadora.
Por eso, este principio de explicabilidad debe mantenerse firme: antes de automatizar cualquier proceso, tenemos que entender a quién estamos afectando y qué estamos sacrificando en el camino, sobre todo cuando lo que está en juego es nuestra propia humanidad.