Inteligencia Artificial y regulación: ¿por qué los bibliotecarios deben participar en las decisiones?
La Inteligencia Artificial está transformando la forma en que se produce, organiza y utiliza la información. Sin embargo, cuando se discuten leyes, regulaciones y marcos éticos, la participación de los bibliotecarios suele estar ausente. Rosa Monfasani propone una reflexión imprescindible: ¿deberíamos ocupar un lugar en esas mesas de trabajo? Leé la columna, compartí tu experiencia y ayudanos a ampliar este debate entre colegas.
 |
| Fuente: UnoTV.com |
Qué mejor que esta imagen para adentrarse en el tema de si existe la regulación de la IA.
No haré una enumeración de las diferentes IA que se puedan encontrar, eso dependerá de cada uno y de cómo haga uso de ellas. Me referiré tal como lo expresa el enunciado de esta columna a si existe regulación, dónde, y la función del bibliotecario en esta cuestión.
He realizado una investigación preliminar, ya que el panorama cambia día a día según los intereses empresariales y otros factores involucrados. Por eso el tema habría que ampliarlo y ver cómo se puede mejorar para hacer un uso adecuado y especialmente ético de la información en la IA.
He visto por ejemplo en el sitio de la imagen de referencia, que la Unión Europea (UE), que generó la primera norma al respecto, plantea lo siguiente:
Pero, ¿Qué es la Ley de Inteligencia Artificial de la UE?
La ley de inteligencia artificial de la Unión Europea es la legislación mediante la cual se busca regular una tecnología tan compleja como la inteligencia artificial, presente desde hace años en servicios digitales de uso diario, como las redes sociales, los sistemas de contenidos de streaming y los buscadores como Google o Bing. La normativa se centra especialmente en los sistemas de IA de alto riesgo, es decir, aquellos que “…tengan un efecto perjudicial considerable en la salud, la seguridad y los derechos fundamentales de las personas”. (31 de julio de 2024).
Esta ley fue aprobada el 1 de agosto de 2024 y clasifica esta reglamentación en cuatro niveles de riesgo: riesgo inaceptable, alto riesgo, riesgo limitado y mínimo riesgo. La idea es garantizar que la IA se utilice de manera segura y ética.
1. Riesgo inaceptable: Sistemas considerados una amenaza evidente para la salud, la seguridad y los derechos fundamentales de las personas.
2. Alto riesgo: Tiene un impacto significativo en la seguridad, los derechos fundamentales o los servicios esenciales de las personas.
3. Riesgo limitado: Sistemas que interactúan directamente con personas o generan contenido, y cuyo principal riesgo es la falta de transparencia.
4. Riesgo nulo o mínimo: Sistemas de uso cotidiano que no suponen ningún riesgo para los derechos o la seguridad de las personas.
Cabe mencionar también que la UNESCO, en noviembre de 2021, elaboró Recomendación sobre la Ética de la Inteligencia Artificial, la primera norma mundial sobre la ética de la IA. Esta recomendación es aplicable a sus 194 Estados miembros, porque justamente ese es el aspecto principal que lleva a preguntarse si existe una regulación en IA. En el capítulo IV sobre Ámbitos de acción política, describe el ámbito de actuación de la comunicación y la información. Y dice, entre otros puntos que: “Los Estados Miembros deberían utilizar los sistemas de IA para mejorar el acceso a la información y el conocimiento”.
En 2019 la OCDE aporta el primer estándar intergubernamental con los Principios de IA, los que fueron actualizados en 2024. Su objetivo principal es promover una IA innovadora y confiable que respete los derechos humanos y los valores democráticos. Según se indica en el sitio “…se componen de cinco principios basados en valores y cinco recomendaciones que ofrecen orientación práctica y flexible para los responsables políticos y los actores del sector de la IA”.
La ONU en 2024 presentó un informe final sobre Gobernanza de la IA, en el que dice que se debe regular la IA para evitar que sus beneficios se distribuyan de manera desigual. Habla de los riesgos que conlleva y de la necesidad de una gobernanza global. Menciona entre otros, el problema de los sesgos y las alucinaciones, la desinformación y los riesgos para la paz.
Es necesario mencionar la Carta Encíclica Magnifica Humanitas del Santo Padre León XIV sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial, que se puede leer en el Capítulo III cuando habla de: El paradigma tecnocrático y el poder digital, y de La inteligencia artificial: “…en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación”.
Y más adelante en cuanto a la IA dice: “Las inteligencias artificiales modernas están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. “…la IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso”. “No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”.
Por supuesto quise ir más allá y averiguar qué estaba ocurriendo en América Latina y en Argentina.
En el sitio de argentina.gob.ar se muestran las Recomendaciones para el uso de Inteligencia Artificial y allí expresa que se “…dan herramientas para proteger los derechos fundamentales, prevenir o disminuir los riesgos, promover la innovación y el diseño centrado en las personas”.
Unos gráficos a continuación, tomados del Centro de Estudios en Libertad de Expresión y Acceso a la Información-CELE, pueden mostrar el movimiento.
En el caso de nuestro país, los gráficos muestran las principales temáticas abordadas en los proyectos legislativos vinculados con la IA.
La Biblioteca del Congreso de la Nación ha preparado un Dossier sobre IA con una variada cantidad de ítems como: Proyectos de ley. Instrumentos internacionales. Legislación nacional. Doctrina. Jurisprudencia y otros Documentos de interés.
Y ahora la pregunta que nos inquieta.
¿Se constituye un equipo con la participación de expertos en las diferentes disciplinas?
Desconozco esto, aunque tampoco tengo noticias de que los bibliotecarios participen en la redacción sobre IA, o al menos sean consultados, en lo que atañe a la información: su acceso, dónde se puede encontrar, cómo se entrega y en particular al tipo de usuarios a quienes está dirigida.
Para ello, qué mejor que dirigirse a la IFLA y tratar de saber si a las bibliotecas y a los bibliotecarios les compete alguna responsabilidad.
Y he aquí algo de lo que he encontrado.
- Refiere principalmente a los conocimientos que debemos tener y al uso que debemos hacer con esta nueva tecnología en cuanto a su aplicación en la biblioteca y en especial en la relación con los usuarios.
- Sí menciona la relación e intervención con la institución donde está inserta.
- Se destacan muy especialmente los aspectos que trata y el diagnóstico que hace basado en la matriz FODA.
En líneas generales trata de Desarrollar una respuesta estratégica de la biblioteca ante la inteligencia artificial, pero no menciona a los bibliotecarios en cuanto a su participación en el ámbito de las decisiones en el ámbito estatal.
Sabemos que la IA está revolucionando el mundo, todos lo indican, por eso los motivos expuestos a lo largo de esta columna demuestran la injerencia que el bibliotecario debe tener en todo lo relativo a la información. Esto hace imprescindible su presencia en las diferentes comisiones de trabajo a nivel gubernamental.
La idea es que,
- con los estudios que posee de su aprendizaje sistemático,
- la experiencia generada en su quehacer diario,
- los conocimientos adquiridos a lo largo de la vida,
- la incorporación de la IA para las tareas administrativas, los procesos y los servicios,
- la generación de datos,
- el acceso a los documentos,
- la necesidad de incorporar la ALFIN interna y externamente y
- el contacto con los usuarios,
- entre otros, sean suficientes para que podamos intervenir en las decisiones sobre IA.
Dejo abierto este espacio para que entre todos podamos opinar, debatir y compartir experiencias.
¿Creen que los bibliotecarios deberían participar en la elaboración de políticas y regulaciones sobre Inteligencia Artificial?
Los invito a:
💬 Dejar tu comentario en el blog.
🔄 Compartí esta nota con colegas.
📲 Seguinos en Soy Bibliotecario, Facebook, Instagram (@soybibliotecario), X (@sbibliotecario) y LinkedIn para participar de más debates sobre el futuro de las bibliotecas y la profesión.
¡Gracias por estar!
Nota: Cuando comenten en el blog y respondan bajo el ítem Anónimo, no olviden poner su nombre, me agrada saber con quién hablo y poder responder en forma personalizada.
10 de junio de 2026
Mi Facebook: @RMonfasani
Referencias:
Argentina.gob.ar (2023). Recomendaciones para el uso de Inteligencia Artificial. Disposición 2/2023 Jefatura de Gabinete de Ministros.
Biblioteca del Congreso de la Nación (2025). Dossier Legislativo Inteligencia Artificial. Año XIII, N° 312, julio de 2025. 55 p. https://bcn.gob.ar/uploads/adjuntos/Dossier-312-legis-nacional-inteligencia-artificial-jul-2025.pdf
IFLA AI SIG (2023a). 23 recursos para ponerse al día sobre IA en 2023 – seleccionados por el IFLA Artificial Intelligence SIG https://www.ifla.org/g/ai/23-resources-to-get-up-to-speed-on-ai-in-2023/
Novomisky, S. y Le Voci Sayad, A. ed. (2025). Alfabetización mediática e informacional en la era de la inteligencia artificial cultura digital y educomunicación. Madrid: Grupo Comunicar ediciones. 98 p. https://www.grupocomunicar.com/pdf/ia.pdf
OCDE (2019). Principios de IA. Actualizado en 2024. https://www.oecd.org/en/topics/ai-principles.html#:%7E:text=The%20OECD%20AI%20Principles%20promote,stand%20the%20test%20of%20time
ONU (2024). Gobernanza de la Inteligencia Artificial en beneficio de la Humanidad: Informe final. https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_es.pdf
Parlamento Europeo (2025). Ley de IA de la UE: primera normativa sobre inteligencia artificial. https://www.europarl.europa.eu/pdfs/news/expert/2023/6/story/20230601STO93804/20230601STO93804_es.pdf
Unesco (2021). Recomendación sobre la ética de la inteligencia artificial. Adoptada el 23 de noviembre de 2021. 45 p. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Vaticano (2026). Carta Encíclica MAGNIFICA HUMANITAS del Santo Padre León XIV sobre la Custodia de la persona humana en el tiempo de la inteligencia artificial. https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html
¡Hola, Rosita! Qué alegría como siempre leerte y voy a "prenderme" en el debate, por supuesto. No coincido en que tengamos que desgastarnos en los debates gubernamentales sobre las IA en las instituciones educativas, pero sí en que debemos involucrarnos activamente y al 100% en su uso dentro de las mismas.
ResponderEliminarDesde ya, con razonamiento crítico, analizando las ventajas y desventajas, los sesgos y, sobre todo, las "referencias" que dan las IA, que generalmente no llevan a ningún lado (las famosas alucinaciones). Considero fundamental la comparación de las respuestas y su confrontación con la información bibliográfica o de sitios oficiales. Los 3 puntos que mencionás de la IFLA me parecen muy acertados y coincido plenamente.
Bueno, abro el debate con mi opinión. Mi experiencia en los niveles donde trabajo es de una intervención constante cada vez que se presenta la oportunidad para visibilizar estos sesgos o "fallas" que tienen las IA, buscando siempre las fuentes oficiales y respaldadas de la información dada.
Buenos días Andrés. Genial el debate porque en principio creo que ¡¡¡ SI !!! debemos involucrarnos y no pensar que es un desgaste, por el contrario creo que es una forma de reafirmar nuestra presencia. No obstante coincido plenamente con lo que dices de la IA, ese es un tema que creo aún está en pañales y al que debemos prestar mucha atención. También sé que no todos los bibliotecarios tienen la posibilidad de participar en la institución donde trabajan y ese es el primer punto a tener en cuenta. Se que a veces trato de ir más allá de lo que podemos abarcar, pero pienso no tenemos la presencia a nivel sociedad que deberíamos tener. En fin, insto a salir de la zona de confort y afianzarse en la profesión. Gracias por estar siempre atento y por tu respuesta. Abrazo a la distancia. Rosita.
EliminarExcelente columna, Rosa. Coincido con la premisa de fondo: la ausencia de bibliotecarios en las mesas donde se discute la regulación de la IA es un vacío que nadie más va a llenar por nosotros. Pero me permito agregar una tensión que creo que completa tu pregunta: no alcanza con reclamar el lugar, hay que llegar con algo que ofrecer.
ResponderEliminarHoy buena parte de nuestra formación profesional en IA se concentra en la capa instrumental: qué herramienta usar, cómo aplicarla en servicios. Eso es necesario pero no nos sienta en ninguna mesa regulatoria. Lo que sí nos sienta es la capacidad de evaluar: leer términos de servicio, auditar sesgos en sistemas que las instituciones adoptan sin examinar, documentar cómo los corpus del Sur alimentan modelos sin reciprocidad ni atribución. Esa es justamente la zona que vos marcás como ausente en los documentos de IFLA: hay una estrategia para la biblioteca, pero no una agenda de incidencia política para el bibliotecario.
Y ahí aparece la paradoja: pedimos participar en la gobernanza estatal de la IA cuando muchas de nuestras propias instituciones todavía no tienen una posición definida sobre la IA que ya están usando. Quizás el primer escalón sea ese: que cada biblioteca, cada red, cada universidad pueda responder quién evalúa la IA que está adoptando. Si construimos esa capacidad puertas adentro, el lugar en las mesas externas deja de ser un pedido y pasa a ser una consecuencia lógica.
Gracias por abrir el debate. Es exactamente la conversación que la profesión necesita dar ahora, no cuando las leyes ya estén escritas.
Wow! Fer, un buen debate se armó. Por supuesto coincido en que como dices: "...no alcanza con reclamar el lugar, hay que llegar con algo que ofrecer". Ya que estamos en esto pienso que la falencia se extiende y mucho: Bibliotecarios, Bibliotecas, Escuelas, Instituciones bibliotecarias y en general todo lo realacionado con la Bibliotecología se encuentra ajeno a estas cosas que planteo y que planteas desde tu punto de vista. Nada de esto se discute en en particular y en general, por eso estamos siempre donde estamos. Solo y por ahora, salvo algunas excepciones la cuestión es hacer cursos, talleres e informar sobre lo que da y quiere la IA y que hacemos o no al respecto. Por eso no solo puertas adentro de la institución sino hacia afuera, creo lo dije en respuesta al comentario de Andrés, debemos participar en la toma de decisiones. Sino que sentido tiene decir que nuestras competencias son estas o aquellas y no las voy a enumerar proque ya las conocemos de sobra. Pero digo, hacia fuera de la institución ¿quien lo sabe?, ¿a quién le interesa? Y ahí estamos como siempre, unos aportando, otros escuchando y otros enfrascados en el trabajo diario, que no critico sino valoro, pero ¿y después qué? Por eso me aferro a mi pensar y a tu última frase: "...la profesión necesita dar ahora, no cuando las leyes ya estén escritas". Un abrazo grande. Rosita
EliminarHola, Rosita, por acá de nuevo. Me quedo con tus dos preguntas -"¿a quién le interesa?" y "¿y después qué?"- y arriesgo una respuesta doblemente incómoda.
EliminarPrimero: a nadie le interesa lo que no se publica. Cuando un legislador o un rector busca entender qué pasa con la IA y la información, encuentra informes de consultoras y de las propias empresas, casi nunca un documento bibliotecario. Hablamos casi siempre entre nosotros.
Segundo, y esto me cuesta más escribirlo: cuando decimos que nuestras competencias "las conocemos de sobra", quizás nos hacemos trampa. Tenemos de sobra el conocimiento operativo, que nadie más tiene con nuestra granularidad. Pero entre eso y una mesa regulatoria hay capas que no construimos: entender técnicamente los sistemas que queremos auditar -no solo usarlos-, escribir para quien decide y conocer el circuito donde se decide. Nuestra formación en IA, y me incluyo como oferente, se quedan muchas veces en qué herramienta usar. Esa capa no nos sienta en ninguna mesa.
Por eso mi "¿y después qué?" es concreto: formarnos en lo que falta y producir documentos públicos con destinatario externo -posicionamientos firmados, datos, recomendaciones citables-. Asociaciones, gremios, las redes, las escuelas: cualquiera podría publicar mañana un documento de posición sobre IA y acceso a la información, y ninguno lo tiene. ¿No será hora?
"¿A quién le interesa?" se responde generando algo que no puedan ignorar. Abrazo grande y gracias por no soltar el hilo.
Hola, Andrés. Me gusta que hayas abierto el debate con una posición clara, así que voy a discutirla con el mismo espíritu.
ResponderEliminarCoincido con todo lo que proponés hacer dentro de las instituciones: razonamiento crítico, análisis de sesgos, verificación de referencias contra fuentes confiables. Eso es imprescindible y celebro que lo practiques de manera constante. Pero creo que hay una premisa en tu planteo que merece revisarse: la idea de que participar en los debates regulatorios es "desgastarse", como si fuera una opción que podemos declinar sin costo.
El problema es que esas mesas funcionan igual sin nosotros. Cuando un ministerio define qué plataformas de IA pueden usarse en escuelas, cuando una universidad firma un convenio con un proveedor, cuando se legisla sobre los datos de los usuarios o sobre el uso de repositorios académicos para entrenar modelos, alguien está decidiendo las condiciones dentro de las cuales después nosotros ejercemos ese uso crítico que vos describís. Si no estamos ahí, las decide gente que no conoce ni el acceso a la información ni a los usuarios como los conocemos nosotros.
Dicho de otro modo: lo que podés hacer puertas adentro está determinado puertas afuera. Verificar las alucinaciones de una herramienta es necesario, pero no te permite decidir si esa herramienta debía adoptarse, bajo qué términos de servicio, con qué garantías sobre los datos de quienes la usan. Esas dos tareas no compiten: la primera sin la segunda nos deja administrando con criterio decisiones que otros tomaron sin él.
Así que mi propuesta sería no elegir entre las dos cosas que planteás vos y Rosa, sino entenderlas como capas del mismo trabajo. Tu intervención constante visibilizando fallas, bien documentada, es justamente el tipo de evidencia que un bibliotecario podría llevar a esas mesas. Sería una pena que quede solo en la conversación con el usuario de turno.
Abrazo y gracias por el intercambio.
Hola Fer. Justamente cuando las "mesas funcionan igual sin nosotros" es cuando más debemos luchar por ello y no bajar los brazos. por eso también me permito continuar esta discusión en la que no estoy del todo de acuerdo. Un refrán decía "tanto va el cántaro a la fuente que al final se rompe". Bueno, por qué no rompamos esas barreras y tratemos de hacernos valer. Si no insistimos, si no trabajamos en conjunto, si no "participamos" siempre seremos uno más. ¿Por qué nos cuesta tanto tomar decisiones y encarar proyectos colaborativos? El individualismo creo acarrea soledad y por ende aislamiento. Pensemos que en realidad todos nos nutrimos de los otros y no solo aprendemos sino que generamos otros conocimiento que tomaremos o dejaremos, pero que seguramente mejorarán nuestras formas de hacer. Abrazo grande. Rosita
EliminarHola, Rosita. Gracias por sumarte. Te confieso que leí tu comentario buscando el desacuerdo y encontré más bien una radicalización de lo que yo planteaba, así que voy a discutir lo único donde creo que sí tenemos un matiz: el cómo.
EliminarCoincido en que hay que insistir, pero me hago cargo de una autocrítica gremial: llevamos décadas insistiendo con voluntarismo y el cántaro, hasta ahora, no rompió la fuente - "el cántaro va camino a romperse antes que la fuente". La pregunta que dejás abierta ("¿por qué nos cuesta tanto tomar decisiones y encarar proyectos colaborativos?") merece una respuesta menos cómoda que el individualismo. Creo que el problema no es solo actitudinal: es que insistimos sin estrategia. Llegamos a las mesas -cuando llegamos- con declaraciones de principios, no con evidencia, datos, casos documentados ni propuestas técnicas concretas. Y las mesas donde se decide sobre IA, datos y plataformas hablan ese idioma, no el nuestro.
Por eso conecto tu punto con el de Andrés: su trabajo cotidiano de verificación y análisis de sesgos, sistematizado, es exactamente el insumo que vuelve eficaz la insistencia que vos reclamás. No alcanza con participar; hay que llegar con algo que obligue a escucharnos. Y eso, te doy la razón, no se construye en soledad: requiere redes, asociaciones, observatorios, gente que se reparta el trabajo de documentar, traducir y golpear puertas.
Así que mi síntesis sería: insistencia, sí, pero organizada y con evidencia bajo el brazo. El cántaro solo no rompe nada (como desde hace años...); muchos cántaros coordinados, quizás sí. Abrazo grande y gracias por seguir empujando esta conversación.
Hola Fer. Este intercambio quedó solo en vos y yo, espero se adhieran otros colegas. Porque en cierta forma estamos casi de acuerdo, pero como dices no es solo participar "hay que que llegar con algo que obligue a escucharnos". Cómo podemos hacerlo, del 2002 al 2005 la asociación de bibliotecarios presentó dos estatutos pero claro el tema no era "redituable" para los políticos, tal como es hoy la Educación y la Salud, por eso quedo en la nada. Es más que se nos ofrece, solo algunos cursos y los socios mermaron considerablemente. No será por el valor de la cuota social, creo que es por el cansancio y hastío de que no haya soluciones. Por eso insisto en "participar" entre todos para que con todas las voces se pueda llegar a algo, que seguramente no veré, pero me sentiré satisfecha de haberlo promovido. Veremos si se suman, sino seguirá siendo un "dualismo", pero algo hemos alcanzado. Un abrazo materno. Rosita
ResponderEliminar