Hace unas semanas leía que los dispositivos informáticos, imprescindibles en el trabajo diario, se encarecerían (o que habría escasez) debido a la gran demanda de memoria HBM (por sus siglas en inglés High Bandwidth Memory) para los centros de datos de inteligencia artificial generativa. La fabricación de HBM compite con las memorias tipo DRAM (por sus siglas en inglés Dynamic Random Access Memory), el componente de nuestros ordenadores, servidores y móviles que permite ejecutar varios programas simultáneamente. El mercado se reorienta hacia el sector que proporciona mayores márgenes de beneficio, y ello puede mermar aún más los recursos para la investigación de muchos grupos. Pero me centraré en otro aspecto de mayor calado.
La celeridad con la que la IA (AI, por sus siglas en inglés artificial intelligence) se ha introducido en nuestra vida no da apenas margen para su asimilación con ciertas garantías. Por ello, se suceden los foros de debate sobre su uso, repercusiones y ética tanto en el ámbito internacional como nacional.
En 2021, la UNESCO elaboró una primera norma mundial sobre la ética de la IA que tituló «Recomendación sobre la ética de la inteligencia artificial» y en 2024 organizó el segundo foro global sobre la ética de la IA. Entre los objetivos estaba promover un diálogo con el sector privado, el mundo académico y la sociedad civil. La Unión Europea, en abril de 2025, publicó la guía Living guidelines on the responsible use of generative AI in research con recomendaciones para investigadores, instituciones científicas y agencias financiadoras. La IUBMB también ha elaborado un informe sobre sus usos éticos –Fundamentals of Ethical AI Use-.
En nuestro entorno más cercano, la Agencia Estatal de Evaluación (AEI) junto con la Fundación La Caixa presentaron en 2024 algunas claves sobre cómo el uso de la IA podría contribuir a mejorar los sistemas de evaluación científica. Proponían herramientas como SICTILAKE para agregar toda la información del Sistema de Información de Ciencia, Tecnología e Innovación, con el uso de big data e IA. Y a comienzos de este año, el Ministerio de Ciencia, Innovación y Universidades, a través del Comité Español de Ética de la Investigación (CEEI) y la colaboración de la AEI y la Agencia Nacional de Evaluación de la Calidad y Acreditación (ANECA), organizaron la jornada «Retos de la inteligencia artificial en la evaluación, comunicación e integridad científica» para reflexionar sobre estos temas, y sobre el impacto cada vez más preocupante en el fraude científico.
El CSIC también ha elaborado un decálogo sobre el buen uso de la IA generativa donde advierte que «al mismo tiempo que la IA generativa puede facilitar la producción y gestión del conocimiento, suscita también dudas su desarrollo futuro»; y «de qué modo puede ser utilizada de forma responsable, correcta y efectiva en la investigación científica».
Todos coinciden en los riesgos de procesar todos los datos con herramientas basadas en IA. Hay riesgo de que la información que manejen estas herramientas salga fuera del entorno de la investigación local y se transmita a servidores externos para su procesamiento. Hay un alto riesgo de no controlar cómo y dónde se almacena la información confidencial, quién puede acceder a ella, cuánto tiempo se conserva o si se reutiliza. Por ello, se recomienda no introducir material confidencial como resultados de investigaciones no publicados, conjuntos de datos generados internamente, datos personales, datos de participantes en investigaciones, datos institucionales de carácter confidencial.
Sólo han pasado tres años desde que en el 45º Congreso de la SEBBM de 2023 nos adelantábamos a tratar en uno de los simposios estas cuestiones que comenzaban a surgir. Fue la ponencia, desde Sydney (Australia), de José Miguel Bello «A comparative perspective of regulatory questions for AI systems in the biomedical domain: area-specific standards or more general problems?» la que nos introducía en este debate.
Es evidente que la celeridad con la que el mundo se mueve a golpe de clic nos está arrollando y dificulta que nos paremos a pensar en las acciones que hacemos de manera automática con ayuda de la IA generativa. Como toda acción individual o colectiva necesita una reflexión.
La ética que sustente las prácticas con IA generativa debe tener en cuenta tanto al usuario como al constructor y desarrollador de estas herramientas y procesos. La ética se pretende universal pero, visto que las democracias actuales están evolucionando hacia tecnocracias, la moral individual o la moral de grupos particulares pueden influir de manera decisiva en cómo se diseñan y construyen los algoritmos y entrenamientos de los sistemas automáticos no declarados. Pueden estar en peligro las decisiones que hasta ahora estaban en manos de los individuos o de grupos independientes con una visión ética. Confiemos que la ética prevalezca.
