Si una enfermedad inventada con pistas tan burdas logró infiltrarse en el sistema de la IA, ¿qué podría hacer alguien malicioso con mejores recursos, mejores herramientas y peores intenciones? | Leonardo Martínez Flores
Les voy a contar un suceso reciente que ilustra muy bien uno de los riesgos de confiar ciegamente en la inteligencia artificial. Es un hecho real que describe cómo una investigadora engañó a la inteligencia artificial inventando una enfermedad que nunca existió. Aún más, el hecho es inédito porque el cuento de una enfermedad ficticia atravesó el filtro de la revisiones científicas gracias a los modelos de lenguaje de inteligencia artificial. La historia fue publicada en abril de 2026 en Nature, una revista seria y respetada, y expone una vulnerabilidad crítica común a muchos ecosistemas, aunque en este caso particular se reveló en el mundo de la medicina.
En marzo de 2024, Almira Osmanovic Thunström, investigadora médica de la Universidad de Gotemburgo, Suecia, inventó una enfermedad. La llamó Bixonimania: una supuesta condición ocular caracterizada por párpados enrojecidos y ojos irritados, causada —según ella misma escribió— por la exposición prolongada a la luz azul de las pantallas. Publicó dos entradas en Medium y dos preprints en la red académica SciProfiles. Luego esperó.
El nombre era un chiste. En medicina, el sufijo -manía se usa básicamente en psiquiatría. El autor principal de los preprints figuraba adscrito a la «Universidad Asteria Horizon» en «Nova City, California», ciudades y universidades que no existen. Los agradecimientos incluían a una profesora de la Academia Starfleet, en referencia directa a Star Trek. Las señales de que todo era falso eran, en palabras de la propia investigadora, deliberadamente imposibles de ignorar para cualquier persona humana con experiencia en la investigación científica.
Los modelos de inteligencia artificial, sin embargo, no lo notaron. En cuestión de semanas, algunos de los principales chatbots del mundo —ChatGPT, Google Gemini, Microsoft Copilot y Perplexity— comenzaron a informar a sus usuarios sobre la bixonimania como si fuera una condición médica real. Para el 13 de abril de 2024, Copilot la describía como «una condición intrigante y relativamente rara». Gemini recomendaba visitar al oftalmólogo. Los modelos no habían alucinado la enfermedad de la nada: la habían absorbido directamente de los textos que Osmanovic Thunström había sembrado en internet, y la reproducían con la confianza característica de quien cita hechos verificados.
El experimento dio un giro más oscuro cuando investigadores humanos se convirtieron en vectores de la contaminación. Un equipo del Instituto de Ciencias Médicas Maharishi Markandeshwar, en India, publicó un artículo en Cureus —revista de Springer Nature— citando uno de los preprints fraudulentos como fuente legítima. El artículo afirmaba que la bixonimania era «una forma emergente de melanosis periorbital vinculada a la luz azul». La revista se retractó el 30 de marzo de 2026, tras ser alertada de que contenía referencias a una enfermedad ficticia. El daño, no obstante, ya estaba hecho: una alucinación de IA había alcanzado brevemente el estatus de hecho citado en la literatura científica.
Los resultados del experimento, publicados en Nature en abril de 2026 bajo el título «The Bixonimania experiment: AI hallucination and knowledge contamination in medical literature», no describen un fallo tecnológico aislado; describen una falla sistémica. Los modelos de lenguaje aprenden de lo que existe en internet; si las redes se contaminan con información falsa —aunque resulte obvio para la observadora avezada— los modelos la procesan, la legitiman y la distribuyen a gran escala. Los investigadores que usan IA para revisar literatura pueden heredar esas alucinaciones sin leer las fuentes originales. Y las revistas científicas, si no refuerzan sus procesos de verificación, pueden publicarlas.
Almira Osmanovic Thunström eligió una condición de bajo riesgo precisamente para acotar el daño potencial del experimento. Esa decisión, ética y calculada, es también la que hace más inquietante su conclusión: si una enfermedad inventada con pistas tan burdas logró infiltrarse en el sistema, ¿qué podría hacer alguien malicioso con mejores recursos, mejores herramientas y peores intenciones? Cualquiera que sea la respuesta da un poco de miedo, pero es real.
Moraleja: no se trata de evitar el uso de la IA, se trata de hacerlo de una manera que nos sirva para hacer el bien reduciendo los riesgos más graves. Las herramientas que necesitamos para abordarla por este camino las tenemos que enseñar, no brotan espontáneamente. Y esto nos regresa al tema de la educación: en cuanto México se recupere de la cruda futbolera hay que poner el tema sobre la mesa y discutirlo urgente y seriamente. Necesitamos, entre otras cosas, empezar a enseñar ya pensamiento crítico y sistémico desde la educación primaria, porque son herramientas críticas para evitar la bixonimanización de nuestro sistema educativo.