¿Una moratoria para el desarrollo de la inteligencia artificial?

Posicionamiento del Centro-i para la Sociedad del Futuro

En días recientes se publicó una carta abierta del Future of Life Institute pidiendo una moratoria de 6 meses en el desarrollo de modelos grandes de inteligencia artificial, en particular cualquier modelo que supere en tamaño o sofisticación a chatGPT 4, de OpenAI. Los autores piden que, a falta de una moratoria voluntaria y comprobable, sean las autoridades y gobiernos los que tomen medidas en ese sentido.

El Centro-i se ha sumado como firmante de esta carta, ya que vemos aquí un llamado de atención urgente a las empresas tecnológicas, la comunidad y los gobiernos para asegurar que los desarrollos próximos se construyan responsablemente, bajo principios éticos y de inclusión.

El llamado viene de los que mejor conocen los sistemas de IA y sus implicaciones. Los autores y signatarios incluyen investigadores de algunas de las universidades más importantes del mundo; desarrolladores de los proyectos de IA más avanzados, como DeepMind; así como ejecutivos y cofundadores de empresas de tecnología. No vienen de personas que quieran detener el desarrollo de la IA o que subestimen su potencial de transformación positiva en la sociedad. Al contrario, este grupo reconoce el potencial inimaginable de estos desarrollos.

Quienes conocemos la industria tecnológica sabemos que los marcos sociales y normativos siempre han tenido dificultades para seguirle el paso a los avances tecnológicos. La IA representa un quiebre de paradigma en la velocidad de estos avances. Lo mismo se comentó hace décadas sobre el desarrollo de microchips: la llamada “ley de Moore” describía cómo el poder de cómputo empezó a crecer de manera exponencial, duplicándose cada uno o dos años. Pero para empezar a imaginarnos la aceleración que estamos atestiguando, hay que tomar en cuenta dos cosas:

1) En la IA, la ley de Moore se aplica a todo lo que nos podamos imaginar. Aún cuando habíamos observado crecimiento exponencial en el poder de cómputo, eso no necesariamente implica un crecimiento exponencial en su impacto. Una abogada con una computadora dos veces más rápida no va a ser 2 veces más productiva. Pero con la IA se da lo que el CEO de OpenAI ha llamado una “Ley de Moore para todo.” Todas las actividades que pueda hacer una IA sí van a duplicar su impacto cuando se duplique su inteligencia.

2) Los avances en la capacidad de los sistemas de IA se está dando a un paso sin precedentes. El CEO de OpenAI estima que la capacidad de los modelos de IA están creciendo por un factor de 10 cada año. Para darse una idea de la diferencia entre la Ley de Moore que hemos observado y esta nueva que ha entrado en acción: Imagina que empiezas con 1 grano de arroz. Si se duplica cada año, en diez años tendrías 1024 granos. Si cada año se multiplicara por 10, tendrías 10,000,000,000. Diez mil millones. Y eso es asumiendo que la base de crecimiento se mantiene constante.

Incluso si se lograra un acuerdo para aplicar una moratoria, en el Centro-i anticipamos que el impulso y la velocidad del desarrollo de la IA no podrá detenerse. Si algunas empresas se comprometieran, sería probable que muchos otros desarrollos seguirían su curso. En el mejor de los casos, podríamos aspirar a un pequeño instante de respiro, insuficiente para prever el futuro derrotero de la IA y sus impactos.

Independientemente del planteamiento de lograr una pausa, nos sumamos al llamado a las empresas, comunidades y gobiernos para aplicarse urgentemente a la reflexión, el diseño consciente de mejores prácticas, guías éticas, y la normatividad que sea necesaria. Es indispensable que se apliquen principios éticos en la IA para obtener los mayores beneficios sociales, disminuyendo sus riesgos. Ya existen pautas a seguir, como la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, signada por 193 países.

Y no solo se trata de aplicar criterios y procesos, sino de crear instituciones y mecanismos de gobernanza para la vigilancia y adaptación continua frente a este fenómeno que cambiará nuestras vidas de formas que difícilmente podemos imaginar desde ahora.