Decenas de científicos, expertos y líderes tecnológicos, entre ellos Elon Musk, consejero delegado de Twitter y Tesla, han firmado recientemente una carta en la que piden a los laboratorios que generan inteligencia artificial que frenen
Los motivos que esgrimen los expertos para pedir que se ralentice la producción de nuevos sistemas de inteligencia artificial durante seis meses es para poder tener tiempo de estudiar e investigar los posibles riesgos.
Los programas de IA como ChatGPT y el nuevo GPT-4 han captado rápidamente el interés público por sus elevadas capacidades, y por su potencial para sustituir millones de trabajadores humanos en campos como la abogacía, el periodismo, el marketing o la programación. Los grandes líderes de la tecnología piensan que la sociedad está preparada para estos cambios.
Entre los firmantes están el fundador de Tesla y actual dueño de Twitter Elon Musk, el cofundador de Apple Steve Wozniak, el candidato presidencial en EE UU en 2020 Andrew Yang, y más de 1.000 personas. La petición es una carta abierta a los laboratorios de inteligencia artificial, especialmente a la empresa OpenAI, instándoles a «pausar inmediatamente» la producción de modelos más potentes que GPT-4, la actualización más reciente de su motor generador de texto, durante al menos seis meses.
Según afirma la carta, «Esto no significa una pausa en el desarrollo de la IA en general», sino «un paso atrás en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes y con capacidades emergentes». Un modelo de caja negra de IA es aquél en el que los mecanismos internos por los que el sistema llega a dar respuestas y tomar decisiones no están claramente determinados. Esto hace que, por ejemplo, los actuales modelos sufran «alucinaciones» y se inventen hechos y datos.
«Si tal pausa no puede llevarse a cabo rápidamente, los gobiernos deberían intervenir e instituir una moratoria», añade la carta, que procede del Future of Life Institute, una organización sin ánimo de lucro que aboga por un uso responsable de la inteligencia artificial. La carta menciona específicamente GPT-4, una herramienta de IA generativa que se considera más potente que el modelo inicial de ChatGPT de OpenAI.
GPT-4 puede aprobar la mayoría de los exámenes de Acceso Avanzado para estudiantes preuniversitarios en EE UU, y obtener una puntuación en el percentil 90 del examen estándar del colegio de abogados en este país. Según un estudio reciente, esto no le impide soltar información errónea, eso sí, de forma más convincente que el modelo anterior.
He aquí algunas líneas clave de la carta abierta:
- Sobre la desinformación: «Los sistemas de inteligencia artificial contemporáneos ya compiten con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos dejar que las máquinas inunden nuestros canales de información? ¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades?».
Sobre la sustitución de los humanos: «¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que con el tiempo nos superen en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?».
Sobre el propósito de la IA: «Sólo deberían desarrollarse sistemas de IA potentes cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables».
La carta instaba a los laboratorios y expertos en IA a trabajar juntos «para desarrollar e implementar conjuntamente» protocolos de seguridad para el diseño y desarrollo de la IA, que luego deberían ser «auditados y supervisados por expertos externos independientes.»
Según algunos expertos, la IA puede convertirse en una fuerza imparable que desestabilice los mecanismos de la sociedad actual, con consecuencias potencialmente catastróficas si no se controla su uso. Los expertos piensan que un acercamiento a los responsables políticos seguramente caiga en saco roto, dado el atraso de los legisladores en asumir los cambios tecnológicos.
