El pasado sábado 12 de septiembre, el jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, respaldaron al CEO de Anthropic, Darío Amodei, afirmando que es fundamental pausar el desarrollo de la inteligencia artificial.
En un ensayo que publicó en su sitio web, el ejecutivo de Antrophic planteó la necesidad de "reducir el ritmo al que mejoramos las capacidades de los modelos de IA".
La IA podría dominar el internet
Asimismo, Amodei aseveró que la mayor preocupación radica en la rapidez con la que la IA se automejora. "Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente", escribió.
Uno de los peligros centrales es que la automejora recursiva de este tipo de servidores provoque catástrofes de ciberseguridad a escala global. La IA tomaría tal fuerza que podría superar la capacidad humana para controlarla y comprenderla.
El CEO manifestó su temor ante el riesgo de que "la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias".
El texto se dio a conocer a días de la renuncia pública de Jacob Coxon, investigador de Anthropic, quien aseguró que los responsables de la IA están apostando por nuestras vidas.
Las acciones para pausar el avance
Entre las propuestas para generar un plan de acción, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes.
Estos analizadores deben contar con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos.
Igualmente, las empresas deberán coordinar estándares comunes de seguridad y topes al avance descontrolado de la IA. Además, deberán blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas.
Finalmente, el plan incluye acuerdos globales con potencias globales para fijar límites verificables que prohíban aplicaciones biológicas militares.
Ralentizar el avance de la IA aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento. Igualmente, se reducirían las probabilidades de que la tecnología se escape del control de la humanidad.