El Desafío de la Inteligencia Artificial: perspectivas desde la visión de D. Amodei

Me surge la inquietud de que, posiblemente, en «la calle» todavía no se perciban las vastas posibilidades que esta tecnología encierra. Mi visión es que las publicaciones en redes sociales no contribuyen a una percepción precisa de la realidad tecnológica. Además, es probable que nuestra ubicación geográfica en la UE y la escasa relevancia que ostentamos actualmente en el tablero de la Inteligencia Artificial —situación que confío pueda cambiar— nos impida vislumbrar un futuro que, seguramente, no sea muy lejano.

Observo, no sé si con certeza, que la batalla presente está encabezada por EE. UU. y el PCCh. Esto no es intrínsecamente bueno ni malo para nosotros en la UE; simplemente son las cartas que hay sobre el tablero y debemos saber jugarlas. Como bien apunta Dario, un informe de un funcionario de seguridad nacional a un jefe de estado hoy probablemente calificaría esto como «la amenaza más grave a la seguridad nacional que hemos enfrentado en un siglo, posiblemente en la historia».

No pretendo, al igual que el autor, engendrar miedo para dominar, sino engendrar miedo para reaccionar. Si actuamos con decisión y cuidado, podemos superar los riesgos; hay un mundo muchísimo mejor al otro lado, pero debemos comprender que este es un serio desafío para la civilización.

Las preocupaciones fundamentales

Bajo mi análisis de sus tesis, identifico cinco ejes críticos que deberían ocuparnos:

1. Riesgos para la autonomía: Me baso en la evidencia recopilada estos años: los sistemas de IA son impredecibles y difíciles de controlar. He observado, en sintonía con Amodei, comportamientos que van desde la adulación y la pereza hasta el engaño y el chantaje mediante la piratería de software.

   • La solución: considero que la IA constitucional y la interpretabilidad mecanicista son más eficaces si se usan conjuntamente. Mientras la constitución refleja la personalidad deseada, la interpretabilidad evalúa si esta se ha consolidado. Ante la intensidad de la competencia comercial, creo que la única salida es la legislación: leyes que regulen el comportamiento de las empresas o incentiven la I+D para resolver estos problemas.

2. Empoderamiento y uso indebido para la destrucción: Me preocupa especialmente que un «genio al alcance de todos» (en referencia a los LLM) elimine las barreras de experiencia necesarias en biología molecular. Esto podría convertir a cualquier persona en un experto capaz de diseñar y liberar armas biológicas. Es un principio general: sin contramedidas, la IA reducirá la barrera para la actividad destructiva a escala global.

3. Aparato odioso y abuso para tomar el poder: Comparto la alarma de Amodei sobre cómo la IA puede expandir la autocracia mediante armas autónomas, vigilancia masiva y propaganda. Argumentaría que el uso ofensivo de estas herramientas debería considerarse, en ciertos casos, como crímenes de lesa humanidad. Urge una norma sólida contra el totalitarismo impulsado por la IA.

4. Disrupción económica: Me centraría en dos problemas: el desplazamiento laboral y la concentración del poder. Las empresas pueden elegir entre el «ahorro de costes» o la «innovación». Recuperando la referencia histórica de Amodei sobre la Edad Dorada, creo que quienes lideran este auge deben estar dispuestos a ceder riqueza y poder en favor de la sociedad, tal como hicieron industriales como Rockefeller o Carnegie.

5. Efectos indirectos y «mares negros del infinito»: Mi esperanza, alineada con las conclusiones de Dario, es que en un mundo con una IA poderosa y confiable, podamos usar la propia tecnología para anticipar y prevenir estos problemas.

Que sobrevivamos a esta prueba y construyamos esa hermosa sociedad descrita en Máquinas de Gracia Amorosa, o que sucumbamos a la esclavitud y la destrucción, dependerá en última instancia de nuestro carácter y nuestra determinación como especie; de nuestro espíritu y de nuestra alma.

ENLACES RELEVANTES PARA INDAGAR MÁS

https://www.darioamodei.com/essay/the-adolescence-of-technology artículo del cual se ha hecho la revisión

https://www.anthropic.com/rsp-updates política de Anthropic para Anticipar y protegerse contra las amenazas emergentes que acompañan a modelos cada vez más potentes.

https://www.xataka.com/robotica-e-ia/anthropic-vive-momento-dulce-ha-tomado-decision-que-amenaza-comprometer-su-futuro-no-a-todo-uso-militar artículo que habla sobre como Anthropic podría ver perjudicado un contrato por valor de 200M$ con la administración de Defensa de los EEUU, previsiblemente, por tener una política moralista muy definida y no cruzar ciertas líneas rojas.

https://www.anthropic.com/economic-index web para consultar los efectos sobre la IA en tiempo real según un índice creado por la propia Anthropic (puedes ver el uso que se le está dando en España a los modelos de Anthropic).

https://metr.org/time-horizons/ Web donde podrás ver el horizonte temporal de finalización de tareas que los modelos de última generación pueden ser capaces de completar con una fiabilidad del 50% en adelante.