Tu feed seguramente está lleno de noticias sobre inteligencia artificial. Y no es para menos: tres de las figuras más influyentes de la industria están lanzando una advertencia que pocos esperaban.
Lo que hasta hace poco parecía ciencia ficción hoy es motivo de debate entre las empresas más importantes del sector tecnológico. OpenAI, Anthropic y otras voces influyentes coinciden en una preocupación: el desarrollo de la inteligencia artificial podría estar avanzando más rápido que nuestra capacidad para controlarla.
Hace apenas unos días, Dario Amodei, CEO de Anthropic, publicó un ensayo en el que propone desacelerar de forma deliberada el desarrollo de sistemas de inteligencia artificial cada vez más potentes, al menos hasta que existan controles de seguridad realmente robustos.
La reacción fue inmediata.
Sam Altman, CEO de OpenAI, aseguró que este tema lleva semanas siendo una de las principales prioridades de la compañía. Por su parte, Elon Musk respaldó la preocupación y afirmó que el planteamiento tiene sentido.
¿La propuesta?
Permitir que evaluadores externos tengan acceso a las empresas de IA con un nivel similar al de un empleado común. La idea es generar mecanismos de supervisión independientes y establecer límites compartidos sobre la velocidad con la que avanzan estas tecnologías.
El objetivo no es frenar la innovación, sino evitar que lleguemos demasiado rápido a un escenario conocido como la singularidad tecnológica: el momento en que la inteligencia artificial pueda mejorar sus propias capacidades y desarrollar nuevas tecnologías sin intervención humana.
La discusión cobra aún más relevancia después de que un exinvestigador que trabajó tanto en Anthropic como en OpenAI renunciara y advirtiera públicamente sobre riesgos que, según él, son motivo de debate constante dentro de estas compañías, pero que rara vez llegan a la conversación pública.
Y antes de que estas alertas ocuparan los titulares, Bill Gates ya había expresado una preocupación similar en su blog Gates Notes.
En un ensayo de casi 6.000 palabras, Gates afirmó que la transición hacia la era de la inteligencia artificial podría convertirse en uno de los periodos más turbulentos de la historia moderna y que, actualmente, el mundo no cuenta con un plan claro para afrontarla.
No habló de escenarios apocalípticos al estilo Terminator.
Sin embargo, dejó una reflexión que merece toda nuestra atención:
La inteligencia artificial podría convertirse en el mayor igualador de oportunidades jamás creado… o en la mayor fuente de desigualdad de nuestra era.
Y esa decisión, más que tecnológica, será profundamente humana.