IA: Román Orús, el único español en el comité de la ONU, pide regulación global urgente

El profesor insistió en que la regulación no debe limitar la adopción tecnológica, sino establecer límites claros a usos peligrosos, como la generación de desinformación o ciberataques. Citó el caso reciente del modelo de Anthropic, detenido por riesgos de seguridad, como muestra de que incluso los propios desarrolladores reconocen la necesidad de controles.

futuro IA

Si la comunidad internacional no actúa, Orús prevé una serie de riesgos que podrían transformar la sociedad. Entre ellos, la proliferación de campañas de desinformación que erosionarían la confianza en los medios y en las instituciones democráticas. Además, los ciberataques impulsados por IA podrían alcanzar niveles de sofisticación sin precedentes, poniendo en jaque infraestructuras críticas.

Otro escenario que advierte es la consolidación de poder en manos de megacorporaciones, que ofrecerían soluciones a problemas cotidianos a cambio de un control total sobre datos y decisiones. En la ficción, la serie Alien: Earth muestra un futuro dominado por estas empresas; Orús teme que la realidad pueda acercarse a esa distopía.

Para evitarlo, el experto propone la creación de normas internacionales vinculantes, auditorías independientes de los modelos más potentes y una mayor transparencia en los procesos de entrenamiento. También sugiere que los gobiernos establezcan marcos de cooperación con el sector privado, garantizando que la innovación continúe sin comprometer la seguridad colectiva.

En conclusión, la designación de Román Orús en el comité de la ONU marca un paso decisivo hacia la regulación global de la IA. Su llamado a una normativa flexible pero firme busca equilibrar el impulso tecnológico con la protección de la sociedad frente a riesgos emergentes. El próximo año, los trabajos del comité definirán el rumbo que tomará la inteligencia artificial a nivel mundial.