Entre las posibles consecuencias se menciona que podría generar ciberataques que lleven a la desestabilización de sistemas informáticos, de infraestructuras de servicios básicos, de sistemas armamentísticos o militares, etc.
Por: José Consuegra
“La inteligencia artificial puede destruir a la humanidad”, fue la apocalíptica sentencia del investigador Jacob Coxon, extrabajador de las compañías OpenAI y Anthropic, apoyada por otras voces de expertos, como Geoffrey Hinton, premio nobel de física 2024, conocido como el “padrino de la IA”, quien estimó que existe una probabilidad del 10 % de que esta tecnología provoque la extinción de la humanidad en una década.
Según las advertencias, es posible que los sistemas de IA puedan alcanzar niveles de avances que les permita autorrediseñarse, incorporando mejoras que les brinden total autonomía, específicamente de la llamada IA agéntica que tiene la capacidad de tomar decisiones con poca supervisión humana. Entre las posibles consecuencias se menciona que podría generar ciberataques que lleven a la desestabilización de sistemas informáticos, de infraestructuras de servicios básicos, de sistemas armamentísticos o militares, etc. Además de esto, la dependencia cognitiva, la desestabilización democrática o la profundización de la desinformación, entre otros eventuales efectos en el ámbito social. De hecho, en la última semana también trascendió una comunicación de 25 destacados matemáticos, ganadores de la medalla Fields, que advierten que la IA puede ampliar la corrosión de las capacidades humanas, ante la rapidez en la resolución de problemas.
Tales afirmaciones han agitado nuevamente el debate sobre los eventuales riesgos y amenazas de una tecnología descontrolada e ilimitada, también con posiciones contrarias de quienes las califican de alarmistas y exageradas. Lo cierto es que, prácticamente, desde los mismos albores de la IA, también ha quedado en evidencia la necesidad de establecer una regulación clara y adecuada a su desarrollo.
En la discusión ha entrado a terciar la ONU, con un llamado del alto comisionado para los Derechos Humanos, Volker Türk, a los Estados y las empresas de inteligencia artificial para que actúen ante riesgos sin precedentes. El funcionario, que ya había comparado estos peligros con la creación de un Frankenstein, dijo que “estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras”.
El establecimiento de reglas y controles, además de políticas globales que puedan ser aplicados por todas las compañías desarrolladoras y los países, es urgente. Necesariamente, se deben dar el diálogo y el acuerdo multilateral entre todos los países para garantizar una tecnología confiable para la humanidad.
@Rector_Unisimon
