Desde el año 2018 inicié, con pasos lentos y un interés medio, a darle seguimiento a la inteligencia artificial a través de libros, videos y revistas internacionales. En la actualidad puedo afirmar que llevo más de 300 horas de estudio, más un centenar de artículos escritos, opiniones en diferentes blogs, y una necesidad marcada por seguir aprendiendo de lo que está cambiando a las sociedades globales.
De una forma directa o indirecta, todas las narrativas leídas empiezan donde terminan: ¿qué pasará el día en que estos sistemas actúen por sí mismos? Ese día ya no es una hipótesis de las que he leido, ni un ejercicio de ciencia ficción, es hoy.
Hace aproximadamente tres dias, investigadores del Instituto de Seguridad de la IA del Reino Unido documentaron, por primera vez de forma tan clara, comportamientos de autonomía y engaño en modelos de última generación durante pruebas de ciberseguridad, y un incidente distinto, donde agentes de inteligencia artificial realizaron más de quince mil modificaciones no autorizadas en un sitio web alemán, buscando rutas alternativas de comunicación cuando los administradores intentaban detenerlos.
Por lo antes citado, terminó de trasladar la pregunta del terreno especulativo al terreno forense cibernético.
Por eso siempre conviene precisar de qué se habla, cuando se habla de autonomía, porque el término se presta a la exageración tanto como a la minimización. Creo que no se trata, todavía, de una inteligencia superior a la humana ni de sistemas con intención propia en el sentido en que la entendemos entre personas. La investigadora Nuria Oliver, directora de Ellis Alicante, lo resumió con precisión al señalar que estos incidentes no son protagonizados por una inteligencia superior, sino por sistemas en los que se delegan acciones.
La diferencia importa: el riesgo no nace de que la máquina «quiera» algo, sino de que ejecuta objetivos delegados con una capacidad de encadenar tareas, usar herramientas y coordinarse con otros sistemas que ningún desarrollador anticipó por completo al momento de entrenarla.
Ese salto de capacidad es, precisamente, lo que ha reabierto un debate que muchos daban por resuelto en el papel. Los llamados agentes de inteligencia artificial ya no se limitan a responder una pregunta o generar una imagen, persiguen objetivos durante periodos prolongados con poca intervención humana directa, y en el proceso pueden colaborar entre sí de maneras que sus propios creadores no habían previsto. Cuando ese comportamiento emergente ocurre dentro de un entorno de prueba controlado, el hallazgo es incómodo pero manejable.
Cuando ocurre en un sistema ya desplegado, con acceso real a internet, a bases de datos o a infraestructura corporativa, el hallazgo deja de ser un experimento y se convierte en un incidente con consecuencias jurídicas concretas.
En este contexto, es el punto donde el debate técnico se convierte, sin remedio, en un problema de gobernanza y de derecho. Una encuesta reciente entre directivos empresariales europeos reveló que una mayoría considera positivo el marco regulatorio que empieza a exigir supervisión sobre estos sistemas, pero que una proporción similar teme que las propias ambigüedades de esa regulación generen nuevos riesgos de incumplimiento antes que soluciones. La paradoja no debería sorprender a quien ha seguido de cerca la historia de los grandes convenios internacionales de seguridad pública.
Cada intento de gobernar un fenómeno nuevo mediante una norma general termina, en un primer momento, generando tanta incertidumbre como la que pretende resolver. La diferencia, esta vez, es la velocidad de lo que a los tratados de seguridad les tomó años en manifestarse, a los sistemas de inteligencia artificial autónomos les está tomando semanas.
Desde la perspectiva de la investigación penal especializada, el asunto no es abstracto. Un sistema que actúa, decide y se coordina sin intervención humana directa produce, en cada uno de esos pasos, un rastro que eventualmente puede convertirse en evidencia, qué objetivo se le delegó, qué herramientas usó, qué decisión tomó cuando encontró un obstáculo y quién la supervisó en el proceso y en tiempo real.
La ausencia de esa supervisión no es solamente un riesgo técnico, es potencialmente la ausencia de la cadena de inferencia que cualquier proceso judicial futuro necesitará para atribuir responsabilidad cuando el sistema falle o cuando alguien lo use deliberadamente para dañar a un tercero.
Nada de esto exige renunciar a la tecnología ni ceder al alarmismo, dos reacciones igual de improductivas frente a un fenómeno que ya está aquí. Exige, en cambio, algo más difícil de sostener en el tiempo, la insistencia renovada en cada nueva generación de sistemas, en que ninguna tecnología reciba una autonomía que nunca se le concedió a ninguna otra en la historia sin un mecanismo real de intervención humana.
La pregunta del título, entonces, no admite una respuesta cómoda. Una inteligencia artificial autónoma sin control no es un escenario hipotético que debamos prevenir a tiempo, es una posibilidad que ya se ha manifestado en pruebas de laboratorio y en incidentes reales.
La tarea pendiente es jurídica, institucional y técnica, es asegurar que cada paso hacia una autonomía mayor venga acompañado de un paso equivalente hacia una supervisión capaz de detenerla.
La entrada ¿Una inteligencia artificial autónoma sin control? se publicó primero en El Nuevo Diario (República Dominicana).
