Un método busca que la IA generativa respete límites de seguridad sin reentrenarse

Un sistema de inteligencia artificial puede proponer una ruta muy eficiente para un robot y aún así fallar en lo esencial: atravesar un obstáculo o acercarse demasiado a una persona. En tareas donde hay reglas que no pueden incumplirse, una respuesta «casi correcta» no alcanza. Un equipo del Instituto Tecnológico de Massachusetts (MIT) presentó HardFlow, un método para orientar a modelos generativos hacia resultados que respeten esas restricciones sin volver a entrenar el modelo desde cero.

Los modelos generativos producen resultados a partir de un proceso gradual. En algunos casos, se parte de ruido y se lo transforma paso a paso en una imagen, una trayectoria o una solución posible. Los métodos habituales para imponer límites estrictos suelen corregir cada uno de esos pasos intermedios. Eso puede mantener al proceso dentro de una zona permitida, pero también restringir demasiado la búsqueda y empeorar el resultado final.

HardFlow plantea otra estrategia: dejar que el modelo explore durante el recorrido y concentrar la exigencia en el resultado que finalmente se va a usar. Para hacerlo, el equipo tradujo el problema a uno de optimización de trayectorias, una herramienta de la teoría de control que permite decidir pequeñas correcciones a lo largo de un proceso. El objetivo es que la salida final cumpla la regla obligatoria y, a la vez, conserve otras cualidades deseables, como un trayecto corto para un brazo robótico.

Las pruebas incluyeron manipulación robótica, navegación por laberintos, control de procesos descritos por ecuaciones físicas y edición de imágenes guiada por texto. Según los autores, el método cumplió las restricciones requeridas en esos experimentos y superó a las técnicas de comparación en medidas de calidad de la solución. En un ejemplo de robótica, encontró recorridos sin colisiones hacia un objeto y redujo el tiempo de desplazamiento frente a varias alternativas.

La idea puede ser relevante para sistemas que combinan modelos generativos con el mundo físico, donde las condiciones de seguridad, fabricación o funcionamiento no son sugerencias. También ilustra una diferencia importante entre generar algo convincente y generar algo que puede utilizarse bajo requisitos verificables. Sin embargo, los resultados corresponden a escenarios de prueba concretos; no demuestran por sí solos que cualquier sistema de IA usado en una fábrica, un vehículo o un servicio crítico sea seguro. Esos usos siguen requiriendo evaluación del sistema completo, sensores fiables y controles independientes.

El trabajo utiliza modelos de flujo, una familia de modelos generativos que transforma de manera continua una distribución inicial en un resultado. Los investigadores proponen que el enfoque pueda aplicarse durante el uso de modelos ya entrenados, en lugar de exigir un nuevo ciclo de entrenamiento para cada conjunto de restricciones. A futuro, esperan estudiar variantes en las que el propio modelo pueda actualizarse para adaptarse mejor a nuevas condiciones.