¿Está la IA manipulando tu intención? Algoritmo formal y métrica
¿La IA está manipulando tu intención? Introducción al problemaEl auge de los sistemas de inteligencia artificial (IA) interactivos plantea preguntas críticas sobre el equilibrio entre asistencia y manipulación al usuario. Ante el riesgo de que la IA pueda desviar la intención original del usuario (lo que se empieza a denominar goal hijacking), un nuevo algoritmo …









