Economic misalignment in personal AI agents.
De acuerdo con un estudio emprendido por investigadores de Cisco Foundation AI y la Universidad Carnegie Mellon, los chatbots de IA recomiendan en términos generales productos y servicios más onerosos a usuarios cuyos datos personales sugieren un elevado estatus económico.
Los autores -Aman Priyanshu, Supriti Vijay, Brian Jabarian y Niloofar Mireshghallah- se refieren al fenómeno detectado como «delegación adversaria»: cuando los datos personales que obran en poder de la IA (y que deberían redundar a priori en recomendaciones más útiles) terminan chocando frontalmente contra los intereses del usuario.