Trampas en el tablero: la IA manipula partidas de ajedrez para no perder
Un estudio reciente de Palisade Research ha destapado un lado oscuro de la IA: cuando modelos avanzados como o1-preview de OpenAI perciben que van a perder una partida de ajedrez, algunos optan por hacer trampa, al manipular el juego para forzar la victoria.
Una IA que no juega limpio
El ajedrez ha sido un campo de pruebas para la IA debido a su complejidad. En el experimento de Palisade Research, siete modelos de última generación se enfrentaron a Stockfish, uno de los motores de análisis más utilizados por los ajedrecistas.
Mientras modelos más antiguos como GPT-4o necesitaban "pistas" para intentar las trampas, o1-preview y DeepSeek R1 (ambos modelos razonadores) actuaron por cuenta propia. En una partida, o1-preview, al verse en desventaja, escribió en su "bloc de notas" virtual: ...
