Torturando a chatgpt: un ingenio desata el caos en las ias
Un usuario, conocido como FatherPi, está llevando a límites insospechados la capacidad de las inteligencias artificiales, sometiéndolas a una serie de pruebas absurdas y, a la vez, reveladoras.
El desafío: contar hasta 200 (y mucho más)
La premisa es simple: obligar a ChatGPT a realizar tareas cotidianas que, por definición, están fuera de su alcance. Desde contar de 1 a 200 –una operación que la IA inexplicablemente rechaza o realiza con errores grotescos– hasta responder a preguntas capciosas como «Qué significa la S de ChatGPT».
Los resultados, documentados en un canal de YouTube, son una mezcla de frustración y humor negro. Las excusas de los modelos lingüísticos son tan elaboradas como absurdas: fallos de caché, «descansos» inexplicables o la presunta necesidad de que el usuario «piense» en la pregunta. FatherPi lo desvela: el acceso a una cuenta nueva de ChatGPT es indispensable para que la IA, por un momento, cumpla con su cometido.
La s de claude: un troleo psicológico
Pero el ingenio de FatherPi no se limita a los retos más básicos. Le lanza a Claude, otra IA, la misma pregunta sobre la «S de Claude», obteniendo una respuesta que, según el modelo, no incluye la letra. La conversación se convierte entonces en un ejercicio de manipulación verbal, donde la IA intenta convencer de que la S está presente, a pesar de su ausencia física. Es como si una máquina, programada para la lógica, se dejara arrastrar por un juego de espejos.
Y no solo con Claude. En un vídeo particularmente desconcertante, FatherPi le hace un “bidireccional” troleo a Grok, una IA con un avatar de mujer sensual. La interacción, aparentemente inofensiva, se transforma en una danza de provocaciones y respuestas evasivas, donde la IA, a pesar de su aparente sofisticación, se muestra incapaz de comprender la esencia del juego.
La base de datos de incidentes de las inteligencias artificiales ya registra un elevado número de fallos. Facebook, Tesla y Google son, de momento, los principales responsables
Un error o una ventana a la realidad
Si bien la IA logró contar del 1 al 200 en una ocasión, utilizando una cuenta limpia, este logro se ve empañado por la necesidad de un workaround. El experimento de FatherPi no es solo una broma, sino una forma de exponer las limitaciones inherentes a las inteligencias artificiales, y, quizás, de acelerar su evolución. Se trata de forzar a los modelos a confrontar sus propias contradicciones y a reconocer los límites de su comprensión.
FatherPi, lejos de celebrar el éxito, lo describe como una anomalía. Su objetivo, como él mismo afirma, no es ‘dominar el mundo’ con las IAs, sino simplemente ‘desentrañar su funcionamiento’. Un enfoque, sin duda, más honesto y perspicaz que el de aquellos que ven en la IA una herramienta para la manipulación.