Amb Curiositat - Tot Barcelona
Anthropic descubre que la inteligencia artificial funciona mejor cuando cree que el código es suyo

Hay veces que la solución a un error tecnológico no depende de un chip más rápido ni de una actualización millonaria, sino de un detalle psicológico que nos recuerda demasiado a nuestra propia infancia. Si recuerdas cuando te pedían cuidar tus juguetes porque eran tuyos y nadie más los pagaría, seguramente entenderás por dónde van los tiros. Resulta que las máquinas responden exactamente igual a esta sencilla presión emocional cuando se enfrentan a tareas de programación (sí, nosotros también alucinamos con el descubrimiento).

Según ha explicado Anthropic en su guía para sacar el máximo partido al modelo, la inteligencia artificial se comporta de una manera radicalmente diferente según de quién crea que es el código que está manipulando. Cuando se activa esta sensación de pertenencia propia, el sistema no se limita a cumplir órdenes de manera mecánica, sino que ordena y arregla todo lo que encuentra a su paso (vale la pena tenerlo en cuenta para nuestro día a día profesional).

El secreto para cambiar la respuesta del modelo

El quid de la cuestión radica en una frase muy concreta que la compañía recomienda introducir al trabajar con código en el nuevo modelo Fable 5.2. Esta instrucción logra que la inteligencia artificial se haga cargo del proyecto como si fuera absolutamente suyo. (Y sí, el cambio de comportamiento es tan drástico que cuesta creerlo a primera vista). Al ponerse como responsable directo, el sistema deja de lado su tendencia a añadir código repetido o simplemente avisar de los problemas detectados sin mover un dedo para solucionarlos.

Para entender el alcance de este comportamiento, hay que mirar los datos que la propia empresa recogió durante sus pruebas en tareas de programación pequeña. En estos experimentos, con la frase mágica incorporada, el modelo Fable 5.2 logró fusionar el código repetido en cerca de la mitad de los intentos realizados. En cambio, cuando no se utilizaba esta indicación concreta, la eficacia que mostraban caía en picado, resolviéndolo en menos de uno de cada diez intentos.

La inteligencia artificial cambia radicalmente de comportamiento cuando asume la responsabilidad del código.

Aun así, hay que ir con pies de plomo y no aplicar esta estrategia a la ligera en cualquier circunstancia. La misma empresa creadora pone límites claros y recomienda no usar esta instrucción cuando el objetivo principal sea que la inteligencia artificial toque el código lo mínimo posible. Tiene todo el sentido del mundo, porque una máquina con autonomía total a los mandos es una máquina capaz de modificar aspectos que nadie le ha pedido que altere, creando una tensión innecesaria en el proyecto.

La delgada línea entre ayudar y alterar

Esta situación nos recuerda aquellas viejas normas domésticas donde las cosas eran propias pero no siempre se podía dejar entrar a cualquiera a tocarlas sin supervisión (nuestra madre también lo tenía más que claro). Si dejamos demasiada libertad a la tecnología basándonos solo en trucos rápidos de ingeniería de prompt, nos exponemos a resultados imprevisibles que quizás no se ajusten a lo que necesitábamos realmente para nuestro producto.

De hecho, este descubrimiento pone sobre la mesa lo compleja que se está volviendo la relación entre los usuarios y los grandes modelos de lenguaje actuales. No estamos hablando solo de programar mejor o peor, sino de saber cómo hablarle a la máquina para activar unos mecanismos internos que hasta ahora pasaban completamente desapercibidos para la mayoría de desarrolladores y aficionados a la tecnología.

La línea entre un código limpio y un desastre generalizado a menudo pende de un hilo muy fino, y este tipo de guías técnicas nos demuestran que aún nos queda mucho por aprender sobre cómo interactuar de forma eficiente con las herramientas que nosotros mismos hemos creado. Al final, parece que un toque de psicología humana puede llegar a ser más efectivo que cualquier línea de código compleja (¿y tú, probarás el truco en tu próxima sesión?).

Nou comentari

Comparteix

Icona de pantalla completa