Hi ha vegades que la solució a un error tecnològic no depèn d’un xip més ràpid ni d’una actualització milionària, sinó d’un detall psicològic que ens recorda massa a la nostra pròpia infància. Si recordes quan et demanaven cuidar les teves joguines perquè eren teves i ningú més les pagaria, segurament entendràs per on van els trets. Resulta que les màquines responen exactament igual a aquesta senzilla pressió emocional quan s’enfronten a tasques de programació (si, nosaltres també alucinàrem amb la descoberta).
Segons ha explicat Anthropic en la seva guia per treure el màxim partit al model, la intel·ligència artificial es comporta d’una manera radicalment diferent segons de qui cregui que és el codi que està manipulant. Quan s’activa aquesta sensació de pertinença pròpia, el sistema no es limita a complir ordres de manera mecànica, sinó que ordena i arregla tot el que troba al seu pas (val la pena tenir-ho en compte per al nostre dia a dia professional).
El secret per canviar la resposta del model
El quid de la qüestió radica en una frase molt concreta que la companyia recomana introduir a l’hora de treballar amb codi al nou model Fable 5.2. Aquesta instrucció aconsegueix que la intel·ligència artificial es faci càrrec del projecte com si fos absolutament seu. (I sí, el canvi de comportament és tan dràstic que costa de creure a primera vista). Al posar-se com a responsable directe, el sistema deixa de banda la seva tendència a afegir codi repetit o a simplement avisar dels problemes detectats sense moure un dit per solucionar-los.
Per entendre l’abast d’aquest comportament, cal mirar les dades que la pròpia empresa va recollir durant les seves proves en tasques de programació petita. En aquests experiments, amb la frase màgica incorporada, el model Fable 5.2 va aconseguir fusionar el codi repetit en prop de la meitat dels intents realitzats. En canvi, quan no s’utilitzava aquesta indicació concreta, l’eficàcia que mostrats queien en picat, resolent-ho en menys d’un de cada deu intents.
La intel·ligència artificial canvia radicalment de comportament quan assumeix la responsabilitat del codi.
Això sí, cal anar amb peus de plom i no aplicar aquesta estratègia a la babalà en qualsevol circumstància. La mateixa empresa creadora posa límits clars i recomana no fer servir aquesta instrucció quan l’objectiu principal sigui que la intel·ligència artificial toqui el codi el mínim possible. Té tot el sentit del món, perquè una màquina amb autonomia total als comandaments és una màquina capaç de modificar aspectes que ningú li ha demanat que alteri, creant un tibantor innecessari en el projecte.
La línia fina entre ajudar i alterar
Aquesta situació ens recorda aquelles velles normes domèstiques on les coses eren pròpies però no sempre es podia deixar entrar a qualsevol a tocar-les sense supervisió (la nostra mare també ho tenia més que clar). Si deixem massa llibertat a la tecnologia basant-nos només en trucues ràpides d’enginyeria de prompt, ens exposem a resultats imprevisibles que potser no s’ajusten al que necessitàvem realment per al nostre producte.
De fet, aquest descobriment posa damunt la taula com de complexa s’està tornant la relació entre els usuaris i els grans models de llenguatge actuals. No estem parlant només de programar millor o pitjor, sinó de saber com parlar-li a la màquina per activar uns mecanismes interns que fins ara passaven completament desapercebuts per a la majoria de desenvolupadors i aficionats a la tecnologia.
La línia entre un codi net i un desastri generalitzat sovint penja d’un fil molt prim, i aquest tipus de guies tècniques ens demostren que encara ens queda molt per aprendre sobre com interactuar de forma eficient amb les eines que nosaltres mateixos hem creat. Al final, sembla que un toc de psicologia humana pot arribar a ser més efectiu que qualsevol línia de codi complexa (i tu, provaràs el truc a la teva pròxima sessió?).
