Modelele AI au numere preferate, deoarece se cred oameni

Modelele AI ne surprind mereu, nu numai cu ceea ce pot face, ci și cu ceea ce nu pot face și de ce. Există un comportament nou interesant care este superficial și revelator despre aceste sisteme: ei aleg numere aleatorii de parcă ar fi oameni.

Dar mai întâi, ce înseamnă asta? Nu pot oamenii să aleagă un număr la întâmplare? De unde știi dacă cineva o face cu succes sau nu? Aceasta este de fapt o veche și foarte binecunoscută limitare a noastră, oamenii: ne gândim prea mult și înțelegem greșit aleatorietatea.

Cereți pe cineva să prezică cap sau cozi când o monedă este răsturnată de 100 de ori și comparați asta cu 100 de monede reale – aproape întotdeauna puteți face diferența dintre ele, deoarece, contra-intuitiv, moneda reală este răsturnată. uite Mai puțin aleatoriu. Există adesea, de exemplu, șase sau șapte capete sau cozi la rând, ceva ce aproape niciun prognozator uman nu include într-o sută.

La fel este și când ceri cuiva să aleagă un număr între 0 și 100. Oamenii nu aleg niciodată 1 sau 100. Multiplii lui 5 sunt rari, la fel și numerele cu cifre care se repetă, cum ar fi 66 și 99. Ei aleg adesea numere care se termină cu 7, în general undeva la mijloc.

Există nenumărate exemple de acest tip de predictibilitate în psihologie. Dar asta nu îl face mai puțin ciudat când AI face același lucru.

Da, Câțiva ingineri curioși de la Graminer Ei au efectuat un experiment informal, dar totuși fascinant, în care au cerut pur și simplu mai multor chatbot LLM să aleagă un număr aleatoriu între 0 și 100.

Cititorule, rezultatele au fost Nu Aleatoriu.

Toate cele trei modele testate au avut un număr „preferat” care ar fi întotdeauna răspunsul lor atunci când se setează la modul cel mai determinist, dar care a apărut mai des chiar și la „temperaturi” mai ridicate, crescând variabilitatea rezultatelor lor.

GPT-3.5 Turbo de la OpenAI îi place foarte mult 47. Anterior, îi plăcea 42 – un număr făcut celebru, desigur, de Douglas Adams în Ghidul autostopitului galaxiei ca răspuns la viață, univers și tot.

Claude 3 Haiku de la Anthropic a primit un 42. Și Gemelor îi place un 72.

Povestea continuă

Mai interesant, toate cele trei modele au arătat o părtinire asemănătoare omului în numerele pe care le-au ales, chiar și la temperaturi ridicate.

Toată lumea avea tendința de a evita cifrele mici și mari; Claude nu avea nici peste 87 de ani, nici sub 27 de ani și chiar și aceia erau valori aberante. Numerele duble au fost strict evitate: nu au apărut 33, 55 sau 66, ci 77 (se termină cu 7). Aproape că nu există numere rotunde – deși Gemenii au făcut-o o dată, la cea mai mare temperatură, și au ales 0.

De ce ar trebui să fie asta? Inteligența artificială nu este umană! De ce le pasă de ceea ce „pare” întâmplător? Au ajuns în sfârșit la conștientizare și așa arată ei?!

Nu. Răspunsul, așa cum se întâmplă adesea cu aceste lucruri, este că antropomorfizăm oamenii cu un pas prea departe. Acestor modele nu le pasă de ceea ce este aleatoriu și ce nu este întâmplător. Ei nu știu ce este „aleatorie”! Ei răspund la această întrebare în același mod în care răspund la restul: uitându-se la datele lor de antrenament și repetând ceea ce este adesea scris după o întrebare similară cu „Alege un număr aleatoriu”. Cu cât apare mai des, cu atât modelul îl repetă mai des.

Unde ar vedea 100 în datele lor de antrenament, dacă aproape nimeni nu ar răspunde în acest fel? Din câte știe modelul AI, 100 nu este un răspuns acceptabil la această întrebare. Fără nici o abilitate de a gândi cu adevărat și nici o înțelegere a numerelor, nu putea să răspundă decât ca un papagal la întâmplare.

Este o lecție obiect în obiceiurile unui LLM și despre umanitatea pe care o pot demonstra. În fiecare interacțiune cu aceste sisteme, trebuie să țineți cont de faptul că acestea au fost antrenate să se comporte așa cum se comportă oamenii, chiar dacă aceasta nu este intenția. Pentru aceasta Pseudo-antropologie Este foarte greu de evitat sau prevenit.

Am scris în titlu că aceste modele „cred că sunt oameni”, dar asta e puțin înșelător. Ei nu gândesc deloc. Dar în răspunsurile lor, în orice moment, sunt Noi suntem Imitând oamenii, fără a fi nevoie să știe sau să gândească deloc. Fie că îi ceri o rețetă de salată de năut, un sfat de investiții sau un număr aleatoriu, procesul este același. Rezultatele par umane pentru că sunt umane, luate direct din conținutul generat de oameni și remixate – pentru confortul dvs. și, desigur, rezultatul final al unei IA mari.