Oamenii își schimbă comportamentul în timp ce antrenează AI

Scrisă de Chris Woolston

Un nou studiu interdisciplinar realizat de cercetătorii de la Universitatea din Washington a descoperit un fenomen psihologic neașteptat la intersecția dintre comportamentul uman și inteligența artificială: când i s-a spus că antrenează un AI pentru a juca un joc de negociere, participanții și-au modificat în mod activ comportamentul pentru a părea mai corecti și mai corecti. mai echitabil, o motivație care are implicații potențial importante pentru… Dezvoltatorii AI din lumea reală.

„Participanții par să fie motivați să antreneze AI pentru justiție, ceea ce este încurajator, dar alți oameni pot avea agende diferite”, a spus Lauren Treiman, doctorand la Departamentul de Informatică și Științe ale Datelor și autorul principal al studiului. „Dezvoltatorii ar trebui să știe că oamenii își vor schimba în mod intenționat comportamentul atunci când știu că va fi folosit pentru a antrena AI.”

Studiul, publicat în Proceedings of the National Academy of Sciences, a fost susținut de un grant de semințe de la Institutul Interdisciplinar pentru Știința Datelor Aplicate (TRIADS)Este o inițiativă distinctă a Planului Strategic pentru Arte și Științe. Co-autorii sunt Apa receProfesor asistent de Științe psihologice și ale creierului la Colegiul de Arte și Științe, Chen Ju HoProfesor asistent de informatică și inginerie la McKelvey School of Engineering. Cole este consilierul absolvent al lui Treeman.

Studiul a inclus cinci experimente, fiecare dintre ele implicat între 200 și 300 de participanți. Participanții au fost rugați să joace „jocul ultimatum”, o provocare care le-a cerut să negocieze sume mici de numerar (doar de la 1 USD la 6 USD) cu alți jucători umani sau cu un computer. În unele cazuri, li s-a spus că deciziile lor vor fi folosite pentru a învăța botul AI cum să joace jocul.

Jucătorii care credeau că antrenează IA erau în mod constant mai predispuși să caute o parte echitabilă din profit, chiar dacă această corectitudine i-a costat câțiva dolari. Interesant este că această schimbare de comportament a continuat chiar și după ce li s-a spus că deciziile lor nu mai sunt folosite pentru a antrena AI, ceea ce sugerează că experiența care a modelat tehnologia a avut un impact de durată asupra procesului decizional. „Ca oameni de știință cognitiv, suntem interesați de formarea obiceiurilor”, a spus Cole, „Acesta este un exemplu grozav, deoarece comportamentul a persistat chiar și atunci când nu a mai fost dorit”.

Dar motivația din spatele acestui comportament nu este pe deplin clară. Cercetătorii nu au întrebat despre motivații și strategii specifice, iar Cole a explicat că participanții ar putea să nu fi simțit un angajament puternic de a face AI mai etică. Este posibil, a spus el, ca experiența să demonstreze pur și simplu tendința lor naturală de a respinge ofertele care par nedrepte. El a adăugat: „Poate că nu se gândesc cu adevărat la consecințele viitoare. Poate că aleg calea ușoară de ieșire”.

„Studiul subliniază importanța elementului uman în formarea AI”, a spus Hu, un informatician care studiază relațiile dintre comportamentele umane și algoritmii de învățare automată, „O mare parte din antrenamentul AI se bazează pe deciziile umane În timpul instruirii AI, IA rezultată va fi, de asemenea, părtinitoare și, în ultimii câțiva ani, am văzut o mulțime de probleme care decurg din acest tip de nepotrivire între antrenamentul și implementarea AI.”

Unele software de recunoaștere facială, de exemplu, sunt mai puțin precise în identificarea persoanelor de culoare, a spus Ho. „Acest lucru se datorează parțial pentru că datele folosite pentru a antrena IA sunt părtinitoare și nu sunt reprezentative”, a adăugat el.

Treman efectuează acum experimente ulterioare pentru a înțelege mai bine motivațiile și strategiile urmate de persoanele care se antrenează cu IA. „Este foarte important să luăm în considerare aspectele psihologice ale informaticii”, a spus ea.

Treiman LS, Ho CJ, Kool W. Consequences of artificial intelligence training for human decision making. Proceedings of the National Academy of Sciences (PNAS) 6 august 2024.DOI: https://doi.org/10.1073/pnas.2408731121