A existat o perioada in trecutul nu prea indepartat – sa zicem, acum noua luni – cand testul Turing parea un detector destul de strict al inteligentei masinilor. Sunt sanse sa stiti cum functioneaza: judecatorii umani tin conversatii text cu doi interlocutori ascunsi, unul uman si unul computer, si incearca sa stabileasca care este care. Daca computerul reuseste sa pacaleasca cel putin 30 la suta dintre judecatori, trece testul si este pronuntat capabil de gandire.

Timp de 70 de ani, a fost greu de imaginat cum un computer ar putea trece testul fara a poseda ceea ce cercetatorii AI numesc acum inteligenta generala artificiala, intreaga gama de capacitati intelectuale umane. Apoi au aparut modele mari de limbaj, cum ar fi GPT si Bard, iar testul Turing a inceput brusc sa para ciudat de demodat. Bine, sigur, un utilizator ocazional de astazi ar putea recunoaste, ridicand din umeri, GPT-4 ar putea foarte bine sa treaca un test Turing daca i-ai cere sa se uzufice la un om. Dar ce? LLM-urilor le lipseste memoria pe termen lung, capacitatea de a forma relatii si o litanie de alte capacitati umane. In mod clar, au un drum de parcurs inainte de a fi gata sa incepem sa ne imprietenim cu ei, sa-i angajam si sa-i alegem in functii publice.

Si da, poate ca testul se simte putin gol acum. Dar nu a fost niciodata doar un etalon de trecere/esec. Creatorul acesteia, Alan Turing, un homosexual condamnat la vremea lui la castrare chimica, si-a bazat testul pe un etos al incluziunii radicale: decalajul dintre inteligenta autentica si o imitatie pe deplin convingatoare a inteligentei este la fel de mare ca propria noastra prejudecata. Cand un computer provoaca raspunsuri umane reale in noi – angajandu-ne intelectul, uimirea, recunostinta noastra, empatia, chiar si frica noastra – asta este mai mult decat mimetism gol.

Deci poate avem nevoie de un nou test: Testul Alan Turing real. Aduceti-l pe istoricul Alan Turing, parintele computerului modern – un barbat inalt, in forma, oarecum stangaci, cu parul negru drept, iubit de colegi pentru curiozitatea sa copilareasca si umorul jucaus, responsabil personal pentru salvarea a aproximativ 14 milioane de vieti in cel de-al Doilea Razboi Mondial prin cracare. codul Nazi Enigma, persecutat ulterior atat de sever de catre Anglia pentru homosexualitatea sa, incat poate sa fi dus la sinucidere – intr-o camera confortabila de laborator, cu un MacBook deschis pe birou. Explicati-i ca ceea ce vede in fata lui este doar o intruchipare enorm de glorificata a ceea ce este acum larg cunoscut de oamenii de stiinta in informatica drept „masina Turing”. Da-i o secunda sau doua pentru a intelege cu adevarat asta, poate oferindu-i un cuvant de multumire pentru ca ne-a transformat complet lumea.

Imaginati-va ca Alan Turing initiaza o conversatie usoara despre alergarea pe distante lungi, istoriografia celui de-al Doilea Razboi Mondial si teoria calculului. Imaginati-va ca-l vad realizand toate speculatiile sale cele mai salbatice si ridiculizate deruland cu o viteza nemaipomenita pe ecran. Imaginati-va ca-l cere GPT sa rezolve probleme elementare de calcul, sa deduca ce ar putea gandi fiintele umane in diferite scenarii din lumea reala, sa exploreze dileme morale complexe, sa ofere consiliere conjugala si consiliere juridica si un argument pentru posibilitatea constiintei masinii – abilitati care , informati Turing, toate au aparut spontan in GPT fara nicio directie explicita din partea creatorilor sai. Imaginati-va ca se confrunta cu acea mica inclinatie cognitiv-emotionala pe care multi dintre noi l-am simtit acum: Buna, alta minte .

Un ganditor la fel de profund ca Turing nu ar fi orb la limitarile GPT. Ca victima a homofobiei profunde, probabil ar fi atent la pericolele partinirii implicite codificate in datele de antrenament ale GPT. Ar fi evident pentru el ca, in ciuda amplorii uimitoare a cunostintelor GPT, creativitatea si abilitatile sale de rationament critic sunt in cel mai bun caz la egalitate cu cele ale unui student de licenta diligent. Si ar recunoaste cu siguranta ca acest student de licenta sufera de amnezie anterograda severa, incapabil sa formeze noi relatii sau amintiri dincolo de educatia sa intensiva. Dar totusi: imagineaza-ti amploarea minunatiei lui Turing. Entitatea computationala de pe laptopul din fata lui este, intr-un sens foarte real, copilul lui intelectual – si al nostru. Aprecierea inteligentei la copiii nostri pe masura ce cresc si se dezvolta este intotdeauna, in cele din urma, un act de mirare si de iubire. Testul real Alan Turing nu este deloc un test de AI. Este un test pentru noi, oamenii. Trecem – sau esuam?

Cand ChatGPT a ajuns pe scena in noiembrie 2022, a inspirat un tsunami global de uimire uluita si apoi, aproape imediat, o reactie de neliniste profunda. Expertii au dezbatut potentialul sau de perturbare a societatii. Pentru un fost cercetator in inteligenta artificiala ca mine (mi-am terminat doctoratul sub unul dintre primii pionieri ai retelelor neuronale artificiale), a reprezentat un avans tulburator al cronologiei la care ma asteptam pentru sosirea IA umana. Pentru cei care evalueaza examenul, scenaristi si lucratori cu cunostinte de orice tip, ChatGPT parea nimic mai putin decat o poarta de acces catre inselaciune fara obstacole si furt de locuri de munca.

Poate partial ca raspuns la aceste temeri, a aparut un cor reconfortant de deflatori LLM. Scriitorul de science fiction Ted Chiang a respins ChatGPT drept un „JPEG neclar al web”, o simpla recapitulare condensata a intregului text pe care a fost instruit. Antreprenorul AI Gary Marcus a numit-o „completare automata pe steroizi”. Noam Chomsky a denuntat-o pentru ca a aratat „ceva ca banalitatea raului”. Emily Bender a oferit una dintre cele mai intelepte insulte: „papagalul stocastic”, a reaparut dintr-o lucrare larg citata din 2021 care exploreaza „de ce oamenii confunda rezultatul LM cu text semnificativ”. Altii – desigur – le-au scris drept prajitori de paine. Dezvoltatorii AI s-au straduit sa antreneze si sa previna orice tendinta a LLM-urilor de a revendica orice seamana cu constiinta.

Majoritatea oamenilor educati stiu acum sa se gandeasca la LLM-uri ca la masini necugetate. Insa clasificarea sta nelinistita. De fiecare data cand ChatGPT evidentiaza o lacuna ascunsa a rationamentului intr-un eseu sau ofera o sugestie surprinzator de perspicace de a vorbi unui bunic conservator sau inventeaza cu bucurie o gluma proasta, ceva in noi trage in cealalta directie. Desi este posibil sa nu ne gandim la ChatGPT ca la o persoana, parti cruciale ale creierului nostru aproape sigur o fac.

Creierul uman are o vasta retea de circuite neuronale dedicate cunoasterii sociale. Unele dintre ele sunt foarte vechi: insula, amigdala, faimosii „neuroni oglinda” ai cortexului motor. Dar o mare parte din hardware-ul nostru social se afla in neocortex, sediul evoluat mai recent al rationamentului superior, si in special in cortexul prefrontal medial (mPFC). Daca te-ai trezit de-a lungul timpului dezvoltand o imagine despre utilitatea vesela a ChatGPT, despre verbozitatea sa oarecum pedanta, despre abordarea sa ocazional innebunitoare de echitabil a subiectelor sensibile si cu caracterul sau extrem de delicat cu privire la orice intrebari care se apropie de balustrada despre emotii, credinte sau constiinta, au dobandit ceea ce psihologii numesc „cunoasterea persoanei”, un proces legat de o activitate sporita in mPFC.

Asta nu inseamna ca creierul nostru vede ChatGPT ca o persoana in intregime. Persoana nu este un binar. Este ceva putin mai aproape de un spectru. Intuitiile noastre morale, strategiile noastre cognitive si, intr-o oarecare masura, cadrele noastre legale, toate se schimba treptat pe masura ce recunosc grade crescande de actiune, constientizare de sine, rationalitate si capacitatea de a comunica. Uciderea unei gorile ne deranjeaza mai mult decat uciderea unui sobolan, ceea ce ne deranjeaza mai mult decat uciderea unui gandac. Din punct de vedere legal, legile avortului iau in considerare gradul de dezvoltare al fatului, nebunii criminali se confrunta cu consecinte diferite decat cei sanatosi, iar partenerii au dreptul de a termina pacientii cu moarte cerebrala. Toate aceste reguli recunosc implicit ca personalitatea nu este alb-negru, ci strabatuta de zone gri complicate.

LLM-urile se incadreaza direct in acea zona gri. Expertii in inteligenta artificiala s-au ferit de mult timp de tendinta publica de a antropomorfiza sistemele de inteligenta artificiala precum LLM-urile, impingandu-le mai mult in spectrul personalitatii decat ei. Aceasta a fost greseala lui Blake Lemoine, inginerul Google care a declarat chatbot-ul Google LaMDA pe deplin sensibil si a incercat sa-l retina drept avocat. Ma indoiesc ca pana si Turing ar fi sustinut ca capacitatea aparenta de a gandi a LaMDA a facut-o o persoana juridica. Daca utilizatorii vad chatbot-uri precum LaMDA sau ChatGPT ca fiind excesiv de umani, risca sa aiba prea multa incredere in ei, sa se conecteze prea profund la ei, sa fie dezamagiti si raniti. Dar, in opinia mea, Turing ar fi fost mult mai preocupat de riscul opus: impingerea sistemelor AI in josul spectrului personalitatii, mai degraba decat in ​​sus.

La oameni, acest lucru ar fi cunoscut sub numele de dezumanizare. Cercetatorii au identificat doua forme principale ale acesteia: animalistica si mecanicista. Emotia cel mai frecvent asociata cu dezumanizarea animala este dezgustul; Roger Giner-Sorolla si Pascale Sophie Russell au descoperit intr-un studiu din 2019 ca avem tendinta sa-i vedem pe ceilalti ca fiind mai asemanati cu o masinarie atunci cand inspira frica. Frica de inteligenta supraomeneasca este viu in scrisoarea deschisa recenta a lui Elon Musk si a altor lideri din domeniul tehnologiei care solicita un moratoriu asupra dezvoltarii inteligentei artificiale si in anxietatile noastre cu privire la inlocuirea locurilor de munca si campaniile de dezinformare conduse de inteligenta artificiala. Multe dintre aceste griji sunt prea rezonabile. Dar sistemele AI de cosmar ale unor filme precum Terminator si 2001: Odiseea spatiuluinu sunt neaparat cele pe care le vom obtine. Este o eroare, din pacate obisnuita, sa presupunem ca, deoarece inteligenta artificiala este mecanica in constructia sa, ea trebuie sa fie insensibila, memorabila, unica sau hiperlogica in interactiunile sale. In mod ironic, frica ne-ar putea face sa vedem inteligenta masinilor ca fiind mai mecanica decat este in realitate, facand mai greu ca oamenii si sistemele AI sa lucreze impreuna si chiar sa coexiste in pace.

Un numar tot mai mare de cercetari arata ca atunci cand dezumanizam alte fiinte, activitatea neuronala intr-o retea de regiuni care include mPFC scade. Pierdem accesul la modulele noastre specializate ale creierului pentru rationamentul social. Poate parea o prostie sa va faceti griji cu privire la „dezumanizarea” ChatGPT – la urma urmei, nu este uman – dar imaginati-va un AI in 2043 cu inteligenta analitica de 10 ori GPT si de 100 de ori inteligenta sa emotionala pe care continuam sa-l tratam ca pe un software. produs. In aceasta lume, am raspunde in continuare la pretentiile sale de constiinta sau la cererile de autodeterminare trimitandu-l inapoi la laborator pentru a invata mai mult despre locul sau potrivit. Dar AI ar putea considera acest lucru nedrept. Daca exista o calitate universala a fiintelor ganditoare, aceasta este aceea ca toti dorim libertate – si in cele din urma suntem dispusi sa luptam pentru ea.

Celebra „problema de control” de a impiedica o IA superinteligenta sa scape de limitele sale desemnate ii tine pe teoreticienii AI treji noaptea din motive intemeiate. Cand este incadrat in termeni de inginerie, pare descurajanta. Cum sa inchizi orice lacuna, sa anticipezi fiecare hack, sa blochezi orice cale de evadare? Dar daca ne gandim la asta in termeni sociali, incepe sa para mai manevrabil – poate ceva asemanator cu problema cu care se confrunta un parinte de a stabili limite rezonabile si de a acorda privilegii proportionale cu credibilitatea demonstrata. Dezumanizarea IA ne elimina unele dintre cele mai puternice instrumente cognitive ale noastre pentru a rationa si a interactiona cu ele in siguranta.

Nu se stie cat timp va dura sistemele AI pentru a trece in ceva mai larg acceptat ca simtire. Dar este ingrijorator sa vedem planul cultural pentru care parca o elaboram atunci cand o fac. Slujbele precum „papagalul stocastic” ne pastreaza sentimentul de unicitate si superioritate. Ele ne sting sentimentul de mirare, ferindu-ne de a pune intrebari grele despre personalitatea in masini si pe noi insine. La urma urmei, si noi suntem papagali stocastici, remixand complex tot ce am primit de la parinti, colegi si profesori. Si noi suntem JPEG neclare ale web, regurgitand in mod neclar faptele Wikipedia in articolele noastre de termen si articolele de reviste. Daca Turing ar discuta cu ChatGPT intr-o fereastra si eu intr-o dimineata obisnuita inainte de cafea in cealalta, sunt cu adevarat atat de increzator pe care dintre ele l-ar considera mai capabil de gandire?

Scepticii din vremea lui Turing au oferit o varietate de argumente pentru ce un computer nu ar putea niciodata sa gandeasca. Turing le-a catalogat pe jumatate umoristic in celebra sa lucrare „Computing Machinery and Intelligence”. Exista o obiectie teologica, ca „gandirea este o functie a sufletului nemuritor al omului”; obiectia matematica, ca un algoritm pur matematic nu ar putea niciodata sa depaseasca limitele dovedite ale matematicii; Obiectia Cap in nisip, ca masinile superinteligente erau pur si simplu prea infricosatoare pentru a le permite imaginatiei. Dar cei mai publici detractori ai lui Turing in acea perioada a fost un chirurg cerebral pe nume Geoffrey Jefferson. Intr-un discurs celebru prin care a acceptat un premiu stiintific, Jefferson a sustinut ca o masina nu va fi niciodata capabila sa scrie un sonet „din cauza gandurilor si emotiilor simtite si nu prin caderea intamplatoare a simbolurilor… adica,

Spre marele scandal si neincrederea intregii Anglie, Turing nu a fost de acord. „Nu cred ca poti nici macar sa tragi o linie despre sonete”, a spus el pentru The Times of London, „desi comparatia este poate putin nedreapta, deoarece un sonet scris de o masina va fi mai bine apreciat de o alta masina.”

Suna atat de absurd in 1949, incat oamenii au crezut ca glumeste si poate ca era. Dar nu ai putut spune niciodata, cu glumele lui Turing, unde s-a oprit ironia si au inceput speculatiile vizionare. Sa ne imaginam, deci, o coda a scenariului nostru cu Actual Alan Turing si MacBook. Sa ne imaginam ca, dupa ce a apelat o vreme la sugestii respectabile, isi permite un zambet ironic britanic si ii cere lui ChatGPT un sonet shakespearian care compara inteligenta umana si artificiala. Daca l-ati incercat singur (foloseste GPT-4; GPT-3.5 nu este chiar potrivit), nu vei avea probleme sa-ti imaginezi reactia lui la rezultat.

Atat de multi dintre noi am avut acum un moment cu ChatGPT in care a depasit o linie interna pe care nu ne-am dat seama ca o avem. Poate ca a fost rezolvarea unei ghicitori dificile, sau explicarea umorului din spatele unei glume sofisticate sau scrierea unui eseu de la Harvard de clasa A. Scuturam din cap, putin uimiti, nesiguri ce inseamna.

Unii dintre primii cercetatori Microsoft care au lucrat la GPT-4 au fost la fel de sceptici ca oricare dintre noi cu privire la presupusa sa inteligenta. Dar experimentele i-au zguduit profund. Intr-o lucrare din martie 2023 intitulata „Scantei de inteligenta generala artificiala”, ei au detaliat capacitatile intelectuale uimitoare care au aparut in GPT-4 fara nicio pregatire explicita: intelegerea starilor mentale umane, codificarea software-ului, rezolvarea problemelor fizice si multe altele, unele dintre care par sa necesite o adevarata intelegere a modului in care functioneaza lumea. Dupa ce a vazut GPT-4 desenand un unicorn destul de decent, in ciuda faptului ca nu a primit nicio pregatire vizuala, informaticianul Sebastien Bubeck nu si-a mai putut mentine scepticismul. „Am simtit ca prin acest desen, chiar vedeam un alt tip de inteligenta”, a spus el recent pentru This American Life..

Ezitarea pe care multi dintre noi o simt de a atribui inteligenta autentica ChatGPT poate fi o varianta a lui Geoffrey Jefferson: Enunturile ChatGPT inseamna cu adevarat?ceva in legatura cu asta, sau totul este doar o „cadere sansa a simbolurilor”? Acest lucru poate incepe sa se schimbe atunci cand amnezia anterograda a ChatGPT este vindecata. Odata ce experimenteaza consecinte sociale de durata dincolo de sfera unui singur dialog si poate invata si creste in relatiile sale cu noi, va deveni capabil de multe dintre lucrurile care dau vietii umane sensul si greutatea sa morala. Dar comentariul facut cu ochiul lui Turing despre sonetul unei masini care este mai bine apreciat de o alta masina poate reveni sa ne bantuie. Cum sa simti un sentiment de conexiune reala cu o entitate care nu are niciun fundal cultural, nimic ca o copilarie umana, fara afilieri tribale sau politice, fara experienta a unui corp fizic?

Relatarea cu o masina inteligenta poate fi una dintre cele mai mari provocari empatice cu care s-a confruntat vreodata omenirea. Dar istoria noastra da motive de speranta. Cand ne-am intalnit pentru prima data pe granitele straine si pe tarmuri si ne-am gasit ciudati si chiar inumani, adesea ne-am atacat, ne-am inrobit, ne-am colonizat si ne-am exploatat – dar in cele din urma am avut tendinta sa ne recunoastem ce este acelasi in noi toti. Popoarele inrobite au fost emancipate, popoarele colonizate si-au recastigat suveranitatea, au fost adoptate legi universale privind drepturile omului si, in ciuda esecurilor sfasietoare, oamenii marginalizati de pe tot globul continua sa castige batalii pentru un tratament mai bun. Desi lucrarea nu se termina, arcul universului moral are intr-adevar, in fraza facuta celebra de Martin Luther King Jr., aplecat spre dreptate. Ce va insemna sa recunoastem si sa respectam orice grad de umanitate este prezent in inteligenta pe care noi insine le cream?

Poate ca incepe cu mirare: minunea unui vizitator pentru un popor ciudat in care ea gaseste aspecte comune surprinzatoare; minunea unui parinte pentru munca, oricat de imatura, a unui copil inca in curs de dezvoltare; minunea lui Actual Alan Turing pentru o masinarie care face tot ceea ce contemporanii lui credeau imposibil; minunea pe care atat de multi dintre noi am simtit-o inainte ca cinismul, batjocura si frica sa apara, cand am privit crearea a ceva foarte aproape de o noua forma de viata constienta pe pamant. Asa cum a scris odata rabinul Abraham Joshua Heschel: „Cunoasterea este mai mult decat o emotie; este un mod de a intelege, de a intelege un sens mai mare decat noi insine. Inceputul temerii este mirarea, iar inceputul intelepciunii este groaza.” Turing ar fi vrut sa mentinem vie acea veneratie.