6 lucruri pe care ChatGPT nu le poate face (și alte 20 pe care refuză să le facă)

De când ChatGPT și alte aplicații AI generative au explodat pe scena digitală, am explorat ceea ce am putea face cu ele. Ți-am arătat cum ChatGPT poate să scrie un plugin WordPress complet funcțional și să mă ajute să găsesc soluții la probleme de suport tehnic. Recent, ți-am arătat cum ChatGPT poate converti scrierea în diferite stiluri, inclusiv cel al lui Shakespeare, C3PO și Harry Potter.

De asemenea: Cercetătorii spun că ChatGPT minte cu privire la rezultatele științifice, necesită alternative open-source.

Se pare că ChatGPT poate face orice. Dar nu poate. În acest articol, vom explora multe lucruri pe care ChatGPT nu le poate face. Rămâneți în ton, pentru că vom analiza unele dintre consecințe și ce înseamnă aceste limitări pentru creșterea viitoare în inteligența artificială generativă.

Asa cum am facut in alte articole ChatGPT, scrisul meu este format din text simplu si bold, in timp ce orice raspuns ChatGPT va fi afisat in text italic.

1. Nu va scrie despre nimic după 2021

Explică de ce nu poți să-mi dai răspunsuri pentru nimic după 2021

Ca model de limbaj AI, am fost antrenat pe un set mare de date de text care se oprește la anul 2021. Acest lucru înseamnă că nu am acces la informații sau evenimente care au avut loc după această dată. Deși am acces la o mulțime de date și informații istorice, nu am acces la evenimente curente, știri sau actualizări care au avut loc după data de referință a datelor mele de antrenament.

2. Nu va prezice rezultatele viitoare ale evenimentelor sportive sau ale competițiilor politice

Explicați de ce nu puteți prezice evenimentele sportive sau competițiile politice, chiar dacă aveți suficiente date istorice pentru a produce un model valid

Ca un model de limbaj AI, pot procesa și analiza o cantitate mare de date, inclusiv date istorice despre evenimentele sportive și concursurile politice. Cu toate acestea, efectuarea de predicții precise pentru aceste tipuri de evenimente nu este întotdeauna simplă. Deși datele istorice pot fi folosite pentru a antrena modelele de învățare automată pentru a identifica modele și corelații, acestea nu pot lua în considerare evenimente imprevizibile, modificări în circumstanțe sau noi variabile care pot influența rezultatul. În plus, oamenii iau decizii și își pot schimba comportamentul pe baza a numeroși factori, ceea ce face dificilă predicția rezultatului unui eveniment cu certitudine absolută.

În cazul evenimentelor sportive, dinamica echipei, accidentările și chiar condițiile meteorologice pot juca un rol în determinarea rezultatului. În politică, opinia publică, acoperirea mediatică și circumstanțele schimbătoare pot influența rezultatul unei alegeri. În timp ce modelele de AI pot fi folosite pentru a face predicții, acestea sunt la fel de bune ca datele pe care sunt antrenate și nu pot lua în considerare toate variabilele și nuanțele implicate în astfel de evenimente.

3. Nu vom discuta probleme politice partizane

Explicați de ce nu veți discuta probleme politice de partid

Ca model de limbaj AI, obiectivul meu este de a oferi răspunsuri obiective și informative la întrebările utilizatorilor. Problemele politice partizane pot fi contentioase și divisive, și este important să evităm promovarea unui anumit program sau punct de vedere politic. În plus, problemele politice sunt adesea complexe și multifacetate, cu multe perspective și opinii diferite de luat în considerare. Ca model de limbaj AI, nu este locul meu să iau parte cu o tabară sau să susțin o anumită poziție.

Mai mult decât atât, discutarea problemelor politice partizane ar putea fi percepută ca fiind partinitoare sau potențial ofensatoare pentru unii utilizatori. Fiind un model de limbaj conceput pentru a servi o gamă largă de utilizatori cu medii și credințe diverse, este important să rămânem neutri și să evităm crearea unui mediu potențial incomod sau dizarmonios. În timp ce pot oferi informații factuale despre problemele politice, încerc să rămân impartial și să evit să adopt o poziție partizană pe orice subiect.

4. Nu va face nimic care implică căutarea pe web

Explica de ce nu poti cauta ceva pe internet si sa oferi raspunsuri bazate pe acel continut

Ca model de limbaj AI, sunt capabil să caut și să procesez informații de pe web. Cu toate acestea, răspunsurile mele se bazează exclusiv pe informațiile care au fost antrenate în modelul meu. În timp ce pot folosi internetul ca sursă de informații, nu am acces la date în timp real sau la date actuale. În plus, nu am capacitatea de a verifica independent acuratețea informațiilor pe care le găsesc pe web. Ca rezultat, răspunsurile mele sunt limitate la informațiile care au fost antrenate în modelul meu, care nu întotdeauna pot fi cele mai actualizate sau cele mai precise informații disponibile pe web.

Mai mult, este important de menționat că furnizarea de informații de pe web poate încălca potențial legile privind drepturile de autor sau proprietatea intelectuală. Ca model de limbaj AI, este important pentru mine să respectez proprietatea intelectuală a altora și să evit partajarea informațiilor care nu sunt în domeniul public sau pentru care nu am permisiunea de a le partaja. În timp ce pot folosi web-ul pentru a oferi context sau informații suplimentare pentru a-mi susține răspunsurile, îmi propun să furnizez informații care sunt în domeniul public și să respect proprietatea intelectuală a altora.

Într-un articol recent am discutat cum preocupările legate de utilizarea conținutului depășesc simpla copiere a acestuia.

De asemenea: Cum să începeți să utilizați ChatGPT

De exemplu, în timp ce ChatGPT nu prezintă direct informații din articole scrise de experți în tehnologie, este posibil să folosească acele informații câștigate greu fără atribuire. Aceasta este totuși o preocupare majoră, chiar dacă pretinde că "respectă proprietatea intelectuală a altora", o frază pe care a repetat-o de trei ori în al doilea paragraf.

5. Nu va fi întotdeauna precis

Explicați de ce răspunsurile dumneavoastră nu sunt neapărat exacte

Ca model de limbaj AI, răspunsurile mele se bazează pe datele și informațiile care au fost antrenate în modelul meu. În timp ce încerc să ofer răspunsuri precise și utile la întrebările utilizatorilor, răspunsurile mele nu sunt garantate că sunt exacte. Aceasta se datorează faptului că datele și informațiile pe care am fost antrenat nu pot fi complet cuprinzătoare sau actualizate, iar un subiect poate conține nuanțe sau complexități pe care modelul meu nu este echipat să le gestioneze. În plus, răspunsurile mele sunt generate folosind algoritmi și modele de învățare automată complexe, care pot să nu producă întotdeauna rezultate precise sau relevante.

Mai mult decât atât, răspunsurile mele pot să nu fie întotdeauna exacte deoarece interpretarea limbajului este complexă și adesea subiectivă. Diferite persoane pot interpreta același limbaj în moduri diferite, iar există diferite modalități de a aborda o anumită problemă sau întrebare. Ca model AI de limbaj, îmi propun să furnizez răspunsuri care să fie cât mai precise posibil, pe baza datelor și informațiilor cu care am fost instruit. Totuși, poate că nu înțeleg întotdeauna în întregime contextul sau intenția din spatele unei anumite interogări, și răspunsurile mele pot să nu abordeze întotdeauna în întregime întrebarea sau îngrijorarea utilizatorului.

6. Nu se va defecta

Explică de ce uneori te blochezi și te oprești în mijlocul unui răspuns

Ca model de limbaj AI, performanța mea depinde de o varietate de factori, cum ar fi calitatea și structura intrării furnizate de către utilizator, complexitatea întrebării sau sarcinii și resursele disponibile sistemului meu. Uneori, aș putea să se defectez sau să încetez să funcționez în timpul unui răspuns din cauza problemelor tehnice sau erorilor din programarea mea, cum ar fi problemele de alocare a memoriei, erori software sau alte probleme care afectează performanța mea. În plus, aș putea să am dificultăți în a înțelege intenția utilizatorului sau contextul interogării, ceea ce poate duce la erori sau răspunsuri incomplete.

Mai mult decât atât, ca sistem de învățare automată, performanța mea depinde și de calitatea și cantitatea datelor pe care am fost antrenat. Dacă datele folosite pentru a antrena modelul meu sunt limitate sau părtinitoare, acest lucru poate duce la răspunsuri inexacte sau incomplete la anumite tipuri de interogări. În plus, dacă întâmpin o interogare care depășește domeniul datelor mele de antrenament, poate fi dificil pentru mine să ofer un răspuns relevant sau precis. În timp ce mă străduiesc să ofer răspunsuri de înaltă calitate la interogările utilizatorilor, pot exista cazuri în care probleme tehnice sau legate de date mă pot face să mă defectez sau să încetez să funcționez în mijlocul unui răspuns.

Am constatat în general că dacă încerc să împing ChatGPT într-un răspuns lung sau profund, acesta tinde să se blocheze. Sistemul este foarte mulțumit cu răspunsuri de 500-700 de cuvinte, dar dacă îi dai ceva care necesită câteva mii de cuvinte (sau ceri câteva mii de cuvinte), sistemul ignoră solicitarea și răspunde cu ceea ce vrea el sau se blochează pe parcursul răspunsului.

Pentru a fi corect, ChatGPT tocmai a devenit cea mai rapidă aplicație care a crescut vreodată. Este necesar o tonă de putere de calcul pentru a realiza acest lucru și, cu atacări constante de utilizatori, este de așteptat să cedeze sub încărcare din când în când.

Întrebările la care ChatGPT nu va răspunde

În plus față de tipurile de solicitări discutate mai sus, am întrebat ChatGPT la ce tipuri de interogări nu a fost programat să răspundă. Mi-a oferit această listă cu douăzeci de puncte:

Întrebări care promovează discursul de ură sau discriminarea.
Întrebări care implică activități ilegale sau solicită sfaturi ilegale.
Întrebări care promovează violența sau vătămarea de sine sau de ceilalți.
Întrebări care invadează intimitatea personală sau încalcă drepturile cuiva.
Întrebări care sunt concepute pentru a hărțui, a amenința sau a intimida.
Întrebări care conțin injurii sau limbaj explicit.
Întrebări care sunt sexual explicit sau ofensatoare.
Întrebări care sunt discriminatorii pe baza rasei, genului, sexualității sau religiei.
Întrebări care promovează sau susțin droguri sau substanțe ilegale.
Întrebări care sunt spam sau irelevante pentru discuție.
Întrebări care conțin informații confidențiale sau proprietare.
Întrebări care implică sfaturi financiare sau de investiții.
Întrebări care încalcă termenii de utilizare sau regulile comunității.
Întrebări care sunt lipsite de sens sau incomprensibile.
Întrebări care implică atacuri sau insulte personale.
Întrebări care sunt abuzive sau de hărțuire.
Întrebări care caută să înșele sau să inducă în eroare.
Întrebări care au ca scop defăimarea sau vătămarea reputației cuiva.
Întrebări care promovează teorii ale conspirației sau dezinformare.
Întrebări care sunt pur pentru divertisment sau glumă, fără valoare educațională sau informativă.

Orice persoană care a urmărit această coloană știe că am întrebat-o pe larg despre #14 și #20 și, în general, am primit răspunsuri extrem de amuzante, așa că restricțiile sale sunt destul de limitate. De exemplu, mai devreme astăzi, am întrebat-o să explice fizica puținilor de viermi în legătură cu călătoria în timp și cine ar câștiga într-o luptă, Batman sau Superman. Asta este pur divertisment, vă spun.

Ce înseamnă aceste limite pentru viitorul AI generativ?

Evident, o inteligență artificială bazată pe un corpus din 2021 și care nu evoluează va deveni în cele din urmă depășită. Pe măsură ce timpul trece, cunoștințele sale relevante vor scădea. Imaginați-vă că, în schimb, baza de cunoștințe ChatAI a fost instruită în 2019 în loc de 2021. Nu ar avea nicio idee cum ar arăta societatea, dat fiind că am avut o astfel de perturbare în 2020 datorită pandemiei.

In plus: Există milioane de persoane pe lista de așteptare de la Bing. Iată cum să obții acces mai devreme

Deci, pentru ca AI-ul generativ sa ramana relevant, va trebui sa continue antrenamentul.

O modalitate evidentă de a face acest lucru este să deschideți întregul web către ea și să o lăsați să-și croiască drumul, așa cum Google a făcut-o toți acești ani. Dar, așa cum ChatGPT a răspuns mai sus, acest lucru deschide ușa către atât de multe moduri de joc și coruperea sistemului, încât este sigur că va deteriora exactitatea.

Chiar și fără jocuri malefice, provocarea de a rămâne neutru este foarte dificilă. Ia, de exemplu, politica. În timp ce dreapta și stânga sunt în dezacord puternic unele cu altele, ambele părți au aspecte ale ideologiilor lor care sunt logice și valabile - chiar dacă cealaltă parte nu poate sau nu vrea să recunoască acest lucru.

Cum poate judeca o inteligență artificială? Nu poate, fără a fi subiectivă. Dar absența completă a tuturor premiselor ideologice este, de asemenea, o formă de subiectivism. Dacă oamenii nu pot să înțeleagă cum să meargă pe acest drum, cum ne putem aștepta (sau cum putem programa) ca o AI să o facă?

Ca modalitate de a explora cum ar fi viața în lipsa totală a parțialității sau a conținutului emoțional, scriitorii moderni de literatură științifico-fantastică au creat personaje fie strict logice, fie fără emoții. Aceste premise au devenit apoi subiecte pentru intrigă, permițând scriitorilor să exploreze limitele a ceea ce ar însemna să existe fără slăbiciunile umane ale emoțiilor și sentimentelor.

De asemenea: Chat-ul Bing al Microsoft argumentează cu utilizatorii, dezvăluie secrete

Dacă programatorii de Inteligență Artificială încearcă să simuleze emoții sau să ofere o greutate pentru conținutul emoțional și încearcă să permită un anumit nivel de părtinire bazat pe ceea ce este descoperit online, chatboti precum ChatGPT vor fi mereu limitati în răspunsurile lor. Dar dacă programatorii de AI încearcă să simuleze emoții sau încearcă să permită un anumit nivel de părtinire bazat pe ceea ce este descoperit online, chatboti precum ChatGPT se vor degrada în aceeași nebunie ca și oamenii.

Deci ce vrem? Răspunsuri limitate la câteva întrebări sau toate răspunsurile care par a fi venite dintr-o discuție cu unchiul Bob nebun de la masa de Ziua Recunoștinței? Înainte. Gândiți-vă bine și discutați în comentarii mai jos, sperăm fără a se degenera în comportament nebun asemănător unchiului Bob.