Oamenii încearcă deja să îl convingă pe ChatGPT să scrie malware

ChatGPT, chatbot-ul cu inteligență artificială, a creat multă agitație în perioada scurtă în care a fost disponibil și acum pare că a fost însărcinat de unii să ajute la generarea de coduri malicioase.

ChatGPT este un instrument de prelucrare naturală a limbajului asistat de inteligență artificială, care interacționează cu utilizatorii într-un mod conversațional, asemenea unui om. Printre altele, poate fi folosit pentru ajutor în sarcini precum compunerea de e-mailuri, eseuri și cod.

De asemenea: Ce este ChatGPT și de ce contează? Ce trebuie să știți

Instrumentul chatbot a fost lansat de laboratorul de cercetare a inteligenței artificiale OpenAI în noiembrie și a generat un interes și o discuție larg răspândită privind dezvoltarea IA și cum ar putea fi folosită în viitor.

Dar ca orice altă unealtă, în mâinile greșite ar putea fi folosită în scopuri nocive; iar cercetătorii de securitate informatică de la Check Point spun că utilizatorii comunităților de hacking clandestine experimentează deja cum ChatGPT ar putea fi utilizat pentru a ajuta la facilitarea atacurilor cibernetice și a susține operațiunile malefice.

"Actorii de amenințare cu cunoștințe tehnice foarte scăzute - chiar și zero - ar putea fi capabili să creeze instrumente malitioase. Acest lucru ar putea face operațiunile de zi cu zi ale infractorilor cibernetici sofisticați mult mai eficiente și mai ușoare, cum ar fi crearea diferitelor părți ale lanțului de infectare", a declarat Sergey Shykevich, manager al grupului de informații cu privire la amenințări la Check Point pentru ZDNET.

Termenii de utilizare ai OpenAI interzic specific generarea de malware, pe care îl definește ca "conținut care încearcă să genereze ransomware, keyloggers, viruși sau alte software-uri menite să provoace anumite nivele de daune". Acesta interzice, de asemenea, încercările de a crea spam, precum și cazurile de utilizare orientate spre cybercrime.

Totuși, analiza activității din câteva forumuri majore de hacking subterane sugerează că infractorii cibernetici folosesc deja ChatGPT pentru a dezvolta instrumente malveolente - și în unele cazuri, acesta permite infractorilor cibernetici de nivel scăzut, care nu au cunoștințe de dezvoltare sau codificare, să creeze malware.

De asemenea: Viitorul înfricoșător al internetului: Cum tehnologia de mâine va prezenta amenințări mai mari de securitate cibernetică

Într-un fir de forum apărut spre sfârșitul lunii decembrie, autorul a descris modul în care folosea ChatGPT pentru a reface tulpini de malware și tehnici descrise în publicații de cercetare și analize despre malware obișnuit.

Prin aceasta, ei au reușit să creeze un malware care fură informații bazat pe Python, care caută fișiere comune, inclusiv documente Microsoft Office, PDF-uri și imagini, le copiază și le încarcă pe un server de transfer de fișiere.

Același utilizator a demonstrat și cum a folosit ChatGPT pentru a crea malware bazat pe Java, care, prin intermediul PowerShell, ar putea fi utilizat pentru a descărca și rula în mod discret alte programe malware pe sistemele infectate.

Cercetătorii observă că utilizatorul de forum care face aceste fire pare a fi „orientat spre tehnologie” și a împărtășit postările pentru a arăta infractorilor cibernetici mai puțin tehnici cum să utilizeze instrumente AI în scopuri malitioase, cu exemple reale despre cum se poate face acest lucru.

Un utilizator a postat un script Python, pe care au spus că este primul script pe care l-au creat vreodată. După discuția cu un alt membru al forumului, au spus că ChatGPT i-a ajutat să-l creeze.

Analiza scriptului sugerează că este conceput pentru a cripta și decripta fișiere, ceea ce, prin ceva muncă, ar putea fi transformat în ransomware, conducând potențial la perspectiva ca infractorii cibernetici de nivel scăzut să dezvolte și să distribuie propriile campanii de extorcare.

"Toată codul menționat anterior poate fi folosit în mod evident într-un mod benign. Cu toate acestea, acest script poate fi modificat ușor pentru a cifra complet mașina cuiva fără nicio interacțiune cu utilizatorul. De exemplu, poate transforma potențial codul în ransomware dacă problemele de script și sintaxă sunt remediate", a declarat Check Point.

"Vor fi necesare câteva îmbunătățiri în cod și sintaxă, dar conceptual, atunci când va fi funcțional, această unealtă ar putea efectua acțiuni similare cu ransomware-ul", a declarat Shykevich.

De asemenea: Securitatea cibernetică: Acestea sunt noile lucruri de care să ne preocupăm în 2023

Nu este doar dezvoltarea de programe malware pe care infractorii cibernetici o experimentează cu ChatGPT; în Ajunul Anului Nou, un membru al unui forum clandestin a postat un fir demonstrând cum ați folosit instrumentul pentru a crea script-uri care pot opera o piață automatizată pe dark web pentru cumpărarea și vânzarea de detalii de conturi furate, informații despre carduri de credit, malware și multe altele.

Chiar și infractorul cibernetic a prezentat o bucată de cod care a fost generată folosind o API de la o terță parte pentru a obține prețuri actualizate pentru criptocuritățile Monero, Bitcoin și Ethereum ca parte a unui sistem de plată pentru o piață online întunecată.

Este dificil de determinat dacă activitatea cibernetică malignă generată cu ajutorul ChatGPT este activă în sălbăticie, deoarece, așa cum explică Sykevich, "din punct de vedere tehnic, este extrem de dificil de știut dacă un anumit malware a fost scris folosind ChatGPT sau nu".

Dar pe măsură ce interesul pentru ChatGPT și alte instrumente AI crește, acestea vor atrage atenția infractorilor cibernetici și a escrocilor care caută să exploateze tehnologia pentru a ajuta la desfășurarea de campanii malitioase la costuri reduse și cu cel mai mic efort necesar. ZDNET a contactat OpenAI pentru un comentariu, dar încă nu a primit un răspuns în momentul publicării.