Ihmiset yrittävät jo saada ChatGPT:ää kirjoittamaan haittaohjelmia

ChatGPT AI -keskusteluohjelma on herättänyt paljon jännitystä sen lyhyen käyttöajan aikana, ja nyt näyttää siltä, että jotkut ovat rekrytoineet sen auttamaan haitallisen koodin generoimisessa.

ChatGPT on tekoälyyn perustuva luonnollisen kielen käsittelyn työkalu, joka vuorovaikuttaa käyttäjien kanssa ihmismäisellä, keskustelevalla tavalla. Sen avulla voidaan muun muassa auttaa tehtävissä, kuten sähköpostien, esseeiden ja koodien laatimisessa.

Lisäksi:Mikä on ChatGPT ja miksi se on tärkeää? Mitä sinun tarvitsee tietää

Chatbot-työkalu julkaistiin tekoälytutkimuslaboratorio OpenAI:ssa marraskuussa ja se on herättänyt paljon kiinnostusta ja keskustelua siitä, miten AI kehittyy ja miten sitä voidaan käyttää tulevaisuudessa. Täältä löydät lisää tietoa siitä, korvaako Chatbot-työkalu ohjelmoijat.

Mutta kuten mikä tahansa muukin työkalu, väärissä käsissä siitä voi tulla käytetty pahansuovalla tavalla; ja Cybersecurity-tutkijat Check Pointilla sanovat, että maanalaisten hakkeriyhteisöjen käyttäjät ovat jo kokeilemassa miten ChatGPT:ta voidaan käyttää auttamaan kyberhyökkäyksissä ja tukea pahantahtoisia toimintoja.

"Uhka-tekijöillä, joilla on hyvin alhainen tekninen osaaminen - aina nollaan tekninen osaaminen - voi olla kyky luoda haitallisiksi työkaluja. Se voi myös tehdä monimutkaisen rikollistoiminnan arjesta paljon tehokkaampaa ja helpompaa - kuten erilaisten infektion osien, luomisen", Check Pointin uhkatiedusteluryhmän johtaja Sergey Shykevich kertoi ZDNET:ille.

OpenAI:n käyttöehdoissa kielletään nimenomaisesti haittaohjelmien tuottaminen, jota se määrittelee "sisällöksi, joka pyrkii luomaan kiristysohjelmia, näppäinpainallusten tallentimia, viruksia tai muuta ohjelmistoa, joka on tarkoitettu aiheuttamaan jonkin verran haittaa". Se kieltää myös roskapostin luomisyritykset sekä käyttötapausten, jotka on suunnattu kyberrikollisuuteen.

Kuitenkin, useiden suurten maanalaisessa hakkerifoorumeissa tapahtuvan toiminnan analysoinnin perusteella näyttää siltä, ​​että rikolliset käyttävät jo ChatGPT: tä haitallisten työkalujen kehittämiseen - ja joissain tapauksissa se antaa jo alhaisen tason kyberrikollisille, joilla ei ole kehitys- tai koodaustaitoja, mahdollisuuden luoda haittaohjelmia.

Lisäksi: Internetin pelottava tulevaisuus: Miten tulevan teknologian kehittyminen aiheuttaa entistä suurempia kyberturvallisuusuhkia

Joulukuun loppupuolella eräässä keskusteluviestiketjussa käyttäjä kuvailee, kuinka hän käyttää ChatGPT:tä luodakseen haittaohjelmakantoja ja tekniikoita, joita kuvataan tutkimusjulkaisuissa ja yleisesti levinneissä haittaohjelma-artikkeleissa.

Tämän avulla he ovat voineet luoda Python-pohjaisen tietojen varastamisen haittaohjelman, joka etsii yleisiä tiedostoja, kuten Microsoft Office -asiakirjoja, PDF-tiedostoja ja kuvia, kopioi ne ja lataa ne tiedostonsiirtoprotokollapalvelimelle.

Sama käyttäjä osoitti myös, miten ChatGPT:ta on käytetty Java-pohjaisen haittaohjelman luomiseen, joka voidaan salaa ladata ja ajaa muuta haittaohjelmaa saastuneille järjestelmille käyttäen PowerShellia.

Tutkijat huomauttavat, että foorumikäyttäjä, joka tekee nämä ketjut, vaikuttaa olevan "teknisesti suuntautunut" ja jakoi viestit osoittaakseen vähemmän teknisesti kyvykkaille tietomurtojen tekijöille, miten hyödyntää tekoälytyökaluja pahantahtoisiin tarkoituksiin, esimerkkinä todellisia tapauksia siitä, miten se voidaan tehdä.

Eräs käyttäjä julkaisi Python-skriptin, jonka he sanoivat olevan ensimmäinen skripti, jonka he ovat koskaan luoneet. Keskustelun jälkeen toisen foorumikäyttäjän kanssa he sanoivat, että ChatGPT auttoi heitä sen luonnissa.

Skriptin analyysi osoittaa, että se on suunniteltu salakirjoittamaan ja purkamaan tiedostoja. Jokin vaiva vaadittuna siitä voisi kehittyä kiristysohjelmaksi ja johtaa siihen, että alhaisen tason kyberrikolliset kehittävät ja levittävät omia kiristyskampanjoitaan.

"Kaikkea edellä mainittua koodia voi tietysti käyttää hyväntahtoisesti. Tämä skripti voidaan kuitenkin helposti muokata salausohjelmaksi, joka salaa käyttäjän koneen kokonaan ilman käyttäjän vuorovaikutusta. Esimerkiksi, jos skripti ja syntaksi ongelmat on korjattu, se voi mahdollisesti muuttaa koodin kiristyshaittaohjelmaksi", kertoi Check Point.

"Se vaatii parannuksia koodiin ja syntaksiin, mutta konseptuaalisesti tämä työkalu voisi suorittaa samanlaisia toimintoja kuin kiristyshaittaohjelmat", sanoi Shykevich.

Lisäksi: Kyberturvallisuus: Nämä ovat uusia huolenaiheita vuodelle 2023

Kuitenkaan kyberrikollisten ChatGPT-kokeilut eivät rajoitu vain haittaohjelmien kehittämiseen; uudenvuodenaattona eräs maanalaisen foorumin jäsen julkaisi ketjun, jossa hän demonstraatiotarkoituksessa käytti työkalua skriptien luomiseen. Skripteillä voitiin ohjata automatisoitu pimeä verkkomarkkinapaikka, jossa kaupattiin varastettuja tili yksityiskohtia, luottokorttitietoja, haittaohjelmia ja paljon muuta.

Cyberrikollinen jopa esitteli pienen koodinpätkän, joka oli luotu kolmannen osapuolen API:n avulla saadakseen ajantasaisia hintatietoja Monero-, Bitcoin- ja Ethereum-kryptovaluutoista osana maksujärjestelmää dark web -markkinapaikalla.

On vaikea sanoa, esiintyykö ChatGPT:n avulla luotua haitallista verkkotoimintaa käytännössä, koska kuten Sykevich selittää, "teknisesti on äärimmäisen vaikeaa tietää, onko tietty haittaohjelma kirjoitettu ChatGPT:n avulla vai ei".

Mutta kun ChatGPT:n ja muiden tekoälytyökalujen kiinnostus kasvaa, ne houkuttelevat cyber-rikollisten ja vilpillisten toimijoiden huomion, joilla on tarkoitus hyödyntää teknologiaa suorittaakseen pahantahtoista kampanjointia alhaisin kustannuksin ja mahdollisimman pienellä vaivalla. ZDNET on ottanut yhteyttä OpenAI:hin kommenttia varten, mutta julkaisuhetkellä vastausta ei ole saatu.