ChatGPT at Iba Pa: Ano ang Kahulugan ng AI Chatbots para sa Kinabukasan ng Cybersecurity

Mula sa mga medyo simpleng gawain tulad ng pagkomposisyon ng mga email, hanggang sa mga mas kumplikadong trabaho tulad ng pagsusulat ng mga sanaysay o pag-compile ng code, ang ChatGPT -- ang kasangkot na AI-driven natural language processing tool mula sa OpenAI -- ay nagpapalawak ng malaking interes mula nang ito'y ilunsad.

Hindi ito hindi sakdal, siyempre - alam na nagkakamali at nagkakaroon ng mga pagkakamali habang hindi nito naunawaan ng mabuti ang impormasyon na ito'y pinupulot, ngunit marami ang nakakakita dito, at iba pang mga kagamitan sa AI, bilang kinabukasan ng kung paano natin gagamitin ang internet.

Ang mga tuntunin ng serbisyo ng OpenAI para sa ChatGPT ay tiyak na ipinagbabawal ang paglikha ng malware, kasama ang ransomware, keyloggers, mga virus o "ibang software na layuning magdulot ng anumang uri ng pinsala". Ipinagbabawal din ang mga pagtatangka na lumikha ng spam, gayundin ang mga paggamit na layunin ay ang kriminalidad sa cyber.

Pero tulad ng anumang makabagong online na teknolohiya, may mga taong nag-eeksperimento na kung paano nila magagamit ang ChatGPT para sa mga masalimuot na layunin.

Pagkatapos ng paglulunsad, hindi nagtagal bago nag-post ang mga cyber criminal ng mga threads sa mga underground forum tungkol sa kung paano maiimpluwensiyahan ng ChatGPT ang masasamang cyber aktibidad, tulad ng pagsusulat ng mga phishing email o pagtulong sa pagkompila ng mga malware.

At may mga pangamba na subukan ng mga magnanakaw ang paggamit ng ChatGPT at iba pang mga AI tools, tulad ng Google Bard, bilang bahagi ng kanilang mga pagsisikap. Bagaman hindi babago ng mga AI tools na ito ang mga cyberattack, maaari pa rin itong makatulong sa mga kriminal sa kiber -- kahit na hindi sinasadya -- upang mas mabilis na maisagawa ang masasamang kampanya.

"Sa palagay ko, hindi agad, na sa maikling panahon, gagawa ang ChatGPT ng kumpletong mga bagong uri ng mga atake. Ang kanilang pangunahing layunin ay gawing mas mura ang kanilang pang-araw-araw na operasyon," ang sabi ni Sergey Shykevich, tagapamahala ng pangkat na nag-iintegridad ng banta sa Check Point, isang kumpanya sa seguridad ng online.

At isa pa: Ano ang ChatGPT at bakit ito mahalaga? Narito ang lahat ng kailangan mong malaman

Ang mga atake ng phishing ay ang pinakakaraniwang bahagi ng mapanlinlang na pagsusulong ng mga hacker at pandaraya. Kung ang mga attacker ay nagpapadala ng mga email upang ikalat ang malware, mga link sa phishing, o ginagamit upang kumbinsihin ang isang biktima na maglipat ng pera, ang email ay ang pangunahing kasangkapang ginagamit sa simula ng pagsasanib-pwersa.

Ang pagtitiwala sa email ay nangangahulugang kinakailangan ng mga bandido ang patuloy na daloy ng malinaw at magamit na nilalaman. Sa maraming kaso - lalo na sa phishing - ang layunin ng manlalaban ay mapapayuhan ang isang tao na gawin ang isang bagay, tulad ng paglilipat ng pera. Malasin na marami sa mga pagsusubok ng phishing na ito ay madaling matukoy bilang spam sa kasalukuyan. Ngunit isang epektibong auto-generated na kopya ng titik ay maaaring gumawa ng mga email na ito na mas kaakit-akit.

Ang cybercrime ay isang pandaigdigang industriya, kung saan ang mga kriminal sa iba't ibang bansa ay nagsesend ng phishing emails sa mga potensyal na target sa buong mundo. Ito ay nangangahulugang ang wika ay maaaring maging isang hadlang, lalo na para sa mga mas ma-sophisticated na spear-phishing campaigns na umaasa sa mga biktima na naniniwala silang nag-uusap sila sa isang tiwala contact -- at malamang na hindi naniniwala ang isang tao na kausap niya ang isang kasamahan kung ang mga emails ay puno ng hindi kapani-paniwala na mga pagkakamali sa pagbaybay at gramatika o kakaibang bantas.

Ngunit kung ang AI ay maipapakinabangan nang maayos, maaaring gamitin ang chatbot upang magsulat ng teksto para sa mga email sa anumang wika na gustong gamitin ng manlalaban.

"Ang malaking hadlang para sa mga kriminal na cyber ng Russia ay ang wika - Ingles," sabi ni Shykevich. "Ngayon sila ay naghihire ng mga graduate ng mga English studies sa mga Russian na kolehiyo para magsulat ng phishing emails at maging sa mga call centre - at kailangan nilang magbayad ng pera para dito."

Tuloy-tuloy siya: "Ang isang bagay tulad ng ChatGPT ay makakatipid sa kanila ng malaking halaga ng pera sa paglikha ng iba't ibang klase ng phishing na mensahe. Makakapagpabuti lamang ito sa kanilang buhay. Sa tingin ko, iyon ang landas na kanilang tatanawin."

Sa teorya, may mga proteksyon na umiiral na dinisenyo upang maiwasan ang pang-aabuso. Halimbawa, sa ChatGPT, kinakailangan sa mga gumagamit na magrehistro gamit ang kanilang email at kinakailangan din ang isang numero ng telepono upang patunayan ang pagrehistro.

At habang ang ChatGPT ay tatalikuran ang pagsusulat ng mga phishing email, posible na hilingan ito na gumawa ng mga template ng email para sa ibang mga mensahe na karaniwang inaabuso ng mga cyber attacker. Posibleng kasama sa mga mensaheng ito ang pagsasabing mayroong annual bonus na iniaalok, isang mahalagang software update na kailangang i-download at i-install, o isang nakatakdang dokumento na kailangang tingnan agad.

"Pagsusulat ng isang email upang mangumbinsi sa isang tao na mag-click sa isang link upang makakuha ng isang bagay tulad ng imbitasyon sa isang kumperensiya - ito'y maganda, at kung ikaw ay isang non-native na nagsasalita ng Ingles, ito ay maganda talaga," ang sabi ni Adam Meyers, senior vice president ng intelligence sa Crowdstrike, isang nagbibigay ng kiberseguridad at threat intelligence."

"Maaari mong magkaroon ng magandang pormulang, tama sa gramatika, na imbitasyon na hindi mo siguradong magagawa kung hindi ka nito kapwa katutubo ng Ingles."

Ngunit ang pang-aabuso sa mga tool na ito ay hindi lamang nauukol sa email; maaaring gamitin ito ng mga kriminal upang makatulong sa pagsusulat ng script para sa anumang text-based na online platform. Para sa mga manlilinlang na gumagawa ng mga scam, o kahit na mga advanced cyber-threat groups na nagtatangka na magsagawa ng mga kampanya sa pagkakakspy, maaring ito ay isang kapaki-pakinabang na kasangkapan - lalo na sa paglikha ng mga pekeng social profiles upang hilaan ang mga tao.

"Kung gusto mong lumikha ng mga walang katuturang baliw na salita sa negosyo para sa LinkedIn upang gumawa itong tila ikaw ay isang tunay na negosyante na nagsisikap makipag-ugnayan, ang ChatGPT ay magaling para dito," ang sabi ni Kelly Shortridge, isang dalubhasa sa cybersecurity at senior principal product technologist sa cloud-computing provider na Fastly.

Iba't ibang mga grupo ng hacking ang sumusubok na gamitin ang LinkedIn at iba pang mga plataporma sa social media bilang mga kagamitan para sa mga kampanyang cyber-espionage. Ngunit ang paglikha ng pekeng, ngunit tila tunay na mga online profile -- at pagpupuno ng mga ito ng mga post at mga mensahe -- ay isang pagprosesong sumasakop ng oras.

Si Shortridge ay naniniwala na ang mga attacker ay maaaring gumamit ng mga AI tool tulad ng ChatGPT upang magsulat ng kapani-paniwalang nilalaman habang mas mababa ang gastos ng pagsisikap kumpara sa pagsasagawa ng trabaho nang manual.

"Maraming mga uri ng mga kampanyang pang-sosyal na inhenyeriya ang nangangailangan ng maraming pagsisikap dahil kailangan mong mag-set up ng mga profile," sabi niya, sinasabi na ang mga AI tool ay maaaring maibaba nang malaki ang hadlang sa pagpasok.

"Sigurado ako na kayang-kaya ng ChatGPT na magsulat ng mga post na tila tunay na pinuno sa pag-iisip," aniya.

Ang kalikasan ng teknolohikal na pagbabago ay nangangahulugang, tuwing may bagong lumitaw, laging may mga taong sinusubukan itong gamitin para sa masamang layunin. At kahit sa pinakainobatibong paraan ng pag-iwas sa pang-aabuso, ang mga mababalasik na cyber criminal at manloloko ay malamang na makahanap ng paraan upang malusutan ang mga proteksyon.

"Walang paraan para lubusan nang mawala ang pang-aabuso sa sero. Hindi pa ito nangyari sa anumang sistema," sabi ni Shykevich, na umaasang sa pamamagitan ng pagpapakita ng mga potensyal na isyu sa cybersecurity, magkakaroon ng mas maraming diskusyon kung paano maiiwasan ang pagsasamantala sa AI chatbots para sa maling layunin."

"Ito ay isang mahusay na teknolohiya - ngunit, tulad ng lagi sa bagong teknolohiya, may mga panganib at mahalagang talakayin ang mga ito upang maunawaan ang mga ito. At sa palagay ko, kung lalo pa tayong magtalakayan, mas malamang na mag-iinvest ang OpenAI at mga katulad na kumpanya sa pagsusulong ng pagbawas ng pang-aabuso," saad niya.

Mayroon ding mga bentahe para sa cybesecurity sa AI chatbots, tulad ng ChatGPT. Lalo silang magaling sa pakikitungo at pagkaunawa sa code, kaya may potensyal na gamitin sila upang matulungan ang mga tagapagtanggol na maunawaan ang malware. Dahil kayang magsulat ng code ang mga ito, posible na sa pamamagitan ng pagtulong sa mga developer sa kanilang mga proyekto, ang mga tool na ito ay makakatulong upang mas maganda at ligtas na code ay mas mabilis na makabuo, na mabuti para sa lahat.

Ayon kay Jeff Pollard, isang pangunahing analista ng Forrester, ang ChatGPT ay maaaring magdulot ng malaking pagbawas sa dami ng oras na inaabot upang makagawa ng mga ulat sa insidente ng seguridad.

"Ang mas mabilis na pagbalik ng mga ito ay nangangahulugang mas maraming oras na ginugugol sa iba pang mga gawain - pagsubok, pagtatasa, imbestigasyon, at pagtugon, na lahat ay tumutulong sa mga koponan ng seguridad na lumawak," sabi niya, na nagdaragdag na isang bot ay maaaring magmungkahi ng mga susunod na inirerekumendang aksyon batay sa mga magagamit na datos.

"Kung ang pag-o-orchestrate, pag-automate, at pagresponde sa seguridad ay tamang nakaset up para ma-accelerate ang pagkuha ng mga artifacts, maaaring mabilis ang pagtuklas at pagresponde at makatulong sa mga analista ng [security operations center] na gumawa ng mas mabuting mga desisyon," aniya.

Kaya nga, maaaring magpahirap ang mga chatbot sa ilang nasa larangan ng cybersecurity, pero maaaring magkaroon din ng mga positibong epekto.

Kumonekta ang ZDNET sa OpenAI para sa pahayag, ngunit hindi nakatanggap ng tugon. Gayunpaman, tinanong ng ZDNET ang ChatGPT kung ano ang mga patakaran nito upang maiwasan ang pang-aabuso sa pagpapadala ng mga pishing -- at nakuha namin ang sumusunod na teksto.

"Mahalagang tandaan na bagamat ang mga AI language model tulad ng ChatGPT ay kayang maglikha ng teksto na katulad ng mga email na mga phishing, hindi nila magagawa ang mga masasamang aksyon nang kusa at nangangailangan ng intensyon at mga kilos ng mga tagagamit upang magdulot ng pinsala. Dahil dito, mahalaga para sa mga tagagamit na mag-ingat at gumamit ng mabuting paghuhusga kapag gumagamit ng teknolohiyang AI, at maging mapagbantay sa pagprotekta laban sa mga phishing at iba pang masasamang mga gawain."