Šķiet, ka mūsdienās mākslīgais intelekts ir visur, no plkst interjera dizains uz mājas iestudējums . Bet viens no vispazīstamākajiem un, iespējams, viens no strīdīgākajiem AI lietojumiem šobrīd ir ChatGPT.
Ja jūs nekad neesat spēlēja ar ChatGPT iepriekš, šeit ir īss momentuzņēmums, kā tas darbojas: lietotājs ievada vaicājumu, piemēram, “Uzrakstiet man jaunu recepti vakariņu pagatavošanai” vai “Kā man vajadzētu izrotāt manu viesu istabu ”, un dažu sekunžu laikā ChatGPT izspiež atbildi.
Taču daži cilvēki un uzņēmumi izmanto ChatGPT daudz vairāk nekā tikai maltītes pagatavošanai. Viņi ļoti paļaujas uz tērzēšanas robotu, lai rakstītu visu, no kura koledžas uzņemšanas esejas uz produktu atsauksmes — lai gan tas dažkārt noved pie pretrunīgiem rezultātiem.
Tas var likt jums kā lasītājam apšaubīt, vai kādreiz nejauši esat lasījis kaut ko tādu, ko, jūsuprāt, ir sarakstījis cilvēks, bet patiesībā to ir radījis robots. Vai vēlaties uzzināt, kā uzzināt, vai kaut ko uzrakstīja ChatGPT? Es tērzēju ar dažiem ekspertiem, lai saņemtu viņu padomus un padomus, kā orientēties šajā neskaidrajā jaunajā, ar AI darbināmajā pasaulē, kurā mēs dzīvojam. Lūk, kas viņiem bija jāsaka.
Kā ChatGPT saka, lai noteiktu, vai kaut ko ir uzrakstījis ChatGPT?
Bet vispirms es prātoju, ko ChatGPT teiktu, ja es tai uzdotu tieši šo jautājumu. Prieka pēc es izveidoju kontu, ziņojumu joslā ierakstīju “kā noteikt, vai kaut ko uzrakstīja ChatGPT” un nospiediet taustiņu Enter.
11:01 nozīme
ChatGPT, protams, man uzreiz sniedza atbildi.
'Noteikt, vai kaut ko uzrakstīja ChatGPT, var būt sarežģīti, jo modeļa mērķis ir ģenerēt cilvēkiem līdzīgu tekstu,' tā atbildēja. 'Tomēr ir daži vispārīgi raksturlielumi, kas var liecināt, ka tekstu ģenerēja valodas modelis.'
redzot 4:44
Pēc tam man tika izveidots saraksts ar pazīmēm, kas varētu liecināt, ka teksta daļu ir uzrakstījis robots, piemēram, vairākas reizes atkārtojot vienas un tās pašas frāzes vai idejas vai šķietami vispārīgi un trūkst konkrētu detaļu. ChatGPT arī saka, ka tā rakstīšanai var nebūt personisku anekdošu un emociju.
Vēl viens pastāstīt, saskaņā ar ChatGPT? Ja informācija šķiet novecojusi, jo ChatGPT tika apmācīts par datiem tikai līdz 2022. gada janvārim.
Savas atbildes beigās ChatGPT mēģināja mani nomierināt, rakstot, ka, ja man ir “īpašas bažas vai šaubas par kādu teksta daļu, droši jautājiet, un es darīšu visu iespējamo, lai jums palīdzētu”.
Kā noteikt, vai kaut ko rakstīja ChatGPT
Labi, tas bija jautrs eksperiments, bet tagad par to, ko teikt īstiem cilvēku ekspertiem.
Vispirms jāņem vērā tas, ka ChatGPT tekstu ģenerē cilvēka ievadīta uzvedne. Tāpēc lietotājs var atkal un atkal pielāgot uzvedni, lai izveidotu konkrētu balsi, stilu, garumu un teksta veidu, kādu viņi meklē. Tādējādi var būt pārsteidzoši grūti noteikt, vai kaut ko ir uzrakstījis ChatGPT.
'Savā pētījumā es atklāju, ka pat labi apmācīti cilvēki cenšas droši noteikt ģenerēto tekstu,' saka Liams Dugans , kurš pēta dažādus ar tērzēšanas robotiem saistītus jautājumus, strādājot pie doktora grāda Pensilvānijas Universitātē. (Viņš un viņa kolēģi izveidoja tiešsaistes spēli ar nosaukumu ' Īsts vai viltots teksts ”, kur cilvēki var pārbaudīt savas AI radītā teksta noteikšanas prasmes — izmēģiniet to pats.)
Pēc Dugana teiktā, nav nekādu konkrētu vārdu vai frāžu, kas norādītu, ka teksta daļu ir uzrakstījis tērzēšanas robots. Tāpēc, diemžēl, jūs nevarat vienkārši izmantot “Control+F”, lai noteiktu konkrētu vārdu valodu.
ko nozīmē 11 11 numeroloģijā
Citi eksperti piebalsoja šim viedoklim.
'Diemžēl šķiet, ka nav vienkāršs veids, kā noteikt tekstu, ko rakstījis ChatGPT vai AI kopumā,' saka Ksavjers Hārdings, satura ražotājs no Mozilla, kas ir interneta pārlūkprogrammas Firefox pamatā. 'Mēs esam redzējuši, kā ChatGPT, OpenAI, veidotāji ir izmēģinājuši savus spēkus, piedāvājot metodes, lai noteiktu mākslīgā intelekta rakstītu tekstu, un viņiem nācās tos atsaukt, sakot, ka nav precīza veida, kā noteikt AI ģenerētu tekstu.'
Pievērsiet uzmanību kopēšanas un ielīmēšanas kļūdām.
Bet tas, ka to var būt grūti pateikt, nenozīmē, ka visas cerības ir zaudētas. Tā kā cilvēki ir tie, kas mudina izmantot ChatGPT, jūs varētu redzēt dažas īpaši acīmredzamas norādes, ka kaut ko ir uzrakstījis tērzēšanas robots.
'Esmu redzējis, ka cilvēki nejauši iekļauj blakus komentārus no tērzēšanas robota, piemēram: 'Protams, šeit ir ziņu raksts par noteikšanu,' saka Dugans.
1010 eņģeļu numuru numeroloģija
Ziniet, kā pamanīt 'halucinācijas'.
Neņemot vērā šāda veida kļūdas, eksperti iesaka arī rūpīgi izpētīt teksta fragmentu, lai nodrošinātu faktu precizitāti. Jo vairāk nišas ir informācija, jo lielāka iespēja, ka tērzēšanas robots vienkārši izdomās faktu vai izdarīs kaut ko nepareizi, saka Dugans.
Cilvēki, kas strādā AI jomā, šīs kļūdas sauc par 'halucinācijām'.
'Dažreiz mākslīgais intelekts pateiks lietas, kas ir tieši tādas, kas vienkārši nav patiesas,' saka Hārdings. 'Tas var būt viegli saprotams, ka lasāt AI, nevis cilvēka izstrādātu tekstu, lai gan var būt grūti noteikt, vai kaut kas ir halucinācijas, ja tas attiecas uz tēmu, kuru jūs nepārzināt.'
Ja neesat pārāk pazīstams ar tēmu, par kuru lasāt, veiciet ātru meklēšanu tiešsaistē, lai pārbaudītu informāciju, kas jums ir priekšā, piebilst Hārdings.
eņģeļu zīmes un simboli
Uzmanieties no rakstīšanas, kas šķiet pārāk vispārīga.
Vēl viena pazīme, ka kaut ko ir uzrakstījis čatbots, ir pārmērīgs vispārīgums (ko arī pats ChatGPT pieminēja). Ja teksta fragments šķiet pārāk plašs — piemēram, filmas apskats, kurā, piemēram, nav minēts neviens no dalībniekiem, iespējams, vēlēsities būt aizdomīgs.
'Lai nepieļautu kļūdas, tērzēšanas roboti bieži raksta vispārīgu tekstu,' saka Dugans. “Viņi sniegs ļoti drošas un paredzamas atbildes un centīsies izvairīties no nepieciešamības izdomāt informāciju. Tomēr lasītājam tas bieži var šķist dīvaini. Lasītājiem vajadzētu pievērst uzmanību visam, kas šķiet, ka tas izvairās sniegt konkrētu informāciju.
Izlasi vairāk nekā dažus pirmos teikumus.
Vēl viens padoms: izlasiet pēc iespējas vairāk teksta, nevis tikai pirmo vai divus teikumus. Gerijs Markuss , Ņujorkas universitātes emeritētais psiholoģijas un neirozinātņu profesors, saka, ka var vieglāk noskaidrot, vai kaut ko ir uzrakstījis tērzēšanas robots, ja teksts ir garāks.
'To ir ļoti grūti noteikt pēc viena teikuma, jo viņi ir apmācīti uztvert prātam neaptverami lielu teksta daudzumu, lai tas izklausītos pēc iespējas cilvēciskāk,' viņš saka. 'Šīs sistēmas bieži iziet no sliedēm ilgākās sarunās, bet ne vienmēr īsos fragmentos.'
Un kā ar tērzēšanas robotu detektoriem?
Izpētiet tiešsaistē, un jūs, iespējams, saskarsities ar rīkiem, kas apgalvo, ka spēj noteikt AI ģenerētu tekstu. Dugan pašlaik veic liela mēroga pētījumu, lai pārbaudītu šo detektoru efektivitāti, taču līdz šim agrīnie pierādījumi nav daudzsološi.
'Visi mūsu rezultāti liecina, ka detektori nav uzticami un ka jums nevajadzētu tos izmantot nekādos augstas likmes scenārijos,' viņš saka. 'Daudzi uzņēmumi apgalvo, ka spēj noteikt ģenerētu tekstu ar 99% vai lielāku precizitāti, taču šie apgalvojumi ir nepatiesi. Detektori bieži atzīmē cilvēku rakstītu tekstu kā tērzēšanas robota ģenerētu tekstu, un tos ir viegli apmānīt.
