Dirbtinis intelektas kuria knygas-vaiduokles: kaip bibliotekininkai kovoja su išgalvotais šaltiniais

Knygos, kurių niekada nebuvo

Paieškos rezultatuose viskas atrodė nepriekaištingai: knygos pavadinimas, autorius, leidėjas, net tarptautinis DOI numeris. Tačiau bibliotekininkei Rasai bandant suvesti duomenis į katalogą, paaiškėjo stulbinanti tiesa – tokia knyga niekada neegzistavo. Tai, kas iš pradžių atrodė kaip pavienė klaida, greitai virto kasdienybe, atskleidžiančia naują dirbtinio intelekto (DI) keliamą iššūkį.

Studentai, tyrėjai ir paprasti smalsuoliai vis dažniau ateina į bibliotekas su DI pokalbių robotų sugeneruotais šaltinių sąrašais, kuriuose knibžda nuorodų į knygas-vaiduokles. Kaip atsiranda šios klastotės ir kaip kiekvienam iš mūsų nepasiklysti informacijos labirintuose?

Kodėl dirbtinis intelektas išsigalvoja?

Populiarūs pokalbių robotai, tokie kaip „ChatGPT“, informacijos neieško milžiniškose pasaulio bibliotekose. Jų veikimo principas kitoks – jie generuoja statistiškai labiausiai tikėtiną žodžių seką, atsakydami į vartotojo užklausą. Jei prašote mokslinių šaltinių, DI sukonstruos atsakymą, kuris atrodys kaip tikras akademinis tekstas, įskaitant visus būtinus atributus.

„Problema ne ta, kad robotas sąmoningai meluoja. Jis neturi „tiesos“ ar „melagystės“ suvokimo“, – aiškina bibliotekininkė Rasa. „Jis tiesiog dėlioja žodžius į sakinius, kurie skamba teisingai ir atitinka prašomą formatą.“

Rezultatas – profesionaliai suformatuotos, tačiau visiškai išgalvotos knygos, straipsniai ir jų autoriai, kurie įtikinamai imituoja tikrus mokslinius darbus.

„Formato hipnozė“: kodėl taip lengva patikėti?

Pasak Rasos, daugelis žmonių patenka į „formato hipnozės“ spąstus. Kai matome tvarkingą struktūrą – autorių, pavadinimą, leidimo metus, leidyklą – mūsų smegenys automatiškai priskiria šiai informacijai patikimumo etiketę. Tai vadinama autoriteto šališkumu: akademinė forma sumažina mūsų kritinį mąstymą.

Šis reiškinys bibliotekose jau tapo kasdienybe. Skaitytojai atneša sąrašus, kuriuose kartais net trečdalis šaltinių yra fiktyvūs. Ypač dažnai su šia problema susiduria studentai, kurie, patys to nežinodami, į savo rašto darbus įtraukia citatas iš knygų, kurios niekada nebuvo parašytos.

„Neseniai vienas studentas atnešė dvidešimties šaltinių sąrašą. Patikrinus paaiškėjo, kad tik septyni iš jų buvo tikri, o likusius trylika sugeneravo dirbtinis intelektas. Vaikinas buvo nuoširdžiai nustebęs“, – patirtimi dalijasi Rasa.

Greitas patikrinimas: keturi žingsniai per kelias minutes

Nors problema atrodo sudėtinga, atskirti tikrą šaltinį nuo išgalvoto dažnai galima vos per kelias minutes. Bibliotekininkė pataria atlikti keturis paprastus veiksmus:

1. Patikrinkite bibliotekų kataloguose. Pasinaudokite pasauliniu „WorldCat“ katalogu arba Lietuvos nacionalinės Martyno Mažvydo bibliotekos portalu. Jei knygos nėra didžiausiuose kataloguose, tikimybė, kad ji egzistuoja, yra labai maža.
2. Apsilankykite leidėjo svetainėje. Kiekviena solidi leidykla savo interneto svetainėje turi visų išleistų knygų sąrašą. Jei nurodytas leidėjas tokios knygos neturi – tai pavojaus signalas.
3. Patikrinkite DOI numerį. Jei nurodytas mokslinio straipsnio ar knygos DOI (skaitmeninio objekto identifikatorius), patikrinkite jį „CrossRef.org“ sistemoje. Sugeneruotas DOI numeris neduos jokių rezultatų.
4. Ieškokite, kas dar citavo šaltinį. Tikrą mokslinį darbą anksčiau ar vėliau būna citavę kiti autoriai. Jei jūsų rastas šaltinis niekur kitur neminimas, verta suklusti.

Dirbtinis intelektas yra galingas įrankis, tačiau juo naudotis reikia atsakingai. Rasa dabar kiekvienam skaitytojui, atėjusiam su DI sudarytu sąrašu, primena auksinę taisyklę: „Kiekviena DI pateikta nuoroda yra tik hipotezė, o ne faktas. Kol jos nepatikrinote patys, netikėkite.“ Šis paprastas principas gali sutaupyti valandų valandas bergždžio darbo ir apsaugoti nuo klaidingos informacijos sklaidos.