Mākslīgā intelekta pētnieks Kēss van Dēmters: Cīņā ar viltus ziņām nevar paļauties tikai uz tehnoloģijām
Daina Turlā Pastare, HZF romāņu valodu un kultūru MSP 2. kursa studente
Aberdīnas Universitātes Datorzinību departamenta profesors Kēss van Dēmters (Kees van Deemter). Foto: Toms Grīnbergs, Latvijas Universitātes Komunikācijas un inovāciju departaments
Kēss van Dēmters (Kees van Deemter) ir Aberdīnas Universitātes Datorzinību departamenta profesors, kurš pētniecībā sevi veltījis starpdisciplinārajam “patiesības” jēdzienam. “Profesors van Dēmters ir atraktīvs runātājs ar teju vai enciklopēdiskām zināšanām datorzinātnē, lingvistikā, loģikā, komunikācijas zinātnēs, filozofijā un psiholoģijā, kā arī kognitīvajās zinātnēs kopumā,” iepazīstinot ar vieslektoru, sacīja Latvijas Universitātes (LU) Datorikas fakultātes profesors, vadošais pētnieks, Uztveres un kognitīvo sistēmu laboratorijas vadītājs Jurģis Šķilters.
Profesors van Dēmters ir daudzu grāmatu autors; tās ir guvušas lielu atzinību pētnieku vidū, tāpēc ne velti LU aicināja viņu piedalīties Valsts prezidenta lekciju ciklā "Pasaules līderu lasījumi". Prof. Dēmtera raksti ir tikuši publicēti pie visatzītākajiem izdevējiem - Journal of Semantics, Computational Linguistics u.c. Ar profesora darbiem īpaši ir aicināti iepazīties studenti - gan tie, kuri pārstāv tās pašas zinātnes nozares, gan tie, kuri vēlas uzzināt vairāk par starpdisciplināro metodoloģiju.
Profesors K. van Dēmters lekcijā “Nepatiesības: skats no datorlingvista un mākslīgā intelekta pētnieka perspektīvas” (Lying : the View from Natural Language Generation) iepazīstināja ar pētījumu pie kura šobrīd strādā kopā ar mākslīgā intelekta pētnieku, datorzinātnieku profesoru Ehudu Reiteru (Ehud Reiter). Lektors vispirms ieskicēja, kas ir viltus ziņas jeb fake news un kādā veidā tās ir saistītas ar viņa pētījumu. Pasaulē zināmākais viltus ziņu prototips ir apgalvojums, ka Amerikas Savienoto Valstu (ASV) prezidents Baraks Obama nav dzimis ASV, līdz ar to nav uzskatāms par leģitīmu prezidentu. Tātad, viltus ziņām ir divas būtiskas komponentes - apzināti (stratēģiski) meli un politisks mērķis.
Paturot šo prototipu prātā, profesors pievērsās savam pētījumam, kas sākotnēji, šķiet, nebūt nav saistīts nedz ar nepatiesībām, nedz ar ziņām. “Kā pārvēst datus tekstā?” – šis jautājums bija prof. van Dēmtera vieslekcijas pamatā. Attīstot tēmu par viltus ziņām, viņš uzsvēra, ka kopā ar pētnieku komandu darbojas slimnīcā, kur viņu darba objekts ir teksti. No vienas puses, tie ir teksti, ko sastāda datorprogramma un kuros ir dati par visu, kas medmāsas maiņas laikā ticis darīts ar pacientu. Programma tekstus sastāda, saņemot signālus no visdažādākajām pacientam pieslēgtajām ierīcēm. No otras puses, tie ir teksti, kurus uzrakstījušas pašas medmāsas. Abiem autoriem ir jāuzraksta viens teksts, kurš domāts nākamās maiņas medmāsai, un otrs teksts - pacienta ģimenes locekļiem.
Kā ļaut programmai saprast, kāda informācija ir būtiska? Kāda infromācija ir triviāla? Ko grib zināt ārsti un ko - ģimene? Ja nu šīs ģimenes loceklis arī ir smagi slims un negatīva informācija par pacientu padarīs viņu slimāku? Šie visi un vēl citi jautājumi ir bezgalīga rinda variāciju, uz kurām atbildes ne vienmēr ir acīm redzamas arī pašiem ārstiem, taču šādus jautājumus risina dabiskās valodas ģenerēšanas sistēmas (Natural Language Generation, NLG) ar kurām strādā Aberdīnas Universitātes pētnieks.
Prof. Dēmters lekcijā izdalīja dažāda veida nepatiesības. Pirmkārt, tās ir neizbēgamas atkāpes no patiesības (unavoidable deviations) sintaktiski neskaidros teikumos. Otrkārt, pasīvais viltus (bening deceipt), kad informācijas saņēmēja interesēs informācija tiek noklusēta vai manipulēta. Trešais veids ir, kad informācija noklusēta runātāja interesēs (taking advantage). Klasificējot šos veidus, profesors katram izdala vēl divas variācijas - kad informācija ir nepareiza (incorrect) vai daļēji pareiza (partial).
Apkopojot šo informāciju, pētnieki nonāk pie secinājuma, ka risks producēt nepatiesības vai puspatiesības pastāv vienmēr un tas ir kaut kas raksturīgs valodai. Taču, atgriežoties pie viltus ziņām, Aberdīnas Universitātes pētījumā iegūto informāciju un pielietotos algoritmus var pielietot cīņā ar viltus ziņu izplatību. Ir iespējams automātiski konstatēt viltu, kad ir kāds viltus ziņu prototips vai patents. Tiesa, profesors van Dēmters atzīst, ka viens no pētījuma mērķiem bija arī parādīt, ka šajā cīņā nevar cerēt tikai uz tehnoloģijām. Patiesības un nepatiesības komunicēšanas algoritmi cilvēka prātā nav skaidri un tos ietekmē ārkārtīgi daudz variējošu faktoru, līdz ar to tos nevar likt atkārtot datorsistēmām.
Taču cīņa pret viltus ziņām ir iespējama, atzīst profesors. Viņš atsaucas uz doktora Ismaila Serageldina pērn sniegto lekciju LU šī paša Valsts prezidenta lekciju cikla ietvaros, kurš sacīja, ka izglītība, lasīšana un analītiskā domāšana ir pareizais ceļš, lai neapmaldītos melos. Atbildība bez šaubām gulstas arī uz valsts iestādēm.
Noslēgumā LU rektors profesors Indriķis Muižnieks aicināja klātesošos uzdot jautājumus. Pirmo jautājumu uzdeva bijušais Satversmes aizsardzības biroja vadītājs Jānis Kažociņš, kurš rosināja apdomāt iesējamos riskus, uzticot tehnoloģijām risināt tīri morālus jeb cilvēcīgus jautājumus. Tālāk jautājumus uzdeva arī vairāki studenti, to vidū students no ASV, kurš interesējās par algoritmiem, kas konstatē loģiskās ķēdes defektus, teiksim, ziņu virsraksta neatbilstību saturam. Visiem jautājumiem neatlika laika un daži ar profesoru vēlējās aprunāties arī pēc lekcijas, pacietīgi gaidot viņu rindā.
Pieejams lekcijas video ieraksts un profesora Kēsa van Dēmtera prezentācija.
Šeit skatāms video no Accenture MadScience seminārā, kurā prof. Kēss van Dēmters uzstājas ar lekciju "Computational Models of Referring”.
Profesora viesošanos Latvijā atbalstīja uzņēmums "Accenture Latvia".