Umělá inteligence hledá pravdu

Tohle je první dojem z evropské konference Média ve věku umělé inteligence, která proběhla včera (21.11.2017) a které se, mimo jiné, zúčastnili představitelé Googlu a Facebooku. Nejvíce mě zaujal ale někdo úplně jiný. :-)

Hrnul jsem se na tuhle konferenci zejména kvůli Richardu Allanovi, což je v Evropě mluvčí Facebooku, a kvůli Jonovi Steinbergovi z Googlu. Ti mě ale dost zklamali, ale to snad jen proto, že pasu jen po nových originálních myšlenkách. V úvodu byly přededajícím konference ilustrovány některé případy fake news, které v USA ovlivnily presidentské volby nebo v Evropě ovlivnily postoje k migrantům. Nicméně dále se už řečníci věnovali vyhodnocování kvality a věrohodnosti informací jako teoretickému problému, ovšem s konkrétními praktickými realizacemi. Zpět ale k zástupcům Facebooku a Googlu.

U Jona bylo trochu zajímavé pouze to, že se Google pomocí svých vyhledávacích algoritmů snaží preferovat kvalitní žurnalismus, založený na ověřených informacích a potlačovat fake news. Dělají to třeba tak, že nedovolují provoz svého reklamního systému AdSense na serverech, které masově rozšiřují fake news, čímž blokují jejich finanční příjmy z tohoto zdroje. Celou kampaň označuje Google jako quality journalism offensive. A že nevidíte žádnou souvislost tohoto přístupu Googlu s umělou inteligencí? Stačí si uvědomit, jak se vyhodnocuje, je-li něco fake news nebo ne. Google to pochopitelně dělá algoritmicky pomocí umělé inteligence.

Richard Allan z Facebooku mluvil o tom, že Google je něco jako nabídka všech "knih" na světě, což kontrastuje s Facebookem, který je nabídkou jen těch "knih", které mají naši přátelé. K tématu fake news blíže specifikoval obtížný úkol kvantifikovat míru neověřených informací. Jde totiž na jedné straně o to, aby byla garantována svoboda názoru a omylu, na druhé straně ale aby byly potlačováno systematické a vědomé zkreslování informací a ofenzivní dezinformační kampaně.

Postupy, které umělá inteligence používá k ověřování informací jsou prakticky stejné, jaké by používal člověk:

1) Zkoumá se výrazivo. Čím "hysteričtější" a údernější jsou výrazy, tím bývá zdroj méně kvalitní.
2) Zkoumá se, jestli vůbec deklarovaný autor článku existuje. Ne-li, je velká jistota, že je článek nepodložený.
3) Zkoumají se zdroje, na které článek odkazuje a odkazuje-li vůbec na nějaké. Též se zkoumá kvalita zdrojů, na které se odkazuje. Vytváří se databáze kvality zdrojů, jako základ pro další hodnocení.
4) Parciální postupy: například rozpor ve sdělení titulku a obsahu článku, hledá se mix starých a nových údajů, Není tato informace ironická?, Byla tato informace pokryta hlvaními médii i když v jiném duchu?
5) Atd.

Nejvíce mě na konferenci zaujal Andreas Vlachos z University of Sheffield, který třeba pracoval pro výzkumný tým BBC. Na konferenci byl označován jasko skutečný guru a opravdu to byl asi nejvýraznější vědecký kreativec v panelu. Dlouhodobě se věnuje faktickému ověřování informací a byl prvním, kdo takovéto ověřování označil jako výzvu pro umělou inteligenci a jako první vyvinul první identifikační a verifikační algoritmus k tomuto účelu. Je v tomto směru také trochu aktivista, neboť odstranil velkou část ruční práce při ověřování zpráv, které dělá website Emergent, která vyhledává a odhaluje fámy. Kredit jeho algoritmu dodala organizace Full Fact svým testováním jeho funkce. Full Fact je nezávislá fakta kontrolující organizace v UK. Andreas spoluzaložil firmu Factamata, která je spolufinancována grantem Google Digital News Initiative, a tato firma si klade za cílí na snížení online informačního znečištění pomocí algoritmů umělé inteligence.

Také on hovořil o měkkém přístupu, který jeho algoritmy produkují a neoznačují třeba nějaký článek jako pravdivý či nepravdivý, ale udávají jeho kvalitu v procentech pravdivosti. Z jeho nadšeného vystoupení a praktických schopností jsem měl příjemný pocit, že se konečně někdo efektivně zaobírá informačním znečištěním dnešní společnosti, které někdy přerůstá dokonce v degenerované teoretické koncepce post-pravdy, post-faktické společnosti, či vědy jako kulturního konstruktu civilizace, který neodráží realitu. Můžeme jen doufat, že čistící schopnosti jeho systémů budou brzy lokalizovány i do českého jazyka.

Konec hlášení. :-)