Fajna Filda: Důvěřujeme oprávněně umělé inteligenci?

Umělá inteligence je dnes součástí každodenního života – ale důvěřujeme jí oprávněně? Psycholog Josef Kundrát z Filozofické fakulty Ostravské univerzity zkoumá, jak lidé s AI komunikují, kdy jí věří a kdy bychom měli zpozornět.

V rozhovoru odhaluje i to, proč nás může technologie snadno přesvědčit i jak se spolupracuje s americkým výzkumným týmem.

Jak jste se dostal od pedagogické psychologie až k tématu umělé inteligence?

Byl to přirozený posun. Pedagogická psychologie se zabývá tím, jak se lidé učí a jak pracují s informacemi, a právě technologie začaly tento proces zásadně proměňovat. V momentě, kdy se algoritmy a AI staly běžnou součástí života, začalo mě zajímat, jak hodně jim lidé důvěřují a jak ovlivňují naše rozhodování.

Co vás na důvěře v umělou inteligenci fascinuje nejvíc?

To, jak rychle jsme ochotni AI uvěřit. Často jí přisuzujeme větší kompetenci, než ve skutečnosti má. Fascinující je i to, že ji někdy hodnotíme podobně jako člověka – odpouštíme jí chyby nebo jí naopak přestáváme věřit podle toho, jak „působí“. Proto s našim týmem zkoumáme, jak lidé reagují na rozhodnutí umělé inteligence, kdy ji poslechnou a kdy ji zpochybní. Sledujeme také, jakou roli hraje forma komunikace – například jestli AI vystupuje „lidsky“, nebo čistě technicky.

Je pravda, že nás může umělá inteligence přesvědčit, i když se mýlí?

Ano, a to je velmi důležité zjištění. Pokud AI komunikuje přesvědčivě a sebejistě, lidé mají tendenci jí věřit, i když její odpověď není správná. Forma sdělení je často stejně důležitá jako samotný obsah. Čím víc připomíná člověka, tím víc jsme ochotni jí důvěřovat. To ale může být i rizikové, protože při dobré zkušenosti může naše kritičnost polevit. Podobný mechanismus zažíváme, když začneme důvěřovat novému kamarádovi.

Jsme jako lidé spíš důvěřiví, nebo skeptičtí?

Záleží na situaci. Obecně jsme spíš důvěřiví, zejména pokud technologie působí kompetentně nebo má dobrý marketing. Skepticismus přichází až ve chvíli, kdy narazíme na chybu nebo negativní zkušenost. Lidsky působící technologii ale můžeme snadněji odpouštět chyby, podobně jako kamarádovi.

Kdy by se nám měla rozsvítit kontrolka a říct si, že AI už věřit nemáme?

Ve chvíli, kdy jde o důležité rozhodnutí – například v oblasti zdraví, financí nebo práva. Tam bychom měli vždy zapojit kritické myšlení a ideálně si informace ověřit, nejlépe u živých odborníků s prokázanými zkušenostmi.

Získal jste prestižní Fulbright – Masarykovo stipendium. Co rozhodlo o vašem úspěchu?

Komise J. Williama Fulbrighta je mezivládní česko-americkou organizací založenou za účelem podpory vzdělávacích, vědeckých a kulturních výměn mezi Českou republikou a Spojenými státy americkými prostřednictvím stipendijních programů a poradenských a informačních služeb. Podle jejich slov mi pomohla kombinace dobrého výzkumného nápadu a jasné vize, co chci zkoumat a proč je to důležité. Samozřejmě pomáhají i zkušenosti a schopnost projekt dobře komunikovat.

V čem je americké akademické prostředí jiné?

Je velmi otevřené a orientované na spolupráci. Lidé jsou zvyklí sdílet nápady a rychle je rozvíjet. Zároveň je tam větší důraz na aplikaci výzkumu do praxe. Působil jsem na Katedře biomedicínského inženýrství University of Connecticut, kde kolegové experimentují s měřením mezilidské důvěry prostřednictvím nositelných senzorů, jako jsou například chytré hodinky. Po půlročním pobytu je i dnes spolupráce s týmem velmi intenzivní, podáváme společný US patent. Sdílíme data, diskutujeme výsledky a hledáme nové směry výzkumu. Je to inspirativní prostředí.

Může být jednou umělá inteligence terapeutem?

Může být doplňkem, ale zatím ne plnohodnotnou náhradou. Terapie je založená na lidském vztahu, empatii a porozumění, což jsou oblasti, kde má zatím AI velké limity nebo tyto vlastnosti více či méně přesvědčivě simuluje. Pro mě osobně je zásadní se věnovat tématu nejen výzkumně, ale také aplikačně. V současnosti absolvuji pětiletý psychoterapeutický výcvik, v této oblasti se očekává velké uplatnění umělé inteligence a otázky důvěry zde budou hrát zásadní roli. Důležité je, aby tato důvěra k AI nástrojům byla přiměřená a kritická, ale zároveň nás nelimitovala v objevování toho, čeho je s AI možné dosáhnout.