Americké vědce zajímá, jak budou autonomní vozidla reagovat v případě „neřešitelných“ morálních dilemat. Obětuje autopilot ve jménu vyššího morálního principu svou vlastní posádku, nebo ji zachrání a přejede nevinné chodce? Rozdíl mezi tím, co lidé chtějí pro sebe a pro ostatní, by mohl v budoucnu výrobce autonomních automobilů postavit před zapeklitý problém.
„Většina lidí chce žít ve světě, kde se automobily budou snažit minimalizovat ztráty na životech,“ sdělil serveru Phys.org Iyad Rahwan, jeden z autorů studie výzkumníků z MIT (Massachusetts Institute of Technology), která zkoumá, co od autonomních vozidel lidé vlastně čekají.
„Nicméně pokud jde o jejich vlastní automobil,“ dodává Rahwan. „Lidé bezpodmínečně chtějí, aby je v takovém případě ochránil za každou cenu.“ To podle něj představuje „společenské dilema“ a pro společnosti, které autonomní vozidla vyvíjejí, v budoucnu možná i nový problém.
Budou si jejich zákazníci chtít koupit vozidlo, které v případě „morálně konfliktního“ rozhodnutí zvolí ve jménu menšího zla vlastní autodestrukci i s posádkou? Podle Anuje K. Pradhana, výzkumníka na dopravním výzkumném institutu Michiganské státní univerzity by přílišný důraz na to, „aby autonomní vozidla činila správná etická rozhodnutí ve vzácných situacích, mohl současný vývoj revoluční technologie až paralyzovat“.
| Muskova Tesla sází na jednu kartu. Přečtěte si o tom: Klíč k budoucnosti. Tesla urychluje stavbu gigatovárny  |
„Typickým příkladem morálního konfliktu je provedení akce, která někoho usmrtí, ale zároveň zachrání vyšší počet životů,“ uvedl pro server Verge Azime Charif, spoluautor studie a vědecký asistent na katedře psychologie Kalifornské státní univerzity. Nicméně přiznává, že co funguje v teoretické rovině, se nemusí líbit lidem v rovině osobní, tedy pokud v autě přímo sedí.
Takový scénář je podle něj zatím spíš abstraktní. Nicméně lze očekávat, že se jedná přesně o ty záležitosti, které budou v budoucnu autonomní automobily muset řešit a na co by měly být naprogramovány.
Jak by se tedy měl autopilot zachovat v případě, kdy jsou lidské oběti nevyhnutelné, jen se musí rozhodnout mezi menším a větším zlem?
Aplikace amerických vědců umožňuje i tvorbu vlastních scénářů. (Video: YouTube)
Podle MIT dali lidé účastnící se studie jasně najevo, že preferují, aby se autonomní vozidla řídila striktně „utilitaristickou“ etikou: laicky řečeno, čím menší počet úmrtí a zranění chodců a ostatních účastníků silničního provozu tím lépe i za cenu sebezničení.
V rámci podpory studie spustili akademici za účelem posouzení názorů veřejnosti webovou aplikaci Moral Machine (morální stroj/automat). Ta obsahuje různé grafické scénáře, které si uživatel v roli posuzovatele může vyzkoušet na vlastní kůži.
Je lepší morální volbou obětovat tříčlennou posádku vozidla v rámci záchrany přecházejícího houfu psů a koček, nebo naopak zvířata nelítostně přejet, aby posádka přežila?
Rozhodnutí se v tomto případě zdá být jasné. Další scénáře jsou však složitější. Obsahují široké spektrum morálních voleb sahajících od těhotných žen, důchodců a dětí až k bezdomovcům. Na závěr si pak můžete prohlédnout, jak si vaše morální volby stojí v poměru k většině. Ta podle Moral Machine nejvíce upřednostňuje přežití mladších jedinců, žen a také těch, kteří více respektují zákony. To v případě aplikace znamená, že přecházejí na zelenou. Porovnejte své morální preference se zbytkem planety.
Kdo přežije? Aplikace Moral Machine vás coby soudce postaví před nelehké volby. (Foto: moralmachine.mit.edu)
O chystaném vzestupu autonomních elektromobilů čtěte více:
V ČR funguje první Supercharger, rychlonabíječka pro elektromobily Tesla
Muskův plán pro Teslu: solár, sdílení a autobusy
Smrtelné nehody Tesly připomněly, že její „Autopilot“ vážně není autopilot
