Umělá inteligence – neboli AI, z anglického artificial intelligence – se čím dál častěji využívá i při náborech zaměstnanců, v soudnictví či pojišťovnictví. Jenže právě v uvedených oborech, kde figurují lidé různých ras, národností a pohlaví, technologie naráží: Nedokáže totiž rozpoznat, kdy se zachová neeticky. Například v pojišťovnictví nastavuje AI pro různé lidi odlišné ceny. A přestože k tomu mnohdy existují legitimní důvody, systém si může nezřídka vybírat na základě nemorálních rozhodnutí.
TIP: Kdy ovládnou svět stroje: Podaří se nám vyvinout plnohodnotnou umělou inteligenci?
Situaci se snaží změnit tým matematiků z britské University of Warwick, kteří vyvíjejí „princip neetické optimalizace“. Ten by měl pomoct najít strategie AI, jež odporují etice, a ukázat, kde mohou nastat problémy. Díky zmíněnému matematickému principu by se měl algoritmus modifikovat tak, aby se umělá inteligence rozhodovala „správně“.
