Dlaczego algorytmy podejmują decyzje, których nie potrafimy wytłumaczyć? Kto odpowiada, gdy sztuczna inteligencja odrzuca wniosek o kredyt, wskazuje złą diagnozę medyczną albo „nie wybiera” naszego CV do rekrutacji?
W tym wykładzie przybliżymy temat tzw. „czarnych skrzynek” (black-box AI) – czyli modeli, które działają skutecznie, ale w sposób nieprzejrzysty nawet dla ich twórców. Uczestnicy dowiedzą się, dlaczego współczesne systemy oparte na głębokim uczeniu się są trudne do zrozumienia, jakie zagrożenia wynikają z braku przejrzystości decyzji AI i jak rośnie znaczenie tzw. wyjaśnialnej sztucznej inteligencji (Explainable AI, XAI). Przedstawione zostaną przykłady technik, które pozwalają „zajrzeć do wnętrza” algorytmów, a także dylematy etyczne i prawne związane z ich użyciem w decyzjach wpływających na życie ludzi. Wykład nie tylko odpowie na pytanie „jak AI decyduje?”, ale też postawi ważniejsze: czy możemy jej ufać, jeśli nie wiemy dlaczego?