Abstrakt

W Białej Księdze dotyczącej Sztucznej Inteligencji (SI) Komisja Europejska (KE) podkreśliła wagę siedmiu wymogów dla systemów autonomicznych, zidentyfikowanych i opisanych przez Grupę Ekspertów Wysokiego Szczebla (HLEG) w wytycznych dotyczących godnej zaufania SI opublikowanych w kwietniu 2019 r. Jednym z kluczowych warunków uznania SI za godną zaufania jest jej przejrzystość. Konsekwentnie na wymóg transparentności wskazuje HLEG w Liście kontrolnej dla godnej zaufania Sztucznej Inteligencji (ALTAI). W artykule wskazano na dwa kluczowe aspekty przejrzystości:1) dostęp do rzetelnych informacji o działaniu modelu SI, w tym informacji o procedurze szkoleniowej, danych szkoleniowych, algorytmach uczenia maszynowego, metodach testowania i walidacji systemu SI;2) dostęp do rzetelnego wyjaśnienia skalibrowanego dla różnych odbiorców (od zwykłego obywatela do eksperta), obejmującego zarówno procesy techniczne systemu SI, jak i uzasadnienie decyzji lub predykcji dokonywanych przez system SI (jako podstawa prawa do odwołania od automatycznie podjętej decyzji).Autorka wskazuje, że przejrzystość działania SI i wyjaśnialność podejmowanych przez nią decyzji powinna odnosić się – w różnym stopniu – nie tylko do decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu danych osobowych, ale do wszystkich działań i zastosowań SI. Niewątpliwie przyczyniłoby się to do wzrostu społecznego zaufania do SI, ale także do właściwego przypisania odpowiedzialności za działania systemów autonomicznych.