Gemäß Art. 22 Abs. 1 DSGVO hat die betroffene Person das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Dies bedeutet, dass das KI-System nicht darüber entscheiden darf, ob z. B. ein Bewerber eingestellt wird oder nicht. Mit der Regelung des Art. 22 DSGVO soll die ungeprüfte Unterwerfung des Individuums unter die Entscheidung der Maschine verhindert werden.35 Menschen sollen nicht zum „bloßen Objekt“ von Entscheidungen des Computers werden,36 sondern ein informationelles „Recht auf faires Verfahren“ haben.37 Das Gesetz sieht jedoch in Art. 22 Abs. 2 DSGVO Ausnahmen vor. Unter anderem ist es ausnahmsweise zulässig, ein Computerprogramm (ein KI-System wird sicherlich darunter fallen) dergestalt einzusetzen, wenn
Seite 402
