Warum wir eine Whitebox und keine Blackbox für den Einsatz künstlicher Intelligenz auch in Legal Tech brauchen

Die Zukunft der Rechtsbranche
Von Sophie Martinetz (Wiener Zeitung | 30.1.2020)

Der Einsatz von auf Blackbox basierender künstlicher Intelligenz kann problematisch sein, wenn er gesellschaftliche Ungleichheiten verstärkt.

Gleich einmal vorweg: „Blackbox KI“ bedeutet nicht automatisch „bösartig“ – sie bedeutet, dass wir nicht genau verstehen, wie und aufgrund welcher Kriterien künstliche Intelligenz (KI) entschieden hat. Aber der Einsatz von auf Blackbox basierender KI kann problematisch sein, wenn er gesellschaftliche Ungleichheiten verstärkt. So hat der Chief Technology Officer des Unternehmens Basecamp David Heinemeier Hansson über die große Diskrepanz bei den Kreditkartenlimits, die er und seine Frau auf ihre Kreditkartenanfrage erhielten, auf Twitter hingewiesen: Er erhielt ein 20 Mal größeres Kreditlimit angeboten als seine Frau, obwohl die Basis der Evaluierung ihre gemeinsame Steuererklärung und die individuelle Kreditwürdigkeit war (und die seiner Frau war sogar besser seine). Auf Rückfragen beim Kreditkartenunternehmen konnte niemand die Diskrepanz erklären, sondern alle beriefen sich auf den verwendeten KI-Algorithmus, der das jeweilige Limit jedes Antragstellers bestimmt. […] Weiterlesen auf wienerzeitung.at