Die Stadt Utrecht hat das Ziel, Algorithmen verantwortungsbewusst einzusetzen. Doch die Mitarbeiter befolgen die bestehenden Richtlinien in diesem Bereich bislang unzureichend. Dies geht aus einem Bericht der Rechenkammer Utrecht hervor. „Es ist daher nicht immer klar, ob wirksame Maßnahmen ergriffen werden, um die Risiken beim Einsatz von Algorithmen zu reduzieren“, zieht die Rechenkammer auf Grundlage ihrer Untersuchung zum aktuellen Algorithmengebrauch in der Gemeinde ein Fazit.
Was sind Algorithmen?
Ein Algorithmus ist eine Reihe von automatisierten Schritten, die ein Computer befolgt, um ein Problem zu lösen oder eine Anfrage zu beantworten. Ähnlich wie in anderen Kommunen nutzt Utrecht eine Vielzahl von Algorithmen, unter anderem, um festzustellen, ob ein Bewohner Anspruch auf einen Parkausweis hat.
Die Risiken des Algorithmeneinsatzes
Die Nutzung von Algorithmen birgt verschiedene Risiken. Ohne angemessene Kontrollen kann dies zu Diskriminierung oder Verletzungen der Privatsphäre führen. Aus diesem Grund hat die Rechenkammer Utrecht untersucht, ob die Stadt im Umgang mit Algorithmen verantwortungsvoll handelt. Fünf Algorithmen, die die Gemeinde verwendet, wurden einer eingehenden Überprüfung unterzogen.
Mängel in der Qualität und Transparenz des Algorithmenregisters
Laut der Rechenkammer Utrecht ist die Stadt hinsichtlich des Algorithmenregisters nicht transparent genug. Einige Algorithmen können erhebliche Auswirkungen auf die Bewohner haben. Alle 45 einflussreichen Algorithmen sind in einem öffentlichen Register aufgeführt. „Das ist ein fortschrittlicher Schritt, da längst nicht alle Gemeinden in den Niederlanden über ein solches Register verfügen“, merkt die Rechenkammer an.
Die Qualität der Informationen im Register bleibt jedoch hinter den Erwartungen zurück. Es ist unklar, welche Risiken mit jedem Algorithmus verbunden sind. „Und die Stadt macht nicht transparent, auf welcher Grundlage ein Algorithmus als einflussreich eingestuft wird.“ Daher empfiehlt die Rechenkammer, die verwendeten Kriterien klarer zu definieren und die Informationen im Register zu verbessern.
Inkonsistente Anwendung interner Richtlinien
Die internen Richtlinien für den Einsatz von Algorithmen werden laut Rechenkammer ebenfalls nicht konsequent angewandt. Die Richtlinien müssen von den verschiedenen Abteilungen befolgt werden, wenn sie Algorithmen einsetzen. „Doch die Rechenkammer stellt fest, dass die Abteilungen die Richtlinien nicht durchgängig beachten.“ Zudem möchte die Stadt, dass jeder Algorithmus vor seiner Einführung auf ethische Werte überprüft wird, jedoch wird nicht ausreichend kontrolliert, ob aus solchen Prüfungen resultierende Verbesserungsvorschläge tatsächlich umgesetzt werden.
Unzureichende Risikokontrolle und Überwachung
Um die Risiken von Algorithmen zu steuern, müssen Maßnahmen ergriffen und überwacht werden. Laut der Rechenkammer geschieht dies nicht durchgängig, weil den Abteilungen viel Freiheit in ihrem Vorgehen eingeräumt wird. Darüber hinaus unterscheiden sich die Abteilungen stark in ihrer Risikosteuerung und die Mitarbeiter erhalten zu wenig Schulungen. „Der Mangel an Kohärenz, Kontrolle und Eindeutigkeit zwischen den Herangehensweisen der Abteilungen macht die Risikokontrolle von Algorithmen anfällig“, so die Rechenkammer.
Fehlende Ziele und unzureichende Informationen für den Gemeinderat
Die Stadt Utrecht hat keine konkreten Ziele für den Einsatz von Algorithmen festgelegt. Daher fehlen auch Indikatoren, um zu messen, ob diese Ziele erreicht werden. Dies führt zu einer eingeschränkten Verantwortlichkeit innerhalb der Organisation. Auch der Gemeinderat erhält nur Informationen auf allgemeiner Ebene. „Die Ratsmitglieder haben das Bedürfnis, aktuellere und spezifischere Informationen über Algorithmen zu erhalten.“
Empfehlungen der Rechenkammer
Die Rechenkammer gibt mehrere Empfehlungen ab. So sollte die Information im Algorithmenregister aktueller und konkreter gestaltet werden. Zudem sollte besser verfolgt werden, ob die Verbesserungsvorschläge aus den ethischen Prüfungen tatsächlich umgesetzt werden. Des Weiteren empfiehlt die Rechenkammer, die Risikosteuerung sowie die interne und externe Rechenschaft zu stärken, indem klare Indikatoren festgelegt und Vereinbarungen mit dem Gemeinderat über die Informationsbereitstellung getroffen werden.
Verbundene Themen
Die Stadt Utrecht nutzt eine Vielzahl von Algorithmen, um bessere Entscheidungen treffen zu können. Hierzu zählen zahlreiche Anwendungen, die den algorithmischen Entscheidungsprozess unterstützen.
