Der Aktenpaternoster im Stuttgarter Baurechtsamt an der Eberhardstraße. Er könnte bald ausgedient haben: die Stadt plant die Digitalisierung der Behörde. Foto: factum

Die Verwaltung soll digitaler und damit effizienter arbeiten. Manche Entscheidungen könnten automatisiert werden. Aber wie transparent ist das und was bedeutet das für den Menschen?

Stuttgart - Im Stuttgarter Baurechtsamt scheint die Zeit stehen geblieben zu sein. Die Mitarbeiter der Behörde arbeiten noch immer mit Papierakten und Ordnern. Gelagert werden die in speziellen Aktenpaternostern: In den meterlangen, beigefarbenen Metallaufzügen fahren die Dokumente hoch und runter, verschwinden im Boden oder kommen wieder zum Vorschein, so dass Mitarbeiter sie herausnehmen können. Streiken diese Aufzüge, haben die städtischen Mitarbeiter ein gewaltiges Problem: sie kommen nicht mehr an die Unterlagen heran, die Behörde ist lahmgelegt. Diese Notlage ist bereits eingetreten – zum Beispiel 2013.

Sollten die Unterlagen des Baurechtsamts irgendwann in digitaler Form vorliegen, wäre die Gefahr eines solchen Stillstands gebannt. Noch ist das nicht so weit. Gleichwohl gibt aber es schon Visionen von digitalen Behörden, in denen Computerprogramme auf Basis von Algorithmen und künstlicher Intelligenz Arbeits- und Entscheidungsprozesse, bei denen es keinen oder nur einen kleinen Ermessensspielraum gibt, übernehmen und die Beamten unterstützen oder sogar komplett ersetzen. Kurzum: Eines Tages könnten Maschinen menschliche Aufgaben übernehmen und zum Beispiel über Bauanträge entscheiden.

Datenschützer bemängeln fehlende Transparenz

Die Automatisierung von Verwaltungsleistungen mit Hilfe von Algorithmen bietet viele Chancen. Sie birgt aber auch Risiken. Bislang ist in aller Regel unklar, wie ein eingesetzter Algorithmus programmiert ist und funktioniert – also auf welcher Grundlage er wie entscheidet. Es müsse deshalb unbedingt eine gesellschaftliche Debatte darüber geführt werden, dass auch Algorithmen nicht wertungsfrei funktionieren, sagt der baden-württembergische Landesbeauftragte für den Datenschutz und die Informationsfreiheit, Stefan Brink.

In einem gemeinsamen Positionspapier warnen Brink und mehrere seiner Kollegen aus Bund und anderen Ländern vor Grundrechtsverletzungen. Für das Vertrauen in die Verwaltung sei elementar, dass diese bei ihrem Handeln die Menschenwürde und das Diskriminierungsverbot beachte, heißt es darin. Vor diesem Hintergrund stelle es ein großes Problem dar, dass Algorithmen und künstliche Intelligenz (KI) „derzeit meist völlig intransparent“ funktionieren.

In den USA sagt eine Software über die Rückfallwahrscheinlichkeit voraus

Was das für weitreichende Folgen – bis hin zum Freiheitsentzug – nach sich ziehen kann, zeigt ein Beispiel aus den USA. Dort ermittelt vielerorts eine algorithmenbasierte Software eines privaten Unternehmens, wie wahrscheinlich es ist, dass Straftäter rückfällig werden und weitere Verbrechen begehen. Anhand der Vorhersage entscheiden Richter dann, ob eine Haftstrafe auf Bewährung ausgesetzt werden kann oder nicht. Obwohl der Verdacht, dass die Software nicht vorurteilsfrei, sondern mit rassistischen Tendenzen programmiert ist, weigert sich der Hersteller, den hinterlegten Algorithmus offenzulegen. Das sei sein Geschäftsgeheimnis, argumentiert er.

Landesdatenschützer Brink hält den Einsatz des Programms für hochproblematisch, solange die Richter und die Betroffenen keine Ahnung haben, auf welcher Basis das Programm funktioniert und seine Vorschläge macht. „So ist das eine Blackbox“, sagt er. Er sei deshalb froh, dass es hierzulande solch ein Programm nicht gebe, und scharf darauf, dass dies so bleibe.

Brink: „Ergebnisse müssen vorhersehbar und nachvollziehbar sein“

Das Beispiel aus den USA verdeutlicht jedoch das Konfliktfeld, das im Zuge der voranschreitenden Digitalisierung auch in anderen Sektoren der öffentlichen Verwaltung noch deutlicher zutage treten wird: Auf der einen Seiten gibt es private Unternehmen, die möglicherweise hilfreiche Produkte bieten, den Algorithmus aber als ihr Geschäftsgeheimnis betrachten. Und auf der anderen steht die öffentliche Verwaltung, die diese Produkte gerne nutzen würde, um Mitarbeiter entlasten und um effizienter arbeiten zu können, aber transparent sein muss. Für Brink ist mit Blick auf Bund, Land und Kommunen klar: „Wenn die Hersteller die Verwaltungen als Kunden haben wollen, ist es eine Grundvoraussetzung, dass die Entscheidungsabläufe transparent und die Ergebnisse vorhersehbar und nachvollziehbar sind. Alles andere akzeptieren wir nicht.“

Brink und seine Kollegen fordern die Gesetzgeber in Bund und Ländern auf, öffentliche Stellen noch konsequenter als bislang zu einem transparenten, verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren zu verpflichten. „Wir sind hinterher, was die Regulierung angeht“, sagt der Landesdatenschützer. Laut ihm probieren die Pionier-Behörden auf Landes- oder kommunaler Ebene vieles ohne gesetzliche Grundlage aus. Die algorithmengestützte Video-Überwachung in Mannheim, die im Polizeigesetz verankert ist, sei da eine Ausnahme. Der Landesgesetzgeber müsse deshalb dringend klären, in welchen Bereichen und unter welchen Bedingungen künstliche Intelligenz eingesetzt werden dürfe, sagt Brink.

FDP fordert von Strobl mehr Engagement bei dem Thema

Baden-Württembergs Innenminister Thomas Strobl (CDU) begegnet auf das Zukunftsthema und seine Auswirkungen (noch) zurückhaltend, wie aus seiner Antwort auf einen parlamentarischen Antrag der Landtags-FDP hervorgeht. Es gebe in den Ressorts noch keine laufenden Projekte, bei denen Algorithmen für komplexe Entscheidungen eingesetzt werden, schreibt Strobl darin. Perspektivisch werde es jedoch Bereiche geben, in denen sie „hinreichend präzise Ergebnisse so effizient“ lieferten, dass ihr Einsatz sogar geboten sein könne.

Der Digitalisierungsexperte der FDP-Fraktion, Timm Kern, ist enttäuscht von der Antwort. Er fordert Strobl auf, beim sinnhaften Einsatz von künstlicher Intelligenz „deutlich aktiver und engagierter“ voranzugehen. Denn klar ist für den Liberalen: „Der Einsatz von Algorithmen könnte das Funktionieren einer Verwaltung nachhaltig verändern und die Leistungen für Bürger effizienter und kostengünstiger gestalten, um ihnen ihre wertvolle Lebenszeit zurückzugeben.“ Er unterstützt gleichzeitig die Forderung einer Transparenzvorschrift.

Baubranche freut sich auf digitale Genehmigungsverfahren

Auch Teile der Baubranche sehen der Verwaltung der Zukunft mit möglicherweise automatisierten Entscheidungen positiv entgegen. „Digitale Genehmigungsverfahren bei Bauanträgen bringen aus unserer Sicht sehr große Vorteile“, sagt Claus Bürkle von der Drees & Sommer-Gruppe. Verfahren könnten so beschleunigt werden, um „schneller dringend notwendigen Wohnraum zu schaffen“. Derzeit seien die Prozesse zu sehr von der personellen Situation der Kommunen abhängig.

Menschliches Ermessen dürfe aber nicht komplett verloren gehen, meint Bürkle: „Digitalisierung soll eine Erleichterung bei der Abfrage standardisierter Daten schaffen, das Fachpersonal aber nicht ersetzen.“ Denn Sonderfälle, die zwar vom Grundmuster abweichen, aber trotzdem Sinn ergeben, kämen immer wieder vor. Hier seien „individuelle, menschliche Entscheidungen nötig.“

Stadt Stuttgart arbeitet an Lösungen

Marc Bosch, der Vorstandschef des Verbands der Immobilienwirtschaft Stuttgart (IWS), beurteilt es nicht nur positiv, dass Computerprogramme künftig über die Genehmigung von Bauvorhaben entscheiden könnten. „Die Digitalisierung ist gut, denn sie kann helfen, Arbeit und Papier zu sparen“, sagt er. Der Computer dürfe aber nicht der Ersatz für menschliches Ermessen und Entscheiden werden. „Sonst könnten wir jeden Gestaltungsbeirat oder ähnliche Gremien abschaffen.“

Aus dem Stuttgarter Rathaus heißt es dazu: „Die Landeshauptstadt arbeitet aktuell eng mit dem Innenministerium zusammen. In diesem Zusammenhang steht bis 2022 auch die medienbruchfreie Genehmigung von Bauanträgen mit auf der Agenda“, sagt Pressesprecher Sven Matis. Das bedeutet, dass zwar kein Computerprogramm entscheidet, sämtliche Unterlagen aber immerhin digital – statt wie bisher auf Papier – hinterlegt sein sollen.