Mitteilungsvorlage - 24/SVV/0917

Die Stadtverordnetenversammlung nimmt zur Kenntnis:

 

Der Einsatz von Künstlicher Intelligenz (KI) stellt ein großes und vielfältiges Potential für die Weiterentwicklung der Verwaltungsarbeit dar. Auf Grundlage von KI können wertvolle Werkzeuge bereitgestellt werden, um die Mitarbeiterinnen und Mitarbeiter der Verwaltung bei ihren Aufgaben zu unterstützen und die Leistungserbringung für Bürgerinnen und Bürger zu verbessern.

 

Angesichts dieses Potentials hat der Oberbürgermeister im letzten Jahr den Digitalisierungsrat der Landeshauptstadt Potsdam um einen fachlichen Impuls zu möglichen KI-Anwendungsfällen, Kriterien für ein KI-Innovations-Portfoliomanagement, Voraussetzungen für einen erfolgreichen KI-Einsatz und zur weiteren Einbindung des Digitalisierungsrats in die Erarbeitung und Umsetzung einer KI-Strategie gebeten.

 

Diesen Impuls hat der Digitalisierungsrat mit der „Stellungnahme: Impulspapier zu Künstlicher Intelligenz in der Landeshauptstadt Potsdam“ vorgelegt, die im Februar 2024 an den Oberbürgermeister übergeben wurde.

 

Auf Grundlage dieses Impulspapiers wurde die folgende Vorgehensskizze für die nächsten Maßnahmen zur Nutzung von KI-Potentialen für die Verwaltungsarbeit der Landeshauptstadt inkl. konkret umzusetzender Maßnahmen erarbeitet und mit den relevanten Akteuren innerhalb der Verwaltung abgestimmt. Diese Vorgehensskizze kann auch als eine Diskussionsgrundlage für den weiteren Austausch mit der Stadtverordnetenversammlung, der Stadtgesellschaft und den Mitarbeiterinnen und Mitarbeitern der Verwaltung zum Umgang mit KI-Potentialen dienen.

 

 

Ausgangslage:

 

Analog zur „Landesstrategie Künstliche Intelligenz“ des Landes Brandenburg wird KI im Sinne dieser Mitteilungsvorlage verstanden als „ein maschinengestütztes System, das für einen in wechselndem Maß autonomen Betrieb ausgelegt ist, das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können“. Dieses Begriffsverständnis orientiert sich an Art. 3 Abs. 1 der Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz.

 

Die Möglichkeiten des Einsatzes von KI durch die Landeshauptstadt Potsdam in unterschiedlichen Anwendungsbereiche wurden bereits verschiedentlich in der Verwaltung adressiert.

Unter anderem wurde:

• im Auftrag für das übergreifende Transformationsprogramm „Potsdam smart gestalten und verwalten“ die Entlastung der Mitarbeiterinnen und Mitarbeiter durch KI-Technologien in das bis Ende 2025 zu erreichende Zielbild aufgenommen und eine Task-Force „Prozessautomatisierung/KI“ als während der Programmlaufzeit zu initiierendes Pipeline-Projekt angedacht,
• eine erste interne Übersicht über mögliche KI-Anwendungsgebiete als Grundlage für den späteren Start der Task-Force-Arbeit erstellt,
• in der 2023 beschlossenen Smart-City-Strategie der perspektivische Einsatz von KI mitgedacht,
• KI-Anwendungen in Leistungsbeschreibungen für zukünftige technische Lösungen berücksichtigt, zum Beispiel beim geplanten Redaktionssystem für den Webauftritt der LHP nach dem angestrebten Relaunch,
• der Erfahrungsaustausch zu KI-Einsatzmöglichkeiten mit städtischen Unternehmen – u. a. durch Teilnahme an einer durch die ProPotsdam organisierten Fachveranstaltung – sowie Experteninstitutionen wie dem Bundesverband Künstliche Intelligenz, dem GovTech Campus e. V. und dem CityLAB Berlin initiiert.  

 

Das Impulspapier des Digitalisierungsrats stellt unter diesen Voraussetzungen ein gutes Fundament zur Ausgestaltung des zukünftigen Rahmens für das weitere Vorgehen zur strukturierten, wirkungsorientierten und vorausschauenden Nutzung von KI-Potentialen dar.

 

Zielstellung und Leitplanken für den zukünftigen KI-Einsatz aus Sicht der Verwaltung:

 

Da sowohl das Feld möglicher Einsatzgebiete von KI sehr groß und vielfältig ist als auch die für den KI-Einsatz jeweils zu klärenden technischen, organisatorischen, rechtlichen und ethischen Fragestellungen oft sehr komplex sind, ist es angesichts begrenzter Ressourcen wichtig, das weitere Vorgehen zur Nutzung von KI-Potentialen klar zu fokussieren. Es braucht strategische Weichenstellungen, die Orientierung dafür geben, woran auf welche Weise und mit welchem Ziel gearbeitet wird.

 

Die unmittelbare Zielstellung für den Einsatz von KI ergibt sich dabei aus dem Zielbild für die Transformation der Verwaltungsarbeit entsprechend des Programmauftrags „Potsdam smart gestalten und verwalten“. Im angestrebten Zielzustand für das Arbeitsfeld „Organisation und Prozesse“ wird KI-Einsatz dabei bereits direkt angesprochen: „Die fortlaufende Prozessoptimierung ermöglicht beispielsweise eine digitale und medienbruchfreie Bearbeitung priorisierter Antragsprozesse und den Einsatz von KI-Technologie zur Entlastung der Mitarbeiterinnen und Mitarbeiter“ – hieraus folgt ein Fokus auf den Einsatz von KI zur Optimierung von Prozessen, insbesondere zur Entlastung von Mitarbeiterinnen und Mitarbeitern. Im Zielzustand für das Arbeitsfeld „Digitale Arbeitsweise und Werkzeuge“ heißt es zudem: „Den Mitarbeiterinnen und Mitarbeitern stehen (zentrale) digitale Lösungen für ihre tägliche Arbeit zur Verfügung“ – hieraus wiederum folgt das Ziel der Bereitstellung (zentraler bzw. standardisierter) Lösungen als Werkzeuge für die Mitarbeiterinnen und Mitarbeiter in der Breite der Verwaltung.

 

Unter Berücksichtigung der aus dem Programmauftrag „Potsdam smart gestalten und verwalten“ abgeleiteten Zielstellungen sowie der Impulse des Digitalisierungsrats ist aus Sicht der Verwaltung die Festlegung von 10 Leitplanken als strategische Weichenstellung für die nächsten Schritte zur Nutzbarmachung von KI-Potentialen sinnvoll:

 

1. Einbettung der Nutzung von KI in die bestehenden Strukturen und Rahmensetzungen für die Digitalisierung und Transformation der Verwaltung. Dies betrifft insbesondere die Verknüpfung mit dem Transformationsprogramm „Potsdam smart gestalten und verwalten“.
2. Frühzeitige Festlegung von verbindlichen Grundsätzen und Leitlinien für den Einsatz von KI unter Einbindung der relevanten Akteure in der LHP wie dem Personalrat, der Datenschutzbeauftragten und der IT-Sicherheit und unter Berücksichtigung der rechtlichen Vorgaben. Diese Grundsätze und Leitlinien geben den KI-Umsetzungsprojekten sowie den KI-Werkzeuge nutzenden Mitarbeiterinnen und Mitarbeitern eine wichtige Orientierung.
3. Bereitstellung von standardisierten Werkzeugen, die jeweils für verschiedene konkrete Use Cases (Anwendungsfälle) einsetzbar sind. Potentiell sehr aufwendige Spezialentwicklungen und Insellösungen mit begrenzter Übertragbarkeit auf andere Use Cases werden vermieden. Wo vorhanden, können dabei bereits durch andere Organisationen entwickelte und erprobte KI-Werkzeuge für die Nutzung in der LHP adaptiert und sukzessive auf weitere Use Cases ausgerollt werden. Bei Auswahl und Ausgestaltung der bereitzustellenden Werkzeuge steht der konkrete Mehrwert für die Nutzenden sowie die Nutzungsfreundlichkeit der Lösung im Mittelpunkt.
4. Bei der Pilotierung entsprechender Werkzeuge in der LHP liegt der Fokus einerseits auf der zeitnahen Schaffung konkreter Mehrwerte für Mitarbeiterinnen und Mitarbeiter sowie Bürgerinnen und Bürger und andererseits auf der Entwicklung der notwendigen Fähigkeiten in der LHP, die für eine folgende breite Skalierung der Nutzung in der Verwaltung erforderlich sind.
5. Zeitnah priorisiertes Schlüsselwerkzeug ist ein für die Nutzung durch die LHP geeignetes „Large Language Modell“ (LLM). Dieses kann potentiell die Arbeit in zahlreichen Prozessen und Aufgabengebieten auf vielfältige Weise unterstützen und so erhebliche Mehrwerte schaffen. Angestrebt wird die Adaption eines vorhandenen, bereits durch andere Organisationen unter Berücksichtigung von Datenschutz- und IT-Sicherheitsanforderungen erprobtes LLM. Durch eine Pilotierung für klar umrissene Anwendungsgebiete können wertvolle Erfahrungen gewonnen und entsprechende Fähigkeiten aufgebaut werden. Auf dieser Grundlage kann die LLM-Nutzung auf weitere interne und externe Use Cases erweitert werden.
6. Flankierung des Einsatzes von KI im engeren Sinne entsprechend der angelegten Begriffsdefinition durch die Bereitstellung standardisierter Werkzeuge zur Prozessautomatisierung, um die Potentiale, die hier bereits am Markt vorhandene technische Lösungen für die unimittelbare Unterstützung von Mitarbeiterinnen und Mitarbeitern sowie die Gestaltung effizienterer Prozesse darstellen, noch besser zu nutzen.
7. Nutzung von bereits etablierten Standards und Instrumenten des in der LHP ausgerollten Prozessmanagements beim Einsatz von KI- und Automatisierungswerkzeugen zur Optimierung von Arbeitsabläufen. Mittel- und langfristiges Ziel ist der möglichst eigenverantwortliche Einsatz von KI- und Automatisierungswerkzeugen durch Prozessverantwortliche zur Unterstützung der eigenen Prozesse.
8. Langfristige Etablierung eines strategischen KI-Portfoliomanagements zur Priorisierung von KI-Einsatzgebieten und -Lösungen. Dieses bezieht auch die durch den Digitalisierungsrat vorgeschlagenen Einsatzgebiete (S. 3-4 des Impulspapiers) ein und ist eng mit dem IT-Demand-Management, der Umsetzung der IT-Strategie und dem IT-Architekturmanagement verknüpft. Bei der Auswahl konkreter KI-Lösungen für die Umsetzung werden die Unterstützungsbedarfe aus Sicht der Mitarbeitenden besonders berücksichtigt. Kriterien für eine pragmatische Priorisierung sind dabei neben dem unmittelbaren Mehrwert für Bürgerinnen und Bürger sowie Mitarbeiterinnen und Mitarbeiter der Beitrag zum langfristigen Fähigkeitenaufbau in der LHP und der Aufwand der Umsetzung. Eine langfristige Priorität ist insbesondere die Unterstützung der Erbringung pflichtiger Leistungen und die Erprobung der Automatisierung von Antrags- und Massendatenverarbeitung in der Leistungsverwaltung mit hohen Fallzahlen – hier besteht ein besonders hohes Potential zur Arbeitserleichterung für die Mitarbeitenden und zur Leistungsverbesserung für die Bürgerinnen und Bürger.

 

9. Begleitung der technischen Bereitstellung und Pilotierung von KI-Lösungen durch Formate für Wissensaufbau und Erfahrungsaustausch, die – wenn sinnvoll – in bestehende Strukturen zum Austausch und Wissenstransfer eingebunden werden und die Bereitstellung und Pilotierung von technischen Lösungen begleiten. KI-Einsatz ist keine rein technische Fragestellung. KI-Werkzeuge müssen sich in durch Menschen gelebte Prozesse einfügen, um diese optimal unterstützen zu können. Dabei erfordert der erfolgreiche Einsatz von KI-Werkzeugen auch entsprechende methodische Kenntnisse bei den Nutzenden.

 

10. Wo immer möglich erfolgt bei Ausgestaltung und Einsatz von KI-Werkzeugen die Orientierung an Best Practices und Erfahrungen, die andere Organisationen bereits gesammelt haben. Dabei kommt es auch auf den Erfahrungsaustausch innerhalb der Verwaltung sowie mit den städtischen Unternehmen und externen Expertinnen und Experten an. Bei der Unterstützung dieses Erfahrungsaustauschs sollte der Digitalisierungsrat der Landeshauptstadt weiter eine zentrale Rolle spielen.

Kurz-, mittel- und langfristige Maßnahmen zur Nutzung von KI-Potentialen für die Verwaltung auf Grundlage der Empfehlungen des Digitalisierungsrats:

 

Das Impulspapier des Digitalisierungsrats spricht konkrete Empfehlungen in drei Handlungsfeldern aus: KI-Innovations-Portfoliomanagement (Governance), Einbeziehung von Stadtgesellschaft und Mitarbeiterinnen und Mitarbeitern als Erfolgsfaktor für den KI-Einsatz sowie die Priorisierung von KI-Anwendungsfällen in der Kommunalverwaltung.

 

Nachfolgend sind auf Grundlage dieser Empfehlungen und entlang der skizzierten Leitplanken sowie unter Berücksichtigung der vorhandenen Umsetzungskapazitäten kurz-, mittel- und langfristige Maßnahmen zur Nutzbarmachung von KI-Potentialen für die Verwaltungsarbeit beschrieben. Neben den drei Handlungsfeldern, für die der Digitalisierungsrat Empfehlungen ausspricht, sind auch flankierende Maßnahmen zur Unterstützung von Prozessautomatisierung aufgeführt.

 

Diese Maßnahmen sind inhaltlich mit den jeweils beteiligten Akteuren in der Verwaltung abgestimmt, ihre konkrete Umsetzung steht jedoch grundsätzlich unter dem Vorbehalt der Verfügbarkeit notwendiger Haushaltsmittel und personeller Ressourcen sowie – abhängig von der jeweiligen Maßnahme – ggf. unter dem Vorbehalt einer erfolgreichen Vergabe.

 

Auf Grundlage der für Innovationsmanagement und Informationstechnologie im Haushalt 2024 vorgesehenen Mittel sowie der Planansätze für das Jahr 2025 mit Stand vom Juni 2024 ist ein Start der Bearbeitung der in den Handlungsfeldern A-D beschriebenen kurz- und mittelfristigen Maßnahmen entsprechend der aktuellen Kostenannahmen möglich. Angesichts der insgesamt herausfordernden Haushaltssituation wurde das beschriebene Vorgehen so konzipiert, dass deren Umsetzung mit vorhandenen Ressourcen beginnen kann, auch wenn grundsätzlich die Verfügbarkeit dedizierter Personalkapazitäten und finanzieller Mittel für die Bereitstellung und den Betrieb von KI-Werkzeugen wünschenswert wäre.  Dies steht unter dem Vorbehalt der Beschlussfassung der StVV über den Einzelhaushalt 2025 und die folgenden Mittelfristjahre.

 

Für die langfristige Verstetigung, Skalierung und Erweiterung der beschriebenen Maßnahmen und des Einsatzes von KI- und Automatisierungswerkzeugen insgesamt werden jedoch voraussichtlich spätestens mittelfristig weitere personelle und finanzielle Ressourcen erforderlich sein, die zum aktuellen Zeitpunkt – auch beispielsweise aufgrund noch fehlender Erfahrungen mit tatsächlichen Nutzungszahlen – noch nicht valide quantifiziert werden können. Aufbauend auf den Erfahrungen aus der Umsetzung der hier beschriebenen Maßnahmen sollte daher mittelfristig die Schaffung eines dedizierten Budgets sowie personeller Kapazitäten für die Bereitstellung und den Betrieb von KI- und Automatisierungswerkzeugen zur Unterstützung der Verwaltungsarbeit, insbesondere mit Blick auf die Erbringung pflichtiger Leistungen, geprüft werden.

 

Die angestrebten Startzeitpunkte der skizzierten Maßnahmen entsprechen dem aktuellen Planungsstand, ihre Realisierung ist abhängig vom Vorhandensein der für die jeweilige Maßnahme erforderlichen Voraussetzungen (zu generellen Voraussetzungen für den Einsatz von KI siehe Abschnitt „Voraussetzungen und Rahmenbedingungen für den erfolgreichen KI-Einsatz in der Verwaltung“). Da die Maßnahmen teilweise aufeinander aufbauen kann eine mögliche Verzögerung einer Maßnahme auch zur Verzögerung anderer Maßnahmen führen. Gleichzeitig können in Zukunft auf Grundlage der dann gesammelten weiteren Erfahrungen sowie unter Berücksichtigung neuer technischer oder regulatorischer Entwicklungen Anpassungen des Vorgehens zur Nutzbarmachung von KI sinnvoll werden.

 

Handlungsfeld A: KI-Innovations-Portfoliomanagement/Governance

 

Die Empfehlung des Digitalisierungsrats (siehe S. 3 des Impulspapiers) ist hier: „Der Digitalisierungsrat empfiehlt nachdrücklich, dass die Landeshauptstadt eine Schlüsselposition in Form eines KI-Beauftragten einführt. Dieser Schritt ist für das Jahr 2024 essentiell, vergleichbar mit der Rolle eines Datenschutzbeauftragten, um den Herausforderungen und Möglichkeiten der Künstlichen Intelligenz gerecht zu werden. Die Aufgabe des KI-Beauftragten soll insbesondere das Management des KI-Innovationsportfolios umfassen, um die städtische Verwaltung in der effizienten und verantwortungsvollen Implementierung von KI-Technologien zu unterstützen und voranzutreiben. Darüber hinaus ist es zielführend, entsprechende Haushaltmittel zur Verfügung zu stellen.“

 

Auf dieser Grundlage wurden entlang der skizzierten Leitplanken sowie unter Berücksichtigung der vorhandenen Umsetzungskapazitäten verwaltungsseitig die folgenden Maßnahmen erarbeitet:

 

 

Kurzfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für die 2. Jahreshälfte 2024 angestrebt):

 

A1: Aktivierung Task-Force Prozessautomatisierung/KI: Die entsprechend Programmauftrag „Transformation bündeln: Auftrag an das Programm Potsdam smart gestalten und verwalten“ als während der Programmlaufzeit zu startendes Pipelineprojekt „Task-Force Prozessautomatisierung/KI“ wird zum 3. Quartal 2024 aktiviert. Die Task-Force koordiniert übergreifend den KI-Einsatz und das KI-Portfoliomanagement in der LHP entlang der definierten Leitplanken. So wird die Einbindung in das laufende Transformationsprogramm sichergestellt. Der Leiter des zentralen Transformationsmanagements übernimmt als Programmverantwortlicher für das Programm „Potsdam smart gestalten und verwalten“ auch die Leitung der Task-Force und somit zunächst die Rolle eines KI-Beauftragten während der Laufzeit. In die Arbeit der Task-Force werden die verschiedenen relevanten Akteure innerhalb der Verwaltung, u.a. der IT-Sicherheitsverantwortliche, die Datenschutzbeauftragte, die für Prozessmanagement zuständigen Stellen, der Fachbereich E-Government, der Fachbereich Kommunikation und Partizipation, die Gleichstellungsbeauftragte und das Büro für Chancengleichheit und Vielfalt sowie die Arbeitsgruppe Smart City eingebunden. Zu Beginn der Arbeit der Task-Force wird die konkrete Rollenverteilung und Arbeitsweise sowie die vorgesehene Aufgabenverteilung festgelegt.  

 

Mittelfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für 2025 angestrebt):

 

A2: Fortlaufende Koordination der Nutzbarmachung von KI- und Automatisierungspotentialen durch Task-Force Prozessautomatisierung/KI: Während der bis Ende 2025 vorgesehenen Programmlaufzeit „Potsdam smart gestalten und verwalten“ erfolgt die Koordination des KI-Einsatzes und des KI-Portfoliomanagements in der LHP fortlaufend durch die Task-Force „Prozessautomatisierung/KI“.

 

 

Langfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung ab 2026):

 

A3: Evaluierung Task-Force-Arbeit und ggf. Überführung in Linie/dauerhafte Organisationsstrukturen: Nach der bis Ende 2025 vorgesehenen Programmlaufzeit erfolgt die Evaluierung der Task-Force-Arbeit und, davon abgeleitet, eine Überführung der übergreifenden KI-Koordination und des KI-Portfoliomanagement in die reguläre Linienorganisation oder geeignete neue Organisationsstrukturen. Dabei wird auch die Rolle eines KI-Beauftragten berücksichtigt. Ggf. erforderliche Anpassungen oder Kapazitätsbedarfe sind mit der Aufstellung zukünftiger Haushalts- und Stellenpläne in Abgleich zu bringen.

 

Handlungsfeld B: Einbeziehung von Stadtgesellschaft und Mitarbeiterinnen und Mitarbeitern als Erfolgsfaktor für den KI-Einsatz/Wissensaufbau und Vernetzung

 

Die Empfehlung des Digitalisierungsrats (siehe S. 5 des Impulspapiers) ist hier: „Der Digitalisierungsrat empfiehlt die Entwicklung von Formaten, die sowohl die Verwaltungsmitarbeiter als auch die Stadtgesellschaft in die dynamische Entwicklung im Bereich Künstliche Intelligenz aktiv einbeziehen. Veranstaltungen wie der Schinkelhallentalk, interaktive Räume wie das Potsdam Lab und weitere Veranstaltungsformate sollten genutzt werden, um das Thema KI im Jahr 2024 umfassend in der Stadtgesellschaft zu verankern. Dabei kann der Digitalisierungsrat seine Fachkenntnisse einbringen, um die Relevanz und das Verständnis von KI zu fördern.“

 

Auf dieser Grundlage wurden entlang der skizzierten Leitplanken sowie unter Berücksichtigung der vorhandenen Umsetzungskapazitäten verwaltungsseitig die folgenden Maßnahmen erarbeitet:

 

 

Kurzfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für die 2. Jahreshälfte 2024 angestrebt):

 

B1: Ausarbeitung von ersten Grundsätzen zum KI-Einsatz, u.a. mit Personalrat: Es erfolgt eine gemeinsame Erarbeitung grundsätzlicher Leitlinien zum KI-Einsatz in der Verwaltung durch die KI-Task-Force gemeinsam mit dem Personalrat und unter enger Einbindung der Datenschutzbeauftragten, des IT-Sicherheitsverantwortlichen, der IT sowie der Gleichstellungsbeauftragen und des Büros für Chancengleichheit und Vielfalt unter Berücksichtigung der definierten Leitplanken sowie der geltenden gesetzlichen Regelungen. Hieran werden auch weitere relevante Akteure wie das Rechnungsprüfungsamt beteiligt. Neben einer gemeinsamen langfristigen Rahmensetzung werden dabei auch verbindliche Regelungen für den KI-Einsatz durch Mitarbeitende definiert. Durch die Regelungen soll eine klare Orientierung bereitgestellt werden, ob, unter welchen Voraussetzungen und zu welchen Zwecken welche KI-Anwendungen eingesetzt werden können. Dabei sind neben rechtlichen, organisatorisch-prozessualen und technischen Fragen auch ethische Aspekte des KI-Einsatzes besonders zu berücksichtigen. Zugelassene und nicht zugelassene Einsatzszenarien sollen dabei möglichst durch konkrete Beispiele verdeutlich werden. Die geeignete Form dieser Regelungen – beispielsweise als Dienstanweisung und/oder als Dienstvereinbarung zwischen Dienststelle und Personalrat – ist im Rahmen der Erstellung der konkreten Regelungsinhalte herauszuarbeiten.

 

Dabei können wo zweckmäßig auch bereits vorhandene KI-Leitlinien anderer Organisationen des öffentlichen Sektors als Orientierung genutzt werden, beispielweise – neben vielen anderen – die KI-Strategie der Stadt Linz, der KI-Kompass der Stadt Wien, die KI-Dienstanweisung der Stadt Schorndorf oder das Handout zum Umgang mit generativen KI-Werkzeugen in der Senatsverwaltung für Finanzen (SenFin) in Berlin. Auch die Erfahrungen der kommunalen Unternehmen werden dabei einbezogen. Außerdem wird auf eine sinnvolle Synchronisierung mit den KI-Strategien von Land und Bund geachtet.

 

B2: Initiierung KI-Expertenaustausch mit Digitalisierungsrat: Es wird ein regelmäßiger Austausch mit Expertinnen und Experten zu Potentialen für den KI-Einsatz in Potsdam etabliert. Hierbei wird eine fortgesetzte enge Zusammenarbeit mit dem Digitalisierungsrat angestrebt.

 

Ziel ist, dass Ideen, Kenntnisse und Erfahrungen auch aus Wissenschaft, Wirtschaft und anderen Bereichen in die Nutzbarmachung von KI für die Verwaltungsarbeit einfließen können. Dabei sind auch z. B. an den „Schinkelhallen-Talk“ des Digitalisierungsrats angelehnte Formate möglich. Bei der thematischen Schwerpunktsetzung und Ausgestaltung der Austauschformate kann der Digitalisierungsrat selbst eine zentrale Rolle übernehmen.  

 

B3: Initiierung LHP-übergreifender Wissensaufbau und Austausch insbesondere mit Projekt-, Prozess- und Verfahrensverantwortlichen zu konkreten Nutzungsmöglichkeiten und Erfahrungen unter Einbeziehung der kommunalen Unternehmen: Zur Unterstützung des Aufbaus von Grundlagen- und Methodenkenntnissen zum KI-Einsatz werden – koordiniert durch die KI-Task-Force – erste zielgruppenspezifische Informationsangebote für Mitarbeitende der LHP bereitgestellt. Dabei wird auch ein LHP-übergreifender Austausch zu vorhandenen Kenntnissen und Erfahrungen zum KI-Einsatz innerhalb der Verwaltung initiiert. Der Fokus liegt dabei zunächst darauf, das Bewusstsein insbesondere bei Projekt-, Prozess- und Verfahrensverantwortlichen für Möglichkeiten (und ggf. Grenzen) des KI-Einsatzes zur Unterstützung der von ihnen verantworteten Abläufe zu stärken. Wo sinnvoll können dabei auch bereits etablierte Formate wie beispielsweise die regelmäßige Führungskräfteklausur der LHP genutzt werden. Der bereits angelaufene Austausch mit den kommunalen Unternehmen zu KI-Einsatzmöglichkeiten wird fortgesetzt und wo sinnvoll ausgebaut, so dass bereits bei den kommunalen Unternehmen gemachte Erfahrungen auch für die Verwaltungsarbeit genutzt werden können.

 

B4: Initiierung Austausch mit Akteuren in anderen Kommunen zu KI-Potentialen, z. B. im Rahmen Smart City und mit der Digitalagentur Brandenburg: Damit bereits in ähnlichen Kontexten gesammelte Erfahrungen auch für die LHP genutzt werden können, wird ein regelmäßiger Wissens- und Erfahrungsaustausch mit anderen Kommunen und Verwaltungen angestrebt. Es kann dabei auch an bereits etablierte Formate wie die Vernetzung mit anderen Smart-City-Kommunen und die durch die Digitalagentur Brandenburg angebotenen Austauschplattformen angedockt werden.

 

Mittel- und langfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung ab 2025 angestrebt):

 

B5: Fortschreibung der Grundsätze zum KI-Einsatz: Die grundsätzlichen Leitlinien und Regelungen zum KI-Einsatz werden unter Berücksichtigung der in der LHP und anderen Organisationen gesammelten Erfahrungen, der Anforderungen von Bürgerinnen und Bürgern sowie Mitarbeiterinnen und Mitarbeitern, neuer technischer Entwicklungen sowie der Fortschreibung relevanter KI-Strategien auf Landes- und Bundesebene und der gesetzlichen Regelungen unter enger Einbindung des Personalrats, der Datenschutzbeauftragten, des IT-Sicherheitsverantwortlichen und der Gleichstellungsbeauftragten sowie des Büros für Chancengleichheit und Vielfalt (fortan „die relevanten verwaltungsinternen Akteure“)  regelmäßig fortgeschrieben. Hieran werden auch weitere relevante Akteure wie das Rechnungsprüfungsamt beteiligt. Dabei werden auch klare Umsetzungskriterien wie Aufwand-Nutzen-Bewertungen zur Auswahl von Anwendungsfällen für den KI-Einsatz im Rahmen des KI-Portfoliomanagements definiert. Im Rahmen der Fortschreibung der Grundsätze zum KI-Einsatz liegt ein besonderer Fokus auf der Berücksichtigung ethischer Aspekte bei Ausgestaltung und Nutzung von KI-Werkzeugen, insbesondere für Einsatzszenarien im Kontext von öffentlicher Sicherheit, sozialen Diensten, der Sicherstellung des Gleichbehandlungsgrundsatzes und der Vermeidung von Benachteiligungen. Als Grundlage der Entscheidung für oder gegen den Einsatz bestimmter KI-Werkzeuge in bestimmten Einsatzszenarien kann dabei eine allen Mitarbeitenden zugänglichen Risikoabwägungsleitlinie genutzt werden.

 

Auch die Vermeidung/Minimierung von (IT-)Sicherheitsrisiken und die Sicherstellung der durchgängigen effektiven Kontrolle über kritische Systeme – etwa durch Vorgaben zur Erstellung von Schutzkonzepten – sowie die Definition von Transparenzkriterien – etwa zur Gewährleistung der Nachvollziehbarkeit der Ergebnisse von Arbeitsprozessen, in denen KI-Werkzeuge zum Einsatz kommen – stehen bei der Fortschreibung der Grundsätze zum KI-Einsatz im Fokus.  

 

B6: Verstetigung der Formate für Wissensaufbau und Erfahrungsaustausch unter Einbeziehung von Mitarbeitenden, kommunalen Unternehmen, Stadtgesellschaft und weiteren Expertinnen und Experten: Die initiierten Austauschformate zur Förderung des Wissensaufbaus und Erfahrungsaustauschs werden fortgesetzt, idealerweise verschult und je nach Bedarf weiterentwickelt. Neben der Vermittlung von Informationen und methodischen Kompetenzen ist dabei auch die dauerhafte Sensibilisierung der Mitarbeiterinnen und Mitarbeiter für die bei der Nutzung von KI-Anwendungen zu beachtenden Regelungen einschließlich der datenschutzrechtlichen Vorgaben eine zentrale Aufgabe. Hierbei liegt ein besonderer Fokus auf dem dauerhaften Erhalt des menschlichen Urteilsvermögens und menschlicher Handlungssouveränität bei Vermeidung einer übermäßigen Abhängigkeit von KI-Werkzeugen, insbesondere im Bereich der Entscheidungsvorbereitung. 

 

Ein weiterer Fokus liegt auf dem verstetigten Wissens- und Erfahrungsaustausch mit dem Digitalisierungsrat und den kommunalen Unternehmen.

 

 

B7: Aktive Einbeziehung von Bürgerinnen und Bürgern sowie Mitarbeitenden in die Ausgestaltung von KI-Lösungen, etwa durch Design Thinking-Sprints, „Innovation Booster“-Formate und Citizen-Hackathons (z. B. im POTSDAM LAB): Bei der Erarbeitung, Adaption und Implementierung konkreter KI-Werkzeuge und ‑Lösungen steht die Nutzendenperspektive im Zentrum. Um eine größtmögliche Nutzungsfreundlichkeit sicherzustellen werden die jeweiligen Nutzendengruppen wann immer es praktikabel erscheint in die Ausgestaltung von Lösungen einbezogen. Dabei werden nach Prüfung der Nutzbarkeit und Zielrelevanz auch die mit dem Aufbau des POTSDAM LABs im Rahmen des Smart-City-Modellprojekts etablierten Methoden eingesetzt. 

 

Handlungsfeld C: Priorisierung von KI-Anwendungsfällen in der Kommunalverwaltung – Etablierung interne und externe Large Language Models (LLMs)

 

Die Empfehlung des Digitalisierungsrats (siehe S. 4 des Impulspapiers) ist hier: „Der Digitalisierungsrat empfiehlt, dass die Landeshauptstadt Potsdam im Jahr 2024 zwei spezialisierte Large Language Models (LLMs) implementiert: ein internes und ein externes LLM. Das interne LLM, entwickelt unter strengen Datenschutzrichtlinien, soll städtische Daten für die Mitarbeiter zugänglich machen, um interne Prozesse und Entscheidungsfindungen zu optimieren. Parallel dazu empfehlen wir die Einrichtung eines externen LLM, das öffentliche Daten, insbesondere aus dem Ratsinformationssystem, integriert. Dieses öffentlich zugängliche LLM, eingebettet auf der städtischen Webseite, ermöglicht es Bürgern, interaktiv und effizient Informationen zu städtischen Angelegenheiten zu erfragen und erhöht so die Transparenz und Bürgerbeteiligung.“

 

Auf dieser Grundlage wurden entlang der skizzierten Leitplanken sowie unter Berücksichtigung der vorhandenen Umsetzungskapazitäten verwaltungsseitig die folgenden Maßnahmen erarbeitet:

 

Kurzfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für die 2. Jahreshälfte 2024 angestrebt):

 

C1: Ausarbeitung von Leitlinien für den Einsatz von LLMs unter Einbindung von Personalrat, der Datenschutzbeauftragten und IT-Sicherheit: Zur Vorbereitung des angestrebten breiten Einsatzes eines LLMs als priorisiertes Schlüsselwerkzeug für die Mitarbeiterinnen und Mitarbeiter werden unter enger Einbindung von Personalrat, der Datenschutzbeauftragten, des IT-Sicherheitsverantwortlichen und der IT – und synchronisiert mit den in Maßnahme „B1“ erarbeiteten grundsätzlichen Regeln zum KI-Einsatz – Leitlinien für den Einsatz von LLMs in der LHP erarbeitet. Auch hier kann eine Orientierung an bereits durch andere Organisationen des öffentlichen Sektors erstellten Leitlinien erfolgen. Ziel ist es, den Mitarbeiterinnen und Mitarbeitern eine klare Orientierung zum Umgang mit LLMs im Rahmen der Verwaltungsarbeit bereitzustellen. Gegebenenfalls kann die Umsetzung dieser Maßnahme in der Umsetzung der Maßnahme „B1“ aufgehen.

 

C2: Gewinnung eines LLM-Umsetzungspartners und Adaption eines vorhandenen LLMs mit Umsetzungspartner für erste klar umrissene Nutzungsfälle [Vorbehalt Vergabe]: Ein bereits unter den Rahmenbedingungen der Vorgaben zu Datenschutz und IT-Sicherheit in Deutschland erfolgreich für vergleichbare Nutzungsfälle getestetes LLM wird für die Anforderungen der LHP adaptiert und für erste klar umrissene Nutzungsfälle (z. B. im Kontext von „Employee-Self-Services“ im Rahmen der Personalbetreuung, beim internen Wissensmanagement oder bei der Durchsuchbarkeit des Ratsinformationssystems) pilotiert. Dabei wird in Abstimmung mit dem Vergabeamt ein geeigneter Vergabeweg gefunden, ggf. im Rahmen einer Innovationspartnerschaft.

 

Der Umsetzungspartner sollte bereits Erfahrungen mit der Adaption und dem Einsatz eines LLMs für vergleichbare Nutzungsfälle unter Berücksichtigung vergleichbarer Datenschutz- und IT-Sicherheitsvorgaben sowie bei der Projektzusammenarbeit mit dem öffentlichen Sektor nachweisen können. Es erfolgt explizit keine aufwändige vollständige Neuentwicklung von LLM-Lösungen.

 

Im ersten Schritt wird kurzfristig die Umsetzung von zwei aufeinander aufbauenden Nutzungsszenarien als „Minimal Viable Product“ (MVP) angestrebt:

 

MVP1: Unterstützung von Mitarbeitenden und/oder Bürgerinnen und Bürgern durch Zusammenfassung wesentlicher Informationen aus bestehenden konkreten Regelungs- und Wissensdokumenten in einem klar umrissenen inhaltlichen Kontext (bspw. Dienstreiseregelung, Informationspaket zum Onboarding, Informationen im Ratsinformationssystem)

 

MVP2: Unterstützung von Mitarbeitenden und/oder Bürgerinnen und Bürgern durch Generierung von Textentwürfen im Kontext der konkreten Regelungs- und Wissensdokumente (bspw. Entwurf Dienstreiseantrag, Entwurf Antrag auf Freischaltung von Lizenzen/Zugängen, Formulierung eines ersten Entwurfs für einen Einwohnerantrag)

 

Bei der Auswahl der entsprechenden Nutzungsfälle werden bereits vorliegende Überlegungen zum KI-Einsatz im Rahmen bereits gestarteter oder angedachter Projekte besonders berücksichtigt, etwa im Kontext des Relaunchs des Webauftritts der Landeshauptstadt und der Einführung eines Social Intranets. Dabei wird eine bestmögliche Verzahnung der Projekte und Angebote angestrebt.

 

Für die Identifikation, Exploration und initiale Erprobung möglicher konkreter Use Cases in verschiedenen inhaltlichen Kontexten werden durch den Umsetzungspartner unterstützte Workshops zur experimentellen Nutzung des bereitgestellten LLMs in einem mit Blick auf IT-Sicherheit und Datenschutz „geschützten Raum“ angestrebt, bei denen Mitarbeitende mögliche konkrete LLM-Anwendungsfälle zur Unterstützung ihrer jeweiligen Aufgabenerbringung erproben können.

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe.

 

C3: Prüfung der Ergebnisse der Pilotierung des 115-Verbund-Chatbots für Bürgerservice-Informationsangebote sowie ggf. nachfolgende Implementierung [kontinuierliche Maßnahme, Start ist bereits erfolgt]: Der 115-Verbund für Bürgerservices in der öffentlichen Verwaltung hat einen Chatbot zur zukünftigen Unterstützung der digitalen Bürgerservices pilotiert. Aktuell ist dieser datenbankgestützt und nicht KI-unterstützt im engeren Sinne. Die Ergebnisse dieser Pilotphase werden aktuell in der LHP ausgewertet. Falls die Ergebnisse der Pilotphase aus Sicht der LHP positiv bewertet werden, erfolgt ggf. eine Implementierung des 115-Verbund-Chatbots für den neuen Webauftritt der LHP.

 

Mittel- und langfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für 2025 angestrebt):

 

C4: Ausbau der internen und externen LLM-Nutzungsfälle mit Umsetzungspartner [Vorbehalt Vergabe]: Aufbauend auf den Ergebnissen der Maßnahme „C2“ werden die Nutzungsfälle für den Einsatz eines LLMs weiter ausgebaut, um perspektivisch eine Nutzung als KI-Standardwerkzeug durch alle Mitarbeitenden für eine breite Zahl von Nutzungsfällen sowie einen Einsatz zur Optimierung des Zugangs zu und der Nutzbarkeit von Informations- und Beteiligungsangeboten für Bürgerinnen und Bürger zu ermöglichen. Aufbauend auf MVP1 und MVP2 wird dabei folgender Zielzustand angestrebt:

 

MVP3: Unterstützung von Mitarbeitenden sowie Bürgerinnen und Bürgern durch Generierung von Textentwürfen für vielfältige Einsatzszenarien (bspw. Entwurf von Briefen, Pressemitteilungen, Website-Texten und Vermerken, umfangreiche Auswertung von Informationsangeboten wie beispielsweise dem Ratsinformationssystem).

 

Bei der Auswahl der entsprechenden Nutzungsfälle und der Weiterentwicklung des LLMs werden bereits vorliegende Überlegungen zum KI-Einsatz im Rahmen bereits gestarteter oder angedachter Projekte besonders berücksichtigt, etwa im Kontext des Relaunchs des Webauftritts der Landeshauptstadt und der Einführung eines Social Intranets. Dabei wird eine bestmögliche Verzahnung der Projekte und Angebote angestrebt.

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe.

 

Handlungsfeld D: Unterstützung von Prozessautomatisierung

 

Um ergänzend zum Einsatz von LLMs auch die Nutzung von Automatisierungswerkzeugen zur Unterstützung der Mitarbeitenden und zur Weiterentwicklung von Abläufen im Rahmen des kontinuierlichen Prozessmanagements zu ermöglichen, wurden entlang der skizzierten Leitplanken sowie unter Berücksichtigung der vorhandenen Umsetzungskapazitäten verwaltungsseitig die folgenden Maßnahmen erarbeitet:

 

Kurzfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für die 2. Jahreshälfte 2024 angestrebt):

 

D1: Ausarbeitung von Grundsätzen zur Nutzung von Automatisierungspotentialen im Rahmen des Prozessmanagements unter Einbindung von Personalrat, der Datenschutzbeauftragten und IT-Sicherheit: In Anlehnung an die Erarbeitung der Leitlinie zum Einsatz von KI-Werkzeugen (siehe Maßnahmen „B1“ und „C1“) werden auch Leitlinien zur Nutzung von Automatisierungspotentialen im Rahmen des kontinuierlichen Prozessmanagements unter enger Einbindung des Personalrates, der Datenschutzbeauftragten und des IT-Sicherheitsverantwortlichen erarbeitet. Ziel ist es, den Prozessverantwortlichen sowie den Mitarbeiterinnen und Mitarbeitern eine klare Orientierung zur möglichen Nutzung von Automatisierungswerkzeugen im Rahmen der Weiterentwicklung von Prozessen zu geben. Gegebenenfalls kann die Umsetzung dieser Maßnahme in der Umsetzung der Maßnahme „B1“ aufgehen.

 

D2: Gewinnung strategischer Technologiepartner für Automatisierungswerkzeuge im Rahmen der neuen IT-Strategie der strategischen Partnerschaften [Vorbehalt Vergabe]: Entsprechend der neuen IT-Strategie wird für einzelne Leistungsblöcke jeweils die Zusammenarbeit mit langfristigen strategischen Partnern angestrebt. Auf diesem Ansatz aufbauend erfolgt auch die Gewinnung eines strategischen Technologiepartners oder einiger weniger strategischer Technologiepartner, die bereits nachgewiesene Erfahrungen mit der Bereitstellung von Automatisierungswerkzeugen wie beispielsweise Low-Code-Plattformen oder RPA-Tools („Robotic Process Automation“) im Kontext des öffentlichen Sektors und der relevanten Vorgaben bezüglich Datenschutz und IT-Sicherheit gesammelt haben. Diese Technologiepartner sollen zukünftig die standardisierte und schnelle Bereitstellung von Automatisierungswerkzeugen entsprechend der Bedarfe der Prozessverantwortlichen ermöglichen.

 

Abhängig von der Ausgestaltung der strategischen Partnerschaft steht diese ggf. unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe und der Verfügbarkeit entsprechender finanzieller Ressourcen.

 

 

Mittelfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung für 2025 angestrebt):

 

D3: Bereitstellung von Automatisierungswerkzeugen als „Boosterpaket Prozessautomatisierung“ für Prozessverantwortliche (z. B. RPA-Tool und/oder Low-Code-Plattform) mit strategischem Technologiepartner [Vorbehalt Vergabe]: Auf Grundlage der Ergebnisse der Maßnahmen „D1“ und „D2“ werden unter enger Einbindung des Prozessmanagements und unter Berücksichtigung der praktischen Bedarfe der Prozessverantwortlichen die konkreten Automatisierungswerkzeuge definiert, die Teil eines „Boosterpakets Prozessautomatisierung“ sind und die durch den bzw. die strategischen Technologiepartner als Standardwerkzeuge bereitgestellt werden. Ziel ist, dass Prozessverantwortliche diese Werkzeuge weitgehend selbstständig zur Unterstützung der Mitarbeiterinnen und Mitarbeiter einsetzen können.

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe und der Verfügbarkeit entsprechender finanzieller Ressourcen.

 

D4: Explorative Pilotierung von Werkzeugen zur Automatisierung der Antrags- und Massendatenverarbeitung in der Leistungsverwaltung mit strategischem Technologiepartner [Vorbehalt Vergabe]: Die Automatisierung von einzelnen Schritten der Leistungsverwaltung, beispielsweise die Vorsortierung und strukturierte Aufbereitung von Anträgen auf Leistungsgewährung, stellt ein besonders großes Potential für den Einsatz von Automatisierungswerkzeugen dar. Auf diese Weise könnten sowohl Mitarbeiterinnen und Mitarbeiter in der täglichen Arbeit unterstützt und von oft monotonen, hoch repetitiven Tätigkeiten entlastet als auch Leistungen schneller für Bürgerinnen und Bürger bereitgestellt werden. Dabei ist klar, dass abschließende Entscheidungen zur Leistungsgewährung nur von Menschen getroffen werden. 

 

Um zu erproben, ob dieses Potential mit verfügbaren KI-Werkzeugen und unter Berücksichtigung der Anforderungen der LHP einschließlich der Vorgaben hinsichtlich des Datenschutzes und der IT-Sicherheit bereits realisiert werden kann, erfolgt die explorative Pilotierung von Werkzeugen zur Automatisierung der Antrags- und Massendatenverarbeitung in der Leistungsverwaltung mit Unterstützung eines strategischen Technologiepartners.

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe.

 

 

Langfristig geplante Maßnahmen der Verwaltung (Start der Umsetzung ab 2026):

 

D5: Verstetigung des Einsatzes von Automatisierungswerkzeugen als „Boosterpaket Prozessautomatisierung“ für Prozessverantwortliche [Vorbehalt Vergabe]: Aufbauend auf den Ergebnissen der Maßnahme „D3“ wird die Bereitstellung von standardisierten Automatisierungswerkzeugen für Prozessverantwortliche und deren Einsatz zur Unterstützung der Mitarbeiterinnen und Mitarbeiter verstetigt und ggf. weiterentwickelt.

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe.

 

D6: Ausbau des Einsatzes von Werkzeugen zur Automatisierung der Antrags- und Massendaten-verarbeitung im Fall einer erfolgreichen Pilotierung [Vorbehalt Vergabe]: Aufbauend auf den Ergebnissen der Maßnahme „D4“ erfolgt im Fall einer erfolgreichen Pilotierung in der Leistungsverwaltung ein Ausbau des Einsatzes von Werkzeugen zur Automatisierung der Antrags- und Massendatenverarbeitung für die Unterstützung geeigneter Prozesse.  

 

Die Umsetzung dieser Maßnahme steht unter dem Vorbehalt einer entsprechenden erfolgreichen Vergabe.

 

 

Mögliche weitere Maßnahmen und KI-Werkzeuge

 

Die beschriebenen Anwendungsfälle und Werkzeuge stellen keinen grundsätzlichen Ausschluss der Umsetzung weiterer KI-Lösungen dar. Im Rahmen des KI-Portfoliomanagements können auch andere Anwendungsfälle und KI-Lösungen soweit sinnvoll und vor dem Hintergrund verfügbarer Ressourcen darstellbar für die Umsetzung ausgewählt werden.

 

Voraussetzungen und Rahmenbedingungen für den erfolgreichen KI-Einsatz in der Verwaltung

 

Der erfolgreiche Einsatz von KI erfordert die Berücksichtigung zentraler Voraussetzungen und Bedingungen bei der Ausgestaltung und Umsetzung von KI-Lösungen. Dazu gehören für die Landeshauptstadt Potsdam insbesondere:

 

• Die Verfügbarkeit erforderlicher Ressourcen und personeller Kapazitäten. Angesichts der herausfordernden Finanzlage ist hier ein hoher Fokus auf ein möglichst effizientes, pragmatisches und wirkungsorientiertes Vorgehen besonders wichtig. Daher sollte, wann immer es sinnvoll erscheint, auf bereits vorhandenen Lösungen aufgebaut werden, so dass Eigenentwicklungen so weit wie möglich vermieden werden. Gleichzeitig kann KI-Einsatz als potentieller Wirkungsverstärker die Leistungsfähigkeit der Verwaltung in Zeiten knapper Ressourcen unterstützen.
• Die Verfügbarkeit, Strukturierung und Auslesbarkeit der für den jeweiligen Use Case erforderlichen Datenquellen sowie der Aufbau von entsprechender Datenkompetenz, auch beispielsweise mit Blick auf „Process Mining“. Perspektivisch ist hier – wie im Programmauftrag „Potsdam smart gestalten und verwalten“ vorgesehen – die Entwicklung einer übergreifenden Datenstrategie und der Aufbau eines integrierten Datenmanagements unter Berücksichtigung der Urbanen Datenplattform, die im Rahmen von Smart City entwickelt wird, sinnvoll.
• Die Berücksichtigung der rechtlichen Vorgaben und Anforderungen des Datenschutzes und der IT-Sicherheit sowie der (sich teils rasch entwickelnden) regulatorischen Vorgaben. Diese fließen daher auch in die Erarbeitung und kontinuierliche Weiterentwicklung der grundsätzlichen Leitlinien für den KI-Einsatz ein. Die Vorgaben bezüglich Datenschutz und IT-Sicherheit sind insbesondere bei der Bewertung von Fragestellungen zu berücksichtigen, die im Zusammenhang mit dem Hosting entsprechender KI-Werkzeuge auf internen Servern („on premise“) oder in (besonders gesicherten) Cloud-Umgebungen auftreten.
• Die Berücksichtigung der vorhandenen technischen Architektur und Infrastruktur sowie der für den jeweiligen Use Case relevanten Schnittstellen bei der Ausgestaltung und Umsetzung technischer Lösungen. Daher erfolgt eine Verknüpfung des KI-Portfoliomanagements mit dem IT-Demand- und Architekturmanagement und die Einbindung der IT sowie der jeweiligen Verfahrensverantwortlichen in die Erarbeitung und Implementierung konkreter technischer Lösungsskizzen.
• Die Berücksichtigung von Anforderungen der Barrierefreiheit an die Ausgestaltung technischer Lösungen. Daher erfolgt eine Einbindung des Büros für Chancengleichheit und Vielfalt in die Ausarbeitung der grundsätzlichen Leitlinien für den KI-Einsatz sowie in die Ausarbeitung von Lösungsskizzen.
• Die Berücksichtigung grundsätzlicher ethischer Überlegungen zum Einsatz von KI, auch mit Blick auf die dauerhafte technische und fachliche Nachvollziehbarkeit und sichere Beherrschbarkeit eingesetzter Werkzeuge. Diese fließen daher in die Erarbeitung und kontinuierliche Weiterentwicklung der grundsätzlichen Leitlinien für den KI-Einsatz sowie in die aktive Einbeziehung von Bürgerinnen und Bürgern sowie von Mitarbeitenden in die Ausgestaltung von KI-Lösungen ein.
• Die konsequente Ausrichtung bereitzustellender KI-Werkzeuge an den tatsächlichen Bedarfen und Nutzungserfahrungen der Anwenderinnen und Anwender. Die Anwendenden werden daher immer wieder in die Auswahl und Ausgestaltung von möglichen Lösungen einbezogen.