麦肯锡：生成式人工智能在公共管理中的应用-全面利用的七大成功因素

Mcsey

&company

GenerativekünstlicheIntelligenzinderöffentlichenVerwaltung–siebenErfolgsfaktorenfüreine

flächendeckendeNutzung

1

GenerativekünstlicheIntelligenzinderöffentlichenVerwaltung–siebenErfolgsfaktorenfüreine

flächendeckendeNutzung

VonDeutschlandsVerwaltungwirdvielerwartet:Schlanksollsiesein,zuverlässig,schnellundbürgernah.DochdieDigitalisierungderVerwaltungalswesentlicheVoraussetzungfürdieseAmbitionschreitetnur

langsamvoran.

GenerativekünstlicheIntelligenz(GenAI)kanndabeihelfen,Effizienzlückenzuschließen,denProzess

derDigitalisierungzubeschleunigenunddieVerwaltungeffektiverzumachen.MitGenAIlassensich

unstrukturierteDatenwieText,SpracheundBildernutzbarmachenundProzesseautomatisieren,beidenendasvormalskaummöglichwar.GenAIhatdasPotenzial,BeschäftigteinderVerwaltungmerklichzuentlastenundsomehrZeitfürwertstiftendeTätigkeitenwiedieKundenberatungzuschaffen.EineaktuelleMcKinsey-Analysezeigt,dassdurchdenEinsatzvonGenAIundanderenTechnologienTätigkeitenautomatisiertwerdenkönnen,diederzeitrund60bis70%desZeitaufwandsvonBeschäftigtenausmachen–beispielsweisedurchdieSyntheseundErstellungvonInhalten,intelligenteUnterstützungbeiProgrammierungstätigkeitenundinderBürgerinteraktion.1,2

WeltweitarbeitenAdministrationendaran,diePotenzialevonGenAInutzbarzumachen,indemsienationaleStrategienentwickelnunddenEinsatzgezieltfördern.SoauchinEuropa:Dänemarkfördertmitseiner

DigitalstrategiedenAufbaueinesprivat-öffentlichenExzellenz-ClustersfürkünstlicheIntelligenz(KI)3und

GroßbritannienfördertdieprivateundöffentlicheForschungsowiedieEntwicklungvonKI,dieerforderliche

digitaleInfrastrukturunddieAusbildungentsprechenderFachkräfte.4DieitalienischeKI-PolitikhatdasZiel,KIindasRegierungs-undVerwaltungshandelnzuintegrieren,ethischeFragenzuklärenunddienotwendigenFähigkeitenbeidenBeschäftigtenaufzubauen.5

DieBundesregierunghatden„AktionsplanKI“6vorgelegt.DarinsindInvestitioneninHöhevon1,5Mrd.EURbis2025geplant,umdenKI-StandortDeutschlandauszubauenunddasmitKIverbundenePotenzialfür

BeschäftigteundUnternehmeninDeutschlandzuerschließen.7BislangnutztdieöffentlicheVerwaltung

GenAI-LösungennahezuausschließlichinFormvonPilotprojekten,alsProofofConcepts(PoC)fürbegrenzteAnwendungszwecke.DieseLeuchtturmprojektesollenAkzeptanzschaffenunddieWirksamkeitder

Anwendungenbeweisen.PoCslassensichrelativaufwandsarmundzügigentwickelnunddaesBedarfgibt,arbeitenzurzeitetlicheEinrichtungenanähnlichgelagertenAnwendungsfällenwiebeispielweiseder

SynthesevonumfangreichenBerichten.DaswahrePotenzialvongenerativerKIliegtjedochinderskalierten,flächendeckendenNutzung,insbesonderewennfunktionierendeModelleüberdieGrenzeneinzelner

Behördenhinweggenutztwerden.VorallemdiefolgendensiebenFaktorenermöglichendieschnelleSkalierungundflächendeckendeNutzung(sieheAbbildung).

1McKinsey(2023),TheeconomicpotentialofgenerativeAI:Thenextproductivityfrontier(Link)

2WirbeziehenunsindieserPublikationaufInformationen,diezumZeitpunktderErstellungunterdenangegebenenLinksverfügbarwaren.

3AgencyforDigitalGovernment(2022),NationalStrategyforDigitalisation(Link)

4OfficeforArtificialIntelligence(2021),NationalAIStrategy(Link)

5Agenziaperl’ItaliaDigitale(2018),ArtificialIntelligenceattheserviceofthecitizen(Link)

6DiesumfasstauchGenAI-LösungenalsUntergruppevonKI.

7DeutscheBundesregierung(2023),KünstlicheIntelligenzalsSchlüsseltechnologiestärkernutzen(Link)

2

VoraussetzungenfürdieflächendeckendeNutzungvonGenAIinderdeutschenVerwaltung

XErfolgsfaktorenfürdieVorbereitungderSkalierungXErfolgsfaktorenfürdietechnischeSkalierung

XErfolgsfaktorenfürdiebeschleunigteSkalierung

Risikomanagementetablieren

Austauschvon

GenAI-Lösungenermöglichen

3

TechnischeInfrastrukturskalieren

Transparenz

schaffenund

Akzeptanzfördern

FähigkeitenausbauenundTalentegewinnen

ZentraleBereitstellungeinrichten

Rahmenkonzeptentwickeln

7

6

4

2

5

1

ErfolgsfaktorenfürdieVorbereitungderSkalierung

1.SchaffungdesnotwendigenRahmensfürdiebreiteNutzungvonGenAI

DamitGenAI-AnwendungsfälleinDeutschlandskaliertwerdenkönnen,bedarfeseinesverlässlichen(regulatorischen)Rahmens,sowohlfürAnbieteralsauchfür

NutzendevonGenAI-Lösungen.MitdemVerordnungsvorschlagzurFestlegung

harmonisierterVorschriftenfürKIhatdieEU-KommissionaufeuropäischerEbenebereitsersteEckpfeilergeschaffen.8Nungiltes,diesenationalauszugestaltenund

zukonkretisieren.DiesbetrifftzumBeispielDatenschutzanforderungenoderden

notwendigenrechtlichenRahmenoffizieller,KI-unterstützterKommunikationder

Verwaltung.EinentsprechenderRahmensollteinsbesonderedieNutzungund

dasTeilenvonDaten(zumBeispielmitDrittanbietern)sowiedieQualitätssicherungvonKI-Modellen

undihrenErgebnissen(zumBeispielVerifizierungsverfahren)regeln.ZudembenötigendieBeschäftigten

indenVerwaltungeneineverlässlicheOrientierungzurAnwendungvonGenAI,etwainFormvonklaren

Verfahrensregeln.LänderwiedieUSA,ChinaundAustralienverfügenbereitsüberentsprechendeRegelwerke.9

2.FörderungvonTransparenzundgesellschaftlicherAkzeptanzvonGenAI

FüreinenachhaltigeEtablierungvonGenAI-LösungeninderöffentlichenVerwaltungistsowohlinderVerwaltungselbstalsauchinderGesellschaftdieAkzeptanzentsprechenderLösungenzufördern.10

GEN

DieserfordertgeeigneteKommunikationsmaßnahmen,dieüberdieEinsatzmöglichkeitenundVorteile,aberauchüberGrenzenundRisikenvonGenAIinformierenundTransparenzschaffen,inwelcher

FormGenAIeingesetztwerdendarfundwird.BehördeninternkannmanberechtigtenBedenkenmitedukativenundtransparenzschaffendenMaßnahmenbegegnen,zumBeispielhinsichtlichderQualitätundPassgenauigkeitvonangewandtenGenAI-Lösungen.Zudemisteinumfassender

Fähigkeitsaufbauvonnöten,umSicherheitinderAnwendungvonGenAI-Lösungenzufördern,

zumBeispieldurchSchulungenzumPrompting,demInteragierenmitSprachmodellendurchkurze

SprachbefehleundFragen.AuchgiltesmöglicheSorgenvonBeschäftigtenaufzugreifen,etwahinsichtlichderAuswirkungenaufdeneigenenTätigkeitsbereich.DieEinbeziehungvonetabliertenVorreitereinheiten,wiebeispielsweisedenDatenlaborenderBundesministerien,undeinbehördenübergreifenderAustauschzuKIkönnenalsVehikelzurVertrauensbildungdienen.Bürger:innensolltentransparentüberdieZiele,diedieVerwaltungmitderNutzungvongenerativerKIverfolgt,positiveAuswirkungen,aberauchGrenzender

8EuropäischeKommission(2021),VerordnungdesEuropäischenParlamentsunddesRateszurFestlegungharmonisierterVorschriftenfürkünstlicheIntelligenz(Link)

9McKinsey(2023),UnlockingthepotentialofgenerativeAI:Threekeyquestionsforgovernmentagencies(Link)

10KompetenzzentrumÖffentlicheITundFraunhofer-InstitutfürOffeneKommunikationssystemeFOKUS(2020),KIimBehördeneinsatz:ErfahrungenundEmpfehlungen(Link)

3

Technologieinformiertwerden.Esgilt,TransparenzhinsichtlichDatenschutzund-sicherheitzuschaffen,damitGenAIineinemsicherenRahmenalsverlässlicheTechnologiewahrgenommenwird.

ErfolgsfaktorenfürdietechnischeSkalierung

3.FörderungeinerzentralenBereitstellungvonGenAI-Lösungen

EinKernelementzurFörderungeinerflächendeckenderenNutzungvonGenAIkanndieBündelungund

zentraleBereitstellungvonfunktionalenGenAI-LösungenfürVerwaltungsorganisationensein.EineigenesHostingvonGenAI-ModellenstelltvieleBehördensowohlhinsichtlichderbenötigtenFähigkeitenalsauch

derentsprechendenInfrastrukturvorgroßeHerausforderungen.AußerdemwäreeinekomplettdezentraleErschließungvonModellenundAnwendungsfälleninvielenFällenineffizientund

redundant.EinemöglichstzentraleundniedrigschwelligeBereitstellungvonModellenmit

einemsicherenundzügigenZugriffwürdeinsbesonderekleinerenBehördeneineErschließungderPotenzialevonGenAIermöglichen.EinesolcheBündelungsolltesowohldieBeschaffung

undVerfügbarmachungvoninderCloudgehostetenModellenalsauchdieBereitstellungvonOn-Premise-Modellenumfassen.EinezentraleBündelungvonAngebotenbirgtwesentlicheVorteile:

MöglichkeitzurVereinheitlichungvontechnischenSchnittstellen,Datenformaten,Anfragen(Prompts)undtechnischenArchitekturlösungen.

SchaffungeinereinheitlichenGovernancefürdenflächendeckendenEinsatzvonGenAI-Lösungeninklusivetechnischer„Risikoleitplanken“,sogenannterGuardrails.

ZentraleBündelungvonFachwissenzurBereitstellungvonModellenundzurUmsetzungsbegleitung.

VorteilhafterePositionierungdurchSkaleneffekteinderVerhandlungmitAnbieternvonGenAI-Lösungen.

4.AusbauderbestehendentechnischenInfrastruktur

FürdieSkalierungvonGenAI-LösungeninderöffentlichenVerwaltungbedarfeseinergeeignetentechnischenInfrastruktur.GenAI-LösungenbenötigenüberdenZugriffaufeinpassendes

SprachmodellhinauseineVielzahlvonKomponentenwieDatenplattformen,Vektordatenbanken,Frontend-undBackend-InfrastruktursowiePromptLibraries.InsbesondereLösungenzur

VerwaltungvonbehördeneigenenDaten,wieSoftwareoderProzessezurGewährleistungeinerhohenDatenqualität,sindangesichtsderRelevanzqualitativhochwertigerInputdatenfürGenAI-ModellevonhoherBedeutung(sieheTextbox).

SchlüsselkriterienfürdieRelevanzundNutzbarkeitvonDateninGenAI-Anwendungen

DieVerfügbarkeitrelevanterundnutzbarerDatenistVoraussetzungfürdiegewinnbringendeImplementierungvonGenAI-Anwendungen.VierKriteriensinddafürbesonderswichtig:

1.Qualität:EinehoheQualitätderInput-Daten(zumBeispielLesbarkeit,inhaltlicheKorrektheitundKonsistenz)istVoraussetzungsowohlfürdieNutzungeinesLLM(zumBeispielmittelsIn-Context-Learning,One-Shot-

PromptingoderFinetuning)alsauchfüreinehoheQualitätdesOutputs.

2.Quantität:DieVerfügbarkeitvonDateninausreichenderMenge(alsozumBeispielgenügendauszuwertendeBerichte)isteinwesentlicherFaktorfürspezifischenundvalidenOutputohneVerzerrungen,insbesondere

beimFinetuningvonLLMs.

3.VerfügbarkeitvonMetadaten:Metadatensindelementar,umdieVerwendungderrichtigenInputdaten

sicherzustellenundkönnendabeiunterstützen,ProzessewieRetrievalAugmentedGeneration(RAG)präziserdurchzuführen.

4.Klassifizierung:DieKlassifizierungvonDaten(zumBeispielOpenData,VS-NfD)istmaßgeblichsowohlbeiinfrastrukturellenAbwägungen(zumBeispielHostinginderPublicCloudoderineinerPrivateCloudoder

On-Premise)alsauchbeiderAuswahlvonLLMssowiebeiderIntegrationvonSicherheitsvorkehrungenundZugriffsbeschränkungen.

4

DiegenanntenInfrastrukturelementesolltenvonIT-DienstleisterndesBundesflexibeleinsetzbarangebotenwerdenundkurzfristigskalierbarsein.AlternativkönnenBehördeneinesolcheInfrastrukturvonDrittanbieternbeziehen.Entscheidendist,dassdieLösungenaufeinanderabgestimmtsindundVerwaltungensieals„Paketlösung“beziehenkönnen.DiesbegrenztnichtnurdieKomplexitätderSysteme,sondernerlaubtauch,Bedarfebesserundschnellerzuerfüllen.ErforderlicheRessourcensolltenverlässlichundschnellbezogenwerdenkönnen,ohnelangeVorlaufzeitenunddurcheffektive,aberschlankeGenehmigungsverfahren.

ErfolgsfaktorenfürdiebeschleunigteSkalierung

5.SystematischerAusbauvonFähigkeitensowieGewinnungvonGenAI-Talent

UmGenAI-Lösungenflächendeckendentwickelnundeinsetzenzukönnen,istderAus-bzw.AufbaurelevanterFähigkeiteninnerhalbderVerwaltungnotwendig.Eswerden

zusätzlicheFachkräftewieData-undSoftwareEngineersbenötigtundeinGroßteilderBeschäftigtenmussüberFähigkeitenzursicherenInteraktionmitKI-Modellen

verfügen.WegendesstarkenWettbewerbsistdieRekrutierungvonFachkräftenmitrelevantenFähigkeiten

einegroßeHerausforderung.ZielgerichteteRecruiting-VeranstaltungenundPartnerschaftenmit

UniversitätenkönnendieErfolgsaussichtenverbessern.ImWettbewerbmitderPrivatwirtschaftmuss

dieöffentlicheVerwaltungfürneueTalenteattraktiverwerden,etwadurchspezielleVergütungsmodelle,klareWeiterentwicklungspfade,modernausgestatteteArbeitsplätzeundflexibleArbeitsmodelle.Es

bedarferheblichkürzererBewerbungs-undEinstellungsprozesseundeffektiverBindungsprogramme.In

AnbetrachtdesWettbewerbsumneuesTalentgiltesvorallemauch,dievorhandeneBelegschaftsystematischzuschulenundzubefähigen.AdäquateLernmoduleund-reisen,interneRotationsprogrammeundexterne

AngebotekönnenalsniedrigschwelligerEinstiegdienen,umersteGenAI-Erfahrungenzusammeln.SowiebeiGenAIPrompt–einerTestumgebungzurNutzungvonOpen-Source-SprachmodellenfürBeschäftigteder

öffentlichenVerwaltung.11

6.FörderungdesAustauschsvonGenAI-Lösungen

ErsteGenAI-Lösungenwurdenbereitserfolgreichpilotiertundumgesetzt,etwain

FormvonChatbotszurBeantwortungvonBürgeranfragenundSynthesewerkzeugenfürFörderberichte.ZurzeiterfolgenEntwicklungundPilotierungvonLösungenmeist

dezentralineinzelnenEinrichtungen;erfolgsversprechendeAnwendungensindoftnichtbehördenübergreifendbekanntundkönnenkaumniedrigschwelliggeteiltwerden.Es

gilt,einenunkompliziertenundaufwandsarmenAustauschvonGenAI-Lösungenzuermöglichen,umMehrfachaufwändefürsehrähnlicheAnwendungsbedarfe

zuvermeiden.HierfürbietensichverschiedenetechnischeAnsätzean,zum

BeispieldieBereitstellungeinergemeinsamentechnischenPlattform,aufwelcherderCodevon

Anwendungsfällenausgetauschtwerdenkann.DenkbarwäreaucheinzentralesSystembeziehungsweiseeineWissensdatenbank,diebehördenübergreifendeTransparenzüberbestehendeAnwendungenschafftundsodenAustauschfördert.VermehrterAustauschvonfunktionalenLösungenkannaußerdemdenAufwandfürBetriebundWartungsenken,etwabeidertechnischenundrechtlichenPrüfungsowieZertifizierung.ÜberdiesfördertderAustauschvonfunktionalenundabgenommenenLösungendieEinhaltungvontechnischenund

regulatorischenStandards.

7.EtablierungeineseffektivenRisikomanagementsvonGenAI

DieNutzungvonGenAI-LösungenistmitRisikenverbunden.EinadäquatesRisiko-managementhilft,relevanteRisikenzuidentifizierenundgesamthaftzubewerten.VorteileundRisikenwerd