Wie menschen-zentrierte KI Vertrauen im Grantmaking schafft

KI ist für Fördermittelgebende keine unerreichbare Überlegung mehr; sie ist hier und jetzt in den Tools, die wir täglich verwenden, ohne Weiteres verfügbar. Von der Erstellung von Dokumenten und E-Mails bis hin zur Analyse von Anträgen und Berichten, in großem Umfang verändert KI die Arbeitsweise von Fördermittelmanagern und Geldgebern.

Die rasante Einführung intelligenter Technologien birgt jedoch neue und einzigartige Herausforderungen.

Bei guter Nutzung kann KI eine außergewöhnliche Unterstützung bieten, indem sie den Verwaltungsaufwand reduziert und den Förderteams hilft, schneller Erkenntnisse zu gewinnen. Bei schlechter Nutzung kann KI jedoch das Vertrauen untergraben, die Entscheidungsfindung verschleiern, sensible Daten an Dritte weitergeben und die Menschen von der guten Entscheidungsfindung distanzieren, die das Herzstück einer verantwortungsvollen Fördermittelvergabe ist.

Das Ziel der Einführung von KI sollte nicht darin bestehen, Förderentscheidungen zu automatisieren, sondern Fairness, Verantwortlichkeit und menschliche Aufsicht zu stärken. Für Fördermittelgebende ist die Art und Weise, wie KI eingesetzt wird, genauso wichtig wie die Frage, ob sie überhaupt eingesetzt wird.

Für Förderprogramme, die auf Verantwortlichkeit und Wirkung aufbauen, ist eine verantwortungsvolle, menschenzentrierte Einführung von KI von großer Bedeutung.

Die Herausforderungen: Datenschutz, Programmintegrität und Vertrauen der Gemeinschaft

Der Aufstieg der KI hat verständlicherweise Bedenken hinsichtlich des Datenschutzes, der Sicherheit und der Transparenz geweckt – insbesondere bei der Fördermittelvergabe, wo routinemäßig sensible organisatorische, persönliche und finanzielle Informationen ausgetauscht werden.

Förderprogramme sind vertrauensbasierte Systeme. Die Bewerbende müssen darauf vertrauen können, dass ihre Informationen sicher behandelt werden und dass Entscheidungen fair, nachvollziehbar und auf menschlichem Urteilsvermögen beruhen. Wenn KI als undurchsichtig, automatisiert oder voreingenommen wahrgenommen wird, kann sie jahrelange Glaubwürdigkeit untergraben.

Unkontrollierte oder schlecht implementierte KI kann Risiken in den Lebenszyklus von Fördermitteln einbringen, darunter versteckte Voreingenommenheit, unklare Entscheidungslogik und übermäßiges Vertrauen in automatisierte Ergebnisse.

Für Fördermittelgebende besteht die Herausforderung darin, Effizienz zu gewinnen, ohne Verantwortlichkeit, Erklärbarkeit oder die menschliche Aufsicht zu verlieren, die verantwortungsvollen Förderentscheidungen zugrunde liegt.

Die Chance: menschenzentrierte KI, die unterstützt, nicht entscheidet

Bei guter Nutzung ersetzt KI nicht die menschliche Expertise, sondern unterstützt sie. Ein menschenzentrierter Ansatz für KI konzentriert sich darauf, Menschen dabei zu helfen, bessere Entscheidungen zu treffen, und nicht darauf, Entscheidungen in ihrem Namen zu treffen.

In einem Kontext des Fördermittelmanagements könnte dies Folgendes beinhalten:

• Administrator:innen dabei zu helfen, Anträge effizienter zu kategorisieren und zu prüfen
• Gutachtende durch die Zusammenfassung langer Vorschläge oder Fortschrittsberichte zu unterstützen
• Fehlende Informationen oder Inkonsistenzen zu kennzeichnen, bevor die Bewertung beginnt

KI sollte nicht entscheiden, welche Projekte eine Förderung erhalten. Stattdessen sollte sie den manuellen Aufwand und die kognitive Belastung reduzieren, damit sich Gutachtende und Gremien auf das Wesentliche konzentrieren können: qualitative Prüfung, Diskussion, Berücksichtigung der Gleichstellung und Übereinstimmung mit den Programmzielen.

Good Grants wendet diese Philosophie an, indem es optionale KI-Funktionen in strukturierte, von Menschen geführte Arbeitsabläufe einbettet. Das Ergebnis ist Skalierung mit Kontrolle. Die Fördermittelgebenden bleiben rechenschaftspflichtig, die Gutachtenden bleiben Entscheidungsträger und Bewerbende erleben einen fairen und transparenten Prozess.

Hier wird erklärbare KI unerlässlich. Jede KI-gestützte Erkenntnis sollte verständlich, überprüfbar und anfechtbar sein. Wenn ein Förderteam nicht erklären kann, wie ein Tool ein Ergebnis unterstützt, sollte es nicht Teil des Förderprozesses sein.

Praktische Anwendungen: verantwortungsvolle KI in Aktion

Verantwortungsvolle KI beginnt mit einem klaren Zweck und klaren Grenzen.

Stellen Sie sich zum Beispiel vor, dass ein nationales Förderprogramm mehr als 1.500 Anträge in einer Förderrunde erhält. Administrator:innen verwenden KI-gestützte Tools, um die Vollständigkeit der Einreichungen, die erforderlichen Anhänge und ungewöhnlich kurze Antworten vorab zu prüfen. Das System hebt potenzielle Probleme hervor, bewertet, ordnet oder priorisiert die Anträge jedoch nicht.

Die Gutachtenden erhalten saubere, standardisierte Anträge zusammen mit optionalen, KI-generierten Zusammenfassungen, die deutlich als Unterstützungsmaterial gekennzeichnet sind. Die Gutachtenden können diese Zusammenfassungen jederzeit ignorieren, bearbeiten oder anfechten und jederzeit auf den Originalinhalt zurückgreifen. Alle Bewertungen und Förderempfehlungen bleiben vollständig von Menschen geführt.

Das Ergebnis:

• Reduzierter administrativer Arbeitsaufwand
• Schnellere, fokussiertere Bewertung
• Verbesserte Konsistenz ohne Beeinträchtigung des professionellen Urteilsvermögens

Dies ist verantwortungsvolle generative KI in der Praxis: unterstützend, transparent und optional.

(Weitere Beispiele für KI-Eingabeaufforderungen für Good Grants!)

Tipps für die Einführung von verantwortungsvoller, erklärbarer KI in der Fördermittelvergabe

Fördermittelgebende müssen keine KI-Experten sein, um intelligente Technologie verantwortungsvoll einzusetzen. Eine Handvoll Kernprinzipien reichen schon aus.

1. Definieren Sie, was KI kann und was nicht
Seien Sie explizit. KI sollte beispielsweise keine Leistungen bewerten, Anträge einstufen oder Förderergebnisse bestimmen. Dokumentieren Sie die Grenzen intern und kommunizieren Sie sie klar an Gutachtende und Stakeholder.

2. Beziehen Sie den Menschen mit ein
Jedes KI-gestützte Ergebnis sollte von einer Person überprüfbar, bearbeitbar und ablehnbar sein. Die menschliche Aufsicht bleibt für alle Entscheidungen von zentraler Bedeutung.

3. Priorisieren Sie die Erklärbarkeit
Wählen Sie KI-Tools, die Klarheit und Transparenz bieten. Wenn Sie nicht erklären können, wie ein Ergebnis generiert wurde, hat es in einem Umfeld mit hohen Einsätzen nichts zu suchen.

4. Kommunizieren Sie offen mit Ihrem Bewertungsteam
Transparenz schafft Vertrauen. Lassen Sie Gutachtende wissen, wann KI eingesetzt wird, wie sie sie unterstützt und wie sie die Kontrolle behalten. Benötigen Sie einen Rahmen? Sehen Sie sich die Richtlinien des UK Information Commissioner’s Office zur Erklärung von Entscheidungen an, die mit KI getroffen wurden.

5. Fangen Sie klein an und messen Sie die Wirkung
Führen Sie KI in risikoarmen Bereichen wie administrativen Kontrollen oder der Unterstützung bei der Berichterstattung ein. Bewerten Sie die Ergebnisse, bevor Sie ihre Rolle ausweiten.

Verantwortungsvolle, menschenzentrierte KI

Wenn sie gut gemacht ist, bewirkt verantwortungsvolle KI mehr als nur Zeitersparnis; sie stärkt das Vertrauen. Die Bewerbende vertrauen darauf, dass ihre Vorschläge fair geprüft werden. Die Gutachtenden fühlen sich unterstützt und nicht ersetzt. Die Fördermittelmanager gewinnen Klarheit, Konsistenz und Kontrolle.

In Good Grants sind KI-Funktionen optional und werden vom Menschen gesteuert. Die Fördermittelgebenden entscheiden, ob sie aktiviert werden sollen, wie sie eingesetzt werden und behalten die volle Kontrolle – alles in einer sicheren Umgebung, die zum Schutz der Programmdaten und des Vertrauens der Gemeinschaft entwickelt wurde.

Wenn der Mensch die Kontrolle über intelligente Technologie behält, werden die Menschen in die Lage versetzt, Förderentscheidungen zu treffen, die wirklich etwas bewirken und die Wirkung vorantreiben.