Defence AI: Klarheit unter Unsicherheit
KI kann umfangreiche Informationen ordnen und Zusammenhänge sichtbar machen. Im Verteidigungsumfeld entscheidet jedoch die Qualität der gesamten Entscheidungskette über ihren Nutzen: Was ist bekannt, was bleibt unsicher, und wer darf auf dieser Grundlage handeln?
Auf einen Blick
- 01
Jede wesentliche Aussage braucht eine nachvollziehbare Herkunft und einen erkennbaren Gültigkeitsbereich.
- 02
Menschliche Verantwortung setzt Zeit, Information und tatsächliche Eingriffsmöglichkeiten voraus.
- 03
Einsatzreife muss für einen konkreten Zweck und seine Betriebsbedingungen nachgewiesen werden.
Mit einer klar begrenzten Entscheidung beginnen
Ein sinnvoller Ausgangspunkt ist eine genau beschriebene Unterstützungsaufgabe, etwa die Prüfung von Wartungsunterlagen oder die Zusammenstellung von Informationen für eine Beschaffungsentscheidung. Welche Angaben fehlen heute? Welche Fehler kosten Zeit? Welche Entscheidung bleibt bei einer verantwortlichen Person? Solche Fragen machen den erwarteten Nutzen prüfbar und bestimmen, welche Daten das System überhaupt benötigt.
Die überarbeitete KI-Strategie der NATO nennt unter anderem Verantwortlichkeit, Nachvollziehbarkeit, Zuverlässigkeit und Steuerbarkeit als Grundsätze. Für die Gestaltung einer Anwendung lässt sich daraus eine konkrete Aufgabe ableiten: Zweck, Nutzerkreis, zulässige Ausgaben und Grenzen müssen zusammenpassen. Eine überzeugende Vorführung mit ausgewählten Dokumenten beantwortet noch nicht, ob diese Bedingungen im vorgesehenen Arbeitsalltag erfüllt sind.
Quellen: NATO: Revised Artificial Intelligence Strategy (2024)
Die Belegkette einer verantwortbaren Entscheidung
Quelle · Zeitpunkt · Verlässlichkeit
Kontext · Widerspruch · Unsicherheit
Optionen · Verantwortung · Freigabe
Unterschiedliche Wissensstände bleiben sichtbar.
Die Herkunft bis zur Aussage erhalten
Eine Zusammenfassung sollte erkennen lassen, auf welchen Unterlagen ihre wesentlichen Aussagen beruhen, wann diese entstanden sind und welche Verarbeitung dazwischenliegt. Besonders wichtig ist der Umgang mit Widersprüchen. Wiederholen mehrere Dokumente dieselbe ursprüngliche Meldung, entstehen dadurch keine unabhängigen Bestätigungen. Ein gut gestaltetes System hält diese Abhängigkeit sichtbar, statt Wiederholung als zusätzliche Gewissheit erscheinen zu lassen.
Auch Unsicherheit braucht eine verständliche Darstellung. Fehlende Daten, widersprüchliche Quellen und eine unsichere Modellantwort sind unterschiedliche Probleme und verlangen unterschiedliche nächste Schritte. Eine scheinbar präzise Prozentzahl hilft nur, wenn ihre Bedeutung für die jeweilige Aufgabe überprüft wurde. Häufig ist die nützlichere Ausgabe eine klar benannte Informationslücke mit Verweis auf die betroffene Schlussfolgerung.
Quellen: NATO: Revised Artificial Intelligence Strategy (2024)NIST: AI Risk Management Framework 1.0 (2023)
Menschliche Verantwortung praktisch ermöglichen
Verantwortung wird im Arbeitsablauf konkret. Eine prüfende Person muss die entscheidenden Belege sehen, Alternativen nachvollziehen und eine Empfehlung ablehnen oder zurückstellen können. Dazu gehören ausreichende Zeit und die Befugnis, zusätzliche Prüfung anzufordern. Eine Freigabe verliert ihren Wert, wenn die Oberfläche nur eine fertige Antwort präsentiert und abweichende Einschätzungen unnötig erschwert.
Für ein beispielhaftes System zur Dokumentenprüfung könnte die Zuständigkeit so aussehen: Die KI markiert Unstimmigkeiten und erstellt einen begründeten Entwurf. Fachverantwortliche beurteilen die Sachlage; Änderungen an verbindlichen Unterlagen erfolgen erst im vorgesehenen Freigabeprozess. Das Protokoll verbindet die verwendeten Informationen, die Systemversion, den Vorschlag und die menschliche Entscheidung. So bleibt später verständlich, welche Grundlage zum Entscheidungszeitpunkt tatsächlich vorlag.
Quellen: NATO: Revised Artificial Intelligence Strategy (2024)NIST: AI Risk Management Framework 1.0 (2023)
Einsatzreife anhand schwieriger Fälle prüfen
Eine belastbare Erprobung umfasst typische Aufgaben sowie unvollständige, veraltete und widersprüchliche Eingaben. Ebenso wichtig sind Nutzerwechsel, geänderte Zugriffsrechte und der Ausfall einer Datenquelle. Vorab muss feststehen, wann das System eine Aussage zurückhalten, eine Prüfung anfordern oder auf einen einfacheren Arbeitsablauf wechseln soll. Die Akzeptanzkriterien beziehen sich auf das Gesamtsystem einschließlich seiner Nutzer.
Der NIST AI Risk Management Framework betont die Bewertung im vorgesehenen Anwendungskontext und die Dokumentation von Grenzen. Daraus folgt für ein Vorhaben eine klare Belegkette: definierter Zweck, nachvollziehbarer Test, dokumentiertes Ergebnis und begrenzte Freigabe. Nach Änderungen an Modellen, Daten oder Abläufen ist zu prüfen, welche Nachweise weiterhin gelten. Eine verantwortbare Einführung macht den Umfang des Geprüften ebenso sichtbar wie offene Fragen.
Ihr nächster Schritt
Einen klaren Prüfrahmen festlegen
Besprechen Sie mit uns eine begrenzte Unterstützungsaufgabe, ihre Datenbasis und die erforderlichen Nachweise.
Vorhaben besprechenQuellen & Vertiefung
- NATO: Revised Artificial Intelligence Strategy (2024)
Offizielle Grundsätze für verantwortliche KI sowie Anforderungen an Datenqualität und Erprobung. Die Anwendungsbeispiele im Artikel sind illustrative Gestaltungsüberlegungen.
- NIST: AI Risk Management Framework 1.0 (2023)
Allgemeiner Rahmen zu Kontext, Zuverlässigkeit, menschlicher Verantwortung und Bewertung. Keine Zertifizierung oder Freigabe eines konkreten Systems.