KI-Ethik- und Sicherheitsrichtlinie

MOM's Bridge nutzt künstliche Intelligenz verantwortungsvoll. Diese Seite erklärt, wie KI eingesetzt wird, welche Schutzmaßnahmen bestehen und welche Einschränkungen es gibt.

KI-Tool und technische Details

KI-Modell	Google Gemini 2.5 Flash Lite (`gemini-2.5-flash-lite`)
SDK / Integration	`google-generativeai` Python SDK
Fähigkeiten	Textbasierte Symptomanalyse, multimodale Bildanalyse, kontextuelle Übersetzung ins Koreanische mit Schwangerschaftswochenbewusstsein
Ausgabeformat	Strukturiertes JSON mit empathischer Antwort (max. 50 Wörter), Komfortmaßnahmen (max. 20 Wörter) und koreanischer Arztzusammenfassung. Antworten werden validiert und bei Überschreitung gekürzt.

Wie wir KI-Prompts verwenden

Jede KI-Interaktion verwendet sorgfältig gestaltete Prompts, die die Schwangerschaftswoche für den medizinischen Kontext einbeziehen.

Symptom-Chat: Die KI erhält die Schwangerschaftswoche und die Nachricht der Benutzerin und antwortet mit einer kurzen unterstützenden Nachricht im strukturierten JSON-Format.
Fotoanalyse: Die KI erhält die Schwangerschaftswoche, die Frage und das hochgeladene Foto zur Analyse im Kontext der Schwangerschaftsgesundheit.
Sprache / Übersetzung: Die KI übersetzt die gesprochene oder getippte Nachricht ins Koreanische mit Bewusstsein für schwangerschaftsspezifisches medizinisches Vokabular.

Datenschutzmaßnahmen

Was wir zu Ihrem Schutz tun

Bei der Registrierung ist eine ausdrückliche Einwilligung erforderlich, bevor Daten gespeichert werden
Sie können alle gespeicherten KI-Interaktionen auf der Seite Meine Daten einsehen
Sie können einzelne Chat-/Foto-/Sprachaufnahmen jederzeit löschen
Die vollständige Kontolöschung entfernt alle Daten in allen Tabellen kaskadierend
Sie können alle persönlichen Daten jederzeit als JSON exportieren
Hochgeladene Fotos verwenden zufällige UUID-Dateinamen ohne personenbezogene Informationen

Wichtige Offenlegungen

Ihre Nachrichten und Fotos werden zur Verarbeitung an Google Gemini AI gesendet
Einmal an Googles KI gesendete Daten können nicht aus deren Systemen zurückgerufen oder gelöscht werden
Google OAuth-Anmeldung teilt Ihre E-Mail und Ihr Basisprofil mit unserer App

Bewusstsein und Minderung von Voreingenommenheit

KI-Modelle können Voreingenommenheiten aus ihren Trainingsdaten widerspiegeln. Wir ergreifen folgende Maßnahmen zur Minderung:

Mehrsprachige Gleichberechtigung: Alle 11 unterstützten Sprachen erhalten die gleiche KI-Prompt-Struktur und -Qualität.
Neutrales Prompting: KI-Prompts enthalten keine demografischen Daten. Die KI erhält nur die Schwangerschaftswoche und die Symptombeschreibung.
Fallback-Konsistenz: Wenn die KI nicht verfügbar ist, bieten schlüsselwortbasierte Antworten unabhängig von der Sprache die gleiche Versorgungsqualität.
Gesundheitsdatenquellen: Gemeinschaftsstatistiken verwenden nationale CDC-PRAMS-Daten, die vielfältige Bevölkerungsgruppen repräsentieren.

Einschränkungen und Fehlerbehandlung

MOM's Bridge ist KEIN Medizinprodukt und stellt KEINE medizinischen Diagnosen. Konsultieren Sie immer einen qualifizierten Gesundheitsdienstleister.

Bekannte Einschränkungen

KI-Antworten dienen nur der Information und sollten niemals professionelle medizinische Beratung ersetzen
KI kann fehlerhafte oder irreführende Informationen generieren (Halluzination). Antworten werden auf kurze Formate beschränkt, um dieses Risiko zu minimieren.
Übersetzungen erfassen möglicherweise nicht alle medizinischen Nuancen. Die koreanische Arztzusammenfassung sollte von einem Arzt überprüft werden.
Die Fotoanalyse kann keine klinische Untersuchung ersetzen. Die KI kann visuelle Symptome übersehen oder falsch identifizieren.

Integrierte Sicherheitsmechanismen

Alle KI-Antworten werden als strukturiertes JSON validiert. Fehlerhafte Antworten werden abgelehnt.
Empathische Antworten werden bei 300 Zeichen und Komfortmaßnahmen bei 120 Zeichen gekürzt.
Bei Ausfall der KI-API wechselt das System zu schlüsselwortbasierten Antworten statt einen Fehler anzuzeigen.
Die Erkennung von Notfall-Schlüsselwörtern arbeitet unabhängig von der KI mit einer lokalen Datenbank in 6 Sprachen.
Alle KI-Interaktionen werden serverseitig für Überwachung und Fehlerbehebung protokolliert.
Risikohinweise der täglichen Überwachung verwenden deterministische Regeln (Schwellenwerte für Trittezählung, ACOG 5-1-1 Wehenmuster), niemals KI-Vorhersagen, um eine konsistente und zuverlässige Sicherheitsberatung zu gewährleisten.

Verbindung zu realen Ressourcen

MOM's Bridge ist darauf ausgelegt, Benutzerinnen mit realen Gesundheitsressourcen zu verbinden, nicht sie zu ersetzen:

Notfall-Warnsystem: Erkennt Notfall-Schlüsselwörter in 6 Sprachen und löst GPS-lokalisierte Warnungen mit 10-Sekunden-Countdown aus.
Arztfertige Zusammenfassungen: Jede KI-Interaktion erstellt eine koreanische klinische Zusammenfassung, die direkt dem Arzt gezeigt werden kann.
Evidenzbasierte Statistiken: Vergleiche der Gemeinschaftsgesundheit verwenden echte CDC-PRAMS-Daten, keine KI-generierten Zahlen.
Medizinische Haftungsausschlüsse: Jede Chat-Seite zeigt eine deutliche Warnung, dass KI kein Ersatz für medizinische Versorgung ist.
Tägliche Überwachung (Trittezähler und Wehentimer): Die Zählung der fetalen Bewegungen und das Timing der Wehen verwenden eine deterministische regelbasierte Risikobewertung (keine KI), gemäß den klinischen ACOG-Richtlinien. Drei Sicherheitshinweise sind immer sichtbar, und Arztzusammenfassungen können für Arztbesuche erstellt werden.

Bewertung und kontinuierliche Verbesserung

Unser KI-System wird durch folgenden Prozess bewertet und verbessert:

Prompts werden in allen 11 Sprachen getestet, um eine konsistente JSON-Ausgabestruktur sicherzustellen
Kürzungsgrenzen für Antworten wurden durch iteratives Testen bestimmt
Mock-Antworten dienen als Baseline-Vergleich zur Qualitätssicherung
Serverseitiges Logging verfolgt die Erfolgsraten beim Parsen von KI-Antworten
Die Persistenz von Benutzerdaten (SymptomLog) ermöglicht eine retrospektive Überprüfung der KI-Interaktionsqualität