Eine KI beantwortet meine Gesundheitsfrage: Was sollte ich vor dem Handeln prüfen?

Eine Antwort generativer KI kann klar und beruhigend klingen, ohne richtig zu sein. Die französische HAS erklärt, dass diese Tools wahrscheinliche Antworten erzeugen und Informationen erfinden können. Ein freundlicher Ton belegt nicht die Qualität des Rats.

Fragen Sie nach Quellen und öffnen Sie diese direkt. Prüfen Sie, ob die Quelle existiert, tatsächlich das vom Tool Behauptete aussagt und aktuell ist. Ein angezeigter Verweis reicht nicht: Das Tool kann auch eine Veröffentlichung erfinden.

Geben Sie möglichst keine Angaben weiter, die Sie oder nahestehende Personen identifizieren, etwa Name, Adresse, Geburtsdatum oder Aktennummer. Öffentlich zugängliche Tools gewährleisten nicht alle Vertraulichkeit, auch nicht in kostenpflichtigen Versionen.

Prüfen Sie auch den Zweck des Dienstes. Der Assistent im Ameli-Konto hilft beispielsweise bei Verwaltungsfragen und der Orientierung im Konto. Seine Nutzungsbedingungen verlangen, keine persönlichen oder medizinischen Daten einzugeben. Dieses Beispiel beschreibt nicht alle KI-Tools.

Bewahren Sie die Antwort und nützliche Links für das Gespräch mit der betreuenden Fachperson auf. Erklären Sie, was Sie beunruhigt oder widersprüchlich erscheint. Im Gespräch lässt sich eine vom Tool vorgeschlagene Annahme bestätigen, einordnen oder verwerfen.

Eine automatische Antwort ersetzt weder eine Beratung noch die für eine Diagnose nötigen Untersuchungen. Entscheiden Sie daraus nicht selbst, eine Behandlung zu beginnen, abzusetzen oder zu ändern. Lassen Sie erklären, welche Information für Ihre Situation gilt und was als Nächstes zu tun ist.