Experte warnt vor KI als medizinischem Ratgeber: „Große Vorsicht geboten“
Immer mehr Menschen suchen medizinischen Rat außerhalb klassischer Arztpraxen – eine Entwicklung, die Fachleute mit Sorge betrachten. Dr. Karsten Braun, Vorsitzender der Kassenärztlichen Vereinigung Baden-Württemberg, äußert im Gespräch mit unserer Redaktion deutliche Bedenken gegenüber neuen Formen der Gesundheitsberatung durch Künstliche Intelligenz.
ChatGPT Health: US-Anwendung mit unklarem Nutzen für Deutschland
Während in den USA bereits ChatGPT Health als spezielle App für medizinische Fragen verfügbar ist, bleibt diese Anwendung in Deutschland bisher nicht zugänglich. Die Software verspricht, Gesundheitsdaten aus Fitness-Apps oder elektronischen Patientenakten zu verknüpfen und verständlich aufzubereiten. Doch genau hier beginnen die Probleme, wie Dr. Braun erklärt.
„Wir haben unsere Erfahrungen in den Praxen ja schon jetzt mit Dr. Google und ähnlichen Angeboten“, sagt der Mediziner. „Oft berichten Kollegen, dass dadurch sehr schnell Überängstlichkeiten entstehen oder Fehldiagnosen gestellt werden, die unnötige Arzt-Patienten-Kontakte aus unberechtigter Sorge herbeiführen können.“
Datenschutz als zentrales Problemfeld
Besonders kritisch bewertet Dr. Braun die Datenschutzaspekte solcher KI-Anwendungen. „Die Bedenken bestehen insbesondere hinsichtlich des Datenschutzes“, betont er. „Wir haben es in diesen Fällen mit sehr sensiblen Gesundheitsdaten zu tun.“
Der Experte warnt davor, diese Informationen US-amerikanischen Techfirmen anzuvertrauen: „Man muss sich ganz klar darüber im Klaren sein, dass Gesundheitsdaten hochinteressant sind für Industrie, für Verkauf, für Versicherungen.“
Wirtschaftliche Interessen verzerren möglicherweise Informationen
Laut Dr. Braun besteht die Gefahr, dass Gesundheitsdaten aus wirtschaftlichem Interesse ausgenutzt werden und die Inhalte der Künstlichen Intelligenz dadurch verzerrt sein könnten. „Selbst wenn Anbieter versichern, die Informationen dafür nicht zu nutzen, ist es natürlich schon sehr fraglich, ob nicht zumindest die Verlockung groß ist“, erklärt er.
Zur Veranschaulichung nennt er ein Beispiel: „Wenn Sie sich heute über Erkältung bei Wikipedia erkundigen, wird Ihnen vielleicht morgen Werbung für Erkältungsmittel angezeigt. Das bietet natürlich die Gefahr von verzerrten und aus anderen Interessen gesteuerten Informationen in diesen Systemen.“
KI als Ergänzung, nicht als Ersatz für ärztliche Beratung
Trotz seiner Bedenken sieht Dr. Braun durchaus sinnvolle Anwendungsmöglichkeiten für KI in der Medizin. „Diese Anwendungen werden nie den Arzt-Patienten-Kontakt ersetzen“, stellt er klar. „Sie sind aber gegebenenfalls ein sinnvolles Tool und werden ja im Übrigen auch in unseren Praxen bereits eingesetzt und werden dort eine zunehmende Bedeutung bekommen.“
Sein Rat an Patienten bleibt jedoch eindeutig: „Was ich Patienten im momentanen Status raten würde, wäre große Vorsicht.“ Der Mediziner betont, dass KI-Systeme zwar hilfreiche Werkzeuge sein können, aber niemals die fachkundige Einschätzung eines menschlichen Arztes ersetzen sollten.
Die Diskussion um KI in der Gesundheitsberatung zeigt, wie wichtig ein ausgewogener Umgang mit neuen Technologien ist – besonders wenn es um sensible persönliche Daten und medizinische Entscheidungen geht.
