Herausforderungen der KI-gestützten Patientenkommunikation im Gesundheitswesen

Herausforderungen der KI-Integration im Gesundheitswesen: Eine Fallstudie aus Doncaster

Die Integration künstlicher Intelligenz (KI) in verschiedene Sektoren verspricht Effizienzsteigerungen und optimierte Prozesse. Besonders im Gesundheitswesen werden KI-basierte Lösungen zur Entlastung des Personals und zur Verbesserung des Patientenservices erprobt. Ein aktueller Fall aus Doncaster, Großbritannien, beleuchtet jedoch die komplexen Herausforderungen, die mit der Implementierung solcher Technologien einhergehen können, insbesondere wenn es um die direkte Kommunikation mit Patienten geht.

Der Fall Judith Butterfield: Wenn KI nicht versteht

Judith Butterfield, eine 71-jährige Patientin, die sich von einem Schlaganfall erholte, sah sich kürzlich mit erheblichen Schwierigkeiten konfrontiert, als sie versuchte, über ein KI-gesteuertes Rezeptionssystem namens EMMA einen Arzttermin zu vereinbaren. Nach ihrem Schlaganfall im Januar, der ihre Sprachfähigkeit beeinträchtigte und die Beweglichkeit ihrer rechten Körperseite einschränkte, versuchte Frau Butterfield fünfmal, die KI-Rezeption ihrer Hausarztpraxis in Armthorpe bei Doncaster zu nutzen. Ihre Bemühungen, einen Termin zu buchen, blieben erfolglos, da das System ihre Sprache nicht verstehen konnte.

Frau Butterfield äußerte sich „verärgert und frustriert“ über diese Erfahrung. Sie betonte, dass die KI sie nicht verstand, selbst als sie versuchte, ihren Namen zu wiederholen. Ein menschlicher Gesprächspartner hätte in einer solchen Situation nach einer Buchstabierung fragen können, die KI jedoch brach die Verbindung ab. Die Anweisung des Systems, das Telefon nicht im Freisprechmodus zu verwenden, stellte für sie eine zusätzliche Hürde dar, da sie das Telefon mit ihrer linken Hand halten und die Tastatur mit ihrer rechten, beeinträchtigten Hand bedienen musste.

Diese Erfahrungen führten dazu, dass Frau Butterfield die Arztpraxis wechselte. Sie fand in einer anderen Praxis, der Burns Practice in Doncaster, einen Service, der ihren Bedürfnissen besser entsprach, mit menschlichen Rezeptionisten, die sie als „sehr gut, freundlich und hilfsbereit“ beschrieb.

Die Rolle von EMMA und ähnlichen Systemen

Das KI-System EMMA wurde in vielen medizinischen Einrichtungen landesweit eingesetzt, um lange Wartezeiten am Telefon zu vermeiden und die Effizienz zu steigern. Es sollte Patienten die Terminbuchung erleichtern. Die Erfahrungen von Frau Butterfield sind jedoch kein Einzelfall. Berichte der Gesundheitsaufsichtsbehörde Healthwatch in Rotherham weisen darauf hin, dass KI-Rezeptionisten nicht immer gut auf regionale Akzente oder Sprachbehinderungen reagieren. Dies führt zu „digitaler Exklusion und Kommunikationsproblemen“ für bestimmte Patientengruppen.

Die Praxismanagerin der ASA-Praxis in Armthorpe, Claire Oxley, bestätigte, dass der EMMA-Service in ihrer Praxis außer Betrieb genommen wurde und nicht mehr verwendet wird. Sie bedauerte die Schwierigkeiten, die Frau Butterfield erlebt hatte, und versicherte, dass die Praxis nun mehr menschliches Rezeptionspersonal eingestellt habe, um den Service für die Patienten zu verbessern.

Ein Sprecher von QuantumLoopAI, dem Unternehmen hinter dem EMMA-System, äußerte ebenfalls Bedauern über die Erfahrungen der Patientin. Das Unternehmen betonte, dass niemand die Praxis wechseln sollte, um gehört zu werden, und bot an, den Vorfall zu untersuchen. Sie wiesen darauf hin, dass Praxen, die EMMA nutzen, eine „Prioritätsweiterleitung“ einrichten können, die es Patienten ermöglicht, bei Bedarf direkt mit einem menschlichen Empfangsteam zu sprechen.

Implikationen für die B2B-Anwendung von KI

Der Fall aus Doncaster verdeutlicht mehrere kritische Aspekte für Unternehmen, die KI-Lösungen im B2B-Bereich entwickeln und implementieren, insbesondere in Sektoren mit direktem Kunden- oder Patientenbezug:

• Barrierefreiheit und Inklusion: KI-Systeme müssen so konzipiert sein, dass sie eine breite Palette menschlicher Ausdrucksformen verstehen können, einschließlich unterschiedlicher Akzente, Dialekte und Sprachbeeinträchtigungen. Ein Mangel an Inklusivität kann zu Frustration bei den Nutzern und zum Scheitern der Technologie führen.
• Menschliche Schnittstelle: Auch wenn KI die Effizienz steigern kann, ist es entscheidend, eine nahtlose Übergabe an menschliches Personal zu gewährleisten, wenn die KI an ihre Grenzen stößt. Die Möglichkeit, jederzeit mit einem Menschen zu sprechen, ist in sensiblen Bereichen wie dem Gesundheitswesen unerlässlich.
• Trainingsdaten und Modellentwicklung: Die Qualität und Vielfalt der Trainingsdaten sind entscheidend für die Leistungsfähigkeit von KI-Sprachmodellen. Systeme, die nicht ausreichend mit verschiedenen Sprachmustern trainiert wurden, werden Schwierigkeiten haben, diese zu verarbeiten.
• Akzeptanz und Vertrauen: Negative Erfahrungen können das Vertrauen in KI-Systeme untergraben und die Akzeptanz neuer Technologien behindern. Eine sorgfältige Implementierung und kontinuierliche Verbesserung sind daher unerlässlich.
• Regulatorische und ethische Überlegungen: Die Entwicklung und der Einsatz von KI im Gesundheitswesen müssen auch ethische Richtlinien und regulatorische Anforderungen berücksichtigen, die den Schutz und die bestmögliche Versorgung der Patienten gewährleisten.

Fazit

Der Fall von Judith Butterfield in Doncaster ist ein prägnantes Beispiel dafür, dass die technologische Leistungsfähigkeit von KI-Systemen allein nicht ausreicht. Es bedarf einer tiefgehenden Betrachtung der Nutzerbedürfnisse, der Kontextfaktoren und der Möglichkeit, menschliche Interaktion dort zu ermöglichen, wo sie unerlässlich ist. Für Unternehmen, die KI-Lösungen anbieten, bedeutet dies eine Verpflichtung zu umfassenden Tests, zur Berücksichtigung von Barrierefreiheit und zur Schaffung flexibler Systeme, die den Menschen in den Mittelpunkt stellen. Nur so kann das volle Potenzial der KI verantwortungsvoll und zum Nutzen aller entfaltet werden.

Bibliography

• BBC News. (2026, 26. August). AI receptionist could not understand me, says Doncaster stroke patient. Abgerufen von https://www.bbc.co.uk/news/articles/c4gql3gz9z7o
• BBC News. (2026, 19. August). Rotherham patients say AI GP receptionist can't understand them. Abgerufen von https://www.bbc.co.uk/news/articles/c141dn3d26do
• AOL. (2026, 26. August). 'AI receptionist could not understand me after stroke'. Abgerufen von https://www.aol.co.uk/articles/ai-receptionist-could-not-understand-051420000.html
• Digital Trends. (2026, 26. August). AI receptionists seem like a dangerous idea after a patient reveals it failed to understand her request. Abgerufen von https://www.digitaltrends.com/computing/ai-receptionists-seem-like-a-dangerous-idea-after-a-patient-reveals-it-failed-to-understand-her-request/
• Pulse Today. (2026, 24. August). AI GP receptionists 'do not respond well' to regional accents or speech impediments. Abgerufen von https://www.pulsetoday.co.uk/news/clinical-areas/elderly-care/ai-gp-receptionists-do-not-respond-well-to-regional-accents-or-speech-impediments/
• The Guardian. (2026, 20. August). Frustrated GP patients hang up as Yorkshire accent baffles AI receptionist. Abgerufen von https://www.theguardian.com/society/2026/aug/20/yorkshire-rotherham-ai-gp-receptionist-cannot-understand-accent
• Futurism. (2026, 22. August). Patients Are Skipping Going to the Doctor Because AI "Receptionists" Can't Understanding What They're Saying. Abgerufen von https://futurism.com/artificial-intelligence/patients-skipping-doctor-ai-receptionist