Diesen Monat kündigten zwei der angesagtesten KI-Unternehmen in San Francisco einen großen Vorstoß im Gesundheitswesen an – Maßnahmen, die laut Experten nicht nur unvermeidlich, sondern auch zeitgemäß und mit hohem Risiko verbunden waren.

Diese KI-Konkurrenten – Anthropic und OpenAI, die Hersteller der weit verbreiteten großen Sprachmodelle Claude bzw. ChatGPT – stellten neue Tool-Suiten für Gesundheitsorganisationen und alltägliche Verbraucher vor. Diese Schritte spiegeln eine Veränderung in der Art und Weise wider, wie Patienten medizinische Beratung in Anspruch nehmen – Experten sind sich einig, dass sie gleichzeitig den Zugang zu Informationen erweitert und gleichzeitig neue Fragen zu Vertrauen und Kontrolle aufwirft.

Was diese Erweiterungen im Gesundheitswesen für Startups bedeuten könnten

Ein Investor wies darauf hin, dass die Ausbauten von Anthropic und OpenAI im Gesundheitswesen Start-ups im gesamten Gesundheitstechnologiemarkt dazu zwingen, neu zu bewerten, wo sie wirklich vertretbare Vorteile haben.

Kamal Singh, Senior Vice President bei WestBridge Capital, glaubt, dass Start-ups in den Bereichen Verbrauchergesundheit und Ernährung am anfälligsten seien, und sagt, dass diese Art von breiten, chatbasierten Plattformen wahrscheinlich zur Ware werden werden.

Startups, die Ernährungs- oder Wellnessberatung ohne tiefgreifende Spezialisierung anbieten, sehen sich nun mit geschwächten Wertversprechen konfrontiert – angesichts der massiven Verbreitung und gewohnheitsmäßigen Nutzung von Claude und ChatGPT, betonte er. Einige Beispiele sind Apps wie Noom, Fay und Zoe.

Andere werden wahrscheinlich isoliert bleiben – oder sogar verstärkt – je nachdem, wie robust ihre Modelle sind, sagte Singh. Seiner Ansicht nach werden Unternehmen, die sich auf spezialisierte klinische Bereiche wie die Behandlung chronischer Krankheiten konzentrieren, weitaus widerstandsfähiger gegenüber dem Eintritt großer Technologieunternehmen in diesen Bereich sein.

Diese Art von Unternehmen stützen sich auf umfassende Patientendaten, Längsschnitteinblicke und krankheitsspezifisches Fachwissen – Fähigkeiten, von denen wir immer noch nicht wissen, ob Allzweck-Technologieunternehmen in der Lage sein werden, diese in großem Maßstab zu reproduzieren, bemerkte Singh.

Er wies auch darauf hin, dass Pflegekoordination und Pflegemanagement Bereiche sind, in denen Startups einen Vorsprung behalten können, insbesondere wenn sie KI mit menschlichen Klinikern kombinieren. Anstatt direkt mit großen Sprachmodellen zu konkurrieren, ist Singh der Ansicht, dass Startups sich durch die Priorisierung von Ergebnissen und die Bereitstellung von End-to-End-Pflegeerlebnissen von der Konkurrenz abheben sollten.

Ein weiteres aufkommendes Schlachtfeld ist die KI-gesteuerte Grundversorgung. Singh sagte, diese Kategorie sei zwischen Verbraucherwohlbefinden und Spezialmedizin angesiedelt – hochentwickelt genug, um einer vollständigen Kommerzialisierung zu widerstehen, aber immer noch anfällig für den Druck beliebter KI-Plattformen.

„Auf der Startup-Seite gibt es noch keine wirklichen Gewinner – es gibt ein paar Unternehmen wie Counsel Health, die sich diesem Ziel nur langsam nähern, aber diese Ankündigungen sorgen dort für eine sehr interessante Dynamik“, erklärte er.

Counsel Health ist ein virtuelles Pflegeunternehmen, das KI mit menschlichen Ärzten kombiniert, um Benutzern schnelle, personalisierte medizinische Beratung zu bieten.

Um zu überleben, sagte Singh, benötigen Start-ups in diesem Bereich kreative Geschäftsmodelle, einschließlich hybrider Ansätze, die echte Kliniker mit KI-gestützter Anleitung integrieren.

Der unvermeidliche Aufstieg der KI als Eingangstür des Gesundheitswesens

Es war unvermeidlich, dass OpenAI und Anthropic ihre Präsenz im Gesundheitswesen verstärken würden. Trends in der Benutzeraktivität machten dies unvermeidlich – Hunderte Millionen Menschen wandten sich jede Woche an ihre Chatbots, um ihre gesundheitsbezogenen Anfragen zu beantworten.

„Fast 5 % ihres Traffics beziehen sich auf das Gesundheitswesen. An einem Tag werden etwa 40 Millionen einzigartige Gesundheitsfragen von Benutzern gestellt. Angesichts dessen sieht es wirklich so aus, als wären sie im Gesundheitswesen tätig, und wenn sie also so viel Traffic auf ihren Websites sehen, die sich auf das Gesundheitswesen beziehen, mussten sie ihre Kapazitäten in diesem Bereich erweitern“, erklärte Saurabh Gombar, Experte für KI im Gesundheitswesen.

Was haben Anthropic und OpenAI eigentlich eingeführt?

OpenA hat zwei neue Angebote auf den Markt gebracht. Eine davon ist ChatGPT Health, ein spezielles Gesundheitserlebnis innerhalb von ChatGPT, das die persönlichen Gesundheitsinformationen eines Benutzers mit der KI des Unternehmens kombiniert, mit dem Versprechen, Menschen dabei zu helfen, ihre Gesundheit und ihr Wohlbefinden besser zu verwalten. Das andere ist OpenAI for Healthcare, eine Suite von KI-Tools, die Gesundheitsdienstleistern dabei helfen soll, administratives Burnout zu reduzieren und die Pflegeplanung zu verbessern.

OpenAI gab diesen Monat außerdem die Übernahme des Krankenakten-Startups Torch bekannt – ein Deal im Wert von angeblich 100 Millionen US-Dollar.

Anthropic folgte mit einer eigenen Gesundheitsspritze und stellte eine neue Suite von Claude-Tools vor. Das Unternehmen führt neue Agentenfunktionen für Aufgaben wie Vorabgenehmigung, Gesundheitsabrechnung und Arbeitsabläufe bei klinischen Studien ein und ermöglicht seinen kostenpflichtigen Benutzern außerdem die Verbindung und Abfrage ihrer persönlichen Krankenakten, um Zusammenfassungen, Erklärungen und Anleitungen für Arztbesuche zu erhalten.

Gombar, der oben erwähnte KI-Experte, glaubt, dass große Sprachmodelle zur neuen „Eingangstür“ zur Gesundheitsversorgung werden.

„Die LLMS werden jetzt zur Eingangstür für medizinische Beratung und Behandlungsmöglichkeiten, und der eigentliche Anbieter wird zur zweiten Meinung. Denn mit Chatbots lässt sich einfacher interagieren, sie sind kostenlos und man muss sich nicht um sie kümmern“, erklärte Gombar.

Gombar ist klinischer Ausbilder bei Stanford Health Care sowie Chief Medical Officer und Mitbegründer von Atropos Health, einem KI-Startup im Gesundheitswesen, das am Krankenbett reale Beweise generiert. In seinen Augen sind Technologieunternehmen, die öffentlich zugängliche Chatbots entwickeln, bereits im Gesundheitsgeschäft tätig, ob sie dies offiziell anerkennen oder nicht.

Dies könnte die Beziehung zwischen Arzt und Patient grundlegend verändern. Gombar stellte fest, dass Kliniker bereits feststellen, dass immer mehr Patienten auf der Grundlage von Chatbot-Ratschlägen bereits davon überzeugt sind, dass sie spezifische Tests oder Behandlungen benötigen.

Seiner Meinung nach haben traditionelle Anbieter nur begrenzte Kontrolle über diesen Wandel, da sich das Verbraucherverhalten offensichtlich rasant ändert. Nicht nur, dass die Nutzung von Chatbots wie ChatGPT und Claude in den letzten Jahren sprunghaft zugenommen hat, auch der Zugang zur Gesundheitsversorgung wird für die Amerikaner angesichts drastischer Kürzungen bei Medicaid und eines sich verschlimmernden Arbeitskräftemangels immer schwieriger.

Die Risiken von Chatbots in der Medizin

Der Aufstieg großer Sprachmodelle im Gesundheitswesen ist bereits in vollem Gange, aber das bedeutet nicht, dass damit keine Risiken verbunden sind. Ein intelligentes Softwareprogramm um medizinische Beratung zu bitten, ist etwas ganz anderes, als nach einem Rezept zu fragen – falsche Antworten können echten Schaden anrichten.

Traditionelle Gesundheitsdienstleister verfügen über Mechanismen zur Rechenschaftspflicht – etwa Regeln für ärztliche Kunstfehler, Prüfprotokolle und Haftungsprotokolle –, während Chatbots stark auf Haftungsausschlüsse angewiesen sind, die besagen, dass ihre Ergebnisse nicht als medizinischer Rat betrachtet werden sollten, betonte Gombar.

In der Praxis würden jedoch viele Nutzer Chatbot-Antworten als tatsächliche medizinische Beratung behandeln, oft ohne Rücksprache mit anderen Quellen oder deren Anbietern, fügte er hinzu.

Gombar hofft, dass Unternehmen wie Anthropic und OpenAI über Haftungsausschlüsse hinausgehen und mehr Verantwortung dafür übernehmen, wie ihre Tools mit medizinischen Informationen umgehen. Er würde sich wünschen, dass sie in Zukunft transparenter über die Grenzen ihrer Systeme informiert werden – einschließlich der Häufigkeit, mit der sie halluzinieren, wenn Antworten nicht auf starken Beweisen beruhen und wenn medizinische Beweise selbst unsicher oder unvollständig sind.

Er schlug außerdem vor, große Sprachmodelle zu entwerfen, um Unsicherheiten und Wissenslücken klarer zu kommunizieren, anstatt spekulative Antworten mit ungerechtfertigter Zuversicht zu präsentieren, sagte er.

Abgesehen von der Genauigkeit gibt es auch Bedenken hinsichtlich des Datenschutzes, da das wachsende Misstrauen der Verbraucher gegenüber Big-Tech-Unternehmen und deren Datenschutzpraktiken nach wie vor ein anhaltendes Problem darstellt.

Anthropic sagte, dass seine neuen Gesundheitsprodukte mit strengen Sicherheitsvorkehrungen in Bezug auf Benutzereinwilligung und Datenschutz entwickelt werden.

„Benutzer geben ihre ausdrückliche Zustimmung zur Integration ihrer Daten mit vollständigen Informationen darüber, wie Anthropic diese Daten in unserer Datenschutzrichtlinie für Verbrauchergesundheit schützt. Anthropic trainiert nicht mit Benutzergesundheitsdaten. Punkt. Wir schützen auch sensible Gesundheitsdaten vor der unbeabsichtigten Weitergabe an andere integrierte Modellkontextprotokolle, indem wir in Gesprächen, in denen integrierte Gesundheitsdaten besprochen werden, die Zustimmung des Benutzers zu jeder Integration verlangen. Benutzer können die Integration jederzeit in den Einstellungen trennen“, erklärte ein Anthropic-Sprecher in einer per E-Mail gesendeten Erklärung.

Bereits vor der Einführung von ChatGPT Health hatte OpenAI den Schutz von Benutzerdaten im gesamten ChatGPT aufgebaut, einschließlich der dauerhaften Löschung von Chats aus den Systemen von OpenAI innerhalb von 30 Tagen und der Schulung seiner Modelle, keine persönlichen Informationen aus Benutzerchats zu speichern, sagte ein Unternehmenssprecher in einer Erklärung.

Für sein neues Gesundheitsangebot für Verbraucher hat OpenAI mehr Verschlüsselungsschutzmaßnahmen hinzugefügt und die Chats isoliert, um Gesundheitsgespräche und Speicher geschützt und unterteilt zu halten. Gespräche in ChatGPT Health werden nicht zum Trainieren seiner Basismodelle verwendet, sagte der Sprecher.

Mit der neuen Plattform von OpenAI für Gesundheitsdienstleister haben Kunden die volle Kontrolle über ihre Daten. Wenn Ärzte beispielsweise Patienteninformationen eingeben, bleiben diese im sicheren Arbeitsbereich der Organisation und werden nicht für die Modellschulung verwendet.

Damit KI für Ärzte und Patienten funktioniert

Durch die Veröffentlichung von Tools sowohl für Verbraucher als auch für Gesundheitsdienstleister signalisiert OpenAI, dass es versteht, dass Verbraucher andere Bedürfnisse und Ziele haben als Krankenhäuser. Patienten wünschen sich allgemeine Beratung und Komfort, während Anbieter genaue, umsetzbare Informationen benötigen, die sicher in die Krankenakte integriert werden können, bemerkte Kevin Erdal, Senior Vice President für Transformations- und Innovationsdienste bei Nordic, einem Beratungsunternehmen für Gesundheit und Technologie.

Er empfahl Krankenhäusern, beim Einsatz neuer großer Sprachmodelle auf Schatten-Workflows zu achten.

„Ärzte verlassen sich möglicherweise informell auf von Patienten erstellte Zusammenfassungen oder KI-gestützte Interpretationen ohne klare Standards für die Validierung oder Dokumentation. Wenn niemand validiert, woher die von Patienten gemeldeten Informationen stammen, oder überwacht, wie diese Informationen überprüft, integriert oder abgelehnt werden, häuft sich stillschweigend das Risiko“, sagte Erdal.

Wenn es um die verbraucherorientierten Gesundheitstools von Anthropic und OpenAI gehe, bestehe das größte Risiko nicht in Fehlinformationen, sondern im fehlenden Kontext, bemerkte er.

„Kontext, Absicht und Argumentation können in einem Chat lebendig bleiben, während die klinische Akte nur das Ergebnis erfasst, was die Kontinuität der Versorgung und das Vertrauen zwischen Patient und Anbieter schwächt“, erklärte Erdal.

Diese Kontextlücke unterstreicht, warum verbraucherorientierte Chatbots für den Einsatz durch Ärzte ungeeignet sind.

Für Krankenhäuser und andere Anbieter ist Erdal der Ansicht, dass Integration die richtige Antwort auf den Aufstieg der verbraucherorientierten KI im Gesundheitswesen ist.

„Es wird so aussehen, als würden Gesundheitssysteme akzeptieren, dass diese Instrumente bereits existieren, und verantwortungsvolle Wege entwickeln, um ihre Ergebnisse zu absorbieren, ohne die Versorgung zu fragmentieren. Die Messlatte ist Kontinuität, und die Beziehung zwischen Patient und Leistungserbringer steht auf dem Spiel“, erklärte er.

Wenn verbraucherorientierte KI-Modelle Patienten dabei helfen, informierter und besser vorbereitet in die Gesundheitsversorgung zu gehen, ihre Anbieter dann aber nicht darauf vorbereitet sind, dies auf durchdachte oder bewusste Weise in das Gesundheitsgespräch zu integrieren, verbessert sich der Zugang zu Gesundheitsinformationen, während das Vertrauen sinkt, erklärte Erdal.

Auf einer tieferen Ebene spiegelt der Vorstoß von OpenAI und Anthropic im Gesundheitswesen einen umfassenderen Wandel in der Gesundheitsbranche wider.

Die Frage ist nicht mehr, ob KI Teil der Patientenreise wird – es ist klar, dass der Wandel bereits im Gange ist. Die eigentliche Frage ist, wer es kontrollieren wird, wer dafür verantwortlich sein wird und welchen Einfluss es auf Entscheidungen haben wird, die einst fest in der Hand von Klinikern lagen.

Experten sind sich einig, dass die Unternehmen, die sich anpassen – durch eine durchdachte Integration von KI, die Stärkung des Vertrauens und die Klärung der Verantwortung – zum Aufbau eines besser zugänglichen Gesundheitssystems beitragen können. Diejenigen, die dies nicht tun, werden möglicherweise zurückgelassen.

Foto: Pakorn Supajitsoontorn, Getty Images