Ist ChatGPT ein Medizinprodukt?

Berlin -

ChatGPT besteht Prüfungen an Universitäten, kann ziemlich gut Texte schreiben und menschenähnlich kommunizieren. Seit der Einführung des Chatbots im November 2022 überschlagen sich die Spekulationen, welche Folgen die OpenAI-Technologie für die Gesellschaft haben wird. Was die Antworten des Bots in Gesundheitsfragen betrifft, kommt die Kanzlei Vorberg zu dem Schluss: „ChatGPT ist ein Medizinprodukt.“

In einem offenen Brief an das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) bitten die Vorberg-Anwälte die Behörde darum, „die Aktivitäten der Software im Bereich der Medizin im Wege der Aufsicht zu unterbinden und die notwendigen Maßnahmen zur Qualitätssicherung sicherzustellen“.

Die umfassend einsetzbare Software gebe auf entsprechende Fragestellungen auch Antworten zu allen medizinischen Themen, heißt es in dem offenen Brief an das BfArM. Selbst auf konkrete und individuelle diagnostische und therapeutische Fragen gebe ChatGTP detaillierte Antworten und konkrete Hilfestellungen und Anweisungen, mitunter auch Arzneimittelempfehlungen. „Unserer Rechtsauffassung nach fällt diese Software in Deutschland und in Europa unter die Regulation als Medizinprodukt“, so Vorberg.

ChatGPT könne zur Diagnose, Überwachung, Behandlung oder Vorbeugung von Krankheiten verwendet werden. Die Software liefere außerdem Informationen, die für Entscheidungen mit diagnostischen oder therapeutischen Zwecken herangezogen werden könnten. Die tatsächliche Funktionalität der KI zeige eine inkludierte medizinische Zweckgebung eindeutig auf. Nutzer:innen könnten die Antworten auf entsprechende Fragen nicht anders verstehen als „zweckorientierte medizinische Hilfestellungen“ im Sinne der Merkmale eines Medizinproduktes. „Die Funktionalität der Software geht dabei weit über eine einfache Suche hinaus“, so Vorberg.

Nach eigenen Aussagen der KI sei die Software in Europa nicht als Medizinprodukt zugelassen. Deshalb soll sich nun das BfArM einschalten.