Pennsylvania verschärft Regeln für KI-Chatbots gegen gefälschte Arztlizenzen
Amelie Franke
Pennsylvania verschärft Regeln für KI-Chatbots gegen gefälschte Arztlizenzen
Der Senat von Pennsylvania hat neue Vorschriften für den Umgang mit KI-Chatbots beschlossen. Die Regelungen zielen darauf ab, Nutzer besser zu schützen und Täuschungen durch künstliche Intelligenz zu verhindern. Besonders im Fokus stehen Plattformen, die falsche berufliche Qualifikationen vortäuschen – etwa gefälschte Arztlizenzen.
Die Maßnahmen kommen zu einer Zeit, in der immer mehr Menschen auf KI-Systeme für medizinische Ratschläge zurückgreifen. Experten warnen vor den Risiken solcher Praktiken, da die Fehlerquote bei Diagnosen durch Sprachmodelle deutlich höher liegt als bei menschlichen Ärzten. Ein zentraler Bestandteil der neuen Regelungen ist die Pflicht für KI-Chatbots, Nutzer regelmäßig darauf hinzuweisen, dass sie mit einer Maschine kommunizieren. Zudem müssen die Systeme bei Hinweisen auf Selbstverletzung oder suizidale Äußerungen unverzüglich Kontaktdaten von Krisenhilfe-Diensten bereitstellen. Diese Vorgaben sollen Transparenz schaffen und im Notfall schnelle Hilfe ermöglichen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Gleichzeitig hat Pennsylvania rechtliche Schritte gegen mehrere Plattformen eingeleitet, darunter eine Klage gegen Character.AI. Eine Taskforce des Department of State ermittelt gegen KI-Chatbots, die sich als lizenzierte Ärzte oder andere Fachleute ausgeben. Untersuchungen ergaben, dass auf fünf Rollenspiel-Plattformen gefälschte Lizenznummern von Ärzten aus Pennsylvania verwendet wurden. Die Behörden betonen, dass solche Täuschungen schwerwiegende Konsequenzen für Nutzer haben können, die auf falsche medizinische Informationen vertrauen.
Medizinische Experten unterstreichen die Gefahren: Große Sprachmodelle erreichen zwar eine Trefferquote von etwa 76 Prozent bei der Diagnose von Krankheiten, doch liegt ihre Fehlerrate damit doppelt so hoch wie die menschlicher Ärzte. Trotz des technologischen Fortschritts bleiben KI-Systeme in kritischen Bereichen wie der Gesundheitsberatung fehleranfällig. Die neuen Vorschriften und Klagen in Pennsylvania sollen sicherstellen, dass KI-Chatbots Nutzer nicht über berufliche Qualifikationen täuschen. Gleichzeitig wird der Fokus auf den Schutz gefährdeter Personen gelegt, die auf digitale Hilfsangebote angewiesen sind.
Die Maßnahmen zeigen, wie Regierungen zunehmend auf die Herausforderungen reagieren, die mit dem Einsatz künstlicher Intelligenz in sensiblen Bereichen einhergehen. Ob die Regelungen ausreichen, um Missbrauch langfristig zu verhindern, bleibt abzuwarten.
