Policy Brief zum Qualitäts- und Risikomanagement beim ethischen Einsatz künstlicher Intelligenz in der Gesundheitsforschung

Die Bewertung und Berichterstattung über den ethischen Einsatz von KI in der Gesundheitsforschung ist aufgrund mehrerer Faktoren komplex:

• Mehrere Grundsätze, die der ethischen KI zugrunde liegen
• Interdisziplinäre Interessengruppen
• Merkmale des verwendeten KI-Systems
• Eine Vielzahl von ethischen Richtlinien und Rahmenwerken

Handlungsoptionen:

1. Ethische KI-Überlegungen in den Lebenszyklus des Forschungsprojekts einbetten. Integrieren Sie ethische Bewertungen in den gesamten Prozess, von der ersten Ideenfindung über das Design, die Entwicklung und die Bewertung bis hin zur klinischen Umsetzung. Dazu gehört die Bildung eines Projektbeirats, dem Vertreter von Klinikern, KI-Entwicklern, Patienten, Ethikern und anderen Interessengruppen angehören, um gemeinsame Entscheidungen zu treffen und die Rechenschaftspflicht zu gewährleisten. Entwerfen Sie eine spezifische Strategie zur Bewertung und Berichterstattung im Bereich ethische KI, die auf die besonderen Herausforderungen des Projekts zugeschnitten ist, und wählen Sie nach Möglichkeit validierte Bewertungs- und Berichtsrahmenwerke aus. Veröffentlichen Sie Informationen über diese Strategie, damit die gesamte wissenschaftliche Gemeinschaft davon profitieren kann.
2. Professionalisieren Sie das Portfolio an Gesundheits-KI-Projekten in den gastgebenden Organisationen. Organisationen, die an der Entwicklung von Gesundheits-KI beteiligt sind, sollten ein Portfolio ihrer Projekte führen. Dazu gehört die Verwendung von stufenbasierten Bewertungen, die auf den Lebenszyklus jedes Projekts abgestimmt sind. Der Aufbau von „Ethik als Dienstleistung”-Kapazitäten innerhalb von Organisationen kann Fachwissen bereitstellen, die Ressourcennutzung optimieren und die Einhaltung von Vorschriften gewährleisten. Risiko- und Qualitätsmanagementbüros sollten ihre Aufsicht auf ethische KI-Bewertungen und Berichterstattung ausweiten.
3. Finanzierung für verantwortungsvolle und transparente Innovationen im Bereich Gesundheits-KI. Förderorganisationen und wissenschaftliche Verlage sollten Projekte fördern und Anreize schaffen, die von Anfang an strenge ethische Bewertungen der KI vornehmen und Anforderungen an Transparenz und Reproduzierbarkeit durchsetzen. Die Unterstützung von Evaluierungswissenschaft, Operationalisierungsbemühungen und Daten-/Code-Austausch ist von entscheidender Bedeutung. Private Geldgeber haben ebenfalls die Verantwortung, die Aufmerksamkeit auf die gesellschaftliche Verantwortung der von ihnen finanzierten KI-Produkte zu lenken.
4. Bereitstellung von Leitlinien zur Anwendbarkeit von Vorschriften und agilen Regulierungsprozessen. Einrichtung klarer Aufsichts- und Rechenschaftsmechanismen für die Leistung von KI. Die Regulierungsbehörden müssen ihre Prozesse agiler gestalten, indem sie die Regulierungswissenschaft stärken, Kapazitäten aufbauen, Interessengruppen einbeziehen, Selbstregulierung fördern, neue Technologien proaktiv prüfen und öffentlich-private Partnerschaften für „KI-Sicherheitslabore” initiieren.