WELLESLEY, Mass. -- Der Kommissar der U.S. Food and Drug Administration (FDA), Robert Califf, betonte die Notwendigkeit, dass Gesundheitssysteme eine proaktive Rolle in der Governance von Künstlicher Intelligenz (KI) im Gesundheitswesen übernehmen.
In einer kürzlichen Diskussion warnte Califf, dass Gesundheitssysteme erheblichen Haftungsrisiken ausgesetzt sein könnten, wenn sie sich nicht an der Überwachung von KI-Algorithmen beteiligen, die versagen können. Er stellte fest, dass KI-Modelle im Gegensatz zu Arzneimitteln im Laufe der Zeit evolvieren und ihre Leistung in verschiedenen Patientengruppen variieren kann.
Califf erklärte: "Ich denke, es gibt viele gute Gründe, warum Gesundheitssysteme besorgt sein sollten, dass sie, wenn sie nicht aktiv werden, am Ende die Verantwortung tragen, wenn diese Algorithmen fehlschlagen." Er betonte, dass, wenn Gesundheitssysteme das Problem nur als ein Herstellerproblem betrachten, das gesamte System scheitern könnte.
Dieser Aufruf zum Handeln hebt die kritische Schnittstelle zwischen Technologie und Gesundheitsversorgung hervor und fordert die Beteiligten auf, eine effektive Governance zu priorisieren, während KI zunehmend in medizinische Praktiken integriert wird.