Zwischen fachlichen Standards und wilder Innovation: Zur Begutachtung von Big Data- und KI-Projekten in Forschungs-Ethikkommissionen

In der Medizin (wie auch in anderen Fächern) wächst generell die Bedeutung informatischer Expertise. Schon das erfordert eine Kultur interdisziplinärer Begutachtung, auf welche medizinische Ethikkommissionen nicht gut eingestellt sind. Mit dem Einsatz von Big Data- und KI-Verfahren (sei es eigens entwickelter, sei es in Form von „Tools“) sind weitere Herausforderungen für die forschungsethische Begutachtung verbunden. Die Autoren schildern die Problemlage und schlagen vor, sie durch Verfahrensänderungen zu lösen. Besser als die Befassung zweier Kommissionen scheint eine Begutachtung geeignet zu sein, die von vornherein interdisziplinär verfährt. Das zöge allerdings die Forderung nach sich, die Zusammensetzung medizinischer Ethikkommissionen zu ändern. Weil Fragen nach der Organisation forschungsethischer Begutachtungen auch solche nach Kriterien aufrufen, denen diese zu folgen hat, stellt der Beitrag zudem erste Schritte zu einer Konsolidierung der Kriterien für eine forschungsethische Begutachtung von Big Data- und KI-Projekten vor.

Definition of the problem: In medicine, as well as in other disciplines, computer science expertise is becoming increasingly important. This requires a culture of interdisciplinary assessment, for which medical ethics committees are not well prepared. The use of big data and artificial intelligence (AI) methods (whether developed in-house or in the form of “tools”) pose further challenges for research ethics reviews.

Arguments: This paper describes the problems and suggests solving them through procedural changes.

Conclusion: An assessment that is interdisciplinary from the outset appears to be more suitable than having two commissions with different expertise. However, this would require that the composition of medical ethics committees be altered. In addition, the article recommends initial measures to be taken during research ethics reviews of big data and AI projects in order to consolidate the review process and ensure standardization of the criteria.