TTK25 KEy note Wirtschaft Dr. Jan-Philipp Steghöfer – Leiter Forschung und Innovation bei XITASO
Dr. Steghöfer spricht beim Technologietransfer-Kongress am 8. April 2025 die Keynote Wirtschaft mit dem Titel "Menschzentrierte, vertrauenswürdige KI für das Gesundheitswesen und die Medizintechnik".
Da künstliche Intelligenz zunehmend Einfluss auf medizinische Entscheidungen nimmt, ist es von grundlegender Bedeutung, von Menschen interpretierbare und zuverlässige KI-Systeme zu entwickeln. Nur auf diese Weise können Patienten und medizinische Fachkräfte die Auswirkungen dieser Technologie nachvollziehen und sie effektiv einsetzen. Dies entspricht den Vorgaben des EU AI Act, der die Wichtigkeit eines ethischen und verantwortungsvollen Umgangs mit KI betont. Indem wir relevante Interessengruppen in den Entwurf, die Implementierung und die Evaluation einbeziehen, stellen wir sicher, dass KI-Systeme nicht nur technisch ausgereift, sondern auch sozial und ethisch vertretbar und an die Zielgruppe angepasst sind. Ein verantwortungsbewusstes und menschzentriertes Design von KI-Systemen ist unerlässlich, um Vertrauen in KI-Technologie aufzubauen, ihre Akzeptanz zu steigern und schlussendlich von den potentiellen Effektivitätszuwächsen im Gesundheitswesen zu profitieren.
"In meiner Keynote werde ich XITASOs aktuelle Initiativen zur Entwicklung erklärbarer KI vorstellen und für einen menschzentrierten Ansatz plädieren, der die Bedürfnisse und Perspektiven aller Beteiligten berücksichtigt. Dadurch wird letzlich die Kollaboration zwischen Mensch und KI und die gemeinsame Leistungsfähigkeit verbessert, was wiederum die Qualität und Zuverlässigkeit der Gesundheitsversorgung verbessert".
In 2025 übernahm Dr. Jan-Philipp Steghöfer den Forschungs- und Innovationsbereich bei XITASO, wo er seit 2022 als Senior Researcher beschäftigt ist. Der promovierte Informatiker bringt umfassende Erfahrung aus seinen früheren Positionen als Associate Professor für Software Engineering an der Universität Göteborg und der Chalmers University of Technology ein. Seine akademische Laufbahn begann an der Universität Augsburg, wo er sich intensiv mit komplexen, selbstorganisierenden Systemen befasste und im Jahr 2014 promovierte. Bei XITASO beschäftigt er sich unter anderem mit künstlicher Intelligenz im klinischen Kontext und hat dort das Forschungsteam zu diesem Thema aufgebaut. In den laufenden, öffentlich geförderten Projekten spielen insbesondere die Erklärbarkeit von Prognosen und die Quantifizierung der darin enthaltenen Unsicherheit eine große Rolle.