"KI-Anwendungen sind nur so gut in der Medizin wie die Datensätze, auf denen sie trainiert werden. Man braucht also wirklich gute Datensätze, die auch von unseren Patientinnen und Patienten aus Deutschland stammen. Diese sollten nicht verzerrt sein und hohen Qualitätsstandards genügen. Dann bekommt man die bestmögliche medizinische KI. Und wenn sorgfältig nachgewiesen ist, dass eine solche KI-Anwendung einzelne Aufgaben besser kann als Ärztinnen und Ärzte oder bisherige Software, dann sagen wir vom Deutschen Ethikrat, dass sie breit zur Verfügung stehen sollte. Da gibt es allererste Beispiele, etwa in der Diagnostik in der Bildgebung" sagt Alena Buyx, Vorsitzende des deutschen Ethikrats und Mitglied der Generative AI Taskforce am TUM Think Tank.

In einem Interview mit Tagesspiegel Background zu Medizin und KI spricht sie über Themen wie KI-Algorithmen in der Psychotherapie und die Haltung des Ethikrats zur elektronischen Patientenakte. "In der Medizin wird KI als nützliches Werkzeug gesehen", so Alena Buyx. Bei der Frage nach einer ethischen Bewertung von KI könne eine zentrale Begutachtungsstelle hilfreich sein.

Das vollständige Interview finden Sie nach kostenlosem Abonnement unter: Tagesspiegel Background.

Schon jetzt: Deep-Fakes überschwemmen das Netz. Manche fürchten, KI könne gar helfen, neue Viren zu entwickeln. "Ich glaube nach wie vor, dass das Potential der Menschheit durch KI zu helfen extrem groß ist", sagt KI-Forscher Daniel Rückert, Mitglied der Generative AI Taskforce in der Sendung "Titel Thesen Temperamente". Er forscht vor allem an der KI-gestützten Bildanalyse in der Medizin. So stellt er sich vor, dass in einigen Jahren jeder Hausarzt mithilfe von KI sagen kann: "Sie entwickeln vielleicht in zwei Jahren eine bestimmte Krebserkrankung. Jetzt können Sie folgendes tun, um das noch zu ändern."

Sehen sie die ganze Sendung hier.

Die Künstliche Intelligenz (KI) hat das Potenzial, den Wissenschaftsbetrieb grundlegend zu verändern. In einer Landtagsanhörung im Ausschuss für Wissenschaft und Kunst wurde Prof. Dr. Enkelejda Kasneci, Co-Leiterin der Generative AI Taskforce am TUM Think Tank, gemeinsam mit anderen Expert:innen zu den Chancen und Risiken von KI im Hochschulbereich befragt. Die Diskussion drehte sich um die Vorbereitung von Studierenden und Lehrenden auf den Einsatz von KI, die Rolle von KI-Tools wie ChatGPT in der Schreibarbeit und die Notwendigkeit einer offenen und zugänglichen Nutzung von KI-Tools in Bibliotheken. Trotz einiger Bedenken betonten die Expert:innen den positiven Einfluss von KI und plädierten für einen optimistischen Blick auf die Zukunft des Wissenschaftsbetriebs.

Die Co-Leiterin der Generative AI-Taskforce betonte, dass die generative KI stetig fortschreitet und immer kürzere technologische Zyklen aufweist. Dies eröffne Möglichkeiten für aktive, kollaborative und immersive Lernumgebungen, die individuell auf die Bedürfnisse der Lernenden zugeschnitten seien und zahlt somit auf die UNESCO Education 2030 Agenda ein, die einen menschenzentrierten Ansatz für KI in der Bildung fordert, um Inklusion und Gerechtigkeit voranzutreiben. Unter dem Motto "AI for All" sollen alle von der technologischen Revolution profitieren und ihre Früchte ernten, insbesondere in Form von Innovation und Wissen.

Grundsätzliche Kompetenzziele im Bereich des wissenschaftlichen Schreibens werden nach wie vor erhalten bleiben und auch langfristig nicht ersetzt werden. Die Einführung von KI-Schreibwerkzeugen erfordert jedoch eine Anpassung, bei der die Integration verantwortungsbewusst erfolgen sollte. Während der Anhörung wurden auch rechtliche Fragen hervorgehoben, wie das Urheberrecht, Datenschutz und Haftung. Hochschulen sollten diese Aspekte sorgfältig prüfen und angemessene Maßnahmen ergreifen, um die Rechte aller Beteiligten zu schützen, so Kasneci.

Obwohl einige Studierende und Lehrende die Effizienz und Unterstützung von KI-Schreibwerkzeugen schätzten und durchaus Vorteile in der Zeitersparnis, der Generierung von Ideen und der Fehlererkennung sähen, bestünde auch eine gewisse Skepsis gegenüber der automatisierten Textgenerierung. Bedenken bezüglich Plagiats und Datenschutz könnten ebenfalls zu Akzeptanzproblemen führen. Vorbehalte haben Studierende und Lehrende laut Kasneci vorwiegend im Bezug auf die Genauigkeit, Zuverlässigkeit und Ethik von KI-generierten Texten. Es könnte ein Gefühl des Kontrollverlusts entstehen, wenn KI-Schreibwerkzeuge als Ersatz für traditionelle Schreibfähigkeiten wahrgenommen werden. Daher sei es wichtig, diese Bedenken anzuerkennen und eine umfassende Aufklärung, Schulung und Beratung bereitzustellen, um das Vertrauen und die Akzeptanz von Studierenden und Lehrenden zu fördern.

Allgemein waren sich die Expert:innen einig, dass ein "kalibriertes Vertrauen" in KI im Wissenschaftsbetrieb erforderlich ist. Dies bedeutet, dass Studierende und Lehrende auf den Einsatz von KI vorbereitet werden sollten, um die Chancen dieser Technologie optimal nutzen zu können. Es wurde betont, dass KI-Tools wie ChatGPT die Schreibarbeit automatisieren und die Kreativität steigern können und so Studierenden und Lehrenden ermöglicht, sich auf anspruchsvollere Aufgaben zu konzentrieren.

Kasneci appellierte: „Bildung muss sich von Routine- und unpersönlichen Aufgaben hin zu persönlichen, komplexeren und kreativen Aufgaben entwickeln. Wir müssen Wege finden, um in der Hochschullehre die Förderung vielseitiger Kompetenzen über Lehrpläne und Curricula hinaus zu ermöglichen und einen starken Fokus auf Kreativität, kritisches Denken, Kollaboration und Kommunikation legen.“

Sie fügt hinzu: „Insgesamt stehen wir vor einer aufregenden Zeit des Wandels in der Bildung. Die Frage wird sein, wie schaffen wir es Innovation und Wissen für alle zugänglich zu machen, eine gerechtere und inklusivere Bildungslandschaft zu ermöglichen, die den Anforderungen der sich disruptiv veränderbaren Welt gerecht wird.“

Nicht nur im Hochschulbereich gibt es dringenden Handlungsbedarf. Im Handelsblatt fordert Kasneci kürzlich ein „Umkrempeln der Lehrpläne“. Der Unterricht sei „viel zu fragmentiert“ – mit Unterstützung der KI sei es zukünftig einfacher möglich, „ganzheitlich“ zu unterrichten. Dafür müssten die Kultusminister aber dafür sorgen, dass alle Lehrkräfte ein Basiswissen über KI erwerben.

Enkelejda Kasneci ist Co-Founderin des neu eröffneten TUM Center for Educational Technologies, wo interdisziplinäre Forschungsteams die Wirksamkeit digitaler Tools für das Lernen und Lehren untersuchen und neue Anwendungen entwickeln. Diese wird das Zentrum über Fortbildungen und mit der Förderung von Start-ups in die Praxis bringen.

Jede Woche stellen wir Ihnen eines der Mitglieder der Generative AI Taskforce des TUM Think Tanks vor. Erfahren Sie, wie sie die neuesten Entwicklungen im Bereich der Generativen KI aus verschiedenen Perspektiven und Bereichen einschätzen.

In unserer ersten Folge: Treffen Sie Georg Groh von der TUM School of Computation, Information and Technology.

Jetzt auf unserem YouTube Kanal:

Wie Social Media besser von Menschen mit einer Lernbeeinträchtigung genutzt werden können, erforscht ein Team am TUM Think Tank – gemeinsam mit Athlet:innen der Special Olympics World Games, die vom 17. bis 25. Juni in Berlin stattfinden. Mitgemacht haben Louis Kleemeyer, dem Lesen und Schreiben schwerer fällt als anderen Menschen, und die Studentin Lena Pöhlmann. Im Interview erzählen sie, wie soziale Medien den Beruf erleichtern, wann der Zugang scheitert und wie eine neue App helfen könnte.

Sie nutzen also Social Media vor allem für Ihren Beruf?

Kleemeyer: Videos bei YouTube sehe ich mir natürlich auch zum Spaß an. Mein Fokus bei YouTube ist aber aufs Lernen gerichtet. Welche KI-Tools helfen für was genau? Wie kann man ein eigenes Business aufbauen? Das fällt mir einfach leichter, wenn mir das jemand in einem Video erklärt. Wenn ich das alles Schritt für Schritt sehen kann, statt dass ich alles lesen und mir bildlich vorstellen muss.

Sie sprechen sehr offen über Ihre Lernbeeinträchtigung. Gilt das auch in den sozialen Medien, in denen ja viele Menschen Diskriminierung erleben?

Kleemeyer: Bis ich 18 Jahre alt war, habe ich mich nicht getraut, jedem zu schreiben, weil ich mich teilweise geschämt habe, dass ich mit Rechtschreibfehlern antworte. Jetzt ist es so, dass ich das einfach zu mir dazu zähle. Und ich habe Tools gefunden, die mir helfen, meine Schwächen auszugleichen. Zum Beispiel Rechtschreib-Tools, die meine Texte überprüfen. Auf Social Media habe ich bisher nur einmal Mobbing erlebt und das ist schon Jahre her. Ich glaube, es macht auch einen Unterschied, wie man im Internet auftritt. Wenn man nur Negatives über die Behinderung postet, dann kann es schnell in eine andere Richtung gehen. Aber wenn man etwas postet, dass Menschen ohne Behinderung hilft, Menschen mit Behinderung zu verstehen, dann erlebt man das eigentlich gar nicht.

Frau Pöhlmann, wirken die sozialen Medien also inklusiv?

Pöhlmann: Louis kennt sich gut aus, ist vernetzt, macht sehr viel und bekommt positives Feedback. Dann haben wir aber auch mit Menschen gesprochen, die versuchen, medial präsenter zu sein, die aber negative, diskriminierende Kommentare bekommen haben. Eine verständliche Reaktion ist dann, doch wieder alles nur für Freund:innen sichtbar zu machen und sich dem nicht auszusetzen. Das ist schade, denn ein grundlegendes Ergebnis unseres Projekts ist: Die meisten Menschen mit Lernbeeinträchtigung haben Freude an den sozialen Medien.

Was hindert sie, neben negativen Kommentaren, die Kanäle stärker zu nutzen?

Pöhlmann: Es gibt verschiedene Zugangshürden, zunächst ganz basale: In manchen Wohneinrichtungen für Menschen mit Behinderung gibt es keine Endgeräte, keinen Internetzugang oder den Nutzer:innen steht nur ein kleines Datenvolumen zur Verfügung. Darüber hinaus haben einige betreuende Personen Sorgen – etwa, weil den nutzenden Personen nicht immer klar zu sein scheint, welche Reichweite das Internet hat und dass es schnell kein geschützter Raum mehr ist. Außerdem kann es zu Schwierigkeiten bei der Bedienung kommen, etwa wenn die Navigationswege nicht klar sind, wenn Buttons sehr klein sind oder wenig mit Symbolen gearbeitet wird. Wenn zum Beispiel Updates anstehen, ist dann nicht klar, was zu tun ist. Oder ein anderes Beispiel aus dem Alltag: Eine Wohngruppe möchte für sich eine Social-Media-Gruppe einrichten. Die Menschen wissen diffus, dass es eine solche Funktion gibt. Aber ihnen ist nicht immer im Detail bewusst, wie sie dies konkret umsetzen können.

Herr Kleemeyer, auf welche Hürden stoßen Sie?

Kleemeyer: Mir fehlt zum Beispiel eine Vorlesefunktion. Bei langen Textbeiträgen, die als Bild formatiert sind, wäre es super, wenn ich sie mir in der Social-Media-App vorlesen lassen könnte. Man kann ja teilweise aus den Apps nicht mal etwas rauskopieren. Es gibt zwar eine Lösung, aber die ist umständlich: Screenshot machen, mit einem Tool den Text aus diesem Bild kopieren, dann in eine spezielle App rein, die das vorliest. Das behindert natürlich viele, die nicht lesen können oder nicht viel lesen wollen, weil es für sie zu anstrengend ist oder zu lange dauert. Ich lese solche langen Texte auch nur, wenn es wirklich notwendig ist.

Was wünschen Sie sich von den Betreiber:innen?

Kleemeyer: Dass häufiger leichte Sprache benutzt wird. Wo viel Text steht, schauen, dass es auch Alternativen gibt – genauso wie man hinter Bildern etwas für blinde Menschen schreibt, das vorgelesen werden kann.

Pöhlmann: Wichtig wäre allein schon, dass es jeden Text auf Deutsch gibt, weil viele einfach kein Englisch verstehen. Gut wäre zudem eine visuelle Unterstützung. Was für Menschen mit Seheinschränkungen eine große Rolle spielt: Können die Inhalte groß genug angezeigt werden, ohne dass komplett unklar ist, wo ich mich in der Navigation befinde? Ideal wäre, wenn schon im Entwicklungsprozess eines neuen Produkts die Barrierefreiheit regelmäßig getestet werden würde, so wie es bei Webseiten schon üblicher ist.

Im Projekt „Inclusive Social Media“ haben Sie einen eigenen Lösungsvorschlag entwickelt.

Pöhlmann: Wir haben eine App konzipiert, die Menschen mit Lernbeeinträchtigung Kompetenzen vermitteln soll, die sozialen Medien zu nutzen – und zwar so, dass sie den eigenen Interessen dienen. Ich würde ganz einfach erklärt bekommen, was der jeweilige Zweck der Kanäle ist und welche Möglichkeiten ich habe: Wie kann ich meinen Status einstellen, ein Foto senden oder eine Person blocken? Hier könnte man jederzeit nachschauen, wie das Internet und einzelne Apps funktionieren – in leichter Sprache, mit Sprachausgabe, unterstützenden Videos und vielen Symbolen.

Zu den Personen:

Louis Kleemeyer hat eine Ausbildung als Fachpraktiker für IT-Systeme absolviert und die Unique United GmbH gegründet, eine Online-Plattform von Menschen mit Behinderung für Menschen mit Behinderung. Der 22-Jährige berät außerdem Unternehmen zu einer inklusiven Arbeitswelt. Derzeit ist er Teil des Organisationsteams der Special Olympics World Games 2023. Bei den nationalen Spielen der Special Olympics gewann er 2022 Gold im Tennis. Kleemeyer fällt Lernen, Lesen und Schreiben schwerer, weil sein Gehirn bei seiner Geburt nicht ausreichend mit Sauerstoff versorgt wurde.

https://www.louis-kleemeyer.de

Lena Pöhlmann studierte im Bachelor Public Health an der Universität Bremen, Soziale Arbeit an der Katholischen Stiftungshochschule München sowie Philosophie (Nebenfach) an der Hochschule für Philosophie München. Nach mehrjähriger beruflicher Tätigkeit im Rehabilitationsmanagement in der Stiftung Pfennigparade studiert die 29-Jährige derzeit im Master Health Sciences mit dem Fokus auf Prävention und Gesundheitsförderung an der TUM. Sie ist Stipendiatin der Hans-Böckler-Stiftung und der Bayerischen EliteAkademie.

https://www.sg.tum.de/sg/studium/studierende/studiengaenge/masterstudiengaenge-msc/msc-health-science/

Weitere Informationen:

Im Projekt “Inclusive Social Media (InSoMe)” haben Studierende mehr als 60 Menschen mit Lernbeeinträchtigung und rund 90 Angehörige und Personen, die mit Menschen mit Behinderung arbeiten, befragt. Auf dieser Basis haben sie Lösungsvorschläge entwickelt, darunter die „Easy App“. Geleitet wird “Inclusive Social Media” an der Professur für Sport- und Gesundheitsdidaktik.

Das Projekt ist Teil des Re-Boot Social Media Lab am TUM Think Tank. Hier arbeiten Forscher:innen aus verschiedenen Disziplinen gemeinsam mit gesellschaftlichen Akteuren daran, die sozialen Medien zu verbessern.

Das Team von “Inclusive Social Media” arbeitet mit Athlet:innen der Special Olympics zusammen, der nach eigener Beschreibung weltweit größten Bewegung für Menschen mit geistiger und mehrfacher Behinderung. Vom 17. bis 25. Juni finden in Berlin die Special Olympics World Games statt. Das Projektteam und weitere Angehörige der TUM unterstützen die Veranstaltung und das große Rahmenprogramm zu Inklusion, beispielsweise mit einem Instagram-Kanal. In den vergangenen Tagen hat sich das Athlet:innen-Team aus Kanada an der Fakultät für Sport- und Gesundheitswissenschaften auf die Spiele vorbereitet.