Präambel
Der Wert der Mathematik liegt wesentlich in der menschlichen Auseinandersetzung mit ihr: im Verstehen, Erklären, gemeinsamen Denken und Weitergeben von Erkenntnissen. Mathematik zielt nicht allein auf die Produktion korrekter Resultate, sondern auf menschliche Einsicht und Erkenntnis sowie die Einordnung und Vermittlung von Ergebnissen in einer gemeinsamen mathematischen Kultur.
KI ist bereits Teil der mathematischen Forschung, und ihre Bedeutung wird aufgrund ihrer Leistungsfähigkeit und Verfügbarkeit weiter wachsen. Pauschale Verbote werden diese Entwicklung nicht dauerhaft aufhalten und bergen die Gefahr, ihren Einsatz in intransparente Räume oder andere Forschungsgemeinschaften zu verlagern. Wir müssen diesen Wandel daher aktiv und gemeinschaftlich gestalten und die dafür notwendigen Kompetenzen und Rahmenbedingungen entwickeln. So kann KI neue Möglichkeiten für mathematisches Entdecken, Verstehen und gemeinsames Forschen eröffnen.
Grundsätze
Auf Basis dieser Ausgangspunkte schlagen wir die folgenden Grundsätze für den Umgang mit KI in der mathematischen Forschung vor:
01Die Freiheit von Forschung und Lehre muss gewahrt bleiben.
Die Entscheidung darüber, welche mathematischen Probleme als untersuchenswert gelten und welche Bedeutung Resultate erlangen, muss Gegenstand menschlichen Urteils und wissenschaftlichen Austauschs bleiben. Dies gilt besonders für Grundlagenforschung, deren Wert sich häufig erst im Nachhinein zeigt. Ob sich ein Problem zur Evaluation oder Vermarktung von KI-Systemen eignet, darf nicht zum maßgeblichen Kriterium für seine wissenschaftliche Bedeutung werden. Die Verantwortung für diese Bewertung bleibt bei der mathematischen Gemeinschaft.
02Anforderungen an Korrektheit und Überprüfbarkeit gelten unabhängig vom verwendeten Werkzeug.
Ein inhaltlich oder methodisch relevanter Einsatz von KI muss transparent gemacht werden. KI-gestützte Resultate müssen nachvollziehbar dargestellt und unabhängig überprüfbar sein. Relevante Vorarbeiten sind sorgfältig zu prüfen und angemessen zu würdigen. Der mit Darstellung und Überprüfung verbundene Aufwand darf nicht einseitig auf die wissenschaftliche Gemeinschaft verlagert werden.
03Autorschaft und wissenschaftliche Anerkennung müssen neu gedacht werden.
KI kann die Gewinnung und Veröffentlichung eines korrekten Resultats vom Verständnis und vom Beitrag der als Autorinnen und Autoren ausgewiesenen Personen entkoppeln. Ein veröffentlichtes Resultat allein bietet daher keine hinreichende Grundlage für die Begründung von Autorschaft oder die Bewertung wissenschaftlicher Kompetenz. Menschliche Beiträge und Verantwortlichkeiten müssen so transparent wie möglich gemacht und angemessen berücksichtigt werden. Dies gilt auch für kollektive Forschungsleistungen, deren Beiträge sich nicht eindeutig einzelnen Personen zuordnen lassen. Die Kriterien für Autorschaft und wissenschaftliche Anerkennung müssen im Lichte der sich wandelnden Forschungspraxis fortlaufend überprüft werden.
04Nicht alles darf delegiert werden.
Die Arbeit mit KI erlaubt es, wichtige Teile mathematischer Forschungsprozesse an automatisierte Prozesse zu delegieren. Wir müssen bestimmen, welche mathematischen Fähigkeiten und Verantwortlichkeiten nicht delegierbar sind. Dazu gehören insbesondere kritisches Urteilsvermögen, auch im Sinne von Kants Begriff der Mündigkeit, sowie die menschliche Verantwortung für die Korrektheit veröffentlichter Resultate. KI kann die Urteilsbildung unterstützen, ohne diese Verantwortung zu übernehmen.
05Unveröffentlichte Forschung muss standardmäßig geschützt sein.
Da die Tragweite mathematischer Ideen im Voraus häufig nicht absehbar ist, können Forschende nicht zuverlässig entscheiden, welche Gespräche oder Materialien schutzbedürftig sind. Institutionelle KI-Zugänge müssen sicherstellen, dass Eingaben, Dokumente, Ausgaben und daraus abgeleitete Informationen ausschließlich für die angeforderte Leistung verwendet werden. Jede weitere Nutzung, insbesondere für Training, Modellverbesserung, Evaluation oder eigene Forschung, erfordert eine ausdrückliche und informierte Zustimmung. Datenspeicherung und Zugriffe sind auf das Erforderliche zu beschränken und überprüfbar zu regeln. Besonders schutzbedürftige Forschung kann technisch und institutionell kontrollierte Umgebungen erfordern. Freiwilliges Teilen und gemeinschaftliche Forschung werden dadurch nicht ausgeschlossen; sie setzen eine selbstbestimmte Entscheidung über Zugang und Nutzung voraus.
06Privilegierter Zugang zu fremden Forschungsinformationen darf nicht ausgenutzt werden.
Der Zugang zu nicht öffentlichen Ideen oder Forschungsdaten anderer darf nicht genutzt werden, um sich gegenüber den ursprünglichen Forschenden einen Prioritätsvorteil zu verschaffen. Dies gilt für Forschende, Gutachtende, Anbieter und Institutionen gleichermaßen. Wie bei der Begutachtung von Artikeln oder Anträgen muss die Vertraulichkeit solcher Informationen gewahrt bleiben. Dafür braucht es nicht nur individuelle Verantwortung, sondern auch verbindliche und überprüfbare Regeln. In Analogie zum Schutz vor Front-Running im Finanzbereich müssen insbesondere bei Anbietern und Institutionen wirksame technische, organisatorische und vertragliche Informationsbarrieren verhindern, dass solche Informationen unautorisiert in eigene Forschungs- und Verwertungsaktivitäten einfließen. Dies gilt unabhängig vom technischen Verarbeitungsweg. Zugriffe und Datenflüsse müssen nachvollziehbar und unabhängig überprüfbar sein.
07Besonders betroffene Gruppen müssen geschützt und beteiligt werden.
Promovierende, Postdocs und Forschende ohne feste Stellen tragen viele der unmittelbaren Risiken dieser Entwicklung. Personen in gesicherten Positionen und Leitungsfunktionen haben eine besondere Verantwortung, die Perspektiven dieser Gruppen einzubeziehen, faire Rahmenbedingungen zu schaffen und ihnen eine echte Beteiligung an den anstehenden Entscheidungen zu ermöglichen. Das erhebliche Machtgefälle zwischen international tätigen Technologieunternehmen und einzelnen, häufig abhängig beschäftigten Forschenden muss dabei ausdrücklich berücksichtigt werden.
08Der Zugang zu KI darf bestehende Ungleichheiten nicht verschärfen.
Der Zugang zu geeigneten Werkzeugen und Infrastrukturen sowie zu Fachwissen und Weiterbildung muss fair, international inklusiv und am öffentlichen Interesse ausgerichtet sein. Internationale mathematische Teilhabe darf nicht vom Zugang zu kostenpflichtigen KI-Systemen abhängen. Kritische KI-Infrastruktur für die Forschung darf nicht allein von den Interessen einzelner Unternehmen bestimmt werden und bedarf einer wirksamen öffentlichen Kontrolle. Forschende dürfen zugleich nicht allein deshalb benachteiligt werden, weil sie bestimmte, insbesondere kommerzielle, KI-Systeme nicht nutzen möchten.
09Die Regeln müssen gemeinschaftlich und lernfähig sein.
Der Umgang mit KI erfordert einen fortlaufenden und transparenten Prozess, in dem die mathematische Gemeinschaft ihre Regeln aufgrund neuer Erfahrungen überprüft und weiterentwickelt. Diese Grundsätze sind angesichts der Ungewissheit über die weitere Entwicklung ein vorläufiger Beitrag zu diesem Prozess. Mit dieser Initiative laden wir dazu ein, sie gemeinsam zu diskutieren und weiterzuentwickeln.
Danksagung
Wir danken Vadim Alekseev, Anne Schindler, Mario Ohlberger und Robin Sroka für hilfreiche Diskussionen und Kommentare zu einem Entwurf dieses Positionspapiers. Die vertretenen Positionen sind die der Autoren.