Individuelle Verantwortung für KI-Probleme? Fehlanzeige.

Markus Pössel

Wie es mit den verschiedenen Arten von KI weitergeht, und was das für Mathematik und Informatik bedeutet, war das beherrschende Thema beim diesjährigen Heidelberg Laurate Forum. Das ging soweit, dass mindestens ein Laureat sich vorsorglich dafür entschuldigte, dass KI in seinem Beitrag keine Rolle spielen würde. Von den jüngsten Behauptungen von OpenAI, eines der sechs Millennium-Probleme gelöst zu haben, nämlich gezeigt zu haben, dass die Navier-Stokes-Gleichung der Fluiddynamik unphysikalische Lösungen hat, bis zu den diversen eigenen Erfahrungen der Forscher*innen (und ihrer Studis/Mentees) mit generativer und agentischer KI, ist die große Frage, wie es mit der Mathematik in Zukunft überhaupt weitergeht. Einiges davon hat Andrei Mihai in seinem Blogbeitrag Can We Turn AI Into Scientists? And Most Importantly, Can We Make Them Safe? hier bereits beschrieben.

Eigentlich hatte ich vorgehabt, mit diesem Blogbeitrag in dieselbe Richtung weiterzugehen und zu schauen, was AI in der Wissenschaft, durchaus auch jenseits von Mathematik und Informatik, kann und was nicht. Dass alles ganz anders kam, liegt an einem Zitat aus der Podiumsdiskussion “AI in Mathematical Research” am Dienstag. (Ich konnte aufgrund anderweitiger Verpflichtungen leider nicht live dabei sein, aber das Panel ist hier auf YouTube abrufbar.) Direkt bei den einleitenden Statements zitierte Panelmitglied Michael Harris aus einem Artikel des Science-Fiction-Autors Ted Chiang in The Atlantic: “Many people feel that LLMs are a fundamentally unethical technology because they are built on the theft of intellectual property, rely on exploited labor, waste natural resources, spread misinformation, deskill workers, stunt the cognitive development of students, and contribute to a consolidation of power that is unhealthy for a democratic society.” Übersetzt etwa: Viele Menschen finden, dass Large Language Models eine grundlegend unethische Technologie sind, weil sie auf dem Diebstahl von geistigem Eigentum aufbauen, auf ausbeuterische Arbeit angewiesen sind, natürliche Ressourcen verschwenden, Falschinformationen verbreiten, zur Absenkung der Qualifikationen von Arbeitenden beitragen, die kognitive Entwicklung von Studierenden hemmen und zu Machtkonzentrationen beitragen, die für eine demokratische Gesellschaft ungesund sind.

Wumms.

Wieweit man die einzelnen Aussagen dieses Statements richtig findet oder nicht, ein solches Zitat ist erst einmal eine Herausforderung. Und ein Teil ethischen Verhaltens besteht darin, ernstzunehmende Herausforderungen dieser Art nicht einfach zu ignorieren, sondern sie als Prüfsteine für das eigene Verhalten zu nutzen. Das heißt natürlich nicht, dass wir keine Filter anwenden sollten. Persönliches Beispiel: Weil ich mich mit der Popularisierung von Einsteins Relativitätstheorie beschäftige, bekomme ich immer einmal wieder drastische E-Mails, die mich bezichtigen, Teil einer menschenfeindlichen, weltweiten Physik-Verschwörung zu sein. Solche “Weckrufe” ignoriere ich regelmäßig. Aber eine Situation wie diese hier, wo ein Mit-Diskutant in einer Diskussionsrunde eine Herausforderung in den Raum stellt, sollten nichts sein, was man ignoriert. Tja. Trotzdem ging das Panel dann aber erst einmal weiter, als wäre nichts gewesen.

Erst fast eine Stunde später war dann die Fragenliste des Moderators soweit abgearbeitet, dass doch noch die Frage nach der Ethik kam: “Haben Sie/habt ihr ethische Bedenken bezüglich der Nutzung von KI in der Mathematik?” Antworten gab es, wie in diesem Panel üblich, reihum. Den Anfang machte der australische Mathematiker Geordie Williamson, und dessen unmittelbarste Sorge waren die “lächerlichen” Einwände zum Energieverbrauch von KI. Schließlich sei eine GPU vom Energieverbrauch her auch nicht mehr als ein kleiner Toaster. Überhaupt seien ja sicher fast alle Teilnehmenden des Heidelberg Laureate Forums hierher geflogen, und das sei doch wer-weiß-wie-viele Größenordnungen schlimmer, was den CO2-Ausstoß anginge. Dann folgte, in meinen Ohren ein abruptes Umschwenken, die Bemerkung, dass Mathematiker und Mathematikerinnen irgendwie einfach nicht gewohnt wären, ethische Überlegungen zu ihrer Arbeit anzustellen, sowie der Dank an Michael Harris, dass er die Community immer wieder an diesen Aspekt erinnere.

Sprich: Auf die Herausforderung folgten keine ethischen Reflexionen irgendeiner Art, sondern es ging gleich in die Defensive, und das in einer Weise, die man ja leider auch von anderen Diskussionen kennt: Der eigene Beitrag sei doch nur sehr klein, den könne man vernachlässigen. Etwas unerwartet für eine Runde von Mathematikern, die ja eigentlich ganz genau wissen, dass eine Summe vieler kleiner Beiträge durchaus groß sein kann, und das erst durch all diese kleinen Beiträge. Wenn z.B. von Bloomberg, als einer sicher nicht linksgrün-versiffter Sympathien verdächtigen Institution, die Meldung kommt, dass Datenzentren in den nächsten zehn Jahren voraussichtlich mehr Gas verbrauchen als die meisten Staaten, mit all den Konsequenzen, die das für den Klimawandel hat, dann ist ich-bin-da-aber-nur-ein-kleines-unbedeutendes-Rädchen-und-damit-unschuldig nicht wirklich eine angemessene Reaktion. Und zum CO2-Ausstoß bei Flugreisen: In welcher Welt ist “aber wir machen noch ganz andere, problematischere Dinge” ein Freifahrschein und nicht die Verpflichtung, sich dann eben beide problematischen Dinge vorzunehmen und zu schauen, was man ggf. anders machen kann?

Ich hätte mir sehr gewünscht, dass die anderen Panelmitglieder direkt auf Williamson antworten. Aber so war dieses Diskussionspanel, das deutsche Wort wird der Form hier nicht wirklich gerecht, nicht strukturiert. Das Muster war stattdessen: Der Moderator fragt, die Teilnehmenden antworten der Reihe nach. Und genauso ging es dann auch weiter. Keine Widerrede zu Williamson, sondern der Übergang zur nächsten Antwort. Peter Scholze, Fieldsmedaillengewinner und einer der besten deutschen Mathematiker, verwies auf die Liste an Herausforderungen, ließ wissen dass er damit grob übereinstimme, hatte dann aber als einzigen Vorschlag, die Mathematiker*innen müssten dann vielleicht ihre eigenen LLMs entwickeln. (Scholze ist einer derjenigen Panelisten, die KI nicht bei ihrer Forschungsarbeit benutzen.) Weiter zum nächsten Teilnehmer.

Jacob Tsimerman, diesjähriger Fieldsmedaillen-Gewinner, der kurz danach bekanntgab, in die AI-Safety-Abteilung von OpenAI zu wechseln und wiederum kurz danach, er würde das unabhängige AI Safety Institute MAISI gründen, blieb beim Großteil seiner Antwort sehr vage. Ja, es gäbe viele Bedenken rund um KI. Seinen eigenen Statements nach sieht er die größte Gefahr darin, dass KI die Menschheit in irgendeiner Weise direkt auslösche. Etwaige Sorgen z.B über den Beitrag von KI zum Klimawandel bleiben bei ihm dezent im Hintergrund. Historisch gesehen habe es doch eigentlich bei Umbrüchen dieser Art immer eine gewisse Art von Turbulenzen gegeben, irgendwie müssten sich aber auch unsere Normen anpassen, aber das ganze solle wohlbedacht geschehen, wenn unsere Wertevorstellungen und Standards in die Brüche gehen. Hm.

Dann war Michael Harris an der Reihe, der regelmäßig den Newsletter Silicon Reckoner versendet und, siehe oben, via Zitat den Ethik-Teil dieses Diskussionspanels angestoßen hat, wenn “angestoßen” das richtige Wort ist bei einer Herausforderung, die dann sofort versandete. Die erste Antwort, die Harris gibt, ist die eines anderen Panel-Teilnehmers: Wie sich herausstellt, war Peter Scholze in anderem Zusammenhang, nämlich bei einem Statement für die deutsche PauseAI-Kampagne, durchaus deutlich geworden (das dritte Zitat in der Galerie auf dieser Seite). Das zitierte Harris jetzt, ich gebe hier das deutsche Original wieder: “Bereits jetzt halte ich den Einfluss von KI für stark negativ: Auf die Menschheit, auf die Demokratie, auf den Planeten.” Harris selbst fügte Bemerkungen zu zwei anderen Aspekten an: Die KI-Firmen würden ihre Modelle letztlich entwickeln, um sie zu verkaufen. Wer die Modelle nutzt, muss damit rechnen, dass er mithilft, sie zu trainieren für zukünftige Anwendungen, militärischer Einsatz und Überwachungs-Anwendungen inklusive. Wer KI-Modelle für die Mathematik nutze, trage auch zu diesen anderen Anwendungen bei. Und, allgemeiner, dazu, dass KI in Zukunft eben doch eine Reihe von Mathematikerinnen und Mathematiker, die in der Industrie oder in anderen Firmen tätig sind, arbeitslos machen würde (was als potenzielles Problem natürlich deutlich über die Mathematik hinausgeht).

Dann war wieder der Moderator an der Reihe: “Danke für all eure/Ihre Gedanken zu dem Thema”, und weiter ging es mit der nächsten Frage. Kein Nachhaken. Das war’s für Ethik-Fragen. Weiter im Skript. Die Fragen aus dem Publikum im letzten Abschnitt ließen geistiges Eigentum und Klimakrise dann auch außen vor, passend zur Umfrage bei der Eröffnungsveranstaltung, bei der nur 7% der Anwesenden die Umwelt-Auswirkungen der KI als das größte Problem sahen. Das Tüpfelchen auf dem i war dann eine Doppelfrage: “Für diejenigen von euch, die keine großen Fans von KI in der Mathematik sind, was müsste passieren, damit ihr KI trotzdem nutzt? Und für diejenigen von euch, die KI bereits nutzen, welche Ereignisse haben auch dazu gebracht, damit anzufangen?” Die naheliegende dritte Frage bleibt bezeichnenderweise außen vor: Wie viel unethischer müsste KI noch werden, bevor die jetzigen Nutzerinnen und Nutzer davon ablassen?

Und ja, ganz klar: Die Frage nach individueller Verantwortlichkeit ist immer schwierig bei größeren Problemen oder solchen, die gesamtgesellschaftlich systematisch sind. Um wieder den Klimawandel als Beispiel zu nehmen: Als Individuum hat man nur begrenzten Handlungsspielraum, wenn die entsprechenden Möglichkeiten nicht zur Auswahl stehen – wenn einige Orte nur per Flugzeug und nicht mit der Bahn erreichbar sind, oder wenn man als Mieterin und Mieter nicht selbst bestimmt, wie die eigene Wohnung beheizt wird, oder als Konsumentin und Konsument ob die angebotenen Produkte nachhaltig hergestellt werden oder nicht. Da eine Balance zu finden, ist nicht einfach. Aber nur weil es so schwierig ist, dann mit den Schultern zu zucken und zu behaupten man habe offenbar überhaupt keine individuelle Verantwortung und alles sei in Butter, kann es doch auch nicht sein. Schon gar nicht sollte man eine solch problematische Haltung als Rollenvorbild auf einer Veranstaltung wie dieser an die nachfolgenden Generationen weitervermitteln. Hinzu kommt die Tendenz in unserer Gesellschaft, bestimmte Probleme einfach nicht anzusprechen, gerade so, als wären sie damit nicht nur aus dem öffentlichen Diskurs, sondern gleich ganz aus der Welt geschafft (die Klimakrise ist auch da das erste Beispiel, das mir einfällt). Die entsprechenden Probleme anzusprechen, wenn man eine Plattform zur Verfügung hat, ist ein Beispiel für einen einfachen und direkten Beitrag, den man als Individuum leisten kann. Unsere Gesellschaften tun sich augenscheinlich ja schwer genug mit bestimmten Arten von notwendigem Wandel. Individuen, die für sich entscheiden, sie könnten dazu persönlich sowieso nichts beitragen, sind ein Teil des Problems.

Aus dieser Perspektive fand ich die Diskussionsrunde durchaus enttäuschend. Aber vielleicht hätte ich sie stattdessen als Erinnerung daran sehen sollen, dass man bei ethischen Debatten dieser Art tunlichst einen breiteren Kreis an Menschen einbeziehen sollte, jenseits der Mathematiker und Informatiker die beim Heidelberg Laureate Forum im Mittelpunkt stehen. Wenn ich diesbezüglich einen Wunsch frei hätte, würde ich mir daher beim nächsten HLF ein vielfältiger besetztes Diskussionsforum zu den (realen oder potenziellen) Schattenseiten von KI wünschen, in einem Format, das Diskussionen und ein Aufeinander-eingehen fördert und diejenigen, die daran teilnehmen, wirklich in ein (kontroverses) Gespräch miteinander bringt.

The post Individuelle Verantwortung für KI-Probleme? Fehlanzeige. originally appeared on the HLFF SciLogs blog.