Der Weltfriedenstag, der jeweils am 21. September begangen wird, bietet Anlass, über Frieden in Europa und der Welt nachzudenken. Doch was verstehen wir unter Frieden? Die Abwesenheit direkter Gewalt? Sicherheit vor Bedrohungen? Wer Frieden dauerhaft ermöglichen will, muss auch fragen, wie Menschen zusammenleben können, ohne dass Angst und Misstrauen ihre Beziehungen bestimmen. Diese Frage gewinnt angesichts der Möglichkeiten künstlicher Intelligenz (KI) neue Dringlichkeit.

Die Forschung zum Thema Frieden in Zeiten von KI von Evelyne Tauchnitz, Dozentin und Habilitandin am Institut für Sozialethik ISE, verbindet eine Philosophie des Friedens mit der Ethik neuer Technologien. Im Mittelpunkt steht der Einsatz von KI zur Abwehr äusserer Bedrohungen durch autonome Waffensysteme und zur Kontrolle innergesellschaftlicher Risiken durch staatliche Überwachung. Beide folgen einem ähnlichen Versprechen: mehr Sicherheit durch bessere Information und umfassendere Kontrolle. Doch was geschieht dabei mit Menschenwürde und Freiheit?

Der gewählte sozio-technische Ansatz betrachtet Technik und Gesellschaft in ihrem Wechselverhältnis. Welche Folgen KI hat, hängt davon ab, wer sie entwickelt, welchen Zwecken sie dient und wie ihr Einsatz geregelt wird. Zugleich verändern solche Systeme gesellschaftliche Machtverhältnisse und den Spielraum menschlicher Entscheidungen.

Wenn Sicherheit ihren Preis hat

Auf internationaler Ebene sollen KI-gestützte autonome Waffen externe Bedrohungen schneller abwehren und militärische Gewalt präziser einsetzen. Wenn Systeme selbstständig Ziele auswählen und bekämpfen, stellt sich jedoch die Frage, wie die Einhaltung des humanitären Völkerrechts und menschliche Verantwortung gewährleistet werden können. Darüber hinaus geht es um Menschenwürde: Was bedeutet es, wenn Menschen zu Datenpunkten reduziert werden, anhand derer Maschinen über die Anwendung tödlicher Gewalt entscheiden? Auch die Dynamik von Konflikten kann sich verändern: Beschleunigte militärische Reaktionen drohen den Raum für ethische Reflexion und Diplomatie zu verkleinern; ein technologisches Wettrüsten kann neue Unsicherheit erzeugen.

Auf nationaler Ebene steht bei der KI-gestützten Überwachung das Verhältnis von Sicherheit und Freiheit im Vordergrund. KI ist in der Lage, grosse Datenmengen auszuwerten und Menschen nach vermuteten Risiken einzuordnen. Das kann die Bevölkerung schützen. Problematisch wird es, wenn Menschen sich faktisch gezwungen sehen, ihre «Unverdächtigkeit» nachzuweisen, oder aus Sorge vor Beobachtung ihre Meinung zurückhalten. Dann geraten zivile und politische Rechte unter Druck. Überwachung kann zudem strukturelle Gewalt verstärken – etwa wenn bestimmte Gruppen aufgrund algorithmischer Risikobewertungen häufiger polizeilich kontrolliert werden und diese solche Einstufungen kaum anfechten können.

Damit zeigt sich ein gemeinsames Dilemma: Das ständige Streben nach mehr eigener Sicherheit kann die Unsicherheit anderer erhöhen – und letztlich die Sicherheit aller gefährden. Militärische Aufrüstung kann Gegenrüstung auslösen; umfassende Überwachung kann das Misstrauen untereinander und zwischen Bevölkerung und Staat vertiefen. Mehr Kontrolle bedeutet deshalb nicht automatisch mehr Frieden.

Vertrauen ermöglichen statt Misstrauen verstärken

Kontrolle sucht konkrete und vermutete Bedrohungen zu managen. Vertrauen setzt jedoch die Bereitschaft voraus, mit der eigenen Verletzlichkeit umzugehen und die Verletzlichkeit anderer anzuerkennen. Dazu gehört, anderen Handlungsspielräume zu lassen, obwohl ihr Verhalten nicht vollständig vorhersehbar oder kontrollierbar ist. Wer andere vorwiegend als potenzielle Bedrohung behandelt, erschwert gegenseitige Verständigung und Zusammenarbeit. Das gilt zwischen Staaten ebenso wie im Verhältnis zwischen staatlichen Institutionen und der Bevölkerung.

Hier setzt der Begriff des «relationalen Friedens» an. Er rückt die Qualität dieser Beziehungen in den Mittelpunkt. Können Menschen und Staaten Konflikte austragen, ohne einander die Existenzberechtigung abzusprechen? Können Bürgerinnen und Bürger staatliche Macht hinterfragen, ohne Repression befürchten zu müssen? Frieden braucht Beziehungen, in denen gegenseitige Anerkennung und begründetes Vertrauen wachsen können.

Für die Gestaltung von künstlicher Intelligenz ergibt sich daraus ein anspruchsvoller Massstab: Sie muss sich auch daran messen lassen, wie sie diese Beziehungen verändert. Menschenrechte bilden dafür einen verbindlichen Massstab; demokratische Mitgestaltung schafft die Möglichkeit, den Einsatz von KI öffentlich auszuhandeln. Entscheidend ist, ob KI Menschen hilft, Konflikte gewaltfrei zu bearbeiten und vertrauensvolle Beziehungen aufzubauen – und wo ihr Einsatz begrenzt werden muss, um diese Möglichkeiten zu bewahren.

Voraussichtlich im Verlaufe des kommenden Jahres wird bei Oxford University Press Evelyne Tauchnitz’ Habilitationsschrift zu diesem Themenbereich mit dem Titel «Relational Peace and the Limits of Security: An Ethics of Emerging Technologies in the Context of Autonomous Weapons and Surveillance» (Arbeitstitel) erscheinen.