NEW YORK ‑ Obwohl künstliche Intelligenz uns seit Jahrzehnten im Stillen hilft und sich der Fortschritt in den letzten Jahren beschleunigt hat, wird das Jahr 2023 als „Big Bang“ in die Geschichte eingehen. Mit dem Aufkommen der generativen KI ist die Technologie ins öffentliche Bewusstsein gerückt und prägt den öffentlichen Diskurs, beeinflusst Investitionen und wirtschaftliche Aktivitäten, heizt den geopolitischen Wettbewerb an und verändert alle Arten menschlicher Aktivitäten, von der Bildung über die Gesundheitsfürsorge bis hin zur Kunst. Jede Woche gibt es eine neue atemberaubende Entwicklung. Die künstliche Intelligenz wird nicht verschwinden, und der Wandel beschleunigt sich.
Die Politikgestaltung schreitet fast ebenso schnell voran, neue Regulierungsinitiativen und Foren werden ins Leben gerufen, um mit der Situation Schritt zu halten. Die laufenden Bemühungen der G7, der Europäischen Union und der Vereinigten Staaten sind zwar ermutigend, aber keine von ihnen ist universell und repräsentativ für die globale Gemeinschaft. Da die KI-Entwicklung von einer Handvoll CEOs und Marktakteuren in nur wenigen Ländern vorangetrieben wird, fehlt in der Governance-Debatte die Stimme der Mehrheit, insbesondere aus dem globalen Süden.
Die einzigartigen Herausforderungen, die die KI mit sich bringt, erfordern einen koordinierten globalen Ansatz für die Governance, und nur eine Institution verfügt über die umfassende Legitimität, eine solche Antwort zu organisieren: die Vereinten Nationen. Wir müssen die KI-Governance richtig gestalten, wenn wir ihr Potenzial ausschöpfen und ihre Risiken mindern wollen. Vor diesem Hintergrund wurde das Hochrangige Beratungsgremium der Vereinten Nationen für KI eingerichtet, um Analysen und Empfehlungen zur Behebung des globalen Governance-Defizits vorzulegen. Das Gremium setzt sich aus 38 Personen aus der ganzen Welt zusammen, die eine Vielzahl von Regionen, Geschlechtern, Disziplinen und Altersgruppen repräsentieren und über Fachwissen aus Regierungen, der Zivilgesellschaft, dem Privatsektor und der Wissenschaft verfügen.
Wir fühlen uns privilegiert, als Exekutivausschuss des Beratungsgremiums zu fungieren. Heute haben wir den Zwischenbericht der Gruppe veröffentlicht, in dem fünf Grundsätze für die Verankerung der KI-Governance und die Bewältigung einer Reihe miteinander verknüpfter Herausforderungen vorgeschlagen werden.
Erstens: Da die Risiken in verschiedenen globalen Kontexten unterschiedlich sind, müssen die Lösungen entsprechend angepasst werden. Das bedeutet jedoch, dass wir erkennen müssen, wie Rechte und Freiheiten durch bestimmte Entscheidungen in Bezug auf Design, Nutzung (und Missbrauch) und Governance gefährdet werden können. Wenn KI nicht konstruktiv eingesetzt wird, was wir als „missbräuchliche Anwendung“ bezeichnen, können bestehende Probleme und Ungleichheiten unnötig verschärft werden.
Zweitens: Da KI ein Instrument für die wirtschaftliche, wissenschaftliche und soziale Entwicklung ist und den Menschen bereits im Alltag hilft, muss sie im Interesse der Öffentlichkeit gesteuert werden. Das bedeutet, dass Ziele in Bezug auf Gerechtigkeit, Nachhaltigkeit und gesellschaftliches und individuelles Wohlergehen sowie umfassendere strukturelle Fragen wie wettbewerbsfähige Märkte und gesunde Innovationsökosysteme berücksichtigt werden müssen.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Drittens müssen die in den verschiedenen Regionen entstehenden regulatorischen Rahmenbedingungen harmonisiert werden, um die globalen Governance-Herausforderungen von KI wirksam anzugehen. Viertens sollte die KI-Governance Hand in Hand gehen mit Maßnahmen zur Wahrung der Handlungsfähigkeit und zum Schutz der Privatsphäre und der Sicherheit personenbezogener Daten. Und schließlich sollte die Governance in der Charta der Vereinten Nationen, den internationalen Menschenrechtsgesetzen und anderen internationalen Verpflichtungen, wie etwa die Ziele für nachhaltige Entwicklung, über die ein breiter globaler Konsens besteht, verankert sein.
Um diese Grundsätze im Kontext der KI zu bekräftigen, müssen einige hartnäckige Herausforderungen überwunden werden. KI basiert auf großen Mengen an Rechenleistung, Daten und natürlich auf besonderen menschlichen Fähigkeiten. Die globale Politik muss darüber nachdenken, wie ein breiter Zugang zu allen drei Bereichen entwickelt und sichergestellt werden kann. Sie muss sich auch mit dem Aufbau von Kapazitäten für die grundlegende Infrastruktur befassen, die das KI-Ökosystem unterstützt, wie zuverlässige Breitbandverbindungen und Elektrizität, insbesondere für den globalen Süden.
Größere Anstrengungen sind auch erforderlich, um den bekannten und noch unbekannten Risiken zu begegnen, die sich aus der Entwicklung, dem Einsatz oder der Nutzung von KI ergeben können. Die Risiken der künstlichen Intelligenz sind ein viel diskutiertes Thema. Während sich die einen auf mögliche Szenarien für das Ende der Menschheit konzentrieren, machen sich andere mehr Sorgen über den Schaden, den die Menschen hier und jetzt erleiden könnten; es besteht jedoch wenig Uneinigkeit darüber, dass die Risiken einer unkontrollierten KI inakzeptabel sind.
Eine gute Governance beruht auf soliden Fakten. Wir gehen davon aus, dass eine objektive Bewertung vom Zustand und vom Entwicklungsverlauf der KI notwendig ist, um Bürgern und Regierungen eine solide Grundlage für Politik und Regulierung zu bieten. Gleichzeitig würde eine analytische Beobachtungsstelle zur Bewertung der gesellschaftlichen Auswirkungen von KI ‑ von der Verdrängung von Arbeitsplätzen bis hin zu Bedrohungen der nationalen Sicherheit ‑ den politischen Entscheidungsträgern helfen, mit den immensen Veränderungen Schritt zu halten, die die KI offline mit sich bringt. Die internationale Gemeinschaft muss die Fähigkeit entwickeln, sich selbst zu kontrollieren, indem sie potenziell destabilisierende Vorfälle überwacht und darauf reagiert (wie es die großen Zentralbanken angesichts von Finanzkrisen tun) und indem sie die Rechenschaftspflicht und sogar Durchsetzungsmaßnahmen erleichtert.
Dies sind nur einige der Empfehlungen, die wir vorschlagen. Sie sollten als Untergrenze und nicht als Obergrenze betrachtet werden. Vor allem sind sie eine Einladung an mehr Menschen, uns mitzuteilen, welche Art von KI-Governance sie sich wünschen.
Wenn die KI ihr globales Potenzial ausschöpfen soll, sind neue Strukturen und Leitplanken erforderlich, damit wir alle bei der Entwicklung der KI erfolgreich sein können. Jeder hat ein Interesse an einer sicheren, fairen und verantwortungsvollen Entwicklung der KI. Die Risiken des Nichthandelns liegen ebenfalls auf der Hand. Wir glauben, dass eine globale KI-Governance unerlässlich ist, um die großen Chancen zu nutzen und die Risiken zu beherrschen, die diese Technologie für jeden Staat, jede Gemeinschaft und jeden Einzelnen heute und in den kommenden Generationen mit sich bringt.
Ian Bremmer, Carme Artigas, James Manyika und Marietje Schaake sind Mitglieder des Exekutivausschusses des hochrangigen UN-Beratungsgremiums für künstliche Intelligenz.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Adekeye Adebajo
argues that Israel’s war in Gaza is accelerating the trend toward global apartheid, highlights the strengths and weaknesses of United Nations peacekeeping missions, criticizes the militarization of US engagement with Africa, and more.
The models are in place to achieve clean cooking for all, which would have enormous benefits for the climate, health, and gender equality. Now rich-country governments, the private sector, and international organizations must agree to provide the necessary funding at this week’s IEA Summit on Clean Cooking in Africa.
urge global leaders to provide the financing to end a practice with dire effects for health and the climate.
The dollar's strength, particularly against major Asian currencies, has triggered a wave of skittishness in financial markets. Can anything be done to stem the greenback's rise, and even if something can be done, should it?
asks whether anything can or should be done about the greenback's strength, especially against Asian currencies.
NEW YORK ‑ Obwohl künstliche Intelligenz uns seit Jahrzehnten im Stillen hilft und sich der Fortschritt in den letzten Jahren beschleunigt hat, wird das Jahr 2023 als „Big Bang“ in die Geschichte eingehen. Mit dem Aufkommen der generativen KI ist die Technologie ins öffentliche Bewusstsein gerückt und prägt den öffentlichen Diskurs, beeinflusst Investitionen und wirtschaftliche Aktivitäten, heizt den geopolitischen Wettbewerb an und verändert alle Arten menschlicher Aktivitäten, von der Bildung über die Gesundheitsfürsorge bis hin zur Kunst. Jede Woche gibt es eine neue atemberaubende Entwicklung. Die künstliche Intelligenz wird nicht verschwinden, und der Wandel beschleunigt sich.
Die Politikgestaltung schreitet fast ebenso schnell voran, neue Regulierungsinitiativen und Foren werden ins Leben gerufen, um mit der Situation Schritt zu halten. Die laufenden Bemühungen der G7, der Europäischen Union und der Vereinigten Staaten sind zwar ermutigend, aber keine von ihnen ist universell und repräsentativ für die globale Gemeinschaft. Da die KI-Entwicklung von einer Handvoll CEOs und Marktakteuren in nur wenigen Ländern vorangetrieben wird, fehlt in der Governance-Debatte die Stimme der Mehrheit, insbesondere aus dem globalen Süden.
Die einzigartigen Herausforderungen, die die KI mit sich bringt, erfordern einen koordinierten globalen Ansatz für die Governance, und nur eine Institution verfügt über die umfassende Legitimität, eine solche Antwort zu organisieren: die Vereinten Nationen. Wir müssen die KI-Governance richtig gestalten, wenn wir ihr Potenzial ausschöpfen und ihre Risiken mindern wollen. Vor diesem Hintergrund wurde das Hochrangige Beratungsgremium der Vereinten Nationen für KI eingerichtet, um Analysen und Empfehlungen zur Behebung des globalen Governance-Defizits vorzulegen. Das Gremium setzt sich aus 38 Personen aus der ganzen Welt zusammen, die eine Vielzahl von Regionen, Geschlechtern, Disziplinen und Altersgruppen repräsentieren und über Fachwissen aus Regierungen, der Zivilgesellschaft, dem Privatsektor und der Wissenschaft verfügen.
Wir fühlen uns privilegiert, als Exekutivausschuss des Beratungsgremiums zu fungieren. Heute haben wir den Zwischenbericht der Gruppe veröffentlicht, in dem fünf Grundsätze für die Verankerung der KI-Governance und die Bewältigung einer Reihe miteinander verknüpfter Herausforderungen vorgeschlagen werden.
Erstens: Da die Risiken in verschiedenen globalen Kontexten unterschiedlich sind, müssen die Lösungen entsprechend angepasst werden. Das bedeutet jedoch, dass wir erkennen müssen, wie Rechte und Freiheiten durch bestimmte Entscheidungen in Bezug auf Design, Nutzung (und Missbrauch) und Governance gefährdet werden können. Wenn KI nicht konstruktiv eingesetzt wird, was wir als „missbräuchliche Anwendung“ bezeichnen, können bestehende Probleme und Ungleichheiten unnötig verschärft werden.
Zweitens: Da KI ein Instrument für die wirtschaftliche, wissenschaftliche und soziale Entwicklung ist und den Menschen bereits im Alltag hilft, muss sie im Interesse der Öffentlichkeit gesteuert werden. Das bedeutet, dass Ziele in Bezug auf Gerechtigkeit, Nachhaltigkeit und gesellschaftliches und individuelles Wohlergehen sowie umfassendere strukturelle Fragen wie wettbewerbsfähige Märkte und gesunde Innovationsökosysteme berücksichtigt werden müssen.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Drittens müssen die in den verschiedenen Regionen entstehenden regulatorischen Rahmenbedingungen harmonisiert werden, um die globalen Governance-Herausforderungen von KI wirksam anzugehen. Viertens sollte die KI-Governance Hand in Hand gehen mit Maßnahmen zur Wahrung der Handlungsfähigkeit und zum Schutz der Privatsphäre und der Sicherheit personenbezogener Daten. Und schließlich sollte die Governance in der Charta der Vereinten Nationen, den internationalen Menschenrechtsgesetzen und anderen internationalen Verpflichtungen, wie etwa die Ziele für nachhaltige Entwicklung, über die ein breiter globaler Konsens besteht, verankert sein.
Um diese Grundsätze im Kontext der KI zu bekräftigen, müssen einige hartnäckige Herausforderungen überwunden werden. KI basiert auf großen Mengen an Rechenleistung, Daten und natürlich auf besonderen menschlichen Fähigkeiten. Die globale Politik muss darüber nachdenken, wie ein breiter Zugang zu allen drei Bereichen entwickelt und sichergestellt werden kann. Sie muss sich auch mit dem Aufbau von Kapazitäten für die grundlegende Infrastruktur befassen, die das KI-Ökosystem unterstützt, wie zuverlässige Breitbandverbindungen und Elektrizität, insbesondere für den globalen Süden.
Größere Anstrengungen sind auch erforderlich, um den bekannten und noch unbekannten Risiken zu begegnen, die sich aus der Entwicklung, dem Einsatz oder der Nutzung von KI ergeben können. Die Risiken der künstlichen Intelligenz sind ein viel diskutiertes Thema. Während sich die einen auf mögliche Szenarien für das Ende der Menschheit konzentrieren, machen sich andere mehr Sorgen über den Schaden, den die Menschen hier und jetzt erleiden könnten; es besteht jedoch wenig Uneinigkeit darüber, dass die Risiken einer unkontrollierten KI inakzeptabel sind.
Eine gute Governance beruht auf soliden Fakten. Wir gehen davon aus, dass eine objektive Bewertung vom Zustand und vom Entwicklungsverlauf der KI notwendig ist, um Bürgern und Regierungen eine solide Grundlage für Politik und Regulierung zu bieten. Gleichzeitig würde eine analytische Beobachtungsstelle zur Bewertung der gesellschaftlichen Auswirkungen von KI ‑ von der Verdrängung von Arbeitsplätzen bis hin zu Bedrohungen der nationalen Sicherheit ‑ den politischen Entscheidungsträgern helfen, mit den immensen Veränderungen Schritt zu halten, die die KI offline mit sich bringt. Die internationale Gemeinschaft muss die Fähigkeit entwickeln, sich selbst zu kontrollieren, indem sie potenziell destabilisierende Vorfälle überwacht und darauf reagiert (wie es die großen Zentralbanken angesichts von Finanzkrisen tun) und indem sie die Rechenschaftspflicht und sogar Durchsetzungsmaßnahmen erleichtert.
Dies sind nur einige der Empfehlungen, die wir vorschlagen. Sie sollten als Untergrenze und nicht als Obergrenze betrachtet werden. Vor allem sind sie eine Einladung an mehr Menschen, uns mitzuteilen, welche Art von KI-Governance sie sich wünschen.
Wenn die KI ihr globales Potenzial ausschöpfen soll, sind neue Strukturen und Leitplanken erforderlich, damit wir alle bei der Entwicklung der KI erfolgreich sein können. Jeder hat ein Interesse an einer sicheren, fairen und verantwortungsvollen Entwicklung der KI. Die Risiken des Nichthandelns liegen ebenfalls auf der Hand. Wir glauben, dass eine globale KI-Governance unerlässlich ist, um die großen Chancen zu nutzen und die Risiken zu beherrschen, die diese Technologie für jeden Staat, jede Gemeinschaft und jeden Einzelnen heute und in den kommenden Generationen mit sich bringt.
Ian Bremmer, Carme Artigas, James Manyika und Marietje Schaake sind Mitglieder des Exekutivausschusses des hochrangigen UN-Beratungsgremiums für künstliche Intelligenz.
Übersetzung: Andreas Hubig