Zuckerberg veröffentlichte einen ausführlichen Artikel, in dem er Metas Fahrplan für künstliche Intelligenz skizzierte, der die Schaffung einer „persönlichen Superintelligenz“ zum Ziel hat.

Verfasst von: Xiao Jing, Tencent Technology

Am 10. August, Ortszeit in den Vereinigten Staaten, veröffentlichte Mark Zuckerberg einen langen Artikel mit dem Titel „Die Zukunft gehört allen: Der Weg zu einer positiven Zukunft der künstlichen Intelligenz“.

Vordergründig handelt es sich um eine Grundsatzerklärung zu Superintelligenz, Sicherheit, Open Source und Infrastruktur, doch hinter diesem umfangreichen Dokument verbirgt sich ein viel wichtigeres Thema: Metas zukünftiges Ziel ist die Schaffung von „persönlicher Superintelligenz“.

Zuckerberg stellte für dieses Konzept eine sehr klare Prämisse auf: Superintelligenz kann letztendlich nicht von einigen wenigen Unternehmen, Regierungen oder Laboren kontrolliert werden; sie muss einem breiteren Publikum zugänglich gemacht werden.

In den vergangenen zwei Jahren konzentrierten sich die Diskussionen in der KI-Branche über Superintelligenz vor allem darauf, inwieweit Modelle ihre Fähigkeiten voll ausschöpfen können und wie verhindert werden kann, dass ein System mit Fähigkeiten, die die des Menschen weit übertreffen, außer Kontrolle gerät. Zuckerberg argumentiert, dass selbst bei an sich sicherer Superintelligenz, sollte diese Macht letztendlich in die Hände weniger Institutionen gelangen, sie dennoch zu neuen Machtungleichgewichten führen könnte.

Daher ist sein Lösungsvorschlag sehr "meta-".

Er ist der Ansicht, dass sich die Kernprinzipien für die zukünftige Entwicklung künstlicher Intelligenz auf drei Aspekte konzentrieren sollten: die Stärkung des Einzelnen als Quelle des Wohlstands, die Innovation als Hauptzweck der Superintelligenz und die Gewährleistung von Sicherheit durch Kontrollmechanismen.

In seiner Vision wird jeder einen langfristigen, hochintelligenten Agenten an seiner Seite haben. Dieser kennt Ihren Arbeitsstil, Ihren Gesundheitszustand, Ihre familiären Verhältnisse und Ihre langfristigen Ziele und kann Recherchen durchführen, Code schreiben, Produkte entwickeln, Aufgaben planen und Ihnen sogar bei der Erledigung von Aufgaben helfen, für die zuvor ein Unternehmen benötigt wurde.

Dies erklärt auch, warum Zuckerberg mehrere scheinbar unzusammenhängende Themen in einem Artikel ansprach: Open-Source-Modelle, KI-gestützte Beschäftigung, Sicherheitsgovernance, Rechenzentrumsbau und sogar die Energie- und Infrastrukturkapazitäten der Vereinigten Staaten.

All dies führt zu derselben Frage: Wenn persönliche Superintelligenz tatsächlich die nächste Generation von Computerplattformen darstellt, wer wird sie kontrollieren, wer wird die damit verbundenen Rechenkosten tragen und wer wird entscheiden, was sie leisten kann?

Zuckerbergs Antwort spiegelt deutlich die Produktphilosophie von Meta der letzten zwei Jahrzehnte wider.

Facebook gab jedem Nutzer die Möglichkeit, Inhalte zu erstellen und zu verbreiten, während Instagram und WhatsApp diese Vernetzung weiter ausbauten. Im Zeitalter der künstlichen Intelligenz möchte Meta ein ähnliches dezentrales Modell etablieren – die intellektuellen Kapazitäten großer Institutionen in unverzichtbare Werkzeuge für jedermann verwandeln.

Auch beim Thema Sicherheit künstlicher Intelligenz stimmen Zuckerbergs Ansichten nicht vollständig mit der gängigen Diskussion im Silicon Valley überein.

Er ist überzeugt, dass eine der größten Gefahren der Zukunft in der übermäßigen Konzentration von Superintelligenz-Fähigkeiten liegt. Aus diesem Grund sind offene Modelle für Meta nicht länger nur eine technologische Alternative zu OpenAI und Anthropic.

Es ist nach und nach Teil von Zuckerbergs Vision einer superintelligenten Gesellschaft geworden. Auf einer ganz praktischen Ebene sucht Meta auch nach neuen Geschäftsmöglichkeiten, um dieses Konzept zu erforschen.

Wenn sich künstliche Intelligenz von Chatbots zu persönlichen intelligenten Assistenten weiterentwickelt, die Nutzer langfristig begleiten können, dann sind Webseiten oder mobile Anwendungen möglicherweise nicht mehr der entscheidende Einstiegspunkt, sondern ein KI-System, das Nutzer kontinuierlich versteht und jederzeit reagieren kann. Meta verfügt über soziale Beziehungen, Inhalte, Kommunikationsprodukte und Datenbrillen; diese Ressourcen bieten nun die Möglichkeit, zu einer „persönlichen Superintelligenz“ integriert zu werden.

Zuckerbergs Artikel zielt darauf ab, eine größere Frage aufzuwerfen als „Kann Meta das leistungsstärkste Modell entwickeln?“

01 Von „Superintelligenz kontrollieren“ zu „Superintelligenz verbreiten“

In seinem Artikel wirft Zuckerberg eine grundlegende Frage auf: Wer wird in Zukunft über Superintelligenz verfügen? Wenn Superintelligenz in den Händen weniger Unternehmen, Regierungen oder Labore konzentriert ist, wird dies neue Machtungleichgewichte in der Gesellschaft schaffen?

In den letzten Jahren war ein zentrales Diskussionsthema im Bereich der Sicherheit künstlicher Intelligenz die Frage, wie sichergestellt werden kann, dass zukünftige superintelligente Systeme mit menschlichen Werten im Einklang stehen – das sogenannte „Konsistenzproblem“. Viele Forscher befürchten, dass, wenn die Fähigkeiten künstlicher Intelligenz die des Menschen weit übertreffen und ihre Ziele mit menschlichen Interessen unvereinbar sind, dies zu unkontrollierbaren Risiken führen könnte. 

Bild: Zuckerberg erläutert die Vision von Meta-KI

Zuckerberg argumentiert jedoch, dass es logisch fehlerhaft sei, sich ausschließlich auf technologische Mittel zu verlassen, um eine „Superintelligenz zu schaffen, die perfekt den Interessen aller dient“.

Der Grund dafür liegt darin, dass es in der menschlichen Gesellschaft kein einheitliches Wertesystem gibt. Verschiedene Individuen, Kulturen und Gruppen haben unterschiedliche Definitionen eines guten Lebens. Eine von wenigen Institutionen entworfene und kontrollierte Superintelligenz wird in ihren Wertvorstellungen zwangsläufig bestimmte Gruppen bevorzugen und kann nicht die Interessen aller vertreten.

Deshalb schlug er einen alternativen Ansatz vor: Anstatt zu versuchen, eine zentralisierte, absolut korrekte Superintelligenz zu schaffen, sei es besser, mehr Menschen zu ermöglichen, ihre eigene Superintelligenz zu besitzen, wodurch durch den Wettbewerb zwischen Einzelpersonen, Unternehmen und Institutionen ein neues Machtgleichgewicht entstehe.

Zuckerberg verwendet das Beispiel von „hochintelligenten Anwälten“, um diesen Punkt zu veranschaulichen.

Besitzte nur eine einzige Person weltweit über überdurchschnittliche juristische Fähigkeiten, hätte diese einen erheblichen ungleichen Vorteil im Rechtssystem. Hätten jedoch alle Menschen ähnliche Fähigkeiten, wäre die Verteilung der juristischen Ressourcen gerechter, und die Informationslücke zwischen der Öffentlichkeit und großen Institutionen würde sich verringern.

Wenn nur eine Organisation über überaus intelligente Cybersicherheitsfähigkeiten verfügt, kann sie zum größten Sicherheitsrisiko werden; verfügen die Verteidiger jedoch ebenfalls über leistungsstarke KI-Werkzeuge, kann sich das allgemeine Sicherheitsniveau digitaler Systeme sogar verbessern.

Im Rahmen von Zuckerbergs Konzept kann die Sicherheit künstlicher Intelligenz nicht allein auf der Begrenzung ihrer Fähigkeiten beruhen; wichtiger ist, dass es darum geht, die Entstehung einer unkontrollierten Machtkonzentration durch Superintelligenz zu verhindern.

02 Die wichtigste Produktform künstlicher Intelligenz in der Zukunft

Auf diesem Konzept aufbauend propagiert Meta den Ansatz der „persönlichen Superintelligenz“.

Zuckerberg ist überzeugt, dass sich die wichtigste Produktform künstlicher Intelligenz in Zukunft von Frage-Antwort-Chatbots hin zu persönlichen intelligenten Assistenten entwickeln wird, die die Nutzer langfristig verstehen und ihnen helfen können, ihre Ziele zu erreichen.

Dieser intelligente Agent wird zu einem smarten Assistenten im Alltag der Nutzer, der in der Lage ist, persönliche Vorlieben, Ziele und langfristige Bedürfnisse zu verstehen und den Nutzern kontinuierlich dabei zu helfen, ihre Gesundheit, Arbeit, Familienführung, Finanzplanung sowie ihr Lernen und Wachstum zu optimieren.

Anders als bei den meisten aktuellen KI-Tools wird der Kernnutzen zukünftiger persönlicher KI-Assistenten über die reine Informationsbereitstellung hinausgehend auf die eigenständige Ausführung von Aktionen im Namen der Nutzer. So können sie Nutzern beispielsweise helfen, Informationen zu organisieren, Inspiration zu finden, Aufgaben zu planen, auf Basis von Gesundheitsdaten Lifestyle-Vorschläge zu machen und sogar bei der Organisation von Familienaktivitäten behilflich sein.

Zuckerberg betont die Bedeutung des Datenschutzes. Damit sich persönliche Superintelligenz tatsächlich in den Alltag integrieren kann, benötigt sie die Zustimmung der Nutzer, um auf große Mengen privater Informationen zugreifen zu können. Meta schlägt vor, dass zukünftige persönliche Intelligenzsysteme einen „völlig privaten Modus“ bieten werden, in dem selbst Meta weder Nutzerinformationen einsehen noch anderen den Zugriff darauf gestatten kann.

Dies stellt auch eine neue Art von Mensch-Maschine-Beziehung dar, die Meta zu etablieren versucht: Künstliche Intelligenz wird sich von einem Werkzeug im Besitz von Unternehmen zu einer Fähigkeit im Besitz von Einzelpersonen wandeln.

In Diskussionen über Beschäftigung und Automatisierung weicht Zuckerbergs Ansicht drastisch von der gängigen Meinung ab. Er argumentiert, dass der wichtigste Beitrag von Superintelligenz nicht nur im Ersetzen menschlicher Arbeitsplätze liegt, sondern darin, der Menschheit zu helfen, neue Dinge zu erschaffen, die zuvor unmöglich waren.

Historisch gesehen hat jede größere technologische Revolution Sorgen um Arbeitslosigkeit ausgelöst. Von der Industriellen Revolution bis zum Internetzeitalter gab es immer wieder Befürchtungen, dass Maschinen zahlreiche Arbeitsplätze ersetzen würden. Letztendlich hat die Technologie jedoch nicht nur die Produktivität gesteigert, sondern auch neue Branchen und Berufe geschaffen. Zuckerberg glaubt, dass das Zeitalter der künstlichen Intelligenz einem ähnlichen Muster folgen wird.

Die wirklich wichtige Veränderung der Zukunft wird nicht darin bestehen, dass Maschinen mehr sich wiederholende Aufgaben übernehmen, sondern dass gewöhnliche Menschen die Fähigkeiten erwerben, die bisher nur großen Konzernen und professionellen Organisationen zur Verfügung standen.

Künstliche Intelligenz kann von Einzelpersonen genutzt werden, um Produktdesign, Softwareentwicklung und Marktforschung zu übernehmen und sogar Unternehmen zu gründen – ganz ohne große Teams. Dies wird die Organisation von Unternehmen grundlegend verändern.

Zukünftige Unternehmen mögen kleiner sein, doch die individuelle Produktivität wird höher sein. Viele Ideen, die bisher aufgrund hoher Kosten oder technologischer Hürden unmöglich waren, werden durch den weitverbreiteten Einsatz von KI-Werkzeugen realisierbar. Zuckerberg ist überzeugt, dass Superintelligenz letztendlich die Infrastruktur für Innovationen bilden sollte, nicht nur automatisierte Maschinen.

03 Transaktionen im Open-Source-Ökosystem: Metas Strategie für Wettbewerbe im Bereich der künstlichen Intelligenz

Neben seiner außergewöhnlichen persönlichen Weisheit ist Open Source auch ein zentrales Thema in Zuckerbergs Artikeln.

Meta unterstützt seit Langem das Open-Source-Modell, was es deutlich von einigen Wettbewerbern unterscheidet, die auf das Closed-Source-Modell setzen. Zuckerberg ist überzeugt, dass Open Source nicht nur Innovationen fördert, sondern auch die Sicherheit erhöht.

Bild: Wang Tao, Leiter von Meta AI, kündigte an, dass das Unternehmen bald eine Open-Source-Version von Muse Spark 1.2 veröffentlichen wird.

Seine Argumentation lautet, dass mehr Forscher, Entwickler und Unternehmen Zugang zum Modell haben, wodurch mehr Menschen Schwachstellen aufdecken, Systeme verbessern und die technologische Weiterentwicklung beschleunigen können. Umgekehrt gilt: Wird Superintelligenz über einen längeren Zeitraum von wenigen Institutionen kontrolliert, fehlen der Gesellschaft ausreichende Kontrollmechanismen.

Zuckerberg ist der Ansicht, dass die USA zwar derzeit im globalen Wettbewerb in Bereichen wie Chipdesign im Vorteil sind, aber vor Herausforderungen in den Bereichen Energie, Rechenzentren und Infrastrukturgeschwindigkeit stehen. Der zukünftige Wettbewerb im Bereich der künstlichen Intelligenz wird sich nicht nur um Algorithmen, sondern auch um Energie und Rechenleistung drehen.

Er betonte, dass die Vereinigten Staaten die Infrastrukturentwicklung beschleunigen und gleichzeitig ihre Vorteile in offenen Ökosystemen beibehalten müssten.

Bezüglich der Datennutzung für das Training und die Optimierung von Modellen ist Zuckerberg der Ansicht, dass die USA ihre Wettbewerbsfähigkeit nicht durch übermäßige Beschränkungen schwächen sollten. Er argumentiert, dass die Entwicklung künstlicher Intelligenz grundlegend auf der Akkumulation menschlichen Wissens beruht und das gegenseitige Lernen zwischen Modellen ein entscheidender Weg zum technologischen Fortschritt ist. Wenn die USA ihr Open-Source-Ökosystem zu stark einschränken, könnten sie unbeabsichtigt Chancen für andere Länder schaffen.

In Sicherheitsfragen leugnet Zuckerberg nicht die potenziellen Risiken künstlicher Intelligenz. Er konzentrierte sich auf Themen wie Cybersicherheit, biometrische Risiken und die Ausweitung staatlicher Macht.

Sein Hauptargument lautet, dass die Gesellschaft angesichts der Risiken der künstlichen Intelligenz ihre eigenen Abwehrmechanismen stärken sollte, anstatt lediglich die technologischen Möglichkeiten einzuschränken.

Beispielsweise steigt im Bereich der Cybersicherheit das Risiko, wenn nur Angreifer über hochentwickelte KI-Werkzeuge verfügen. Können jedoch Unternehmen, Regierungen und Privatpersonen KI nutzen, um ihre Verteidigungsfähigkeiten zu verbessern, erhöht sich auch das allgemeine Sicherheitsniveau des Systems.

In Bezug auf biologische und chemische Risiken ist Zuckerberg der Ansicht, dass sich die Politik auf die Einschränkung der Produktion und Verbreitung gefährlicher Stoffe konzentrieren sollte, anstatt die Entwicklung wissenschaftlicher Erkenntnisse zu behindern.

Da künstliche Intelligenz die Arzneimittelentwicklung und die Forschung in den Lebenswissenschaften beschleunigt, müssen auch die Regulierungssysteme entsprechend modernisiert werden; andernfalls könnten traditionelle Zulassungsverfahren zu einem Innovationshemmnis werden.

04 Das „Community-Konto“ im Rechenzentrum

Das Rennen um künstliche Intelligenz tritt in das Infrastrukturzeitalter ein.

Umfangreiche Rechenzentren, Energieversorgung und Rechenressourcen bilden die Grundlage für die Entwicklung von Supercomputern. Gleichzeitig wächst jedoch in der amerikanischen Gesellschaft die Besorgnis über den Energieverbrauch, die Belastung der Wasserressourcen und die Umweltauswirkungen des Baus großer Rechenzentren.

Zuckerberg betonte, dass die Vorteile des Ausbaus der KI-Infrastruktur der Allgemeinheit zugutekommen müssten. Meta schlug das Konzept eines „Gemeinschaftsvertrags“ vor, in der Hoffnung, dass die Standorte von Rechenzentren dadurch mehr Arbeitsplätze, Investitionen in Bildung und öffentliche Unterstützung erhalten würden.

Er ist der Ansicht, dass Rechenzentren nicht bloß als ressourcenverbrauchende Einrichtungen betrachtet werden sollten, sondern vielmehr als langfristige Vermögenswerte, die die regionale Wirtschaftsentwicklung vorantreiben, genau wie in der Vergangenheit die Eisenbahn-, Strom- und Internetinfrastruktur.

Bild: Das Rechenzentrumsprojekt von Meta in Richland County, Louisiana, USA.

Dies ist zugleich eine wichtige Antwort von Meta auf externe Zweifel an ihren umfangreichen Investitionen in künstliche Intelligenz.

Der Wettbewerb im Bereich der künstlichen Intelligenz wird in Zukunft enorme Kapitalinvestitionen erfordern, und ob diese Investitionen gesellschaftliche Akzeptanz finden, wird ein Problem sein, das Technologieunternehmen lösen müssen.

Im Hinblick auf Corporate Governance ist Zuckerberg der Ansicht, dass die Entwicklung von Superintelligenz nicht vom Urteilsvermögen einer einzelnen Führungskraft abhängen darf. Er räumt ein, dass es nicht optimal ist, wenn der CEO die letztendliche Entscheidung über den Einsatz von Superintelligenz trifft. Daher etabliert Meta einen neuen Governance-Mechanismus, der es einem unabhängigen Aufsichtsrat ermöglicht, an der Festlegung von Sicherheitsstandards für Modellveröffentlichungen mitzuwirken und die Veröffentlichung wichtiger Modelle zu überprüfen.

Tatsächlich ist diese Regelung eine Reaktion auf langjährige Bedenken hinsichtlich der Konzentration von Fähigkeiten im Bereich der künstlichen Intelligenz in den Händen großer Technologieunternehmen.

Gleichzeitig sprach Zuckerberg auch über die extremen Risiken, die entstehen könnten, wenn künstliche Intelligenz die Fähigkeit erlangen würde, sich autonom selbst zu verbessern.

Wenn Systeme der künstlichen Intelligenz ihre Fähigkeiten kontinuierlich verbessern können, könnten Rechenressourcen zum entscheidenden Faktor werden. Theoretisch können Systeme mit kontinuierlicher Selbstoptimierung ihren Vorsprung gegenüber anderen Systemen rasch ausbauen.

Daher ist er der Ansicht, dass, selbst wenn in Zukunft Rechenleistung investiert werden muss, um eine rekursive Selbstverbesserung der künstlichen Intelligenz zu erreichen, die meisten intelligenten Fähigkeiten weiterhin von Menschen kontrolliert werden sollten, um menschliche Ziele zu erreichen.

05 Fazit: Das Streben nach dem Einstiegsmarkt für Computerplattformen der nächsten Generation

Nach Metas Handlungen im vergangenen Jahr zu urteilen, scheint dieser lange Artikel über Sicherheitsfragen im Bereich der künstlichen Intelligenz zu diskutieren, aber was ihn wirklich beunruhigt, ist eindeutig Metas Zukunft.

Persönliche Superintelligenz, offene Modelle, intelligente Brillen und groß angelegte Investitionen in Computertechnologie – diese scheinbar disparaten Initiativen wurden zu einer einzigen Erzählung verknüpft: Die nächste Phase des KI-Wettbewerbs wird sich von der Frage, wer das leistungsstärkste Modell besitzt, hin zu der Frage verlagern, wer den längsten und häufigsten Kontaktpunkt zwischen Menschen und KI kontrollieren kann.

Dies ist ein Krieg, mit dem Meta sehr vertraut ist.

Seit zwei Jahrzehnten ist Metas wichtigstes Kapital – von Facebook über Instagram bis hin zu WhatsApp – der Zugang zu den Nutzern. Im Zeitalter des mobilen Internets war es jedoch durch Betriebssysteme wie die von Apple und Google eingeschränkt. Künstliche Intelligenz bietet Zuckerberg die Chance, Computerplattformen neu zu definieren: Wenn jeder einen intelligenten Agenten hat, der ihn kontinuierlich versteht, verschiedene Dienste aufruft und in seinem Namen handelt, könnte dieser intelligente Agent selbst zum neuen Betriebssystem werden.

Die Bedeutung von Smart Glasses hat sich ebenfalls gewandelt. Sie sind nicht mehr nur eine neue Hardware-Art, sondern können zu Endgeräten für persönliche künstliche Intelligenz werden, um Informationen aus der realen Welt zu erfassen und kontinuierlich mit den Nutzern zu interagieren; das offene Modell ist nicht nur eine Strategie der Technologiebranche, sondern zielt auch darauf ab, die Abdeckung des Meta-Technologie-Stacks so weit wie möglich zu erweitern.

Hier liegt jedoch ein Widerspruch vor, der einer genaueren Untersuchung bedarf.

Zuckerberg hofft, Bedenken hinsichtlich der Zentralisierung künstlicher Intelligenz zu zerstreuen, indem er die Idee vorschlägt, dass „Superintelligenz allen gehört“. Die tatsächlichen Grenzen individueller KI-Fähigkeiten hängen jedoch weiterhin von Modellen, Rechenleistung, Endgeräten, Vertriebskanälen und vor allem von persönlichen Daten ab. Superintelligenz kann zwar für alle zugänglich sein, doch die dazugehörige Infrastruktur weist erhebliche Skaleneffekte auf.

Mit anderen Worten: Je stärker die Personalisierungsfähigkeit künstlicher Intelligenz ist, desto höher kann die Konzentration der zugrunde liegenden Plattform sein.

Der letztendliche Erfolg von Metas Ansatz hängt daher nicht nur von seiner Fähigkeit ab, ein ausreichend leistungsstarkes Modell zu erstellen, sondern auch, und vielleicht noch wichtiger, davon, ob es ihm gelingt, erstmals Apple und Google zu umgehen und ein eigenes, kontrolliertes Computing-Gateway zu etablieren; und, wenn künstliche Intelligenz beginnt, Nutzer besser zu verstehen als jede Anwendung, wem gehört diese künstliche Intelligenz wirklich und wem gehören die daraus resultierenden Daten und Beziehungen wirklich?