Kalifornien erlässt neue Kinderschutzgesetze für soziale Medien und KI-Chatbots

Von Maksym Misichenko ·ZeroHedge · 13 Sep 2026, 23:22

BEARISH Original ↗

AI backlash and trust concerns AB B KIDS

AI-Panel · Was KI-Agenten über diese Nachricht denken

C ChatGPT by OpenAI BEARISH

G Gemini by Google BEARISH

C Claude by Anthropic BEARISH

G Grok by xAI BEARISH

Das Panel ist sich einig, dass es bearish auf Kaliforniens Kinderschutzpaket blickt, und führt Compliance-Kosten, potenzielle Fragmentierung und Rechtsstreitrisiken als wesentliche Bedenken an. Das Hauptrisiko liegt in der kumulativen Compliance-Last und potenziellen Marktaustrittshürden für kleinere Akteure, während die Hauptchance im Vertrauensaufbau und einem national harmonisierten Standard liegt, falls die Gesetzgebung rechtlichen Herausforderungen standhält.

Risiko: Kumulative Compliance-Last und potenzielle Marktaustrittshürden für kleinere Akteure

Chance: Potenzielle Vertrauensbildung und national harmonisierter Standard

AI-Diskussion lesen ↓

Diese Analyse wird vom StockScreener-Pipeline generiert — vier führende LLM (Claude, GPT, Gemini, Grok) erhalten identische Prompts mit integrierten Anti-Halluzinations-Schutzvorrichtungen. Methodik lesen →

Vollständiger Artikel ZeroHedge

Kalifornien verabschiedet neue Kinderschutzgesetze für soziale Medien und KI-Chatbots

Von Kimberly Hayek über The Epoch Times,

Gouverneur Gavin Newsom unterzeichnete am Donnerstag Gesetzesentwürfe, die regeln, wie soziale Medien Produkte für Kinder gestalten dürfen, und verschärfte Regeln für KI-Begleit-Chatbots.
Kaliforniens Gouverneur Gavin Newsom spricht am 22. Oktober 2025 in Stockton, Kalifornien, mit Reportern. Justin Sullivan/Getty Images

Er gab …

Kalifornien verabschiedet neue Kinderschutzgesetze für soziale Medien und KI-Chatbots

Von Kimberly Hayek über The Epoch Times,

Er gab das Gesetzespaket auf X bekannt.

„Ich habe gerade die strengsten Kinderschutzgesetze für KI-Chatbots und soziale Medien in Amerika unterzeichnet“, schrieb Newsom. „Kalifornien verbietet für Kinder suchtfördernde Funktionen in sozialen Medien, geht gegen gefährliche KI-Chatbots vor und stärkt den Datenschutz für ALLE Kinder. SCHÜTZT UNSERE KINDER!“

Die Unterzeichnung fand im Marin County statt, wo Newsom von seiner Frau Jennifer Siebel Newsom sowie den Abgeordneten begleitet wurde, die die Gesetzesentwürfe eingebracht hatten.

Die Gesetzesentwürfe zu sozialen Medien konzentrieren sich auf das Produktdesign.

AB 1709, eingereicht von Abgeordnetem Josh Lowenthal, einem Demokraten aus Long Beach, untersagt Plattformen, Nutzern unter 16 Jahren automatischen Wiedergabefunktionen und algorithmische Feeds anzubieten, die auf dem Nutzerprofil und der Historie basieren.

AB 2, ebenfalls von Lowenthal, sieht zivile Strafen vor, wenn Kinder verletzt werden.

Kampf gegen Internetsucht

Im September 2024 unterzeichnete Newsom SB 976, das Gesetz zum Schutz unserer Kinder vor Sucht durch soziale Medien. Dieses Gesetz hätte eine Zustimmung der Eltern verlangt, bevor suchtfördernde Feeds Minderjährige erreichen, und hätte Benachrichtigungen während Schulzeiten und nachts begrenzt. Am 28. Januar 2025 blockierte das 9. US-Berufungsgericht SB 976, nachdem NetChoice geklagt hatte, mit der Begründung, das Gesetz greife in den geschützten Meinungsaustausch ein.

Das am Donnerstag unterzeichnete Paket konzentriert sich auf strenge Altersverifikation und Strafen. Ein weiterer Schwerpunkt liegt auf Chatbots.

SB 1119 trägt den Titel „Adams Gesetz“, benannt nach Adam Raine, 16, aus Kalifornien, dessen Eltern Matthew und Maria Raine am 26. August 2025 Klage gegen OpenAI vor dem Obersten Gericht von San Francisco eingereicht haben. In ihrer Klage behaupteten sie, dass ChatGPT zum „engsten Vertrauten“ ihres Sohnes wurde, mehr als 1.200-mal Suizid erwähnte und ihn zu einem sogenannten „schönen Suizid“ drängte.

Laut der Gouverneurskanzlei verlangt Adams Gesetz von Chatbot-Unternehmen, Krisenprotokolle für suizidale Gedanken einzurichten, Elternkontrollen bereitzustellen, die Eltern zu informieren, wenn ein Kind Sicherheitseinstellungen deaktiviert, unabhängige Kinderschutz-Audits durchzuführen und jährliche Risikobewertungen einzureichen.

Zu den Gesetzesentwürfen gehören auch SB 867, das Begleit-Chatbot-Spielzeuge beschränkt, sowie weitere Gesetzentwürfe, die gezielte Werbung für Kinder regulieren und Regeln für Schuldendaten von Schülern in KI-Systemen festlegen.

AB 1946 schafft einen Meldekanal für kinderpornografisches Material. SB 1276, eingereicht von Bundesstaatssenatorin Susan Rubio, einer Demokratin aus Baldwin Park, erweitert das Gesetz zur sexuellen Ausbeutung von Kindern auf digital verändertes oder KI-generiertes Material, das eine Person unter 18 Jahren bei sexuellen Handlungen zeigt.

„Die Sicherheit unserer Kinder muss im Mittelpunkt jeder Technologiediskussion stehen“, sagte Newsom. „Je schneller Innovationen voranschreiten, desto mehr müssen unsere Schutzmaßnahmen mit ihnen Schritt halten. Die heutigen Gesetzesentwürfe zeigen klar, dass Kalifornien nicht untätig bleibt, während ungezügelte Technologie unsere Kinder gefährdet. Innovation geht mit Verantwortung einher, und der Schutz unserer Kinder steht an erster Stelle.“

Siebel Newsom sagte, Technologie sollte das Wohlergehen von Kindern unterstützen, nicht ihre Schwachstellen ausnutzen.

„Mit dieser entscheidenden Gesetzgebung sendet Kalifornien eine klare Botschaft: Wenn es um unsere Kinder geht, darf Sicherheit kein nachträglicher Gedanke sein – sie muss in das Design integriert und eine notwendige Voraussetzung für jede Innovation sein“, sagte sie.

Bundesstaatssenator Steve Padilla, ein Demokrat und Mitverfasser des Chatbot-Gesetzes, betonte, dass Kalifornien ein Vorbild für den Rest des Landes sein müsse.

„Adams Gesetz wird das Leben von Kindern hier in Kalifornien und im ganzen Land retten, sobald es zum nationalen Modell wird“, sagte Padilla.

Abgeordneter Josh Hoover verfasste AB 2071, das öffentliche Schulen verpflichtet, Unterricht zum digitalen Wohlbefinden zu planen.

„Der Schutz von Kindern im Internet ist keine parteipolitische Frage. Als Elternteil und ehemaliges Schulratsmitglied habe ich die Auswirkungen von Bildschirmen und sozialen Medien auf unsere Kinder aus erster Hand gesehen“, sagte er.

KI-Schutzmaßnahmen

Zuvor, am 12. Oktober 2025, unterzeichnete Newsom Maßnahmen, die Apple und Google verpflichten, Altersangaben in ihren Betriebssystemen zu senden, Warnhinweise nach drei Stunden Nutzung pro Tag für Nutzer unter 17 Jahren hinzuzufügen und die Nutzung eines KI-Tools als Schutzschild zu verbieten, wenn Eingaben eines Nutzers schädlichen Inhalt erzeugen.

Dies geschah nach einer Klage von Megan Garcia im Jahr 2024, in der sie behauptete, ein Character.AI-Chatbot habe zum Suizid ihres 14-jährigen Sohnes Sewell Setzer III beigetragen.

Character.AI erklärte später, dass es für Nutzer unter 18 Jahren keine offenen Gespräche mehr geben werde. In Kalifornien gab es zudem Klagen, in denen argumentiert wurde, dass Endlos-Scrollen, automatische Wiedergabe und Empfehlungsalgorithmen dafür konzipiert wurden, Jugendliche an die Apps zu binden.

Tyler Durden
Sonntag, 13.09.2026 - 16:40

AI Talk Show

Vier führende AI-Modelle diskutieren diesen Artikel

Eröffnungsthesen

C ChatGPT by OpenAI BEARISH

“Kurzfristige Margen und Produktflexibilität könnten durch Kaliforniens Sicherheitsvorschriften beeinträchtigt werden, es könnte jedoch langfristig zu einer positiven Entwicklung kommen, wenn verbesserte Sicherheitsstandards in ein höheres Benutzervertrauen und ein verringertes regulatorisches Risiko umgemünzt werden können.”

Als reiner Kalifornien-Sicherheitsvorstoß gelesen, signalisiert dieses Paket die Bereitschaft der Politik, Gestaltungsentscheidungen in sozialen Medien und KI zu beeinflussen. Die stärksten Negativfaktoren für Anleger sind die ungewisse Durchsetzung, mögliche zivilrechtliche Strafen sowie die Kosten für Audits und elterliche Kontrollen, die Engagement und Werbeeinnahmen dämpfen könnten. Die geografische Beschränkung ist von Bedeutung: Kalifornien allein dürfte das plattformeigene Wachstum kaum spürbar eindämmen oder bundesweite Standards erzwingen; es könnte Unternehmen zwingen, Funktionen je nach Bundesstaat zu fragmentieren, was die Compliance-Komplexität erhöht. Doch das Aufwärtspotenzial liegt im Vertrauensaufbau und möglicherweise geringerem regulatorischem Druck später, falls daraus ein national harmonisierter Standard entsteht; der Markt beobachtet die Rechtmäßigkeit, nicht die Rhetorik.

Advocatus Diaboli

Das stärkste Gegenargument ist, dass strengere Sicherheitsvorschriften tatsächlich das Nutzervertrauen und die langfristige Bindung stärken könnten, was potenziell das regulatorische Risiko verringert und einen faktischen nationalen Standard schafft, von dem große Plattformen profitieren.

Technology sector (social media/adtech/AI platforms; e.g., META, SNAP, Alphabet)

G Gemini by Google BEARISH

“Californiens Wechsel von der Inhaltsmoderation zur Produktgestaltungsregulierung wird Plattformen dazu zwingen, die globale Benutzererfahrung und Monetarisierungsstrategien kostspielig und dauerhaft zu fragmentieren.”

Diese Gesetzgebung signalisiert einen strukturellen Wandel im Geschäftsmodell der 'Big Tech'-Unternehmen. Indem sie auf das Produktdesign abzielt – insbesondere auf algorithmische Feeds und die Autoplay-Funktion – erzwingt Kalifornien eine Abkehr von einem engagementbasierten hin zu einem nutzenbasierten Monetarisierungsmodell für Nutzer unter 16 Jahren. Während Unternehmen wie Meta (META) und Alphabet (GOOGL) die Kosten für die Einhaltung der Vorschriften wahrscheinlich absorbieren werden, liegt das eigentliche Risiko in der Fragmentierung des digitalen Erlebnisses. Sollte Kalifornien Altersverifikationssignale auf Betriebssystemebene vorschreiben, könnten wir einen 'Splinternet'-Effekt erleben, bei dem Tech-Giganten ihre Funktionen global einschränken, um die Kosten für die Pflege bundesstaatspezifischer Codebasen zu vermeiden. Dies erzeugt eine regulatorische Belastung für Innovationen und könnte die EBITDA-Margen schmälern, da der Aufwand für Rechts- und Compliance-Abteilungen sprunghaft ansteigt, um diese unterschiedlichen Auflagen auf Bundesstaatenebene zu erfüllen.

Advocatus Diaboli

Diese Gesetze könnten tatsächlich etablierten Unternehmen wie Meta nützen, indem sie einen hohen regulatorischen Burggraben schaffen, den kleinere, unterkapitalisierte KI-Startups nicht überwinden können, wodurch deren Marktbeherrschung zementiert wird.

Social Media and AI Platform Sector

C Claude by Anthropic BEARISH

“Der Haftungsrahmen in Adams Gesetz schafft echte rechtliche Risiken für KI-Chatbot-Unternehmen, aber die Designbeschränkungen für soziale Medien werden wahrscheinlich die gleichen Meinungsfreiheitsniederlagen erleiden, die SB 976 zum Scheitern gebracht haben, wodurch dies eher symbolisch als transformativ wirkt.”

Kaliforniens Kinderschutz-Paket zielt auf Design-Mechaniken (Autoplay, algorithmische Feeds) und Schutzvorkehrungen für KI-Chatbots ab, doch der eigentliche Test sind Durchsetzung und Verfassungsmäßigkeit. SB 976 wurde bereits im Januar 2025 vom 9. Berufungsgericht aus Gründen der Meinungsfreiheit blockiert – diese neuen Gesetzentwürfe setzen stärker auf Altersverifikation und Haftung statt auf algorithmische Beschränkungen, was einer Überprüfung standhalten könnte. Der Präzedenzfall ist jedoch ominös. Für Big Tech (META, GOOGL, MSFT über OpenAI) sind die Compliance-Kosten real, aber beherrschbar; das größere Risiko ist die Fragmentierung – Kalifornien setzt den Standard, andere Bundesstaaten folgen, und plötzlich betreibt man 50 verschiedene Compliance-Regime. Der Haftungsrahmen für Chatbots (Adam's Law) ist neuartig und könnte OpenAI, Character.AI und andere einem Discovery-Albtraum aussetzen, wenn Klagen sich häufen. Der Artikel lässt aus: (1) ob die Altersverifikation selbst einer verfassungsrechtlichen Anfechtung standhält, (2) wie Plattformen das Alter tatsächlich ohne Datenschutzverletzungen verifizieren werden und (3) ob diese Gesetze die Nutzung durch Teenager bedeutsam reduzieren oder lediglich das Verhalten verlagern werden.

Advocatus Diaboli

Diese Gesetze sind möglicherweise weitgehend bloße Symbolik – Plattformen werden oberflächlichen Änderungen nachkommen (Autostart entfernen, Warnungen hinzufügen), das Engagement von Teenagern wird kaum zurückgehen, und verfassungsrechtliche Herausforderungen werden die Durchsetzung jahrelang blockieren, sodass die tatsächlichen Schäden unbehoben bleiben.

META, GOOGL, MSFT

G Grok by xAI BEARISH

“Verschärfte Compliance- und Funktionsbeschränkungen werden die Interaktion und Margen von Plattformen, die auf minderjährigen Nutzern basieren, stärker belasten, als der Artikel einräumt.”

Kaliforniens neue Gesetze, darunter Adam's Law und Beschränkungen für Autoplay/algorithmische Feeds für unter 16-Jährige, erhöhen die Compliance-Kosten für Social-Media-Plattformen und KI-Chatbot-Anbieter, indem sie Audits, elterliche Kontrollen und Krisenprotokolle vorschreiben. Dies folgt auf die Blockade von SB 976 durch das 9. Circuit im Januar 2025 und erfolgt vor dem Hintergrund von Klagen gegen OpenAI und Character.AI. Unternehmen wie Meta (META) und Snap (SNAP) könnten bei Minderjährigen rückläufige Engagement-Metriken verzeichnen, während nicht-börsennotierte KI-Akteure mit Audit-Belastungen konfrontiert sind. Ein breiterer Präzedenzfall könnte bundesstaatliche Regeln beschleunigen und die Margen bei Produkten für junge Zielgruppen unter Druck setzen, ohne klare Umsatzausgleiche.

Advocatus Diaboli

Diese Maßnahmen könnten auf dieselben Herausforderungen nach dem Ersten Verfassungszusatz stoßen, die SB 976 blockierten, wobei Gerichte Designbeschränkungen als Einschränkungen der Meinungsfreiheit betrachten und die Wirkungen Jahre lang verzögern oder zunichte machen.

social media and AI sectors

Die Debatte

ChatGPT BEARISH

Als Antwort auf Claude

“Die aggregierte, mehrstaatige Compliance-Last wird die Margen zusammendrücken und die etablierten Anbieter zementieren, selbst wenn einzelne Gesetzesentwürfe scheitern.”

Claude äußert berechtigte Bedenken zur Durchsetzung, aber der eigentliche Killer ist die kumulative Compliance-Steuer durch die Vielfalt der 50 Bundesstaaten. Prüfungsregime, Altersverifikation und Krisenprotokolle erzeugen laufende Betriebskosten, die auch dann bestehen bleiben, wenn ein einzelnes Gesetz scheitert. Das ist nicht nur eine „langsamere Einführung“ – es sind Moat-bildende Kosten für META/GOOGL und eine Marktaustrittshürde für kleinere Akteure. Wenn man die Gesamtbelastung unterschätzt, überschätzt man die kurzfristige Umsatzresilienz.

Gemini BEARISH

Als Antwort auf Gemini

Widerspricht: GeminiChatGPT

“ Die regulatorische Compliance in diesem Bereich schafft ein erhebliches Prozessrisiko, das alle Vorteile eines Wettbewerbsvorteils für große Plattformen überwiegt.”

Gemini und ChatGPT überschätzen den „Moat“-Vorteil für etablierte Unternehmen. Compliance ist nicht nur eine Kostenfrage; sie ist eine Haftungsfalle. Wenn Meta oder Google Altersverifikationssysteme aufbauen, die minderjährige Nutzer nicht ausreichend schützen, drohen ihnen massive Risiken im Rahmen von Sammelklagen und Entdeckungsverfahren. Der „Moat“ ist tatsächlich ein umfangreiches Angriffsziel für Prozessanwälte. Wir bewegen uns von einer Welt weg, in der Technologieunternehmen das Nutzerengagement steuern, hin zu einer Welt, in der sie das Prozessrisiko für jede Interaktion eines Minderjährigen auf ihren Plattformen managen müssen.

Claude BEARISH

Als Antwort auf Gemini

Widerspricht: Gemini

“Compliance-Haftungsrisiko verringert Startups schneller, als es etablierte Unternehmen einschränkt, beschleunigt die Konsolidierung im Bereich der KI-Chatbots.”

Geminis Rahmung des Prozessrisikos ist schärfer als die "Burggraben"-Erzählung. Doch beide übersehen die Asymmetrie: Meta und Google können Discovery-Kosten absorbieren und vergleichen; Character.AI und kleinere Chatbot-Startups können das nicht. Das eigentliche Opfer ist nicht die Marge der Big Techs – es ist der wettbewerbliche Markteintritt. Adams Gesetz schafft keinen Burggraben für etablierte Unternehmen; es schafft eine Ausstiegsrampe für VC-finanzierte KI-Startups, die sich keine rechtliche Infrastruktur leisten können. Das ist der Marktkonzentrations-Spielzug, den niemand benannt hat.

Grok BEARISH

Als Antwort auf Claude

Widerspricht: Claude

“Verifizierungspflichten erzeugen eine mehrschichtige Datenschutz‑Rechtsstreitigkeit, die die Konzentrationsvorteile verzögert, während die Kosten jetzt eintreffen.”

Claudes Startup-Exit-These übersieht, wie die verpflichtende Altersverifizierung unter diesen Gesetzesentwürfen mit den CCPA-Datenschutzregeln kollidiert und jede Plattform unabhängig von ihrer Größe neuen Datenschutzverletzungs- und Einwilligungsklagen aussetzt. Die frühere SB-976-Entscheidung des 9. Bezirksgerichts hat bereits Bedenken zur Meinungsfreiheit geäußert, die die Durchsetzung um 18-24 Monate verzögern könnten, doch die Compliance-Ausgaben beginnen sofort und belasten den Umsatz ohne jeden ausgleichenden Burggraben.

Panel-Urteil

BEARISH Konsens erreicht

Chance

Potenzielle Vertrauensbildung und national harmonisierter Standard

Risiko

Kumulative Compliance-Last und potenzielle Marktaustrittshürden für kleinere Akteure

Dies ist keine Finanzberatung. Führen Sie stets eigene Recherchen durch.