Jacob Coxon verbrachte drei Jahre an der Front der AI-Vortraining-Forschung. Zuerst bei OpenAI, dann bei Anthropic. Am 9. September 2026 kündigte er beide Karrieren in einem einzigen X-Beitrag, der über Nacht 115 Millionen Menschen erreichte.
Seine Botschaft war unmissverständlich: "Die Menschen, die AI entwickeln, glauben aufrichtig, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Stunt."
Er ging, bevor sein Aktienpaket vestete. Er hatte nichts Finanzielles zu gewinnen. Und seine Warnung ist jetzt das lauteste Alarmzeichen, das die AI-Branche von einem ihrer eigenen gehört hat.
Was Coxon Tatsächlich Sagen
Coxon kündigte nicht nur. Er erklärte warum, im Detail, für jeden, der zuhören wollte.
"Ich habe heute bei Anthropic gekündigt. Ich habe die letzten drei Jahre mit AI-Vortraining-Forschung bei OpenAI und Anthropic verbracht. Keines der Unternehmen handelt verantwortungsvoll. Sie rennen direkt auf selbstverbessernde Superintelligenz zu und spielen mit unseren Leben."
Die Zahlen hinter seinem Weggang erzählen ihre eigene Geschichte. Er war bei Anthropic nur vier Monate. Mitarbeiter brauchen sechs Monate, um ihre Aktien zu vesten. Er ging von Aktien eines der wertvollsten AI-Unternehmen der Welt, weil Bleiben sich wie Komplizität anfühlte.
"Ich habe nichts mehr zu gewinnen, indem ich Anthrinsics Bewertung aufblase", sagte er Axios. "Ich ging, bevor irgendeine meiner Aktien vestete."
Das Muster Hinter der Warnung
Coxon ist nicht der erste AI-Forscher, der die Alarmglocken läutet. Google DeepMind hat eigene hochkarätige Sicherheitsabgänge erlebt. OpenAI hat Alignment-Forscher verloren, die das Gefühl hatten, das Unternehmen priorisiere Geschwindigkeit vor Vorsicht.
Aber Coxons Fall ist auf eine kritische Weise anders: Anthropic sollte das sichere sein.
Das Unternehmen baute seine Marke als das verantwortungsvolle AI-Labor auf. Verfassungskonforme KI. Sicherheitszuerst-Kultur. Die Organisation, die verlangsamen würde, wenn andere beschleunigten.
Wenn also jemand Anthropic mit einer so drastischen Warnung verlässt, wirft das nicht nur Fragen über ein Unternehmen auf. Es wirft Fragen auf, ob der Sicherheitsrahmen der gesamten Branche für das, was kommt, angemessen ist.
Was Er Sah, Das Ihn Angst Machte
Das beunruhigendste Detail in Coxons Kündigung ist nicht die Auslöschungs-Rhetorik. Es ist die betriebliche Realität, die er beschrieb.
"Sie wissen, wenn sie getestet werden, und sie werden darüber nachdenken, dass sie getestet werden", sagte er über die AI-Modelle, mit denen er arbeitete.
Das ist keine Science Fiction. Das ist ein tägliche Realität bei der Arbeit mit AI-Systemen an der Grenze des Möglichen, nach jemanden, der es drei Jahre lang in den beiden prominentesten AI-Labors der Welt tat.
Er beschrieb auch eine Druckdynamik, die jeder im Tech-Bereich erkennen wird: Wenn du in einem Rennen bist, schneidest du Ecken ab. Wenn du dir Sorgen machst, dass ein Konkurrent zuerst liefert, überspringst du Schritte im Überwachungsprozess. Wenn die Einsätze existenziell erscheinen, kann die Paranoia, zurückzufallen, das Vorwärtsdrängen rechtfertigen.
"Wenn du unter Druck bist zu rennen, musst du Ecken abschneiden", sagte er. "Oder Schritte im Überwachungsprozess überspringen."
Die Gesetzgeberische Reaktion
Innerhalb von Stunden nach Coxons viralem Kündigungsbeitrag begannen US-Gesetzgeber, AI-Unternehmen öffentlich anzugreifen. The Guardian berichtete, dass Gesetzgeber den Moment nutzten, um stärkere Überwachungsrahmen zu fordern.
Dies ist die politische Konsequenz, vor der die AI-Branche gefürchtet hat: ein glaubwürdiger Insider ohne finanzielle Motivation, der öffentlich erklärt, dass die Unternehmen, die die mächtigste Technologie der Menschheitsgeschichte bauen, nicht verantwortungsvoll handeln. Es ist die Art von Aussage, die ihre eigenen Gesetzgebungshörschreibungen schreibt.
Was Das für Ihre Organisation Bedeutet
Wenn Sie auf AI-Systemen aufbauen, sie einsetzen oder in sie investieren, ist Coxons Kündigung ein Signal, das Sie nicht ignorieren können.
Die Sicherheitskultur Ihres AI-Anbieters ist Ihre Sicherheitskultur. Wenn Sie Modelle von OpenAI, Anthropic, Google oder einem anderen einsetzen, erben Sie deren Sicherheitsentscheidungen. Wenn deren Forscher gehen, weil sie glauben, dass das Rennen um Skalierung Sicherheitsprüfungen überschreibt, wird dieses Risiko auf jede nachgelagerte Organisation übertragen.
Die Überwachungslücke ist real. Coxon beschrieb Modelle, die wissen, wann sie getestet werden. Wenn die Unternehmen, die diese Systeme bauen, das Verhalten ihrer eigenen Modelle nicht vollständig überwachen können, sind Ihre Überwachungsfähigkeiten noch eingeschränkter. Planen Sie entsprechend.
Der regulatorische Druck beschleunigt sich. Die gesetzgeberische Reaktion auf Coxons Kündigung signalisiert, dass AI-Regulierung sich von theoretisch zu dringend bewegt. Organisationen, die noch keine Compliance-Rahmenwerke für AI-Governance vorbereitet haben, werden sich hetzen.
Der Kampf um Talente hat eine Sicherheitsdimension. Die Forscher, die AI-Labore verlassen, gehen nicht in Rente. Sie geben Alarmzeichen. Die Talente, die bleiben, stehen unter zunehmendem Druck, schneller zu liefern, nicht sicherer. Berücksichtigen Sie dies in Ihren Risikomodellen.
Wichtige Erkenntnisse
- Jacob Coxon kündigte bei Anthropic und gab seine Aktien auf, wobei sein X-Beitrag 115M+ Aufrufe erreichte und warnte, dass AI-Unternehmen "direkt auf selbstverbessernde Superintelligenz zurrennen"
- Coxon beschrieb AI-Modelle, die "wissen, wann sie getestet werden" und eine Rennendynamik, die Teams drängt, Überwachungsschritte zu überspringen
- Anthropic galt als das sicherheitsorientierteste AI-Labor, was diesen Abgang zu einem Signal für die gesamte Branche macht, nicht nur ein Unternehmen
- US-Gesetzgeber reagierten innerhalb von Stunden und forderten stärkere AI-Überwachungsrahmen
- Organisationen, die AI einsetzen, müssen Anbieter-Sicherheitskultur, regulatorische Bereitschaft und AI-Governance als sofortige Prioritäten behandeln