Regelwerke wie Responsible Scaling Policies und Preparedness Frameworks seien für ihre Zeit gut gewesen, schrieb Altman am 14. September um 4:05 Uhr UTC, hätten sich aber vor allem auf den Einsatz fertiger Modelle gerichtet. Für eine sichere Entwicklung brauche es neue Werkzeuge. So formuliere OpenAI vor Trainingsläufen mit Reinforcement Learning (Lernen über Belohnungssignale), von denen es einen deutlichen Fähigkeitssprung erwartet, inzwischen ausdrückliche Sicherheitsnachweise: begründete Darlegungen, warum ein Vorhaben sicher genug ist. Die Prüfungen vor einer Veröffentlichung kämen hinzu.
Einen bundesweiten Rahmen mit einheitlichen Sicherheitsanforderungen begrüße OpenAI, die Hilfe der Regierung brauche es aber vor allem für internationale Koordination. Die Kartellausnahme, auf die Altman nicht warten will, hatte Dario Amodei für Absprachen zwischen Laboren verlangt; David Sacks, Ko-Vorsitzender des Technologiebeirats des Präsidenten, hatte sie am 13. September abgelehnt. Drosseln heiße nicht stoppen, so Altman: Der Fortschritt solle langsamer sein, als er sein könnte, weil Nachweise und Überwachung erheblich kosteten.
Laut The Information treffen sich Arbeitsgruppen von OpenAI, Anthropic und Google schon seit Juli, um über ein von der Branche getragenes Gremium zu beraten, das Sicherheitsstandards setzen soll. Altman habe vor der Belegschaft gesagt, ohne Unterstützung der Regierung müssten die großen Labore es selbst gründen. Der Bericht beruft sich auf Personen, die mit den Gesprächen vertraut sind; auch die Washington Post meldet solche Beratungen.
Microsoft-Chef Satya Nadella begrüßte am 13. September ein bewusstes Tempo und eingebettete Prüfer. Die Regeln dürften aber nicht von einer Handvoll Organisationen bestimmt werden, sondern müssten Länder, Branche und Wissenschaft breit beteiligen. Den Verhaltenskodex für Microsofts eigene MAI-Modelle kündigte er für den 14. September zur öffentlichen Konsultation an.
Schärfer widerspricht Aidan Gomez, Chef des kleineren Anbieters Cohere. Unabhängige Prüfungen unterstütze Cohere, schrieb er am 13. September. Amodeis Plan lasse aber wenige marktbeherrschende Labore Standards und Tempo festlegen und verlange, dass Regierungen alle anderen Entwickler darauf verpflichten. Gomez nennt das ein Kartell unter anderem Namen.