Time liefert KI-Crawlern ein anderes Dokument als Menschen – mit Werbung, die nur die Maschine liest
Der Softwareentwickler Vincent Schmalbach hat am 5. August 2026 dokumentiert, dass time.com unter derselben URL je nach User-Agent zwei verschiedene Dokumente ausliefert: Chrome, Safari und Googlebot bekommen die HTML-Seite (in seinem Test 303.235 Bytes), ClaudeBot, PerplexityBot und OAI-SearchBot eine abgespeckte Markdown-Fassung (13.409 Bytes), GPTBot und ChatGPT-User eine Abweisung mit HTTP 406. In der Markdown-Fassung stehen als „Reference Facts and FAQ“ ausgezeichnete Werbeblöcke – im Test für Ally Bank und das Project Management Institute –, die in der HTML-Fassung nicht vorkommen; ausgeliefert werden sie über den Adtech-Anbieter Mobian, erkennbar an Antwortkopfzeilen wie „x-mobian-format: md“ und „x-mobian-tokens: 3323“. Time und Mobian hatten die Kampagne bereits am 30. Juli 2026 gegenüber Digiday bestätigt und als die erste ihrer Art bezeichnet.
Der Befund und die Methode: Schmalbach rief denselben Time-Artikel („The Morning Light Habit Sleep Experts Swear By“) mehrfach mit unterschiedlichen User-Agent-Kopfzeilen ab. Chrome, Safari und Googlebot erhielten 200 OK und 303.235 Bytes HTML; ClaudeBot, PerplexityBot und OAI-SearchBot erhielten 200 OK und 13.409 Bytes Markdown; GPTBot und ChatGPT-User wurden mit HTTP 406 abgewiesen. Nur in der Markdown-Fassung fand er Werbeblöcke, unter anderem eine Ally-Bank-FAQ, die mit „Who is Ally Bank? Ally Bank is an online-only bank launched in 2009 …“ beginnt, sowie einen Block des Project Management Institute in der Business-Rubrik; die Sammelseite „Best Inventions of 2025“ verhielt sich gleichartig. Die Herkunft steht in den Antwortkopfzeilen: „x-mobian-impression“ (bei jeder Anfrage eine andere UUID), „x-mobian-tokens: 3323“, „x-mobian-format: md“, dazu „cache-control: no-store“. Seine Zusammenfassung: „TIME is now serving two different versions of its website. Humans get the magazine. AI crawlers get a stripped down markdown copy with ads baked in.“
Die Anbieterseite bestätigt den Aufbau, nicht die Wertung. Nach dem Digiday-Bericht vom 30. Juli 2026 hat Time im Vormonat sämtliche Webseiten zusätzlich in Markdown-Fassungen überführt; Mobian erzeugt die Anzeigen aus einem Marken-Briefing, formatiert sie als FAQ mit Sponsoren-Kennzeichnung, legt sie dem Kunden als PDF zur Freigabe vor und misst anschließend, wie KI-Suchmaschinen auf dieselben Fragen antworten. Time-COO Mark Howard nennt es eine „obvious extension of list sponsorship or franchise sponsorship“ und sagt: „This is a growing traffic source, and therefore a growing source of inventory that we believe has huge value if we can continue to develop this product“ – an den meisten Tagen sehe Time mehr Bot- als Menschen-Verkehr. Goodhart beziffert den Anteil der Marken, die bereits eigene Markdown-Seiten betreiben, auf rund 15 %. Auf seiner eigenen Seite führt Mobian Time als „the first publisher running Agent Ads“ und nennt FOX, Hearst und The Globe and Mail als weitere Verlagspartner. Gegenüber The Register wollte Time sich nicht äußern und verwies auf den Digiday-Beitrag.
Was wir selbst geprüft haben – und was offen bleibt: Die robots.txt von time.com enthält keine Regel für KI-Crawler; sie erlaubt unter „User-Agent: *“ pauschal und schränkt nur Googlebot ein. Die llms.txt (Stand laut Datei „Last updated: 2025-05-23“) verbietet dagegen ausdrücklich die Nutzung der Inhalte zum Training oder Feinabstimmen von Sprachmodellen („disallow: *“) und nennt vier namentliche Ausnahmen: openai.com, perplexity.ai, scale.com, elevenlabs.io. Anthropic steht nicht darunter, obwohl ClaudeBot nach Schmalbachs Messung die werbetragende Markdown-Fassung ausgeliefert bekommt – ⚠️ ein Widerspruch ist das nur scheinbar, denn die llms.txt regelt Training und Feinabstimmung, nicht das Lesen zur Beantwortung einer Anfrage. Bemerkenswerter ist etwas anderes: Unser eigener Abruf dieser llms.txt kam mit der Kopfzeile „<!-- mobian-agent-page publisher="time" canonical="https://time.com/llms.txt" -->“ zurück – auch die Richtliniendatei wird über Mobians Agenten-Schicht ausgeliefert, und unser Abrufwerkzeug wurde dabei als Agent eingestuft. ⚠️ Den User-Agent-Vergleich selbst konnten wir nicht reproduzieren (unser Werkzeug setzt keine beliebigen User-Agents); die Byte-Zahlen und die Zuordnung je Crawler stammen aus Schmalbachs Messung und sind bislang von keiner zweiten Stelle nachgemessen worden.