Beteiligt sind Schmidt Sciences, die Cooperative AI Foundation, die britische Förderagentur ARIA und Google.org. Gefördert werden Forschungsvorhaben zu Risiken, die entstehen, wenn Agenten verschiedener Anbieter in digitalen Ökosystemen zusammenarbeiten.
Das Programm nennt vier Themen: Sandboxen zum Testen, das kollektive Verhalten von Agentennetzen, sichere plattformübergreifende Interaktionen sowie Aufsicht über ausgerollte Agentenpopulationen.
Bislang konzentrierte sich KI-Sicherheitsforschung häufig auf einzelne Modelle. Das Förderprogramm richtet den Blick auf die Wechselwirkungen vieler eigenständig handelnder Systeme.