Google DeepMind: 10 Mio. $ für Multi-Agenten-Sicherheitsforschung
Google DeepMind legt mit mehreren Partnern ein Förderprogramm über 10 Mio. $ auf, das die Sicherheit interagierender KI-Agenten erforscht. Forschende können sich bis zum 8. August 2026 bewerben.
Gemeinsam mit Schmidt Sciences, der Cooperative AI Foundation, der britischen Förderagentur ARIA und Google.org stellt DeepMind 10 Mio. $ für die Erforschung der Sicherheit von Multi-Agenten-Systemen bereit.
Das Programm adressiert Risiken, die entstehen, wenn zahllose von unterschiedlichen Organisationen gebaute KI-Agenten künftig über digitale Ökosysteme hinweg interagieren. Vier Schwerpunkte sind genannt: Sandbox-Umgebungen zum Testen, das kollektive Verhalten von Agenten-Netzen, die Absicherung plattformübergreifender Interaktionen sowie Aufsichtsmechanismen für ausgerollte Agenten-Populationen.
Bewerbungen sind bis zum 8. August 2026 möglich; die Auswahl der geförderten Projekte wird im Herbst 2026 bekanntgegeben.