Ein Navy SEAL, ein Quadcopter und der Versuch, im Kampf Leben zu retten

SIE NENNEN IHN den tödlichen Trichter. Wenn man für den Nahkampf trainiert, lernt man, dass man jede Tür durchqueren muss, ohne zu wissen, was sich auf der anderen Seite befindet. Vor fünfzehn Jahren, als ich nach den Kämpfen im Irak nach Hause zurückkehrte, bat mich ein Freund, das Mutigste zu beschreiben, was ich jemanden tun sah. Ich hatte 2004 in der zweiten Schlacht von Falludscha einen Zug der Marines angeführt und eine Menge Heldentaten gesehen – Marines, die ihre Verwundeten von durch Maschinengewehre beschossene Straßen schleppten oder sich von Raum zu Raum kämpften, um die Leiche eines Kameraden zu bergen. Aber nichts davon war vergleichbar mit dem kumulativen Heldentum der 19- und 20-jährigen Infanteristen, die ihre Körper jeden Tag vor diesen tödlichen Trichter stellten. Die Räumung des Feindes aus der Stadt, Haus für Haus, war ein russisches Roulettespiel im großen Stil. Man wusste nie, wer auf der anderen Seite der Tür warten würde. 

In den frühen Tagen der Schlacht räumten wir Häuser, indem wir Marines durch die Vordertür schickten und dann von Raum zu Raum weiterzogen. Bald stellten wir jedoch fest, dass dies zu gefährlich war. War das Leben eines Marines ein Gebäude wert? Wir änderten unsere Taktik, so dass wir, wenn wir einen Marine durch die Vordertür schickten und er drinnen einen Aufständischen vorfand, uns zurückzogen und keine Anstrengungen unternahmen, das Gebäude zu räumen. Stattdessen brachten wir einen gepanzerten Bulldozer oder Panzer heran und planierten es. 

Aber der Feind hat immer ein Mitspracherecht. Die Aufständischen haben sich schnell auf diese Taktik eingestellt. Sie erkannten, dass wir sie in Beton begraben würden, wenn sie ihre Positionen preisgäben. Sie begannen, einen Schützen im Haus zu verbarrikadieren, dessen Gewehr auf die Eingangstür gerichtet war. Dann versteckten sie jemand anderen neben dieser Tür. Wenn der Marine eintrat, schoss der eine Aufständische auf ihn, während der andere – der sich an der Tür versteckte – ihn tief ins Haus schleppte. Da wir nicht wussten, ob unser Kamerad noch lebte oder tot war, waren wir nun gezwungen, von Raum zu Raum zu kämpfen, um ihn zu bergen. Diese Situation spielte sich immer wieder in den so genannten „Höllenhäusern“ ab. 

Man sollte meinen, dass das US-Militär mit all seinen technologischen Fähigkeiten längst eine Lösung für dieses Problem entwickelt hätte. Aber da würden Sie sich irren. Krieg in seiner intimsten Form – so wie er sich in der Nähe städtischer Kämpfe abspielt – war bis vor kurzem noch eine ausgesprochen low-tech Angelegenheit. Deshalb bin ich im Juni dieses Jahres mit großem persönlichen Interesse nach San Diego gereist, um Brandon Tseng zu treffen, einen ehemaligen Navy SEAL und Mitbegründer von Shield AI, einer Firma, die behauptet, das Problem des tödlichen Trichters gelöst zu haben. 

„HALTEN SIE DEN KNOPF gedrückt und warten Sie auf das grüne Licht“, sagt Brandon. Wir befinden uns in der Nähe des Hauptquartiers von Shield AI in einer urbanen Ausbildungsstätte, die den Bedingungen in einem afghanischen Dorf sehr nahekommt. Wir beide stehen hintereinander vor mehreren zusammengeschweißten Frachtcontainern – „einem mehrstöckigen Haus“ – als ob wir gerade dabei wären, über den tödlichen Trichter einzudringen. Ein lenkradgroßer Quadcopter ruht auf meiner Handfläche. Ich halte den Knopf an seiner Seite gedrückt wie angewiesen. Ein grünes Licht geht an. Die Rotoren des Quadcopters beginnen bedrohlich zu summen, als die Drohne sanft abhebt. Brandon öffnet die Tür vor uns. Mit einer räuberischen Schnelligkeit huscht die Drohne ins Haus. Kein Mensch kontrolliert sie. 

„Das Geräusch ist ziemlich gruselig“, sage ich, während wir die Drohne zwischen den offenen Räumen summen hören. 

„Unsere Kunden sagen uns, dass der Lärm die Leute erschreckt“, antwortet Brandon, der zusammen mit seinem Bruder Ryan Shield AI leitet. Die Kunden, auf die sich Brandon bezieht, sind Mitglieder des US-Sondereinsatzkommandos, die seit zwei Jahren das erste Produkt von Shield, den Nova-Quadcopter, und dessen künstliche Intelligenz an Bord, Hivemind, zur Räumung von Räumen bei Einsätzen im Ausland einsetzen. 

Während wir am Eingang der Tür stehen, nimmt Brandon ein Smartphone aus seiner Tasche. Auf der Hälfte seines Bildschirms ist ein Live-Videofeed aus der Nova zu sehen, wie sie durch das mit Möbeln und Attrappen ausgestattete Gebäude fegt. Auf der anderen Hälfte seines Bildschirms ist eine Echtzeit-Karte des Gebäudegrundrisses zu sehen, die die Nova über ihre Bordsensoren, einschließlich Kamera und Lidar, zeichnet. Während sich die Drohne von Raum zu Raum bewegt, kommentiert Brandon die Karte und tippt auf dem Bildschirm nach möglichen Bedrohungen – hier eine Person, dort eine Waffe, in der Ecke ein verdächtiger Kasten. Diese Informationen können dann an andere Mitglieder des Teams weitergegeben werden, während diese sich auf den Eintritt vorbereiten. Die Nova bewegt sich mit einer Geschwindigkeit von 2.000 Quadratfuß pro Minute durch das Gebäude; in knapp 60 Sekunden schießt sie wieder aus der Vordertür und wendet sich Brandon zu, als ob sie einen alten Freund erkennen würde. Brandon streckt seine Hand aus und lässt den Quadcopter in seiner Handfläche landen. Seine Rotoren schalten sich automatisch ab. Die Stille kehrt zurück. Es wird für mich zu einem überraschend emotionalen Moment. 

„Das hätte vielen Jungs das Leben gerettet“, sage ich. 

Brandon nickt. „Ich weiß.“ 

Als die Nova 2018 eingesetzt wurde, war es wahrscheinlich das erste Mal, dass ein KI-getriebener Quadcopter dieser Größenordnung im Kampf eingesetzt wurde. FOTO: JOHN FRANCIS PETERS

 

BRANDON UND SEIN Bruder Ryan sind in Houston, Seattle und Orlando aufgewachsen. Ihr Vater, ein taiwanesischer Einwanderer und Sohn eines Diplomaten, zog um, als er aufwuchs, und er erzählte ihnen oft, dass „in den Vereinigten Staaten geboren und aufgewachsen zu sein, wie ein Lottogewinn“ sei. Sie sollten wissen, wie viel Glück sie haben. „Nehmt die Chancen, die euch dieses Land bietet, nicht als selbstverständlich hin“. Als Junge träumte Brandon davon, ein Navy SEAL zu werden. Und nach der Highschool bekam er eine dieser Chancen, von denen sein Vater immer gesprochen hatte: eine Berufung an die US-Marine-Akademie. Das führte zu mehreren Einsätzen im Ausland, darunter zwei in Afghanistan. Ryan ging derweil an die Universität von Florida, um Ingenieurwesen zu studieren, und wurde Geschäftsmann. 

Nach sieben Jahren in der Marine, als er 29 Jahre alt war, verließ Brandon den Dienst, und Ryan begann, ihm beim Übergang ins Zivilleben zu helfen. „Zwischen den Einsätzen sprach er nie viel über den Krieg“, sagte Ryan. Erst als Brandon anfing, sich an Wirtschaftsschulen zu bewerben, begann Ryan, die Einzelheiten der Erfahrungen seines Bruders zu erfahren. „Ich bereitete ihn auf Interviews vor“, sagte Ryan. „Ich fragte ihn nach einem Beispiel für eine komplexe Arbeitsentscheidung, die er treffen musste. Da begann er sich zu öffnen, nicht nur mit seinen Geschichten, sondern auch mit dem, was seine Freunde durchgemacht hatten … Es waren all diese Dinge, die ich nie wusste.“ 

Brandon wurde für den Herbst 2015 an der Harvard Business School angenommen, aber er hatte bereits eine Vorstellung davon, was er tun wollte. Als er im Ausland war, verbrachte er Zeit damit, mit Sensoren und preiswerten Computern zu arbeiten. „Als mir klar wurde, dass die beiden, zusammen verwendet, vernünftig denken und handeln konnten“, sagte er, „begann mein Verstand mit einem Gefühl für neue Möglichkeiten zu rasen“. Er war zu der Überzeugung gelangt, dass bestimmte Aufgaben auf dem Schlachtfeld mit künstlicher Intelligenz bewältigt werden könnten, und dies, so meinte er, würde Leben retten. 

Er hatte ein spezifisches Problem identifiziert, das er für lösbar hielt: jenen physischen Akt des Durchsuchens von Strukturen, der die Truppen in den städtischen Kämpfen, die einen Großteil der Kriege nach dem 11. September geprägt hatten, beunruhigt hatte. 

„Niemand hat wirklich daran gearbeitet“, sagte Brandon, und als er an die Business School kam, brachte er seine Idee zu Ryan. Mit 31 Jahren war Ryan bereits ein erfahrener Unternehmer. Er hatte ein Unternehmen für drahtlose Ladegeräte, WiPower, gegründet und an Qualcomm verkauft, und er hatte ein Unternehmen für Zeitschloss-Container, Kitchen Safe, gegründet, das zum „enthusiastischsten Pitch aller Zeiten“ bei Shark Tank geführt hatte (zumindest laut Business Insider). Als Brandon seinen Bruder wiedertraf, war Ryan zwischen zwei Unternehmungen (obwohl er einen Geschirrspülroboter in der Entwicklung hatte). Brandon, der der gesellige T-Shirt-und-Jeans-tragende Kontrapunkt zur analytischeren, mit Hemd und Khakis ausgestatteten Persönlichkeit seines Bruders ist, stieß bei Ryan zunächst auf einige Skepsis. „Ich ging davon aus, dass dies ein gelöstes Problem sei, dass wir dies bereits täten“, erklärte Ryan sein anfängliches Zögern. „Außerdem“, scherzte er, „kam die Idee von meinem kleinen Bruder“. 

Brandon schaffte es, Ryan davon zu überzeugen, dass seine Idee realisierbar war und dass die Komponententechnologien bereits existierten, so dass man sich im Frühjahr 2015 daran machte, einen Ingenieur zu finden, der diese Aufgabe übernehmen konnte. „Jeder, mit dem wir sprachen“, erinnert sich Ryan, „erwähnte immer wieder diesen Typen Andrew“. Das war Andrew Reiter, ein Chemieingenieur, der sich zum Robotiker gewandelt hatte, der renommierte Forschungsprogramme an der Northwestern und in Harvard University durchlaufen hatte und derzeit an den Draper Laboratories in Cambridge, Massachusetts, an der kamerabasierten Navigation in autonomen Robotern arbeitete. 

„Sie schickten mir aus heiterem Himmel eine E-Mail“, sagte Andrew, „und ich dachte auch: Macht das Militär das nicht schon? Obwohl Universitätslabors mit der Quadrotor-Autonomie experimentiert hatten und einige hochkarätige Projekte mit kleinen Drohnen sich mit militärischen Anwendungen befasst hatten, wurden die KI-gesteuerten Drohnen noch nicht eingesetzt. Das liegt zum Teil daran, dass die Anwendung künstlicher Intelligenz in realen Umgebungen immer noch ein schwieriges Unterfangen sein kann: Das maschinelle Lernen ist gut für vorhersehbare und sich wiederholende Aufgaben, aber die reale Welt ist wahnsinnig unberechenbar. In den letzten zwei Jahrzehnten hatte sich das Militär in allen Bereichen, von der Nachrichtenbeschaffung bis hin zu Luftangriffen, auf von Menschen gesteuerte Drohnen verlassen. Trotz zahlreicher Konzeptpapiere, in denen die Rolle von Systemen mit künstlicher Intelligenz in der Zukunft der Kriegsführung vorgestellt wurde, hatte das Militär noch keine einzige autonome Drohne eingesetzt. 

Die Brüder flogen nach Cambridge, um Andrew persönlich zu treffen. Innerhalb von sechs Stunden hatten die drei die Umrisse eines Geschäftsplans: Sie würden einen KI-getriebenen Quadcopter bauen (über technologische Besonderheiten haben sie nicht viel geredet), um das Problem des „room-clearing“ zu lösen. Ihr Ziel war es dann, die Nutzung der KI – die sie später Hivemind nannten – auszuweiten und sie auf andere militärische Probleme anzuwenden. Einen Monat später zog Andrew nach San Diego und wohnte für etwa eine Woche in Ryans Gästezimmer. 

Ende August 2015 hatten die drei einen Vorschlag in der Hand, und innerhalb von zwei Wochen hatten sie 30 Treffen mit potenziellen Investoren im Silicon Valley geplant. Neunundzwanzig haben abgewunken. Der Investor, der angebissen hatte, hatte aber kein Interesse daran, auf dem Gefechtsfeld Leben zu retten; stattdessen wollte er eine autonome Schnappschuss-Drohne entwickeln. Das Kapital war da, aber die Mission nicht. Als ich sie fragte, ob sie in Erwägung zögen, eine andere Richtung einzuschlagen, sagte Brandon: „Wir bauten ein Unternehmen auf, um eine Lösung für dieses Problem zu entwickeln“. 

Ryan Tseng (left) was initially skeptical of his brother Brandon’s (right) business idea. „I assumed this was a solved problem, that we were already doing this.“ PHOTOGRAPHS: JOHN FRANCIS PETERS

 

OHNE PROFESSIONELLE INVESTITOREN beschlossen die drei Mitbegründer, sich auf Freunde und Familie zu stützen. Sie kratzten etwas mehr als 100.000 Dollar zusammen, um einen Prototyp zu bauen. „Die Finanzen waren lange Zeit knapp“, erklärte Ryan. Und das knappe Budget schuf technische Hindernisse. So hatten sie zum Beispiel vom Hersteller Hokuyo ein Lidargerät für 2.000 Dollar gekauft, mit dem autonome Fahrzeuge Entfernungen von Objekten messen können. Ryan, der das Geld im Auge behielt, bestand darauf, dass sie es schließlich zurückgeben müssten, um ihr im Entstehen begriffenes Geschäft am Laufen zu halten. Aber um das Lidar an der Nova zu installieren, hätte Andrew sein Kabel kürzen müssen. Das würde bedeuten, dass sie es nicht zurückgeben konnten. Er musste nicht nur herausfinden, wie er ein autonomes raumklärendes KI-System auf einem Quadcopter zusammensetzen konnte, er musste es auch mit einem mehrere Meter langen Kabel tun, das an der Seite befestigt war. 

Während Ryan sich darauf konzentrierte, das Unternehmen über Wasser zu halten, und Andrew sich auf den Prototyp konzentrierte, begann Brandon zu versuchen, sich in der byzantinischen Welt der Verteidigungsaufträge zurechtzufinden. Er stieß auf die kürzlich gegründete Defense Innovation Unit (DIU), die auf den damaligen Verteidigungsminister Ash Carter mit Sitz in Mountain View im Silicon Valley zurückgeht. „Ich wusste nicht viel über sie“, sagte Brandon. Alles, was er hatte, war eine Pressemitteilung, in der die Gründung des Büros angekündigt wurde. Es stellte sich heraus, dass eine der Hauptaufgaben der Innovationseinheit darin besteht, „die Einführung kommerzieller Technologie“ für das Verteidigungsministerium in fünf Schlüsselbereichen zu beschleunigen, von denen drei – künstliche Intelligenz, Autonomie und menschliche Systeme – mit der Mission von Shield deckten. Wie es der Zufall wollte, war die DIU auch speziell geschaffen worden, um den mühsamen Prozess der Auftragsvergabe im Verteidigungsbereich zu umgehen, indem innerhalb von 60 bis 90 Tagen Mittel für kleine Projekte bewilligt wurden. 

Die DIU wurde im August 2015 eröffnet, und Brandon machte sich auf den Weg nach Mountain View. Nur hatte er keinen Termin; er tauchte einfach auf. „Die Pressemitteilung enthielt ein Foto ihres Hauptquartiers, aber keine Adresse“, sagte er. Mit einer kleinen Recherche in Google Earth hatte er den Ort herausgefunden. Er schaffte es bis zur Empfangsdame, bevor er abgewiesen wurde. Ein Jahr später wurde Shield nach einem formellen Antrag auf Finanzierung eingeladen, seinen Prototyp der Nova-Drohne in einer städtischen Kampfversuchsanlage vorzuführen. 

Jameson Darby, der Direktor des Autonomieprogramms der DIU, war an diesem Tag zusammen mit einem hochrangigen Offizier des Sondereinsatzkommandos in der Testanlage, der zufällig zur DIU kam, um nach besseren Möglichkeiten zu suchen, Räume zu sichern und auf verbarrikadierte Schützen zu reagieren. Bei der Demonstration, die der, die ich gesehen habe, ähnlich war, bemerkte Darby: „Es war ziemlich offensichtlich, dass die Shield–AI bei der Entwicklung der Fähigkeiten weit voraus war. Nach der Veranstaltung erteilte die DIU Shield AI ihren ersten Vertrag über 1 Million Dollar. Das war zwar ein kleiner Militärvertrag, aber es war ein Anfang. 

For engineering expertise, the Tsengs turned to Andrew Reiter, who was working at Draper Labs on camera-based navigation in autonomous robots. PHOTOGRAPH: JOHN FRANCIS PETERS

 

Tatsächlich war die Fähigkeit, die Brandon, Ryan und Andrew demonstriert hatten, etwas, wonach Darby und seine Kollegen gesucht hatten. Im Jahr 2014 veröffentlichte das Center for a New American Security ein Papier mit dem Titel „20YY: Preparing for War in the Robotic Age“. Die Autoren sagten voraus: „In einem Ausmaß, an das die US-Streitkräfteplaner einfach nicht gewöhnt sind, sind andere globale Akteure in der Lage, bedeutende Fortschritte in Richtung einer hochgradig robotergestützten Zukunft der Kriegsführung zu machen, und zwar in einer Weise, die die viel größere und sich langsam bewegende US-Verteidigungsbürokratie überholen könnte. 

Mit Unterstützung der DIU und privater Investoren, die daraufhin folgten, setzte Shield AI die Nova und den Hivemind im Winter 2018 mit Soldaten der Spezialkräfte im Nahen Osten ein (die Einzelheiten dieser Missionen sind im Allgemeinen geheim). Dies war ein möglicher Meilenstein in der Geschichte des US-Militärs: Es war wahrscheinlich das erste Mal, dass ein KI-getriebener Quadcopter dieser Größenordnung im Kampf eingesetzt wurde. 

SHIELD AI’S Produktionsgebäude – das Unternehmen nennt es den Hive – befindet sich in einem Einkaufszentrum in San Diego, gegenüber einem Home Depot-Geschäft. Fünf Jahre nach seiner Gründung hat sich Shield AI immer noch eine rauflustige, unternehmerische Kultur bewahrt, die man normalerweise in der Verteidigungsindustrie nicht sieht. Dennoch ist die präzise Fließbandorganisation des Hive mit seinen Ingenieurteams und umfangreichen Diagnosetests für jede Nova-Drohne und jedes Hivemind-Software-Update weit entfernt von den nackten, auf der Couch surfenden Anfängen des Unternehmens. Etwa 150 Personen – darunter viele Militärveteranen – arbeiten dort. Als ich sie besuchte, arbeiteten die Ingenieure inmitten einer Covid-19-Sperre viele Stunden, um sicherzustellen, dass ihre Kunden die Nova II erhalten, die Anfang 2021 in Dienst gestellt werden soll. 

Die erste Nova ist das, was ich beim Betreten des Ersatzgebäudes der Testanlage beobachtet hatte. Die Nova II verfügt über neue Fähigkeiten, einschließlich Schwärmen und längere Flugzeiten, sowie über neu konfigurierte Steuerungen, die auf dem Feedback der Bediener vor Ort basieren. Aber es ist Hivemind, die KI, die den Quadcopter steuert, die den technologischen Fortschritt darstellt, von dem das Team glaubt, dass er das Potenzial hat, die Natur des modernen Krieges zu verändern. (Brandon vergleicht die Beziehung zwischen ihren Nova-Drohnen und ihrer Hivemind-Software mit der Beziehung zwischen einem Google-Handy und Android). 

Die Technologie täuscht oft über die wahre Natur des Krieges hinweg, die nach dem bahnbrechenden Militärtheoretiker Carl von Clausewitz ein „Gemetzel“ ist. Meine eigenen Erfahrungen untermauerten Clausewitz‘ Beobachtung, die mich als Skeptiker in San Diego ankommen ließ, der all die offensichtlichen Zweifel daran hegte, wie gut ein autonomer Quadcopter in der Praxis, am Boden, mitten im Kampf funktionieren könnte: Ist die Technologie sowohl robust als auch zuverlässig? Was passiert, wenn die Nova eine geschlossene Tür erreicht? Was passiert, wenn ein Feind sie einfach in der Luft zerquetscht? 

Aber dann sah ich die Drohne in Aktion. Als ich Brandon sagte, dass die Nova Leben gerettet hätte, dachte ich an diese Höllenhäuser in Falludscha und wie wir gezwungen waren, uns von Raum zu Raum zu kämpfen, um unsere Männer zu retten. Hätten wir die Nova (oder etwas Vergleichbares) gehabt, hätte es keine Rolle gespielt, wenn ein Aufständischer sie in der Luft abgeschossen hätte. Allein das Wissen, dass der Feind dort war, hätte uns die Oberhand gegeben, ebenso wie das Wissen um jede verschlossene Tür. Jede zu öffnen und einen intelligenten Quadcopter hineinzuschicken, hätte uns davor bewahrt, der Bedrohung ausgesetzt zu werden. 

Die Antwort auf meine Bedenken, so erkannte ich, trifft das wahre Versprechen für Technologien wie Nova und Hivemind: ein verbessertes Situationsbewusstsein, das in der Vergangenheit einen hohen Preis an Menschenleben gekostet hat. 

The left half of Brandon’s screen is a live feed from the Nova as it sweeps through the building. On the right is a real-time map of the floor plan that’s drawn using data from the drone’s camera, lidar, and other onboard sensors. PHOTOGRAPH: JOHN FRANCIS PETERS

 

ES IST EINE SACHE, ein Gebäude zu räumen, was ein taktisches Problem ist, aber was passiert, wenn wir diese Technologie strategisch einsetzen? Das ist es, was die Nova, aber vor allem Hivemind – oder ein System wie es – transformativ machen könnte. 

Das verteidigte Innere eines Gebäudes ist das, was man einen gesperrten Bereich nennen könnte, einen Ort, an den wir nicht gehen können und wo wir glauben, dass es eine Bedrohung gibt. Die Idee gilt im weiteren Sinne für ganze geografische Regionen. In der Vergangenheit lernten Soldaten, die in verwehrte Gebiete eindrangen – auf dem Luft-, Land- oder Seeweg – in der Regel die gegnerische Verteidigung kennen, wenn dieselben Verteidigungskräfte auf sie feuerten, oft unter Einsatz von Menschenleben. Trotz der Fortschritte in der Sensortechnologie gibt es nach wie vor Grenzen, und die Live-Übertragung durch eine vom Menschen gesteuerte Drohne ist oft gleichbedeutend mit der Suche nach einer Murmel im Hinterhof, bei der man durch einen Strohhalm nach unten blickt. 

Aber stellen Sie sich ein Netzwerk der feindlichen Luftabwehr vor, das Boden-Luft-Raketen, Flugabwehrgeschütze und alle dazugehörigen Sensoren enthält, um ankommende Flugzeuge aufzuspüren. Anstatt ein von Menschen gesteuertes Flugzeug in dieses Netzwerk zu fliegen, in der Hoffnung, diese Systeme zu identifizieren und ihnen dann auszuweichen, hofft die Shield–AI, Schwärme von Drohnen aller Größen einsetzen zu können, um Bedrohungen in Echtzeit zu kartografieren. Jetzt durchsuchen Sie die Erde nicht mehr mit einem einzigen Strohhalm, sondern mit Tausenden. Diese Drohnen wären nicht auf satellitengestützte Navigation angewiesen (die leicht zu stören ist), und sie würden untereinander als ihr eigenes Netzwerk kommunizieren, während sie das Schlachtfeld kartografieren. Es ist dasselbe Konzept wie bei der Räumung eines Raumes, nur dass der Raum die Gesamtheit der Luft-, Boden- oder Seeverteidigung einer Nation sein könnte. 

Laut Bob Harward, Vizeadmiral der Navy SEAL im Ruhestand und Mitglied des Vorstands von Shield AI, „Wenn ich in der Lage bin, künstliche Intelligenz auf diese Probleme anzuwenden, verbessert das unsere Wettbewerbsfähigkeit drastisch“. Auf die Frage, warum sich die größeren Rüstungsunternehmen wie Boeing oder Raytheon noch nicht mit diesem Problem auseinandergesetzt haben, sagte Harward: „Der Schwerpunkt der KI in der Verteidigungsindustrie lag auf Metadaten, nicht auf Operationen. Mit anderen Worten: das Sammeln und Analysieren von Informationen. 

Shield AI hingegen hat sich entschieden, dieses sehr spezifische Problem der Raumsicherung in Angriff zu nehmen, sobald sie ihren Anfang nimmt. Im vergangenen September erhielt das Unternehmen von der US-Luftwaffe einen 7,2-Millionen-Dollar-Auftrag zur Entwicklung von Technologien, die es autonomen Drohnen ermöglichen würden, sich mit Menschen bei der Sammlung von Informationen in GPS-freien Umgebungen zu verbünden. Zu seinen Investoren im Silicon Valley gehören jetzt Andreessen Horowitz, Breyer Capital, Homebrew und die Silicon Valley Bank. „Das ist der Wert von Brandon als Kommandosoldat„, sagt Harward. „Er hat diese Notwendigkeit erkannt und ist ihr nachgegangen, um unsere Jungs am Leben zu erhalten. Ein Hindernis bei der Lösung dieses Problems war in der Tat, dass viele Menschen außerhalb des Militärs davon ausgingen, dass es bereits gelöst sei. 

Sicherlich hat in den letzten Jahren eine Handvoll Unternehmen KI-getriebene Quadkopter für verschiedene militärische Anwendungen gebaut. Anduril, das von Palmer Luckey geführte und von Peter Thiel und Andreessen Horowitz finanzierte Unternehmen, hat militärische Aufträge zur Erweiterung der Fähigkeiten der von ihm gebauten autonomen Drohnen, um Personen aufzuspüren, die illegal Grenzen überschreiten. Ziel ist es, die Technologie zur Auffindung von feindlichen Personen und Ausrüstung auf dem Gefechtsfeld einzusetzen. Der US-Drohnenhersteller Skydio (der ironischerweise für seine Selfie-Fähigkeiten bekannt ist) hat einen Kader von Robotern angeheuert und wetteifert, wie WIRED im Juli schrieb, „darum, die Standard-Kurzstrecken-Überwachungsdrohne der Armee zu werden, um der Infanterie zu helfen, über den nächsten Hügel zu schauen oder im Stadtkampf um Ecken zu blicken“. 

Die große Befürchtung ist natürlich, dass autonome unbewaffnete Drohnen wie die Nova, deren Kernaufgabe der Schutz der Streitkräfte ist, die sprichwörtliche Kamelnase durch das Zelt sein werden, was zu etwas Beunruhigenderem führt: autonome bewaffnete Drohnen – ein dystopischer Schwarm von Killerrobotern, die im Wesentlichen ihre eigenen Entscheidungen treffen. Shield sagt, dass es keine unmittelbaren Pläne zur Entwicklung bewaffneter Drohnen hat. 

Michèle Flournoy, eine ehemalige Unterstaatssekretärin für Verteidigungspolitik in der Obama-Regierung, die Shield AI berät, hat dem Unternehmen geholfen, einen ethischen Rahmen zu entwickeln, der sich am Konzept der Mensch-Maschine-Gemeinschaft orientiert. „Man nimmt den Menschen nicht aus dem Blickfeld“, erklärte sie. „Man macht den Menschen effektiver“, erklärte sie. Sie erkennt bereitwillig an, dass die KI das Potenzial für dystopische Anwendungen hat. Aber das gilt auch für jede andere Technologie – vom Schwert über die Waffe bis hin zur Atombombe. „Ich mache mir Sorgen“, sagte sie, „darüber, wohin China und Russland ohne einen Menschen in der Schleife gehen könnten. Das Verteidigungsministerium will den Menschen nicht entfernen; es will den Menschen besser machen“. 

Im Februar verabschiedete das Pentagon eine Reihe von Ethikgrundsätzen für den Einsatz der KI, die vom Defense Innovation Board vorgeschlagen wurden, einer Einrichtung innerhalb des Verteidigungsministeriums, der Vertreter von Unternehmen wie Google, Microsoft und Facebook angehören. Die Prinzipien beinhalteten Dinge wie den Menschen am Ruder zu halten und einen klar definierten Anwendungsbereich zu haben. Wie jedoch sogar der Bericht selbst feststellt, „sollen diese Prinzipien weder strittige Fragen beschönigen noch die Möglichkeiten des Verteidigungsministeriums einschränken“. 

Anika Binnendijk von der Rand Corporation, die an einer kürzlich durchgeführten Studie über Gehirn-Computer-Schnittstellen mitgearbeitet hat, bezweifelt, dass der Mensch letztendlich in der Lage sein wird, mit seinen Roboter-Kollegen auf dem Schlachtfeld mitzuhalten. Sie sagte mir: „Wenn Mensch und Maschine in der Hitze des Gefechts enger zusammenarbeiten, kann es äußerst schwierig sein, die Substanz ’sinnvoller menschlicher Kontrolle‘ oder ‚angemessener Stufen menschlichen Urteilsvermögens‘ zu bestimmen. 

Als ich Brandon, Ryan und Andrew im Shield-AI-Hauptquartier interviewt habe, fragte ich Brandon nach der Geschichte, die er seinem Bruder bei der Vorbereitung auf seine Interviews an der Business School erzählt hatte. An diesem Tag hatte Brandon im Konferenzraum etwas davon erwähnt, dass er einen verletzten Zivilisten während eines Feuergefechts in Afghanistan evakuieren musste, aber dann wechselte er schnell das Thema. Als ich erneut danach fragte, zögerte er. Also ließ ich die Sache auf sich beruhen. Ich dachte, ich würde nachfassen, wenn er nicht von seinen Kollegen umgeben ist. 

Ich habe ihn ein paar Tage später angerufen. Ich wollte diese Geschichte hören, und ich drängte ihn dazu. Was geschah in Afghanistan? Welche Ereignisse hatten ihn dazu bewogen, sich der Lösung dieses Problems zu widmen? Was war die Geschichte, die seinen älteren Bruder so sehr betroffen gemacht hatte, dass auch er sich dieser Mission gewidmet hatte? 

Brandon zögerte noch immer. Erst nach längerem Hin und Her erzählte er mir von einem Einsatz in Afghanistan, bei dem die Taliban während einer Stammesschura auf seinen SEAL-Zug geschossen haben. Ein 8-jähriger afghanischer Junge, der ins Kreuzfeuer geriet, wurde in den Bauch geschossen. Brandon, der wenig Lagebewusstsein für das Dorf hatte, in dem er gefangen war, konnte keinen Rettungshubschrauber anfordern, aus Angst, der Hubschrauber würde abgeschossen. Also trugen er und sein Zug und die Streitkräfte seines afghanischen Partners den Jungen zu einem 10 Kilometer entfernten Stützpunkt. Wie durch ein Wunder überlebte der Junge. 

Doch bevor Brandon diese Geschichte zu Ende erzählte, hatte er sich auf eine andere Geschichte eingelassen, nicht über ihn, sondern über einen Freund, einen Kampfpiloten, der Missionen in Syrien geflogen war. Er schwebte über einem Ziel – einem ISIS-Trainingslager, in dem eine Überwachungsdrohne die Anwesenheit von mehr als hundert Kämpfern bestätigt hatte – und die Vorgesetzten des Piloten hatten ihm die Erlaubnis erteilt, seine Bomben abzuwerfen und zu seinem Flugzeugträger zurückzukehren. Aber etwas fühlte sich nicht richtig an. Obwohl er nur noch wenige Minuten Treibstoff hatte, schwebte er weiter. Dann begannen Dutzende von Kindern das Gebäude zu verlassen; das Gelände war auch eine Schule. Der Pilot kehrte zu seinem Flugzeugträger zurück, ohne seine Bomben abzuwerfen. Bis heute wird er von diesem Ereignis verfolgt. 

Es gab noch mehr. Brandon erzählte mir von einer Gruppe von Sondereinsatzkräften, die bei einer Razzia in Afghanistan im Jahr 2012 ein Haus unter Beschuss genommen hatten. Während seines Einsatzes hatte er diese Mission vom Joint Operations Center aus in Echtzeit beobachtet. Nachdem sie das Gebäude umzingelt hatten, versuchten die Einsatzkräfte, die Kämpfer im Gebäude zu rufen, um sie zu überzeugen, sich zu ergeben. Als die Kämpfer sich weigerten und weiter zurückfeuerten, riefen die Einsatzkräfte, die um ihr Leben kämpften und jede andere Möglichkeit ausgeschöpft hatten, Luftunterstützung und zerstörten das Gebäude. Erst nachdem sie die Trümmer durchsucht hatten, stellten sie fest, dass die Kämpfer eine Familie als Geisel im Gebäudeinneren festgehalten hatten. 

Brandon hat andere Geschichten, aber er hat seinen Standpunkt klar gemacht. An diesem Abend schickte er mir eine E-Mail: Es war nicht eine einzelne Mission, die ich gemacht habe, die mich dazu gebracht hat, Shield AI zu gründen, sondern nachdem ich über meine Zeit beim Militär und alles, was ich erlebt habe, nachgedacht hatte … die Missionen, die ich gemacht habe, die Missionen, die meine Freunde und Teamkollegen gemacht haben. Freunde im Krankenhaus zu besuchen, die ihr Augenlicht verloren hatten … zu Gedenkfeiern zu gehen, mit Gold Star-Familien zu sprechen, die Freude und Erleichterung bei den Familien meiner Freunde zu sehen, als ihre Lieben sicher nach Hause zurückkehrten, auf meinen Missionen mit afghanischen Familien zu sprechen und zu erfahren, was sie durchgemacht hatten. 

Meine Erwartung, dass Brandon eine einzelne, erschütternde Geschichte anbieten könnte, die die Gründung von Shield AI erklärt, war falsch. Wie mein Freund, der mich gebeten hatte, das Mutigste zu nennen, was ich in Falludscha gesehen hatte. Aber es gibt keine einzelne Geschichte. Es bleibt eine Reihe von verschlossenen Türen, die es zu öffnen gilt, tödliche Trichter, die es zu durchqueren gilt, ungeklärte Gelände, die es zu durchsuchen gilt, eine Kette von Erinnerungen und hoffentlich eine Lösung. Brandons Arbeit – zusammen mit der von Ryan, Andrew und dem Team von Shield AI – besteht darin, dafür zu sorgen, dass es in den Kriegen der nächsten Generation weniger dieser Geschichten geben wird. Und dass diejenigen von uns, die das Glück haben, nach Hause zu kommen, nicht mit ihnen leben müssen. 

ELLIOT ACKERMAN (@elliotackerman) ist ein ehemaliger Offizier des Marine Corps und des Geheimdienstes, der fünf Einsätze im Irak und in Afghanistan absolviert hat. Er ist außerdem Autor von sechs Büchern. Sein neuester Roman mit dem Namen 2034, zusammen mit Admiral James Stavridis geschrieben und im März veröffentlicht, stellt sich einen kommenden Krieg zwischen den USA und China vor. 

Dieser Artikel erscheint in der Dezember/Januar-Ausgabe von WIRED.