FYI.

This story is over 5 years old.

Features

Die Bostoner Polizei hat Gesichtserkennungs-Technologie benutzt, um Tausende Festivalbesucher zu überwachen

Gesichtserkennung ist massiv auf dem Vormarsch—und Festivals oder Konzerte sind ein perfekter Ort zum Testen, für Polizei genau wie Software-Unternehmen wie IBM.

Obwohl wir mittlerweile eher mit Trauer oder Wut darauf zurückschauen, wird schnell vergessen wie ausgesprochen verwirrend die Tage und Wochen nach dem Bombenattentat beim Boston-Marathon im April 2013 waren. Die Unwirklichkeit dieses Dramas wurde bei mir noch dadurch verstärkt, dass ich eine Nacht lang eingesperrt in meiner Wohnung in Watertown verbracht habe, während ein paar Blöcke weiter eine Schießerei zwischen der Polizei und dem mutmaßlichen Bombenleger im Gang war, sowie dadurch, dass am nächsten Morgen schwer bewaffnete Spezialeinheiten bei der Fahndung durch meinen Vorgarten gestürmt sind. Noch Wochen danach überkam mich bei U-Bahn-Fahrten oder größeren Veranstaltungen von Zeit zu Zeit ein Gefühl des Unbehagens, wenn mir klar wurde, wie einfach es wäre, etwas wie das Bombenattentat zu wiederholen. Vielleicht ist es unter diesen Umständen verständlich, dass jemand, der einen Monat danach das Boston Calling-Festival besucht hat—eine extrem erfolgreiche Veranstaltung, die mittlerweile zwei Mal im Jahr stattfindet—ein wenig besorgt war. Schließlich war es die erste Ansammlung einer so großen Menschenmenge nach dem Attentat. Doch wie eine kürzlich im Dig Boston veröffentlichte Untersuchung zeigt, hätten sich Konzertbesucher wie ich nicht so viele Sorgen machen müssen: Die Stadt hat schließlich jeder unserer Bewegungen überwacht.

Anzeige

Damals habe ich in Berichten über das Konzert im Mai und dem nachfolgenden im September geschrieben, wie erfrischend es war, ein Festival dieser Größe im Herzen der Stadt ohne die überwältigende Präsenz von Sicherheitsleuten erleben zu können. Ja, es gab Taschenkontrollen und Polizeipräsenz, aber es fühlte sich, anders als erwartet, nicht wie höchste Alarmbereitschaft an. Und statt dadurch für ein Gefühl der Unsicherheit zu sorgen, hatte die Fortsetzung von so etwas wie einem normalen Leben ohne überzogene, militärähnliche Präsenz etwas Befreiendes. Es fühlte sich an, als würde die Stadt uns wie Erwachsene behandeln, was definitiv nicht der Normalzustand ist, wie jeder, der bereits auf großen Konzerten oder Sportveranstaltungen war, bestätigen kann. Für mich als Musikkritiker, der Festivals für gewöhnlich um jeden Preis meidet, war hauptsächlich das der Grund dafür, dass ich eine gute Zeit hatte.

Einer der Gründe für die geringe Polizeipräsenz war vielleicht die Tatsache, dass die Stadt im Mai und im September an allen Festivalbesuchern ein massives Überwachungssystem mit Gesichtserkennung als Pilotprogramm getestet hat. Dafür hat die Stadt mittels Software von IBM bereits existierende Überwachungskameras in der Gegend genutzt, um Tausende von Besuchern beim Konzert und in der Umgebung zu verfolgen und ihre Aufenthaltsorte mit Datenpunkten zu filtern, die anschließend mit bestimmten Merkmalen abgeglichen werden konnten. Und dann… Na ja, was als nächstes passiert ist das, was diese Sache so potentiell beunruhigend macht: Eine Präsentation, die mir von Chris Faraone von Dig zugespielt wurde, zeigt, wie das System arbeiten soll. Die Software soll eigentlich in der Lage sein, Leute anhand von Merkmalen wie Glatzköpfigkeit, Brille, Hautton, Beschaffenheit des Oberkörpers und Bärten auseinanderzuhalten—wenn man bedenkt, dass es sich um ein Indierock-Festival handelte, mag letzteres die Server wohl überlastet haben. Die Daten werden anschließend an einen Knotenpunkt übermittelt, an dem Vertreter der Stadt, die Polizei von Boston und der Service-Stab von IBM in Echtzeit zusehen können, während sie in den sozialen Medien Schlüsselbegriffe im Zusammenhang mit dem Event überwachen. Die Absicht dahinter war angeblich die Möglichkeit, verdächtige Aktivitäten mitzubekommen, während sie passieren und zum Beispiel „wachsam zu sein, wenn eine Person neben einem Hauseingang herumlungert, als würde sie versuchen, sich Zugang zu verschaffen“ oder „Versuche über eine Begrenzung zu klettern“ und „ein unbeaufsichtigtes Objekt nahe einer Barrikade“ wahrzunehmen. Das scheinen Dinge zu sein, die Aufmerksamkeit verdienen, aber unter den Möglichkeiten findet sich auch etwas, das besonders ungeheuerlich und dessen Notwendigkeit fragwürdig ist: „Gesichtserkennung von jeder Person, die sich der Tür nähert.“

Anzeige

Aus der Powerpoint-Präsentation von IBM zur Analyse von Gesichtserkennung

Das Polizeipräsidium von Boston bestreitet, irgendwas mit der Aktion zu tun zu haben, aber Bilder, die mir von Kenneth Lipp zugänglich gemacht wurden—dem Journalisten, der die Daten aufgedeckt hat—zeigen die Polizei von Boston dabei, wie sie in der Überwachungsstation von IBM-Mitarbeitern mit der Benutzung vertraut gemacht werden.

So kurz nach einem Bombenattentat mag die Einführung eines solchen Systems vielleicht berechtigt erscheinen, aber es ist wichtig, sich zu erinnern, für wie viel Aufsehen die mangelnde Effektivität von Software zur Gesichtserkennung gesorgt hat, als es darum ging, die beiden Bombenleger Tamerlan und Dzhokhar Tsarnaev zu identifizieren. Trotz der Tatsache, dass von beiden Männern Bilder von Überwachungskameras vom Tag des Attentats existierten, und dass ihre Identitäten der Polizei bekannt waren, war die Technologie nicht in der Lage, einen Treffer zu präsentieren. „Die Technik hat nicht geholfen, obwohl es Bilder von beiden Tsarnaevs in offiziellen Datenbanken gibt: Dzhokar hatte einen Führerschein aus Massachusetts, die Brüder sind legal eingewandert und Tamerlan war der Gegenstand einiger FBI-Ermittlungen“, war zu der Zeit in der Washington Post zu lesen. Stattdessen waren es herkömmliche Polizeiarbeit, Augenzeugen, Tipps von Leuten, die sie erkannt haben und so weiter, die der Polizei und dem FBI die notwendigen Informationen gegeben haben. Was hat die Stadt also denken lassen, dass die Sache wenige Tage später anders aussieht? Die Defizite der Gesichtserkennungssoftware, wie sie beim Boston Calling getestet und in anderen Städten auf der Welt genutzt wird, besonders im New York nach 9/11, überall in London und nicht zu vergessen zunehmend in Supermärkten in den ganzen USA, sind gut belegt. Oft werden die aufgenommenen Bilder durch verschiedene Gesichtsausdrücke, Gesichtsbehaarung, Hüte, die Aufnahmeperspektive und so weiter weniger effektiv. Interessanterweise hat sich herausgestellt, dass die Kameras auch bei Gesichtsbemalung ihre Schwierigkeiten haben, etwas, was besonders bei Musikfestivals ein Problem ist, bei dem Verkleidungen an der Tagesordnung sind.

Anzeige

Überwachungsmaterial, mit freundlicher Genehmigung von Kenneth Lipp von Dig Boston.

„Das ist definitiv nicht das erste Mal, dass die Regierung und private Akteure zusammengearbeiteten und Leute, die ein Events wie dieses besuchen, als Versuchskaninchen benutzt haben“, sagt Kade Crockford, die Leiterin der Amerikanischen Bürgerrechtsunion des Massachusetts Technology for Liberty Project. Sie vergleicht diese Speicherung von Aufnahmen bei den Konzerten mit einer ähnlichen Geschichte, die vor Kurzem im The Intercept zu lesen war und in der aufgedeckt wurde, dass 15 Staaten, inklusive Massachusetts, die Bilder von Führerscheinen an Bundesbehörden weitergegeben haben, damit diese ihre bereits riesigen Terrordatenbanken und Beobachtunglisten weiter füllen können. Auch wenn die Technologie immer noch nicht perfekt ist, die meisten Beobachter stimmen zu, dass es nur noch eine Frage der Zeit ist, bis sie funktionieren wird—derzeit arbeiten Forscher an einer Software für Facebook, die in 97,25% der Fälle zwei gleiche Gesichter erkennen kann, eine Quote, die etwas geringer ist als die des menschlichen Gehirns. Es ist unabdingbar, dass wir anfangen, uns darüber Sorgen zu machen, was Regierungen mit diesen Möglichkeiten anstellen können, wenn es soweit ist. „[Die Technik] wird besser und besser. Und mit der Zeit werden sie nicht nur das FBI, die CIA und staatliche Stellen verwenden, sondern auch jedes Shopping-Center, in das du gehst, vielleicht auch Sportstadien“, sagt Crockford. „Es wird ähnlich aussehen wie die dystopischen Szenen im Shopping-Center im Film Minority Report.“ Wie in so vielen anderen Bereichen bewegt sich die Technologie hier schneller als die Gesetzgebung und die Gerichte. „Wir müssen in den Griff bekommen, was Regierungsbehörden genau machen. Nicht nur darüber nachdenken, sondern wirklich auf die öffentlichen Bedenken eingehen, wie diese Technologie gegen uns genutzt werden wird und Gesetze verabschieden, um dies einzuschränken. Es ist wichtig herauszustellen, dass nichts davon überhaupt ans Licht gekommen wäre, wenn die Reporter von Dig nicht so gute Detektivarbeit geleistet hätten, inklusive Lipp, der über die Dokumente von IBM und die Vereinbarungen mit der Stadt Boston, wie die Software implementiert werden kann, gestolpert ist, die von einem Mitarbeiter von IBM auf einem ungesicherten Server gespeichert wurden. Er hat ähnliche Informationen über Programme wie dieses in Chicago und New York City gefunden und Beweise, dass IBM ähnliche Programme in Schottland, Israel, Puerto Rico, Pakistan und New Jersey einführt. „Was im Fall von Boston sehr besorgniserregend ist, ist wie unbedacht sie den öffentlichen Freibrief, der aus diesem Never Forget-Ding und dem 11. September hervorgegangen ist, ausgenutzt haben“, sagt Lipp. „Das wirklich Verstörende ist für mich, dass uns all das unter dem Deckmantel des Konzepts der ‚Smart Cities’ verkauft wird. Was das für mich bedeutet ist, dass Städte eingebaute Überwachungstechniken nutzen und technische Partner haben, die sich selbst als Unternehmen in der Stadt etablieren wollen, indem sie ihre Hardware in die Infrastruktur einbauen. Sobald sie die Infrastruktur haben, können sie jede Software, die sie wollen, daran anpassen.“

Anzeige

Auf Anfrage hat das Boston CallingFestival seine Mitwirkung bei dem Programm erklärt: „Sicherheitsbeauftragte der Stadt Boston haben uns im Vorfeld unseres Festivals im Mai 2013 kontaktiert, um uns mitzuteilen, dass sie ein neues Überwachungssystem als zusätzliche Sicherheitsmaßnahme testen. Das Boston Calling Musikfestival war an der Implementierung des Programms nicht beteiligt. Unsere Praxis ist, uns allen öffentlichen Sicherheitsinitiativen, die die Stadt implementiert, zu fügen. Die Sicherheit der Fans hat oberste Priorität.“ Bei der Vorführung in Boston wurden „nur“ 13 Kameras benutzt, aber es gab 200, die sie hätten online gehen lassen können. Noch schlimmer ist aber das, was nach dem Projekt mit den Daten passiert ist. Das Büro des Bürgermeisters, der auf meine Anfrage nach einem Kommentar nicht reagiert hat, hat eine Stellungnahme veröffentlicht, in der er die Existenz des Programms eingestanden hat. (Das Programm wurde unter dem früheren Bürgermeister Tom Menino entwickelt, nicht dem gerade gewählten Martin Walsh). Die Idee dahinter ist einfache Logistik, sagen sie. Nichts, worüber man sich Sorgen machen müsste. „Der Zweck des Pilotprojekts war, Software zu testen, die es für die Stadt einfacher macht, große öffentliche Veranstaltungen auszurichten und sich Herausforderungen zu stellen wie Genehmigungen, Basisdienstleistungen, Publikums- und Verkehrsmanagement, öffentlicher Sicherheit und bürgerlichem Engagement durch soziale Medien und andere Kanäle. Das waren Technologiedemonstrationen, die bereits existierende Hardware (Kameras) und Systeme zur Datenspeicherung genutzt haben“, hieß es dort. „Die Stadt Boston hat weder die langfristige Nutzung dieser Software angestrebt noch einen Vertrag abgeschlossen, um diese Software auf Dauer zu nutzen“, heißt es weiter. Aber sie behalten sich die mögliche Nutzung in ähnlichen Situationen vor. Laut Statement geben die Verantwortlichen zu „Bedenken“ hinsichtlich rechtlicher Fragen und Privatsphäre zu haben. Ach was!

Anzeige

Demo der IBM-Software, die eine Person von besonderem Interesse aufspürt.

Selbst die Leute, die sich nicht daran stören, dass eine Stadt so ein waches Auge auf ein großes Event wie ein Musikfestival hat—besonders kurz nach einem Terrorangriff—stimmen wahrscheinlich zu, dass die Frage ist, was mit den Daten passiert, nachdem sie für nutzlos befunden wurden. Du musst nicht besonders paranoid sein, um zu vermuten, dass Daten oft nicht mehr gelöscht werden, nachdem einmal gesammelt wurden, wie wir bei den NSA-Enthüllungen von Edward Snowden gesehen haben. Tatsächlich sagt Lipp, dass er in der Lage war, 70 Stunden Material vom Konzert einzusehen, das letzte Woche noch auf den Servern war, als sie ihre Geschichte veröffentlicht haben. Auf ähnliche Weise hat er sich zu einer Ansammlung von schlecht gesicherten Dokumenten Zugang verschafft, wie Parkausweise von Boston mitsamt Führerscheinen, Adressen und anderen Daten, die sich auf ungesicherten FTP-Servern befanden. „Wenn ich eine andere Art Akteur wäre, ein böswilliger staatlicher Akteur, dann könnte ich für die Bewohner von Boston aufgrund dessen, was ich in dem Ordner habe, eine beachtliche Bedrohung darstellen.“ „Was die Kontrolle über die Daten von IBM angeht, ist das ein verblüffendes Level an Dummheit“, sagt Crockford. „Wenn wir über die vielen Regierungsbehörden reden, die darauf Zugriff haben, ebenso wie Firmen, ob sie nun Unternehmer sind oder in sogenannten Fusion Centern neben Polizeibeamten sitzen, müssen wir wirklich besorgt sein. Wie viele Leute haben Zugang zu diesem Server, auf dem sich alle diese Daten befinden?“ Es ist nicht so, als hätten die Gesetzeshüter in Boston das beste Urteilsvermögen an den Tag gelegt, als es darum ging, welche Art von Leuten überwacht werden sollen. Anfang des Sommers wurden über Tausend Seiten an Notizen öffentlich, die vom Boston Regional Intelligence Center über die Aktivitäten von Occupy Boston-Mitgliedern angefertigt wurden, inklusive absurden Details wie das Kommen und Gehen lokaler Bands und die Ticketpreise von Konzerten. Vielleicht erinnerst du dich auch noch daran, als Polizisten in Boston Undercover im Internet unterwegs waren und vorgegeben haben, Punkrock-Fans zu sein, um die Veranstaltungsorte für DIY-Konzerte auszuräuchern. Schlimmer noch—all das fand im Geheimen statt. „Die Stadt hat nichts getan, um das öffentlich zu machen, es gab keine Anhörungen im Stadtrat, um zu erörtern, ob das notwendig ist“, sagt Crockford über die Tests zur Gesichtserkennung. „Es verdeutlicht perfekt,wie Überwachungspolitik funktioniert, mit Regierungsbehörden, die hinter verschlossenen Türen entscheiden und eine Menge Geld ausgeben, um unschuldige Leute auszuspionieren. Und niemandem wird davon erzählt.“ Das ist genug, um sich die Frage zu stellen, was noch so vor sich geht, von dem wir nichts wissen. Was auch in anderen Städten Amerikas und der Welt los ist. Immerhin sieht sich die USA als die Vorbild-Demokratie schlechthin, ein vom Volk regierter Staat. Ich persönlich kann nicht anders als neugierig zu sein, wie oft ich selbst bei den Konzerten auf Kameras dabei zu sehen bin, wie ich mich durch die Menge wühle. Haben sie mich dabei beobachtet wie ich zu Passion Pit tanze oder bei Marina and the Diamonds ins schwärmen gerate? Und wozu? Was ist es, das mich und alle anderen für die Stadt Boston zu einer Person von Interesse gemacht hat, außer unserem Wunsch, mit dem Rest der Stadt zusammenzukommen, um einen Tag lang Musik zu genießen? Nach einigen der schlimmsten Tage in der Geschichte der Stadt wurden uns beim Boston Calling Festival einige lustigere geschenkt, aber die Tatsache, dass wir alle gleichzeitig ausspioniert wurden, hat selbst meine Erinnerung daran vermiest. Es hat alles nur noch schlimmer gemacht, denn ein Grund, warum wir auf Konzerte gehen, ist die Möglichkeit, uns selbst unserer Identität zu entledigen, uns im übertragenen wie buchstäblichen Sinn im Gedränge zu verlieren. Das scheint in der heutigen Zeit immer weniger möglich zu sein.

Anzeige

Folgt Luke bei Twitter—@lukeoneil47

**

Folgt Noisey bei Facebook und Twitter.


MEHR VON NOISEY

In Thailand werden Hardcorebands von der Polizei bedroht

In Bangkok ist es illegal, die Regierung zu kritisieren, was Bands wie Blood Soaked Street of Social Decay allerdings nicht aufhält.

Die Polizei VS Grime—Wie die Form 696 die Szene in London beeinflusst

Noisey präsentiert eine neue Dokumentation über die Londoner Grime-Szene, ihre Beziehung zur Polizei und die Form 696.

Das neue Video von Niveau Zero ist das Erschreckendste und Faszinierenste, was wir seit langem erlebt haben

Wisst ihr noch, was ihr am 11. September gemacht habt? Natürlich wisst ihr es. Ich habe mich heute Morgen ganz ähnlich gefühlt. Dank dieses Videos..