Nach der gestrigen Sendung "Computer und Kommunikation" mit dem Schwerpunktthema "Social Scoring" haben mich zahlreiche Mails erreicht mit der Bitte um eine Angabe, wo man das Manuskript nachlesen könne.

 

Ich habe die Bitte an die Online-Redaktion im Funkhaus Köln weitergeleitet. Die sind natürlich am Wochenende nicht gerade üppig besetzt. Dass einige Hörer den Sonntag nutzen wollen, um den Schwerpunkt nicht nur zu hören, sondern auch nachzulesen, kann ich nachvollziehen. Deshalb gibt es hier schon einmal das

 

Manuskript des Schwerpunktes "Social Scoring" in Computer und Kommunikation, Deutschlandfunk, Samtsag, 9. Dezember 2017, 16:30

 

Zuspielung1: gig18

 

 Wir müssen auch sehr sehr aufpassen, dass wir das Potenzial, dass die Digitalisierung für staatliche Überwachung, für kommerzielle Überwachung und auch für Irreführung der Öffentlichkeit hat, dass wir das im Griff bekommen.

 

 

 

 

 

Moderator: Das sagt Professor Gerd Gigerenzer, Direktor emeritus am Max-Planck-Institut für Bildungsforschung in Berlin und anerkannter Statistiker. Und bei dieser staatlichen Überwachung fordern Sicherheitspolitiker ja nicht nur Hintertüren, um via Alexa oder Siri mithören zu können, was denn im Wohnzimmer gerade so gesprochen wird. Nein, diese Überwachung Kontrolle geht viel weiter, zum Beispiel mit der Einführung von Social Scoring. Was kann man sich darunter vorstellen, Peter Welchering?

 

 

 

 

 

Reporter: Wenn wir einen Kredit von unserer Bank haben wollen, dann wird unsere Kreditwürdigkeit berechnet. Die Fachleute nennen das Bonität. Diese Berechnungen werden von Unternehmen wie der Schufa oder Creditreform vorgenommen. Das Verfahren heißt Kreditscoring. Die chinesische Regierung hat daraus ein Verfahren gemacht, das alle Bürger umfasst. Mit dem Sozialscore wird der „Wert“ eines jeden Bürgers berechnet. Für solche Verfahren interessieren sich auch zunehmend Unternehmen und Behörden in Deutschland. Ähnlich schleichend wie die Überwachung per eingebauter Hintertüren bei der Technik im vernetzten smarten Heim, kommt da mit dem Social Scoring ein enorm leistungsstarkes und gefährliches Kontrollsystem auf uns zu.

 

 

 

 

 

Moderator: Vorbild China, allerdings sagen auch Sicherheitsexperten, dass niemand hierzulande das Social Scoring der chinesischen Regierung Eins zu Eins übernehmen wolle. Wie aber funktioniert Social Scoring eigentlich genau.

 

 

 

Zuspielung 1: gig1

 

In China ist man dabei einen sogenannten Sozialen Kredit Score für jeden Bürger einzuführen, und im Jahre 2020, ist das Ziel, sollte das auch durchgehend geschehen. Ein solcher Score, der wahrscheinlich zwischen 350 und 950 sein wird, der bildet sozusagen die ganze Angepasstheit des Menschen ab. Und es werden die Datenbanken aus ganz verschiedenen Bereichen, aus dem finanziellen Verhalten, aus dem gesundheitlichen Verhalten, im beruflichen Verhalten und den gesamten digitalen Fingerabdruck im Netz zusammengeführt.

 

 

 

Sprecherin: Berichtet Professor Gerd Gigerenzer. Die chinesische Regierung will damit totale staatliche Kontrolle ausüben. Karriere kann nur noch machen, wer so angepasst lebt, dass einen Sozial-Score von mindestens 600 Punkten erreicht. Kritik an der Regierung wird mit Punktabzug bestraft. Und das Beispiel der chinesischen Regierung macht auch bei uns Schule. Gerd Gigerenzer.

 

 

 

Zuspielung 2: gig2

 

In Deutschland denkt man über diese Dinge erstaunlich wenig nach. Bei uns werden auch schon Datenbanken geführt, in denen Sie zum Beispiel einen Kredit-Score bekommen, der bekannteste ist Schufa-Score. Und die Krankenkassen beginnen, die Gesunden nach ihrem Verhalten zu scoren, und wenn sie bei AirBnB sind, dann werden die Vermieter gescored. Das heißt die Voraussetzung schaffen wir bereits. Und die Kultur, in die wir sind mit Likes und noch mehr Likes, die ist ein zweiter Weg dorthin.

 

 

 

Sprecherin: Likes und Follower in den sozialen Netzwerken haben dann genauso Einfluss auf den Sozial-Score wie die pünktliche Abgabe der Steuererklärung, das Einhalten von Geschwindigkeitsbegrenzungen oder höfliches Verhalten gegenüber Beamten. Klingt nach Science Fiction, wird aber gerade Realität.

 

 

 

Zuspielung 3: gig3

 

Was mich beunruhigt, ist, dass man die Vorgänge in anderen Ländern nicht diskutiert. Und vor allen Dingen, es ist ein direkter Weg von dem, was viele Leute gerne machen auf Facebook oder anderen sozialen Medien, ihre Likes zu geben, zu der englischen Science fiction Serie Black Mirror, die eine mögliche Zukunft zeigt, die nicht so unähnlich ist, wie die in China geplant wird, nämlich wo jeder jeden bewertet übers Handy, über eine Gesichtserkennungssoftware. Und wo jede Aktion des anderen bewertet wird und jeder einen Score ha. Und eine Gesellschaft entsteht dadurch, wo jeder den anderen kontrolliert.

 

 

 

Sprecherin: Damit eine solche Kontrolle via Sozial-Score lückenlos stattfinden kann, müssen viele Daten zusammengetragen, Datenbanken miteinander verknüpft werden. Das schaffen staatliche Behörden alleine nicht.

 

 

 

Zuspielung 4: gig12

 

 In China arbeiten die Konzerne mit dem Staat ganz eng zusammen. In den USA werden oder wurden Konzerne gezwungen, eng zusammenzuarbeiten. Wenn sich diese Allianz immer mehr zu einer einzigen großen Kraft findet, dann braucht mehr diese Frage stellen, wo die größte Gefahr herkommt: aus der Allianz.

 

 

 

Sprecherin. Für Internet-Konzerne wie Google & Co ist der Sozial Score in erster Linie ein riesiges Geschäft. Sie wollen nicht nur Geld damit verdienen, dass sie die Daten verkaufen, die ihnen ihre Nutzer freiwillig geben. Sie führen für stattliche Stellen auch gleich die Berechnungen durch, das sogenannte Scoring. Und lassen sich dafür bezahlen. Damit wird der Sozial Score zum uneingeschränkten Herrschaftsinstrument.

 

 

 

Zuspielung 5: gig9

 

 Wir wissen ja nicht, was die Schufa nun genau scored, also welche Größen sie nimmt und welchen Algorithmus sie nehmen. Denn typischerweise sind die Algorithmen wie bei Schufa Geschäftsgeheimnis. Das heißt, der Bürger kann gar nicht kontrollieren, warum er einen guten oder schlechten Score hat. Das ist auch schon bei uns der Fall.

 

 

 

 

 

Moderator: Und diese Algorithmen werden zunehmend zusammengeführt. Denn ohne Zusammenführung der bisherigen Scoring-Algorithmen ist die Einführung eines sozialen Scores schwierig. Wie hoch sind denn da die technischen Hürden, Peter Welchering?

 

 

 

Es gibt dabei zwei große Hürden, eine organisatorische und eine technische: Schufa, Creditreform, Krankenkassen, Kfz-Versicherungen, Mobilfunkunternehmen - die arbeiten alle mit unterschiedlichen Algorithmen. Diese Algorithmen und vor allen Dingen die Gewichtungen einzelner Kriterien gelten als Geschäftsgeheimnisse. Das müsste für die Entwicklung eines Sozialen Scores zumindest im Kreis der beteiligten Behörden, Versicherungen, Auskunfteien und Internet-Konzerne teilweise offengelegt werden. Nun wollen aber Schufa und Creditreform ihre Algorithmen nicht unbedingt an Google weiterreichen. Die technische Hürde besteht darin, dass ein einheitliches Datenformat durchgesetzt werden muss, mit dem dann alle Daten in die Software zur Berechnung des Sozialen Scores einfließen können.

 

 

 

Zwischenfrage: Wie würden dann die Daten für diesen sozialen Score erhoben?

 

 

 

Teilweise durch Auswertung sozialen Plattformen wie Facebook, Instagram und andere. Die sozialen Plattformen liefern übrigens in China freiwillig der Regierung zu. Dann dürfte es mit Sicherheit Beteiligungsverpflichtungen von Versicherungen, Krankenkassen und Auskunfteien geben. Die werden aber nicht freiwillig ihre Daten und algorithmischen Gewichtungen hergeben, zumindest wollen die dann an diesem Geschäftsmodell "Sozialer Score" kräftig mitverdienen. Drittens spielen die Sicherheitsbehörden in solchen Konzepten traditionell eine wichtige Rolle. Die haben schon viele Daten in ihren Sicherheitsdateien, so fehlerhaft und anfällig die auch sind. Und die Diskussion auf der Innenministerkonferenz am Donnerstag hat ja ganz klar gezeigt, dass die Sicherheitsbehörden weitere Daten erheben sollen. Die Zeichen stehen ja in Richtung großer Lauschangriff. Und wenn das erst mal Siri, Alexa und der Smartmeter auch noch Daten für einen sozialen Score liefern, dann haben wir für den sozialen Score eine ziemlich umfassende Datensammlung.

 

 

 

Zwischenfrage: Daten aus solch einem großen Lauschangriff sind ja überwiegend unstrukturierte Daten. Wie aufwändig ist denn da die Bearbeitung?

 

 

 

Für Prognosen ist das recht aufwändig, weil da die semantische Analyse nicht reicht. Die semantische Analyse kann strukturierte Daten liefern, allerdings muss dann noch berechnet werden, ob es sich dann bei den festgestellten Datenmustern um bloße Korrelationen oder um wirklich signifikante Zusammenhänge handelt. Da haben vor allen Dingen die Arbeitsmarktökonomen in den vergangenen Jahren ziemlich gute methodische Instrumente entwickelt. Das war vor allen Dingen getrieben durch die Hartz-IV-Reformen. denn da wollte die Politik wissen, welche Ursachen für bestimmte Entwicklungen am Arbeitsmarkt angenommen werden können. Diese Instrumente haben die Datenanalysten der Sicherheitsdienste übernommen.  Die müssten für einen solchen sozialen Score angepasst werden, wenn aus diesen Daten auch Prognosen gezogen werde sollen. Genau dieses Vorhaben hat die chinesische Regierung aufgegeben. Prognosen wurden vom sozialen Score völlig abgekoppelt. Der soziale Score gibt einen Wert für die Angepasstheit aus. Dafür reicht die semantische Analyse. Und wenn von Alexa, Siri & Co dann auch noch Daten beigesteuert werden für diese Score Berechnung, dann haben wir einen Score Wert, der aus einer umfassende Überwachung berechnet wurde. Und da brauchen wir eine breite gesellschaftliche Diskussion.

 

 

 

Zwischenfrage: Wie läuft denn die bisherige Diskussion über umfassende Überwachung und sich daraus ergebende Daten für einen sozialen Score?

 

 

 

Auf alle Fälle zu wenig intensiv. Also über umfassende Überwachungskonzepte wird immer mal wieder diskutiert. Vor allen Dingen, wenn neue Überwachungspläne der Sicherheitsbehörden bekannt werden, wie jetzt bei der Diskussion auf der Innenministerkonferenz. Aber das hält nie lange an. Und solche Sanktionierungs- und Kontrollkonzepte wie ein sozialer Score, die werden im Augenblick eigentlich nur auf Expertenebene diskutiert. Die Politikwissenschaftler fühlen sich da an die Mathematique social von Condorcet erinnert und finden das einen spannende Ansatz. Die Sicherheitsbehörden sehen hier ein unglaublich effizientes Kontrollinstrument. Denn mit so einem Score wird ja soziale Angepasstheit gemessen. Und deshalb erhoffen sie sich Prognosen über die Kriminalitätsentwicklung dadurch. Und auch in der Politik hat dieses Konzept einige Freunde, nicht nur in China, sondern auch hierzulande. Da wird es nur unter anderem Namen verkauft: z.B. Sicherheitsscreening oder Gesundheitsscoring. Sogar "Scoring für mehr Vertrauenswürdigkeit" taucht da auf. Gemeint sind in allen Fällen dieselben totalen Kontrollmechanismen. Aber über die wird gesellschaftlich bisher nicht diskutiert.

 

 

 

Zwischenfrage: Wo liegt denn für die Sicherheitsbehörden der Ansatz für eine Kriminalitätsprognose beim sozialen Score?

 

 

 

Zum einen natürlich in der Datensammlung. je mehr Verhaltensdaten von Menschen gesammelt werden, umso besser die der Ergebnisse der Inferenzanalysen, wie die sich denn in der nächsten Zeit so verhalten werden. Aber auch der soziale Score ist für die Sicherheitsbehörden spannend. Wer sich angepasst verhält, begeht keine Straftaten. Denn wer eine Straftat begeht, der fällt ja aus diesem Angepasstsein raus. So lautet die dahinter stehende Theorie der Sicherheitsbehörden. Wer also eine Veränderung seines sozialen Scores nach unten erfährt, also sich weniger angepasst verhält als bisher, der wird zu einem potenziellen Gefährder. Das ist die sehr anfechtbare Theorie, die aber seit der Rasterfahndung in den siebziger Jahren den Kurs unserer Sicherheitsbehörden bestimmt.

 

 

 

Zwischenfrage: Und die Datensammlung für weitere Analysen wäre dann so eine Art Kollateralerfolg?

 

 

 

Das ist sie eher in China. Wir sind ja in Deutschland gerade bei der Diskussion: Wir brauchen mehr Daten für das predictive policing, damit wir Kriminalität vorhersagen und dann besser bekämpfen können. und deshalb brauchen wir mehr Überwachung. Ein Nebeneffekt dieser Diskussion ergibt sich dann, wenn darüber diskutiert wird, dass mit allen diesen Daten ja auch ein sozialer Score ohne Aufwand berechnet werden, und dieser Score wird dann auch noch las Sicherheitsgewinn verkauft.