Fakten und Innovationen

Vor kurzem traf sich die Welt in Kattowitz, um über die Rettung des Klimas zu verhandeln. Das ist immer auch ein Anlass, um neue wissenschaftliche Berichte zur Entwicklung des Klimawandels zu veröffentlichen und darauf hinzuweisen, dass schnelles Handeln nun wirklich Not tut.

Der Economist hat gerade in einem sehr lesenswerten kleinen Artikel eine Reihe neuerer Studien vorgestellt, die Zweifel daran aufkommen lassen, ob rationale Einsicht in die Problemlage tatsächlich zu vernünftigem Handeln führen kann.

Eine der zitierten  Studien zeigt: Faktenwissen über den Klimawandel und wissenschaftliches Denken (science literacy) hat keinerlei Einfluss auf die persönliche Haltung gegenüber Politikern, die sich für eine Klimapolitik einsetzen oder eben auch nicht. Überspitzt könnte man auch sagen, in der politischen Auseinandersetzung macht Wissen nicht klug.

Eine Erklärung könnte eine der anderen Quellen bieten, die der Economist zitiert. Ein neues Buch von Hugo Mercier und Dann Sperber, "The Enigma of reasoning". Die zentralen Gedanken und eine sehr persönliche Herleitung finden sich in diesem Artikel auf Edge.com. demnach hat rationales Denken und argumentieren vor allen Dingen einen sozialen Zweck: Sich selbst zu rechtfertigen und den anderen zu überzeugen. Am Ende geht es darum, eine gemeinsame Sicht auf die Welt zu gewinnen, um sozial handeln zu können. Es geht also weniger darum, objektiv ein Problem zu verstehen. Und es kann dann durchaus passieren, dass sehr abstruse Positionen sehr überzeugend in solchen Argumentationen vertreten werden. Auch das ist dann sozial rational.

In eine ähnliche Kerbe schlägt das dieses Jahr auf deutsch erschienene Buch von Steven Pinker "Aufklärung jetzt". Ich war beim Lesen ernsthaft irritiert, als ich zu diesen Kapiteln am Ende des Buches kam. Nachdem ich hunderte von Seiten Statistiken über die positive Entwicklung der Welt in allen möglichen Lebensbereichen (Bildung, Gesundheit, Gewalt...) und den segensreichen Einfluss von Aufklärung und Wissenschaft durchgeackert hatte, zitierte Pinker plötzlich reihenweise Studien, wie unfähig Menschen doch sind, vernünftig Probleme zu analysieren und rational zu entscheiden. Stattdessen scheinen politische Einstellungen und emotionale Grundhaltungen alles zu überlagern und zu manchmal bizarren Entscheidungen zu führen.

Pinker sieht die Auflösung dieses Dilemmas in einer breiteren Basierung von Entscheidungen auf Fakten und einem systematischen Vorgehen der Abwägung und Bewertung, was man durchaus auch lernen könne. Er zitiert als Beispiel die Arbeiten von Philip Tetlock zu sogenannten Superforecastern. Tetlock hatte die unglaublich schlechten Prognosefähigkeiten von sogenannten Experten an Börsen und im Geheimdienst untersucht und festgestellt, dass ein kleiner Prozentsatz an Menschen deutlich bessere Prognosen abgeben können. Das Geheimnis des Erfolges ist es dabei, emotional relativ wenig engagiert zu sein und seine Einschätzung auf einer sehr breiten Basis an Fakten zu stützen.

Nach dieser Auffassung können Fakten also durchaus nutzen, um zu sinnvollen Entscheidungen zu kommen, die Frage ist, wie man möglichst neutral und breit diese Fakten in Rechnung sieht. Was liegt nun näher, als künstliche Intelligenz für eine breite und neutrale Entscheidungsfindung zu nutzen? Tatsächlich gibt es solche Visionen oder Fantasien, gutes Regieren zukünftig auf KI zu stützen. Kann sein, dass das zu besseren Entscheidungen führt. Die soziale Funktion der menschlichen Diskussion bleibt damit aber außen vor. Akzeptanz in der Gesellschaft wird so nicht gefördert. Und das war ja gerade das Ausgangsproblem.

Der Gipfel in Kattowitz übrigens scheint kein Beispiel dafür zu sein, dass wissenschaftliche Erkenntnisse zu rationalem Handeln führen. Zumindest sind führende Klimaforscher ziemlich enttäuscht über die dürftigen Ergebnisse, obwohl doch die Notwendigkeit, schnell und massiv zu handeln, mehr als klar sei.

KI Staatsfonds

Friedrich Merz hatte im Vorfeld seiner Kandidatur als CDU Parteichef den Vorschlag gemacht, das private Investment in Aktien doch steuerlich zu begünstigen, wenn dies der Altersvorsorge diene. Da die meisten von uns keine Aktienprofis sind, würde das Management vermutlich meist ein Investmentverwalter übernehmen, die Sparkasse z.B., oder andere institutionelle Anbieter (vielleicht auch indirekt der ehemalige Arbeitgeber von Herrn Merz). Der Vorschlag stieß auf ein unterschiedliches Echo. Während die einen ihn grundsätzlich interessant fanden, allerdings darauf hinwiesen, dass die meisten deutschen Haushalten gar kein Geld haben, um in Aktien zu investieren, lehnten die andern die Idee eher ab. Allerdings nicht, weil sie eine Stärkung des Aktieninvestments zur Alterssicherung nicht gut fänden, sondern weil es hierfür schon vielfältige Möglichkeiten gäbe, die aber alle nicht optimal funktionierten. Die deutsche Bevölkerung zu Aktienbesitzer zu machen, hat seit dem Fehlstart der T-Aktie vor mehr als 20 Jahren einen gewissen Beigeschmack. Ob mit Reform der bestehenden Systeme oder mit einem neuen Ansatz, leicht wird es nicht werden. Dabei klingt die Idee zunächst einmal sehr schön, dass die Deutschen selbst in Unternehmen investieren, die vom digitalen Wandel profitieren, und somit auch selbst Nutznießer desselben werden. Vielleicht muss doch Vater Staat helfen, der ja im Moment ganz begeistert ist von digitalen Umwälzungen aller Art.

An 15. November stellte die Bundesregierung z. B. ihre neue Strategie zur künstlichen Intelligenz vor. Deutschland soll zu einem führenden Standort für künstliche Intelligenz werden, damit soll ganz wesentlich auch der Wohlstand in Deutschland abgesichert werden. Die ersten Reaktionen waren wohlwollend bis skeptisch. Insbesondere die Besetzung von 100 Lehrstühlen mit hochkarätigem Personal wurdd als nicht kleine Herausforderung gesehen. Auch die Wirkung auf KI-Gründungen bleibt abzuwarten.

Überhaupt ist es mit Digitalisierung und künstlicher Intelligenz so eine Sache. Es gibt eine Reihe von Studien, die diesen Technologien ein erhebliches disruptives Potenzial nachsagen. Und die Disruption, also die verändernde und durcheinanderwirbelnde Wirkung, ist nicht immer für alle gleichermaßen positiv. Der Digitalisierung und dem Einsatz künstlicher Intelligenz wird z.B. auch zugeschrieben, dass sie möglicherweise sozialer Ungleichheit fördern.

Zum einen auf der individuellen Ebene, weil nicht alle Beschäftigten mithalten können mit den neu geforderten Kompetenzen. Weil viele Arbeitsplätze verschwinden und viele neue Arbeitsplätze geschaffen werden, aber vermutlich nicht unbedingt für die selben Personen.

Zum anderen auf Unternehmensebene, weil einige wenige Firmen vom Einsatz dieser Technologien profitieren, ihre Chefs reicher und reicher werden und auch ihre Mitarbeiter einen Teil vom wachsenden Gewinn abbekommen. Andere Firmen hingegen haben es immer schwerer, die Löhne in diesen Unternehmen sinken. Manche Branchen trifft es dabei besonders hart.

Es wird also vermutlich Gewinner und Verlierer geben. Aber wie kann es gelingen, dass die ganze Gesellschaft von diesem Technologiewandel profitiert? Vielleicht durch Investitionen der Bürgerinnen und Bürger in Aktien solcher Unternehmen? Wie oben beschrieben hat das so seine kleinen und großen Fallstricke. Vielleicht könnte auch der Staat einspringen.

Erik Brynjolfsson und Andrew McAfee schlugen schon vor ein paar Jahren in ihrem Buch "The second machine age", dass über eine staatliche Teilhabe an Unternehmen, die Gewinner der digitalen Revolution sind, ein Rückfluss für uns alle gewährleistet werden könnte.

Bereits anlässlich der Veröffentlichung des Eckpunktepapiers zur künstlichen Intelligenz im Sommer griffen einige Autoren die Idee eines Staatsfonds für künstliche Intelligenz auf und beriefen sich dabei auf Brynjolfsson und McAffee. Ein Staatsfonds investiert öffentliche Mittel in vielversprechende Unternehmen, um langfristig eine gute Rendite auch für spätere Generationen zu erwirtschaften. Und wenn KI so eine tolle Idee ist, warum nicht in Firmen investieren, die damit überdurchschnittlich wachsen?

Im Prinzip sind Staatsfonds keine neue Idee. Am bekanntesten sind die Staatsfonds der Ölstaaten wie Saudi-Arabien oder Norwegen, die mit dem Reichtum des heutigen Ölgeschäfts für die Zeit vorsorgen wollen, wenn diese Ressourcen erschöpft sind. Immer größere Summen werden von solchen Staatsfonds jetzt auch in Startups investiert, manche Experten fürchten hier schon eine Investitionsblase, da Staatsfonds anders als klassische Risikokapitalgeber agieren und den Markt überhitzen könnten.

Die Bertelsmann-Stiftung hat bereits 2017 im Rahmen einer kleinen Studie Überlegungen zu einem deutschen Staatsfonds in Anlehnung an das norwegische Vorbild skizziert, dabei aber ein unabhängiges Management, eine an ethischen Grundsätzen orientiere Anlagestrategie und eine internationale, an der Entwicklung der deutschen Volkswirtschaft abgekoppelte Investitionspolitik geforderten. Die Idee taucht immer wieder in deutschen Medien auf, so z. B. zuletzt in Spiegel oder Zeit.

Staatsfonds könnten eine schlaue Idee sein und möglicherweise auch in KI-Unternehmen investieren - vermutlich dann nicht nur in deutsche, sondern international. Damit ist die Idee des Staatsfonds erst einmal unabhängig von der Bemühung zu sehen, eine internatiinal wettbewerbsfähige nationale Industrie - z.B. in KI - aufzubauen.

Staatsfonds wurden jüngst aber auch ins Spiel gebracht, wenn es darum geht, heimische Industrien zu schützen. Im September diesen Jahres wurde angeblich Überlegungen der Bundesregierung berichtet, durch einen Staatsfonds den deutschen Mittelstand z.B. vor chinesischen Übernahmen zu schützen. Die Bundesregierung dementierte. Ob ein Staatsfonds dafür überhaupt ein geeignetes Instrument wäre, daran ließ ja schon die oben genannte Bertelsmann-Studie zweifeln. Andere Abwehrmittel sind die Prüfung von Übernahmen durch nationale Behörden oder künftig sogar durch ein Investment Screening der EU, beide vermutlich geeigneter zum Schutz deutscher Unternehmen (und einer deutschen KI-Unternehmenslandschaft).

Der deutsche KI-Staatsfonds ist im Augenblick kein ernstes Thema der politischen Diskussion. Im Moment scheint die Bundesregierung eine andere Strategie zu befolgen: Die heimische Industrie fit machen für den digitalen Wandel und den Einsatz künstlicher Intelligenz. Und damit Steuerrückflüsse zu garantieren, die man für das Gemeinwohl nutzen kann. Arbeitnehmer durch Weiterbildungsmaßnahmen so qualifizieren, dass sie möglichst wenig auf der Strecke bleiben.

Ob das reicht, werden wir sehen.

Bis dahin kann natürlich jede/r von uns in ihr/sein privates KI Aktienportfolio investieren - wenn sie/er das nötige Kleingeld und den richtigen Riecher hat.

Künstliche Politiker

Im vergangenen Jahr wurde eine Umfrage unter britischen Bürgern veröffentlicht, wonach sie sich einen Roboter mit künstlicher Intelligenz als Ersatz für ein Politiker gut vorstellen könnten. Angesichts des Chaos, mit dem im Moment die britische Politik versucht, den Brexit umzusetzen, könnte man das vielleicht wirklich für eine gute Idee halten. Etwas ernster hat sich jüngst ein Kommentator des Economist damit auseinandergesetzt und ist unterm Strich zu dem Ergebnis gekommen, dass ein KI-Politiker vielleicht doch keine so gute Idee wäre. Selbst wenn es zukünftig technisch machbar wäre.

Auch den aktuellen amerikanischen Präsidenten durch eine künstliche Intelligenz zu ersetzen halten manche Kommentatoren aus durchaus nachvollziehbaren Gründen für eine interessante Idee, die man zumindest einmal in Ruhe durchdenken sollte. Eine evidenzbasierte, rationale Politikentscheidung könnte auf jeden Fall durch einen solchen Austausch nur gewinnen.

Bereits Anfang letzten Jahres hatte sich die Zeit in einem längeren Artikel auf das Gedankenspiel eingelassen. In diesem wie auch in den anderen Artikeln wurde schnell deutlich, dass die Gründe für mehr KI in der Politik aus der Frustration resultiert, dass Politiker Menschen sind und manchmal ziemlich irrational. Möglicherweise läge die Lösung nicht darin, eine künstliche Intelligenz den Job machen zu lassen, sondern einfach bessere Politiker zu wählen.

Doch die eigentlich spannende Frage ist, ob die Nutzung künstliche Intelligenz, die Entscheidungsfindung aufgrund der Auswertung von vielen vielen Daten und Modell der Wirklichkeit, ob all dies nicht zu einer besseren Politikgestaltung führen könnte. Vermutlich nicht auf der Ebene des obersten Repräsentanten, des US-Präsidenten, der britischen Regierung oder der Bundeskanzlerin. Aber möglicherweise als Unterstützung für Ministerialverwaltungen oder zunächst auch nur Stadtverwaltungen.

Das Ergebnis wäre eine KI-gedopte Technokratie, die sich stark auf künstliche Intelligenz stützen könnte und rationale Entscheidungsfindung und Effizienz zu ihrem obersten Prinzip erheben würde. Im vergangenen Jahr hatte der amerikanische Autor Parag Khanna dazu ein Buch geschrieben und für einen solchen technokratischen Ansatz in den USA geworden.

Die französische Zeitschrift Usbek & Rica, die sich der Erforschung der Zukünfte verschrieben hat, beschreibt ein Szenario, in dem aus den Zwang zur moralisch Integrine regieren Stück für Stück die Kontrolle einer künstlichen Intelligenz über die französische Politik wird.

Tja, und die Chinesen, die Chinesen sind mal wieder schon einen Schritt weiter. Laut diesem Artikel sind sie schon jetzt intensiv dabei, für unterschiedliche Politikfelder die Kraft künstlicher Intelligenz zu nutzen und damit eine bessere, eine rationale Politik zu betreiben. da wird es kein Zufall sein, dass das chinesische Social Credit System so schön die Gesellschaft abbildet und ihre Simulation vereinfacht. Ist vielleicht die Gesellschaft nur noch dazu da, die Daten für die richtige Simulation zu liefern, ganz im Sinne der letzten Staffel von Westworld?

Auch in Deutschland wird das Thema KI in der Politik manchmal zaghaft angeschnitten. die hiesige politische Kultur scheint dem Thema gegenüber aber nicht besonders offen zu sein. Es gibt in Deutschland keine Tradition der Planungsbehörden, die über längere Zeiträume hinweg versuchen, alle Faktoren zu berücksichtigen und die Zukunft zu planen und zu steuern. Als im Zuge der Eurokrise die Bundesregierung wiederholt von Sachzwängen und von Alternativlosigkeit sprach, also letztlich auch davon, dass die einzig vernünftige Entscheidung diejenige wäre, die die Regierung trifft, brach ein Sturm der Entrüstung aus.

Und auch die europäische politische Ebene, in der die Kommission deutlicher als auf nationaler Ebene die Rolle einer technokratie, oder in diesem Fall der Euro Kratie spielt, ist in Deutschland nicht gerade mit großem Sympathien bedacht, auch wenn die Zustimmung zur EU grundsätzlich in Deutschland gottseidank noch hoch ist (wer mehr zu den längeren Linien dieses kritischen bzw polemischen Diskurses über Bürokratie lernen möchte, dem sei dieser Podcast empfohlen).

Man kann über Vor und Nachteile einer durch künstliche Intelligenz unterstützen Politik streiten, wie wir es beispielhaft in unserer kleinen Publikation hier vorgemacht haben.

Wer sich dem Thema künstlicher Intelligenz und Politik etwas entspannter zuwenden möchte, dem sei der hervorragende satirische SF Roman von Marc-Uwe Kling 'Qualityland" empfohlen wo John of Us den Roboter Präsidentschaftskandidaten gibt.

Oder aber man amüsiert sich mit Tracey Ullman und ihrer Vision, wie ein Roboter die amerikanische Präsidenten Familie aufmischt.

Künstliche Intelligenz, Zauberlehrling und Büchse der Pandora

Wer in den vergangenen Jahren von den Gefahren der künstlichen Intelligenz die Rede war, verengte sich die Diskussion in der Regel schnell auf das Thema Superintelligenz, ein Begriff, den Nick Bostrom geprägt hat. Dieser wiederum ließ sich vom Fermi-Paradox anregen, der Beobachtung des Physikers Fermi aus den 50er Jahren, dass es bislang keinen Kontakt zu einer außerirdischen Intelligenz gegeben habe, was angesichts der unermesslichen Zahl an Sternen, Planeten und damit auch möglichen Zivilisationen doch recht erstaunlich ist. Die These von Bostrum war nun, das vielleicht das Zeitfenster des Überlebens für jede dieser galaktischen Zivilisationen zu kurz sei, um den Kontakt mit anderen Zivilisationen weit draußen im Weltall zu suchen. Sie würden schlecht zu schnell zugrunde gehen. Die Frage war nun, warum dies so sei, und hier führte Bostrom sein Idee von der sich immer schneller entwickelnden künstlichen Intelligenz, die nach dem Zeitpunkt der Singularität die Intelligenz der Menschen überflügele, ein. Diese künstliche Intelligenz würde auf kurz oder lang die menschlichen oder andersartig natürlich gewachsene Zivilisationen beenden. Die Menschheit wäre also nicht besser als Goethes Zauberlehrling, der die Geister die er rief, nicht mehr beherrschen kann.

Irgendwie scheint diese Obsession von der allmächtigen künstlichen Intelligenz auch quasi-religiöse Züge zu tragen. In diesem Sinne ist es nicht weiter verwunderlich, das erste Kirchen zur Anbetung einer künstlichen Intelligenz ins Leben gerufen wurden. Da schüttelt man den Kopf und fragt sich, ist das nur geniale Satire oder ist das wirklich wahr.

Es gibt auch andere interessante Hypothesen dazu, wie man Fermis Paradox auflösen kann. Eine ist gerade besonders schön in Szene gesetzt worden von dem chinesischen Science Fiction Autor Cixin Liu, der mit den drei Sonnen einen echten weltweiten Erfolg gelandet hat. Wer die Trilogie noch nicht kennt, dem kann ich nur die Hörspielfassung des ersten Bandes empfehlen, der zweite Band ist jetzt gerade auf Deutsch erschienen. Ich habe ihn zwar noch nicht zu Ende gelesen, den Rezensionen aber entnommen, dass die Antwort von auf das Paradox folgende ist: jede Zivilisation strebt ab einem gewissen Reifegrad nach Expansion, besiedelt das All und versucht, alle rivalisierenden Zivilisationen auszulöschen. Weil aber dieses Verhalten auch von den anderen Zivilisationen antizipiert wird, versucht jede Zivilisation, zunächst ganz unscheinbar und unsichtbar für andere, potenziell gefährliche und bedrohliche Zivilisationen zu sein. Wir sehen also nichts von den anderen, weil sich jeder versteckt. Und zwar auch aus Angst vor uns, auch wenn wir bisher noch lieb und brav und nicht in der Lage sind, fremde Welten zu bereisen und neues Leben zu entdecken.

Das aber nur am Rande. Eigentlich wollte ich heute ja über künstliche Intelligenz und die Fantasie hin, die sie auslöst, schreiben. Soviel also zum Zauberlehrling-Syndrom.

Einen anderen Aspekt nach kürzlich Ende Februar eine Studie ins Visier, die sich vor allen Dingen mit dem Missbrauch künstlicher Intelligenz beschäftigt. Was ist, wenn Verbrecher, Schurkenstaaten oder Durchgeknallte sich der mächtigen Werkzeug der künstlichen Intelligenz zu ihren fiesen Zielen bedienen? Wer öffnet sozusagen die Büchse der Pandora? Sind es die großen Internetkonzerne, die seit einiger Zeit den Zugang zu künstlicher Intelligenz per Open Source bereitstellen? Ist der Skandal um DeepFake, der Anfang des Jahres die Leserinnen und Leser weltweit erschreckte oder amüsierte, erst der Anfang? Wenn mit Rückgriff auf ein Tool von Google beliebige Personen in beliebige Videos einfach rein geschnitten werden, ohne dass man noch unterscheiden kann, ob das jetzt wahr oder gefälscht ist. In der griechischen Ursprungsfassung gehört Pandora und ihre Büchse zur Strafe dafür, das Prometheus für die Menschen das göttliche Feuer stahl. Die Götter wollten nicht, dass die Menschen gottgleich werden, und was ist es anderes, als wenn der Mensch neues, künstliches Bewusstsein, neue künstliche Intelligenz schafft?

Eine letzte Metapher  sieht künstliche Intelligenz als ultimative Waffe im Wettrüsten der Supermächte. Sieht man nicht heute schon, dass die Manipulation der öffentlichen Meinungsbildung durch geschickte Fälschungen, durch die Nutzung intelligente Algorithmen im internationalen Kräftemessen gebraucht wird? Sind es nicht die autonomen Superwaffen der Zukunft, die durch künstliche Intelligenz aufgerüstet die Kriege der nächsten Jahrzehnte bestimmen werden? In diesem Sinne werden die erheblichen Investitionen Chinas in die Erforschung künstliche Intelligenz unter der Perspektive des internationalen Sicherheits Gleichgewichts gesehen. In den Vereinigten Staaten läuft eine intensive Diskussion darüber, ob verstärkte Forschung im Bereich künstliche Intelligenz nicht geradezu ein strategischer Imperativ ist. In diesem Sinne ist dann KI immer dual-use, nicht nur für zivile, sondern auch für militärische Zwecke interessant und potenziell geheimzuhalten.

Gesichtserkennung

Nächste Woche wird das neue iPhone vorgestellt, und eines der wenigen richtig neuen Feature, die dieses neue iPhone haben wird und die sich nicht schon in  Android-Handys finden, ist eine Gesichtserkennung. Der Homebutton fällt weg, und entsperrt wird über eben diese Gesichtserkennung. Außerdem soll man auch bezahlen können mit dieser neuen Gesichtserkennung.

Vielleicht ist es ein Zufall, aber im Moment sind die Medien voll mit Artikeln zu den Potenzialen und Risiken der Gesichtserkennung. Der neue Economist widmet dem Thema nicht nur eines seiner Editorials, sondern auch drei weitere Artikel.

In einem der Artikel geht es um eine Studie, in der ein Algorithmus die sexuelle Orientierung eines Menschen aufgrund der Analyse seines Gesichts mit größerer Treffsicherheit vorgenommen hat, als ein Mensch dies tun könnte. Ein weiterer Artikel beschreibt ein Verfahren, nachdem aufgrund einer DNA-Analyse Gesichtszüge rekonstruiert werden (anderere Artikel bestreiten übrigens, dass das möglich ist). Und der dritte fast übergreifen zusammen, wo Gesichtserkennung heute schon eingesetzt wird und was uns in Zukunft noch so alles blüht. Ein Startup aus den USA z.b. bietet einen Dienst an, indem Gesichter auf Merkmale für Krankheiten analysiert werden. Dieser Dienst soll Ärzten zur Verfügung stehen, aber wer weiß, wer das dann sonst noch nutzen möchte.

Für den Economist ist das alles eine technische Revolution mit erheblichen wirtschaftlichen Konsequenzen, er spricht von einem facial-industrial complex. Insbesondere China sei schon deutlich weiter in der kommerziellen Nutzung als westliche Länder. Und auch der chinesische Staat nutzt weidlich die Möglichkeiten, die Gesichtserkennung bietet, natürlich auch zu Überwachungs- und Kontrollzwecken. Aber dazu hatte ich schon in einem anderen Blogbeitrag berichtet. Eine israelische Firma hat sogar eine Software entwickelt, mit der man seine Fotos so leicht verändern kann, dass sie in der Datenbank eines Gesichtserkennungs-Algorithmus nichts mehr wert sind.

Die Firma Unilever, so schreibt ein Artikel der französischen Zeitschrift Usbek & Rika, nutzt neuerdings zumindest experimentell in ihrem Einstellungsprozess eine Software zur Gesichtserkennung, die die Motivation und den Enthusiasmus der Beweber misst und nur diejenigen Kandidaten in die nächste Runde entlässt, die hier ausreichend überzeugen.

Der Wissenschaftler hinter der Studie zur Identifizierung sexuelle Orientierung durch Gesichtserkennung ist übrigens Michal Kosinski, der kürzlich auch in einem langen Feature des Deutschlandfunk im Mittelpunkt stand. Dort allerdings nur am Rande mit seiner Studie zur Gesichtserkennung, hier ist er vielmehr der, der im Winter für Aufsehen sorgte, als er die Wahl Donald Trumps auf seinen Algorithmus zurück führte. Wie erinnern uns, die Firma Cambridge Analytics unterstütze den Wahlkampf Donald Trump mit einem System, dass angeblich gezielte Ansprache von potenziellen Wählern erlaubt, von denen vorher eine Art Psychogramm erstellt wurde.

Der Beitrag des Deutschlandfunks beschäftigt sich allerdings übergreifend mit der Frage, ob Psychogramme auf der Grundlage von Daten erstellt werden kann, die wir im Internet über unser dortiges Kommunikationsverhalten oder auch über ein Bild unseres Gesichts preisgeben. Der Autor ist hier zwar deutlich skeptisch, die Beispiele, die im Beitrag genannt werden, sind aber zum Teil schon frappierend. Kann unsere Facebook-Kommunikation Auskunft darüber geben, ob wir zu Depressionen neigen und suizidgefährdet sind? Können Arbeitgeber aus der Kommunikation ihrer Mitarbeiter Schlüsse über Motivation und Engagement ziehen? Ist Privatsphäre überhaupt noch möglich, wenn alle Signale, die wir irgendwie im Rahmen von Kommunikation oder einfach nur unsere Anwesenheit weitergeben, entsprechend intelligent ausgewertet werden können?

Das Beispiel von Cambridge Analytics zeigt, dass hier noch viel Eigenwerbung mit dem Spiel und die Fähigkeiten der meisten Algorithmen doch sehr beschränkt sind. Eine hohe Fehlerquote könnte Anlass zur Beruhigung sein, vielleicht aber auch eher besonders beunruhigen, weil das ganze genutzt wird, aber nicht einmal gut funktioniert.

Ganz im Sinne von Jaron Lanier, der sagte, was ihn besonders beunruhigt, sind nicht kluge Maschinen, sondern dumme Maschinen zusammen mit dummen Menschen.

Und was die Gesichtserkennung angeht, so klingen die Verheißungen schon ein wenig magisch. Die Persönlichkeit, künftige Krankheiten und sogar alle Informationen, die das Netz je über einen gespeichert hat, werden so zugänglich. Das Gesicht als Schlüssel zur Person. Immerhin ist es nicht die Kopfform, wie die Phrenologie früher behauptete. Das würde ja auch arg und schöne Assoziationen und Erinnerungen an dunkle Zeiten wecken.

Robotersteuer?

In Deutschland ist Bundestagswahlkampf, und die Bundeskanzlerin setzt sich für Vollbeschäftigung bis zum Jahr 2025 ein.

Naja, Arbeitslosigkeit ist eigentlich kein großes Thema in diesem Wahlkampf. Die Zahlen sind ja gut, gerade im Vergleich zu europäischen Nachbarn. Aber irgendwie geht das Thema Arbeitsplätze immer, und die Zukunft scheint hier ja auch eher ungewiss.

Ein Anlass zur Sorge ist der aktuelle Deselskandal, der die Automobilkonzerne etwas ins Wanken bringt. Und die haben schon genug damit zu tun, das Thema Elektromobilität zu verdauen. Hier sind sie im internationalen Vergleich, zumindest was die aktuell verkauften Autos angeht, nicht gerade Spitzenreiter. Und selbst wenn die Wende zu Elektromobilität gelingen sollte, so könnte auch das einschneidende Folgen für den deutschen Arbeitsmarkt haben. Bei der Fertigung von Elektrofahrzeugen werden nämlich deutlich weniger Arbeitskräfte gebraucht als bei derjenigen von Autos mit konventionellen Verbrennungsmotoren. Die ersten Betriebsräte fechten schon heftige Konflikte mit Konzernleitungen aus, dass Standorte und Arbeitsplätze auch bei einer Umstellung auf Elektromobilität erhalten bleiben.

Und dann ist da noch die große Sorge vor der automatisierten Fabrik. Roboter übernehmen die Fertigung, oder noch viel schlimmer, sie übernehmen gleich alle anderen Berufe mit. Das zumindest ist die Horrorvision der umfassenden Automatisierung und Übernahme durch intelligente Algorithmen. Da hat der ein oder andere doch das Gefühl, dass gegengesteuert werden muss. Bill Gates z.b. forderte Anfang des Jahres eine Robotersteuer. Das wiederum weisen viele Politiker zurück, aus Sorge um Wettbewerbsfähigkeit der heimischen Industrie. Aber der ein oder andere scheint doch ins Grübeln zu kommen. So gab es in der vergangenen Woche eine Meldung, dass Südkorea eine Art Roboter-Steuer einführt. Nun ja, es war eher die Senkung der Subventionen für Automatisierung, aber immerhin, die Argumentation war schon auf den Erhalt von Arbeitsplätzen gerichtet. Und auch in San Francisco macht man sich zumindest Gedanken über eine solche Steuer.

Auf der anderen Seite gibt es Länder, die Automatisierung als große Hoffnung sehen, um den Arbeitskräftemangel einer älter werdenden Bevölkerung zu begegnen. Dazu gehört sicher Japan, das in diesem Kontext immer genannt wird und das z.b. auch Einwanderung in größerem Maßstab umgehen möchte, indem es breiter automatisiert. Bis zu einem gewissen Bereich, für manche Berufe und Fachkräfte gilt das sicher auch für Deutschland. Da wäre der entsprechende Wahlkampfslogan nicht Vollbeschäftigung 2025, sondern eher Deckung des Fachkräftebedarfs 2025.

Aber der Wandel des Arbeitsmarktes und der Automatisierung vollzieht sich ja doch eher sehr heterogen und ungleichzeitig. Während manche Branchen sich sehr schnell wandeln, wird es bei anderen länger dauern, während manche Qualifikationsprofile plötzlich nachgefragt da sind, verlieren andere schnell an Wert auf dem Arbeitsmarkt. Welch ungeahnte Konsequenzen die Automatisierung und Algorithmisierung haben kann, zeigt dieser Beitrag für China auf. Da ist einerseits die Gefahr, dass sich die soziale Ungleichheit im Land noch weiter verstärkt, andererseits dürfte die chinesische Industrie weitere Marktanteile auf dem Weltmarkt gewinnen, wenn sie ihren Automatisierungsgrad auch nur annähernd an das Niveau von Deutschland oder Korea hebt.

Und das dürfte dann wieder Auswirkungen auf den deutschen Arbeitsmarkt haben. Der Wahlkampfslogan des Bundestagswahlkampfs 2021 könnte also lauten: Roboter-Steuer für China!

Nash Equilibrium, Reallabore und Technolieentwicklung

Gerade hat der amerikanische Physiker Mark Buchanan in einem Beitrag für Bloomberg davor gewarnt, dass uns die Geschwindigkeit der Technologieentwicklung und damit auch die Unvorhersehbarkeit der Konsequenten überfordert. Wir können keine angemessene Strategie mehr darauf entwickeln, unser Handeln bleibt zufällig und chaotisch. Er bezieht sich dabei auf das sogenannte Nash-Gleichgewicht, einem spieltheoretischen Ansatz, nachdem in nicht-kooperativen Spielen ein Gleichgewicht strategische Ansätze von der jeweiligen Spieler besteht. Kurzgesagt verfolgt jeder Spieler die beste Strategie gegenüber der strategischen Antwort seines Spielpartners bzw Gegners. Das gilt aber nur bis zu einem gewissen Komplexitätsgrad, den wir jetzt zu überschreiten scheinen. In der Konsequenz ist es uns auch nicht mehr möglich, geeignete Regularien zur Gestaltung dieser technologischen Entwicklung zu finden. Dabei wären solche Regularien notwendig, um negativen Folgen von Technologieentwicklung zu begegnen.

John Nash war übrigens der brilliante und zwischenzeitlich krankheitsbedingt der Realität sehr entrückte Held des Films "A beautiful mind". Er prägte entscheidend die Spieltheorie, die insbesondere im Kalten Krieg und der Auseinandersetzung zwischen den Blöcken, dem atomaren Werttrüsten und der Problematik der Kalkulierbarkeit eines zur Weltzerstörung fähigen Gegenübers eine nicht unentscheidende Rolle spielte.

Vielleicht haben Buchanan bzw die von ihm zitierten Autoren deshalb jetzt im Kontext von Technologieentwicklung darauf rekurriert. Es vergeht ja im Moment kaum ein Tag, an dem nicht das Schreckensszenario einer entfesselten künstlichen Intelligenz an die Wand gemalt und die Folgen als schlimmer als ein atomar bewaffnetes und verrückt gewordenes Nordkorea bezeichnet werden. So explizit spricht das Buchanan nicht an, aber wer soll sonst das strategische Gegenüber sein, dessen Züge unberechenbar werden? Etwas paranoid, aber wie die Geschichte der Spieltheorie zeigt, ist das ja kein neuer Charakter zu.

Eine ganz andere Sorge plagt im Moment die Bundesregierung und insbesondere das Bundeswirtschaftsministerium. Im April diesen Jahres hat es in einem Strategiepapier erstmals von Reallabore als regulatorischen Experimentierräumen gesprochen. Hier geht es hier darum, wie langsame regulierungs Prozesse nicht mit der Technologieentwicklung Schritt halten und so dazu führen, dass diese unnötig behindert wird. Bis ein neues Gesetz verabschiedet ist, vergehen Jahre. Gerade um neue Ansätze auszuprobieren, braucht man dabei möglicherweise mehr Freiräume in einem geschützten Raum. Es ist also nicht die Technik, die uns bei dieser Perspektive überfordert, sondern eher die Mülen der Verwaltung und des bürokratischen Alltags. Für viele Fälle wahrscheinlich der realistischere Ansatz.

Bildungsrevolution per Facebook?

Manchmal erscheint es geradezu zauberhaft, welche Segnungen uns die moderne Technologie verheißt. Sie kuriert uns von allen Krankheiten, sie bringt uns zum Mars, und auch Bildung für die Ärmsten der Armen wird plötzlich möglich. So zumindest erscheint es, wenn man den langen Artikel liest, den die Süddeutsche Zeitung heute früh veröffentlicht hat. Es geht um eine Bildungsrevolution in Afrika. Private Schulen, von Philanthropen aus dem Silicon Valley finanziert, mit Tablets ausgestattet und einer Standleitung nach Cambridge, USA, krempeln den Bildungsmarkt in den ärmsten Ländern Afrikas um und konkurrieren erfolgreich gegen das staatliche Schulsystem. Dahinter stecken Social Entrepreneurs, also Gründer, die sich sozialen Zielen verschrieben haben, gleichwohl aber auch ein bisschen Gewinn machen wollen. Der Erfolg dieser Schulen beruht auf mindestens vier Säulen: zum einen auf standardisierten Komponenten, gleiche Schuluniformen, gleiche Gebäude, gleiche Lernsoftware, das lässt sich gut skalieren und wird damit immer preiswerter. Zum zweiten eine bessere Organisation, die dafür sorgt, dass die Lehrer tatsächlich zum Unterricht erscheinen und nicht wie in den staatlichen Schulen oft zu Hause bleiben, weil sie nicht bezahlt werden. Hier schafft die internationale Organisation stabilere Strukturen, und die Schüler freut es. Zum dritten ist da die Software selbst, die eine individualisierte Lernbetreuung der Schüler möglich macht, und auch eine permanente Evaluation des Schulkonzepte selber. Und schließlich profitieren die Schuhe natürlich davon, dass sie potente Geldgeber im Rücken haben, Mark Zuckerberg von Facebook oder Bill Gates. Der Artikel der Süddeutschen Zeitung bleibt ambivalent, auf der einen Seite spricht der Erfolg der Schulen für sich, auf der anderen Seite werden auch Kritiker zitiert, die vor einer Privatisierung des Schulwesens warnen und sich Sorgen, dass die Silicon Valley -Größen jetzt auch die weltweite Bildung monopolisieren wollen.

Es mag ein Zufall sein, aber just diese Woche veröffentlichte auch der Economist einen langen Artikel zu der technologischen Revolution des Bildungsmarktes, in diesem Fall mit einem Schwerpunkt auf die USA, wo viele private Schulen mittlerweile entsprechende Software einsetzen, um ihren Schülern eine individualisierte Betreuung zu ermöglichen. Auch hier wird der Trend natürlich getrieben vom Silicon Valley, dort sind auch wieder die Schulen angesiedelt. Und auch hier verheißt die  technologiegetriebene Bildungsrevolution einen besseren Zugang insbesondere für die Armen und Vernachlässigten. Der Economist zitiert mehrere Studien, die den Erfolg dieser Technologien zu belegen scheinen. Und alle Verantwortlichen beteuern, dass die Zeit, die die Lehrkräfte durch ihre digitalen Assistenten sparen, selbstverständlich zu Wohle der Schüler und für eine individualisierte Betreuung derselben eingesetzt wird.

Von solchen Experimenten scheint Deutschland weit entfernt zu sein, hier stehen die meisten Verantwortlichen einem Einsatz digitaler Technologien in Schulen eher konservativ gegenüber. Gerade erst laufen erste Pilotprogramme zur Digitalisierung der Bildung in Schulen, aber über den Einsatz von Whiteboards oder der gelegentliche Nutzung des Handys sind die Schulen in der Regel nicht hinaus. Individualisiertes Training durch Lernalgorithmen? Zumindest nicht in staatlichen Schulen. Vielleicht hat ja der Misserfolg der Sprachlabore, die in den 70er Jahren des letzten Jahrhunderts fast  flächendeckend installiert wurden, die Verantwortlichen derart abgeschreckt, dass sie nicht schon wieder in nutzlose Technologie investieren wollen.

Vielleicht ist das Ganze aber auch nur ein Hype, der bald wieder in sich zusammenfällt. So wie massiv open online courses (MOOCS) an Universitäten 2013 und 2014 das Trendthema waren, von dem heute kein Mensch mehr spricht. Und trotzdem hatte die Digitalisierung der universitären Lehre riesige Fortschritte gemacht Ähnlich wird es sicher auch im Schulbereich sein.

Und bis es soweit ist, wird sich Bildungssoftware wohl weitgehend auf den Privatmarkt konzentrieren. Und hier auch ganz erfolgreich sein, wie es das Beispiel der Berliner Firma Babble zeigt, die von Deutschland aus den Weltmarkt mit ihrem Sprachlernprogramm erobert.

Amerikas Big Brother schaut auch auf Deine Daten

Vor kurzem hatte ich über das Social Credit System in China berichtet.  Eigentlich könnte ich jetzt schon wieder ein Update schreiben bei den vielen Meldungen, die es über China als großes Experiment im Feld der künstlichen Intelligenz gibt. Zum Beispiel Gesichtserkennung, die quasi überall und ständig eingesetzt wird, um Menschen zu identifizieren und ihnen Zugang zu geben, sie zu verhaften oder einfach um zu wissen, was sie machen. Ein bisschen frage ich mich schon, warum die Meldungen über China in dieser Größenordnung erscheinen. Einerseits sicher, weil China in Sachen künstliche Intelligenz zu einer Supermacht geworden ist. Andererseits aber auch, weil China im kollektiven Unterbewussten des Westens ein wenig die Rolle der alten Sowjetunion übernommen hat. Groß und mächtig, mit einem anderen politischen und gesellschaftlichen Systemen, bedrohlich und faszinierend. Aber dann doch ganz anders als die Sowjetunion, weil China vielleicht in vielem die Zukunft unserer eigenen Gesellschaft widerspiegelt.

Aber heute möchte ich nicht weiter über China schreiben, sondern über den Antipoden, über die USA. Mit der Wahl Donald Trumps schickt sich unser transatlantischer Partner ein wenig an, auch zu einem Gegenmodell zu werden. Und in Sachen künstliche Intelligenz und Überwachung ist die USA schon länger ein gern gesuchtes Thema in deutschen Medien.

Neulich hörte ich eine interessante Reportage im Radio über den Einsatz von Algorithmen bei der Bewertung von Strafmaßen im amerikanischen Justizsystem. Es ging darum, die Wahrscheinlichkeit für die Resozialisierung der Straftäter abzuschätzen und sich dabei nicht mehr auf ein menschliches Urteil, sondern auf die Auswertung von größeren Daten und typischen Merkmalen einzelner Personen zu verlassen. Während die Chinesen also das Sozialverhalten ihrer Bürger allumfassend messen und bewerten, versuchen die Amerikaner gleich, ist vorauszusagen, zumindest für diese spezielle Zielgruppe. Schon in der Vergangenheit hatten ähnliche Ansätze für ziemliche Aufregung gesorgt, man denke nur an predictive policing, also den Versuch, der Polizei bei ihrer Arbeit dadurch zu helfen, dass man Straftaten schon vorab identifiziert, oder zumindest ihre Wahrscheinlichkeit hinreichend gut ab schätzt. Da dies Thema in Hollywood spätestens mit Minority Report vorweggenommen wurde, hatte die Fantasie des geneigten Leser viel Stoff, um sich die unerwünschten Folgen eines solchen Systems vorzustellen.

Der Clou des Radiobeitrags war aber eigentlich ein ganz anderer, nämlich die Tendenz solche Algorithmen, menschliche Vorurteile aus den riesigen Datenmengen, die sie für ihre Arbeit nutzen, quasi unbemerkt in ihre Entscheidungsalgorithmen zu übernehmen und damit ebenso vortureilsbeladen zu urteilen, wie dies ein Mensch tun würde. Mittlerweile habe ich zu diesem Thema eine Reihe andere Artikel gefunden, es scheint sich hier eine Diskussion abzuzeichnen, die zumindest in den USA recht erheblich ist. Bekanntgeworden war vor einiger Zeit der Fall einer Bilderkennungssoftware, die Menschen mit dunkler Hautfarbe als Affen bezeichnete! Ein mehr als peinlicher Fehler, der aber aus genau diesem Problem resultiert, dass Vorurteile allgegenwärtig sind, und auch in den vielen Daten stecken, die Systeme zum Training brauchen.

Ja, der große Bruder schaut auf uns alle, aber noch scheint er nicht schlau genug zu sein, um das, was er sieht, auch richtig zu interpretieren. Bislang plappert er noch zuviel einfach nach.

Chinas big brother schaut auf deine Daten

Kürzlich habe ich im Deutschlandfunk einen Beitritt gehört, der sich mit dem neuen chinesischen Social Credit System beschäftigt. Im Grundsatz geht es darum, die wirtschaftliche und gesellschaftliche Vertrauenswürdigkeit von Personen mit einem einheitlichen Bewertungssystem zu erfassen und davon abhängig den Zugang zu Privilegien wie Krediten, aber auch Flugtickets und ähnlichem zu regeln. Erfasst werden dabei insbesondere auch Aktivitäten in sozialen Netzwerken und auf Online-Plattformen, auch Kaufgewohnheiten, Aktivitätsmuster und ähnliches. Die offizielle Begründung des chinesischen Staates ziel stark auf ein funktionierendes System, um die Kreditwürdigkeit von Personen festzustellen. Ein System ähnlich dem deutschen, wo die Schufa diese Funktion übernimmt, gibt es bislang noch nicht. Aber eigentlich sind sich alle Kommentatoren einig, dass die Ambitionen des Staates weit über diesen wirtschaftlichen Aspekt hinausgehen. Und jetzt schlagen die Wellen der Diskussion tatsächlich etwas höher. Auch in deutschen Medien ist die Diskussion angekommen, ganz zu schweigen von der angelsächsischen Welt.

Der Economist hatte im Dezember letzten Jahres hierzu einem langen und sehr lesenswerten Artikel veröffentlicht. Er zeigte sich noch unsicher, ob es die technischen Hürden, die in der Tat enorm sind, wirklich überwunden werden können. Auch verwies er darauf, dass die Parteiführung ein erstaunlich offene Diskussion um das Social Credit System zuließ. Und in Deutschland taucht ein Artikel zu diesem Thema mindestens schon ein Jahr früher auf. Die Blogplattform Netzpolitik z.b. beschrieb 2015, wie einerseits regierungsseitig auf das neue System hingearbeitet wird, andererseits auch die großen chinesischen Technologiekonzerne bereits mit ihrem Ratingsystemen entscheidende technische Vorarbeiten geleistet haben. Den schönsten Beitrag aber fand ich einen langen Artikel in der Süddeutschen (deutsch nur kostenpflichtig erhältlich, aber hier auf englisch) vor zwei bis drei Wochen, in dem Kai Strittmatter ausführlich über eine Reise in die chinesische Provinz berichtet, wo das Social Credit System bereits Wirklichkeit geworden ist.

Dreierlei Aspekte finde ich an dieser Entwicklung besonders interessant:

Wird es der chinesischen Regierung gelingen, die technischen Herausforderungen zu meistern? Schon andere Regime sind an der schieren Datenmenge eines allumfassenden Überwachungssystems gescheitert, da haben wir Deutschen auch unsere Erfahrung mit gesammelt. Technologisch zumindest scheinen die Chinesen kräftig aufzurüsten. Es wird erheblich in Forschungskapazitäten zur künstlichen Intelligenz investiert, und bei den Supercomputern legen die Chinesen auch ganz vorne. Das passiert natürlich nicht alles nur, um das Social Credit System aufzubauen. Aber hilfreich kann es sicher sein.

Wird es den Chinesen gelingen, ein in sich abgeschlossenes System aufzubauen? Nur dann kann ein solches Credit System wirklich funktionieren, weil nur dann alle relevanten Aktivitäten und Informationen wirklich getrackt werden. Moment bemüht sich auch hier die chinesische Regierung, z.B. durch den Ausbau der sogenannten Great Firewall oder durch eine Art chinesisches Wikipedia, alles unter Kontrolle zu bekommen. Und sie scheint mit diesem Ansatz in anderen Ländern durchaus Nachahmer zu finden.

Angesichts des Rückzugs der Vereinigten Staaten von der Weltbühne fragt sich, ob China hier stärkeres Gewicht bekommt und sein Rollenmodell der digitalen Steuerung durchsetzt. Wird der chinesische Weg zum Vorbild für andere Länder? Die Diskussion läuft, wie diese interessante Diskussion der China-Plattform chinafile zeigt. aber die Ausstrahlungswirkung hängt natürlich stark davon ab, ob dieses Modell der digitalen top-down Steuerung einer Gesellschaft auch funktioniert. Letztendlich sind das vielleicht auch Größenphantasien, die sich in der Realität als nicht umsetzbar erweisen. Der gescheiterte Ansatz des Kommunismus, Planung in alle Aspekte des Lebens zubringen, durch die digitale Revolution nun doch verwirklicht?

Das alles ist ein riesiges Experiment, dessen Ausgang auch unsere Zukunft beeinflussen wird. Nur wir selbst haben herzlich wenig Einfluss darauf.

Robotergesetze - Parlamente diskutieren Zukunftstechnologien

Anfang des Jahres beschäftigte sich der Rechtsausschuss des Europäischen Parlamentes mit einem ganz großen Thema. Braucht die Europäische Union Robotergesetze? Ja Robotergesetze, genau solche, wie sie Isaac Asimov einst formuliert hatte. Es war überhaupt eine sehr denkwürdige Diskussion. Zumindest legen dass die vorbereitenden Dokumente nahe, einmal ein Rechtsgutachten des wissenschaftlichen Dienstes, einmal ein Entschließungsantrag.

Dieser Entschließungsantrag begann in seiner Einführung hoch dramatisch, er zitierte die großen Mythen der Menschheit wie Pygmalion, Frankenstein und den Golem.

Das Parlament diskutierte unter anderem, ob Roboter in Zukunft eine eigene juristische Person bekommen sollten, ob es einen ultimativen Ausschaltknopf geben muss, um sich gegen bösartige künstliche Intelligenz zu wehren oder wie mit der Frage Roboter-Sex umzugehen ist.

Es ging aber auch um etwas naheliegendere Fragen wie das Haftungsrecht autonome Systeme (Autos etc.), eine Frage die in Deutschland unter anderem durch eine Ethikkommission des Verkehrsministeriums debattiert wird.

Am Ende verabschiedet das Parlament tatsächlich einen Aufruf an die Kommission, eine eigene Behörde aufzubauen oder sich mit der Frage eines unbedingten Grundeinkommens zu beschäftigen.

Die deutschen Maschinenbauer zeigten sich übrigens schon Mitte letzten Jahres vor dem Hintergrund eines ersten Entwurfs dieser Entschließung recht kritisch. Statt über hypothetische Gefahren der fernen Zukunft zu diskutieren, sollte ein solcher erschließungsantrag lieber aktuelle Herausforderungen, aber auch die Perspektiven des Robotereinsatz ist in der Industrie berücksichtigen.

Die Medienresonanz auf die Diskussion im Europäischen Parlament war in Deutschland nicht besonders groß, aber es gab durchaus positive Kommentare, wie hier in der Süddeutschen Zeitung. Sonst erschienen vor allem Artikel in Medien, die sich immer mit Technologie und Innovation beschäftigen, wie Wired oder heise.

Viel intensiver war im Vergleich dazu die Mediendiskussion rund um einen Fachexperten-Workshops des Ausschusses für Bildung und Forschung des Deutschen Bundestags. Es ging hier nicht um Roboter im breiteren Sinne sondern um eine ganz spezielle Spezies, den socialbot. Der Ausschuss hat übrigens den gesamten Workshop online gestellt, man kann sich die Statements der Experten also alle in Ruhe anschauen. Vorbereitet wurde der Termin übrigens unter anderem von Kollegen, die im Rahmen des TAB mögliche Technologiefolgen für den Deutschen Bundestag diskutieren und zusammenfassen.

Die Diskussion war wohl nicht ganz konfliktfrei, und auch die Medienberichterstattung im Anschluss nicht. Der Freitag fand z.B. den Experten des CCC eher verharmlosend. Das Portal Netzpolitik wiederum zitierte insbesondere die abwartende Haltung mancher Experten, die vor Panikmache lernten. Bislang gebe es doch recht wenig wirklich belegbare Fälle von Manipulation.

Was nun an praktischer Politik aus diesen beiden Debatten folgt, ist noch schwer abzuschätzen. Während die Diskussion des EP tatsächlich noch ganz schön visionäre oder apokalyptische Aspekte betraf, war der Bundestagsausschuss schon sehr nahe an der Tagespolitik. Mal schauen, ob uns das alles noch die nächsten Monate im Wahlkampf beschäftigen wird.

Google, Trump, Merkel und der Untergang des Automobillandes Deutschland

Irgendwie hängt ja alles mit allem zusammen, wenn man nur genügend Bindeglieder dazwischen sucht. Ein schönes Beispiel für diese Erkenntnis hat Google gerade spielerisch ins Netz gestellt und gleichzeitig bewiesen, dass seine künstliche Intelligenz im Bereich der Bilderkennung schon beachtliche Fortschritte macht. Der menschliche Mitspieler soll zwei beliebige Kunstwerke benennen, Google zeigt dann, wie diese über mehrere Zwischenschritte miteinander zusammenhängen könnten. Ich habe ein bisschen damit rumgespielt, mich überzeugt nicht jeder Zwischenschritt, aber sei es drum.

Was hat das nun mit dem Titel des heutigen Blogeintrags zu tun? Beginnen wir mit einer Meldung, die gestern über den Äther ging und schon heute die Kommentatoren der meisten Medien beschäftigt. Volkswagen hat das Ergebnis seiner Verhandlungen zwischen Betriebsrat und Unternehmensführung zum so genannten Zukunftspakt bekannt gegeben. Demnach werden bis zu 30.000 Arbeitsplätze in den nächsten Jahren wegfallen, davon etwa zwei Drittel, in einigen Berichten werden etwa 23.000 Land, auch in Deutschland. Als Begründung wird nicht allein das Problem mit den manipulierten Abgaswerten in den USA genannt, wesentlich scheint die Umorientierung des Konzerns auf die Elektromobilität sowie auf eine digitalisierte Fertigung im Zeichen von Industrie 4.0 zu sein, die zu einer deutlich weniger arbeitsintensiven Fertigung führen dürfte. Ein schönes Beispiel dafür, wie Automatisierung und technologischer Wandel auch in Deutschland zu einem Rückgang an Arbeitsplätzen führen könnte. Und dies ist noch das optimistisches Szenario, dass VW grundsätzlich seine Marktanteile behält.

Das ist genau die Art von Szenarien, die weite Teile der Gesellschaft in der Zwischenzeit doch ein wenig verunsichert. Und möglicherweise auch zum Anstieg des Populismus in vielen Ländern beigetragen hat, wir Donald Trump. Weniger technologiepolitisch, als vielmehr sozialpolitisch scheint nun die CDU reagieren zu wollen, zumindest legen das die ersten Berichte über das kommende Wahlprogramm der CDU nahe, das gerade diskutiert wird. Die CDU will sich darin insbesondere der verunsicherten Mittelschicht, den Modernisierungsverlierern annehmen.

Und auch die Europäische Kommission versucht gerade in ihren Haushaltsbeschlüssen für das nächste Jahr, zumindest symbolisch deutlich zu machen, dass sie auch in eine nachhaltige, sozial ausgewogene Wachstumspolitik investieren möchte.

Und was hat das jetzt alles mit Google zu tun? Diesen Bogen muss ich noch bekommen. Gleichzeitig zu dem oben genannten Bilderverkettungsspiel hat Google auch ein anderes Spielchen veröffentlicht, indem der menschliche Nutzer mit seinem künstlichen Gegenüber digitale Montagsmaler spielen kann. Begriffe müssen auf den Bildschirm schnell skizziert werden, die KI sagt dann, was das Ganze darstellen soll. Probieren Sie's, es ist beeindruckend, wie gut die Trefferquoten des Google-Algorithmus sind. Und das sind natürlich genau die Technologien der Bilderkennung, die zum Durchbruch des autonomen Fahrens führen werden. Dem nächsten Technologie Schwenk, wo wir die Elektromobilität noch gar nicht richtig verarbeitet haben.

Angesichts dieser technologischen Umwälzungen und der drohenden Populismusflut wird einem ganz Angst und Bange, wie wäre es damit ein wenig Hygge, dem neuen dänischen Exportschlager zum Wohlfühlen und glücklich werden. Die Süddeutsche hat in ihrer Wochenendausgabe gerade diesen Hype ein wenig demontiert und seine regressiven Momente aufgedeckt. Die rechte Lektüre für ein kuscheliges Wochenende auf dem Sofa.

Matrix und Cyborgs

Wer einmal einen Fiebertraum hatte, weiß, dass die Unterscheidung zwischen Realität und Traum manchmal schwer fällt. Im normalen Wachzustand sollte dies dann aber doch klar und eindeutig sein, außer ... Außer die Illusion ist so perfekt, dass man darauf reinfallen muss. Das ist der Kern der Simulations-Hypothese, die seit geraumer Zeit insbesondere in den USA ihr Unwesen treibt. Gerade erst habe ich wieder einen Artikel gelesen, der behauptet, zwei Multimilliardäre aus dem Silicon Valley würden jetzt Wissenschaftler bezahl, die Simulation-Hypothese zu beweisen. Zitiert wird dabei ein Artikel im New Yorker. Es ist nur ein sehr kleiner Abschnitt in einem sehr langen Text:

Many people in Silicon Valley have become obsessed with the simulation hypothesis, the argument that what we experience as reality is in fact fabricated in a computer; two tech billionaires have gone so far as to secretly engage scientists to work on breaking us out of the simulation.

Ich hielt die ganze Diskussion bis vor kurzem für einen ziemlich spinnerte Idee einzelner Verrückter. Dann habe ich nachgegoogelt und gemerkt, dass dies eine seit langem mit überraschender Ernsthaftigkeit geführte Debatte ist (was natürlich weiterhin nicht in Frage stellt, daß es eine ziemlich spinnerte Idee ist). Hier ist eine Website, die alle möglichen Quellen und Artikel zum Thema zusammengestellt hatten.

Ich habe mich dann als nächstes gefragt, was eigentlich gerade heute zum aufpoppen solche Fantasien geführt hat. Natürlich ist es möglich, dass der absurde Wahlkampf um das Präsidentenamt in den USA die Amerikaner zu der Einsicht gebracht hat, dass dies nicht die Wirklichkeit sein kann. Na ja, wirklich plausibel ist das natürlich nicht.

Vielleicht sind es ja auch die ersten Erfahrungen in der Virtual Reality, die mit den neuen 3D Brillen von Google, Samsung und Oculus Rift möglich sind. Ich habe zwar nur mit der Billigvariante von Google herumexperimentiert, fand aber die Erfahrungen wirklich beeindruckend. Eine Achterbahnfahrt mit Google Cardboard, da bin ich ganz froh, dass das nur eine Simulation ist und ich die Brille wieder absetzen kann. Man kann aber auch in andere Menschen schlüpfen und spannende Erfahrungen machen,
zum Beispiel die Welt aus der Perspektive eines Autisten erfahren.

Vielleicht sind die Vertreter der Simulationshypothese aber auch nur, nun ja, ein wenig verrückt? In der klinischen Psychologie wird ja der krankhafte Realitätsverlust als Psychose bezeichnet. Andererseits ist die philosophische Auseinandersetzung mit der Realität sowohl in Europa wie auch im fernen Osten seit der Antike verbreitet. In China zum Beispiel gibt es hier für die Metapher des Schmetterlingstraums, über den ein chinesischer Philosoph im dritten Jahrhundert vor Christus berichtet. Er träumt, er sei ein Schmetterling, erwacht daraus und ist wieder er selbst. Oder ist er nur der Schmetterling, der davon träumt ein Mensch zu sein?

Das Zweifeln an der Wirklichkeit der Realitätswahrnehmung hat also eine lange Tradition und kann nicht gleich als Spinnerei abgetan werden. Und auch der Auftrag an die Wissenschaftler reiht sich ein in eine solche Tradition. Was hier die Suche nach den Schöpfern der Matrix ist, war in der christlichen Tradition die Frage nach dem Gottesbeweis, die manchmal ganz logisch-mathematisch gelöst wurde.

Die Frage nach Wirklichkeit oder Simulation durchzieht die Beziehung zwischen Mensch und Maschine. Wenn Maschinen intelligent werden, kann ich dann mit ihnen einen Dialog führen wie mit einem normalen Menschen? Entscheidet meine Illusion über die Menschennatur meines Gegenüber, ob dieser Gegenüber intelligent ist? Ist das nicht der tiefere Sinn des Turing-Tests?

Vielleicht ist aber die eigentliche Simulation diejenige, die wir in unserer Fantasie vornehmen oder in Filmen und Büchern Wirklichkeit werden lassen. Und diese Fantasien nehmen wir dann auch mit in die Wirklichkeit, sie sind unsere 3D Brillen, die dem Blick auf die reale Welt um schreiben.

Wie Science Fiction -Fantasien instrumentalisiert werden, um neue Wirklichkeiten zu schaffen, lässt sich meiner Meinung nach ganz schön am Beispiel des Cybathlon zeigen, der gerade in Zürich stattgefunden hat. Es ist eine Art Leistungsschau der Prothetik, die als Wettkampf, als Challenge inszeniert wurde und mit den Begriffen des Cyborg spielt. Dabei sind die Aufgaben, die hier in Wettkämpfen zu meisten sind, sehr nah an den Alltagsherausforderungen von Menschen mit Einschränkungen. Es sind keine europäischen Paralympics, sondern ein publikumswirksame Testlauf alltagstauglicher Assistenzsysteme. Aber die Inszenierung hat funktioniert, die Medienresonanz war ziemlich groß. Und wenn Prothetik hip Stadt tabuisiert wird, ist das ein schöner Erfolg. Die schönsten Beiträge zum Cybathlon finden sich hier, hier, hier, hier und hier.

Robotersteuer und Teamarbeit

in einem Interview hat sich der Chef der Post Frank Appel gerade für eine Robotersteuer ausgesprochen. "Man könnte zum Beispiel bei Arbeit, die von Menschen geleistet wurde, auf die Mehrwertsteuer verzichten – und nur die Arbeit von Robotern besteuern". Im selben Interview hat sich Appel übrigens gegen ein bedingungsloses Grundeinkommen ausgesprochen, wie es gerade erst wieder anlässlich des Schweizer Referendums stark in den Medien diskutiert worden war.

Der Kontext ist klar. Die Angst davor, durch die neu heranrauschende Automatisierungswelle auf breiter Front Arbeitsplätze zu verlieren. Und die Senkung der Arbeitskosten ist natürlich ein bewährtes Mittel, um Arbeit attraktiver und Standorte sicher zu machen. Wenn der Arbeitgeberanteil zur Krankenkasse eingefroren wird, steckt genau diese Logik dahinter. Mir erschließt sich die Logik des Vorschlags trotzdem nicht.

Automatisierte Arbeit wird ja mit diesem Vorschlag relativ gesehen zu menschlicher Arbeit teurer. Und automatisierte Arbeit ist im weltweiten Wettbewerb sicher die Konkurrenz fähigere, ein Standortvorteil. Wir leben ja nicht in einem geschlossenen System. Das nun tatsächlich auf breiter Front menschliche Arbeit nach Deutschland kommt, weil hier Steuervorteile winken, halte ich für eher unwahrscheinlich.

Außerdem lässt sich das sicher nicht so fein auseinanderhalten, wo nur ein Mensch und wo nur ein Roboter gearbeitet hat. Das ist doch völlig weltfremd. In der Regel arbeiten Maschinen und Menschen zusammen, und das Bild vom Roboter führt sowieso in die Ehre. Es sind Softwaresysteme, die den Menschen unterstützen, es ist Intelligenz in der Maschine, die den menschlichen Arbeiter effizienter macht. Die will man da tatsächlich steuerrechtlich zu sortieren, was nur menschliche Arbeit ist.

Der große Trend in der industriellen Produktion ist doch gerade die kollaborative Arbeit von automatisierten Systemen und Menschen.

Apropos kollaborative Arbeit. Zu diesem Thema habe ich gerade einen Klassiker gelesen, das Buch Stahlhöhlen von Isaac Asimov aus den 50er Jahren. In diesem Buch beschreibt er sie mal auf die Vision einer Gesellschaft, in der Roboter und Menschen zusammenleben. Es geht ja ganz im Stil der 50er Jahre vor allen Dingen um humanoider Roboter. Der Held der Geschichte ist übrigens ein Polizist, und einen Roboter-Partner hat er auch.

Auch bei der Polizei wird heute zusammen mit automatisierten Systemen gearbeitet. Publicityträchtig sind immer Meldungen, indem es um Vorhersage Software, predictive computing geht. Ein ganz anderer Vorfall hat aber erst in den letzten Tagen für Aufsehen gesorgt. Der Fall eines Roboters, der eine Bombe zu einem Attentäter transportiert hat und sie dort explodieren ließ. Dagegen hilft auch kein Steuerrecht mehr.

Masken

Steve Jobs ist tot, und damit endete auch die Geschichte der großen Technopräsentationen mit Kultstatus von Apple. Google muss mehr schlecht als recht in die Lücke springen. So wieder einmal geschehen in der letzten Woche.

Die interessantesten Novität scheint der Google Assistent zu sein, die Weiterentwicklung der künstlichen Intelligenz früherer Google-Produkte. Der Assistent soll eine quasi natürliche Unterhaltung, Fragen und Steuerung ermöglichen. Daraufsetzen ja mittlerweile auch die anderen Internetgrößen wie Microsoft, Facebook oder Amazon. Er wird in diverse Produkte eingebaut sein. Google stellte schon mal einen drahtlosen  Lautsprecher vor, der "always on" ist und alle Fragen beantwortet. Oder einen Kurznachrichtendienst à la WhatsApp.

Der oben zitierte Bericht über die  Entwicklerkonferenz findet diese Neuvorstellungen ja ziemlich unheimlich. Es kann aber auch ganz anders gehen. Da wird nicht die Maschine menschlich, sondern der Mensch schlüpft in die Maschine. So geschehen in dieser Reportage, in der der Autor über seine virtuelle Konferenzteilnahme in den USA berichtet. Er hat dies mit einem Telepräsenzroboter verwirklicht, und seine Reportage liest sich teils ziemlich skurril. Wenn er zum Beispiel zum begehrten Objekt der medialen Berichterstattung und ihm die Journalisten hinterherrennen, wenn er nicht selbsttätig Treppensteigen oder auch Aufzug-Knöpfe und Türklinken bedienen kann. Wenn bunte Fähnchen die unterschiedlichen Roboter voneinander unterscheidbar machen.

Das ist doch mal was anderes als ein Konferenz-Livestream, macht sicher auch mehr Spaß als Videokonferenzen. Zumal der Roboter vom Nutzer selbst navigiert wird, der sich in einer Einführung erst einmal einweisen lassen muss. Der Autor meint dazu, dass vertiefte Computerspiel-Erfahrungen hier durchaus hilfreich sind. Das ist dann nicht mehr virtual reality, sondern ... ?

Jetzt denke ich mir einmal dieses Szenario als Erfolgsgeschichte weiter. Wir alle können überall hin reisen, zumindest in die Haut von solchen Telepräsenzrobotern schlüpfen. Die Straßen und Plätze sind bevölkert von Telepräsenzlern. Wir schauen uns gegenseitig auf den Bildschirm. Aber vielleicht steckt ja nicht in jedem Roboter ein echter Mensch? Vielleicht sind das dann doch nur Simulationen. Schlaue Algorithmen.

In der Literatur ist das alles schon mal dagewesen. Ich empfehle dem geneigten Leser nur die Geschichte "Der Kalkulator " aus den "Sterntagebüchern" von Stanislaw Lem (hier die entscheidende Textpassage).

Und auch so mancher scheinbar künstlich intelligente Dialoge, der von schlauen Algorithmen generiert wird, bedarf dann doch der Hilfe menschlicher Geisteskraft. Die Washington Post berichtet, dass die Schöngeister unter uns wohlmöglich demnächst sehr gesuchte Arbeitskräfte Entschädigung Berlin sein werden.

Da kann ich nur sagen: studiert keine MINT-Fächer sondern Poesie!

Tay 2

Heute hat die Süddeutsche noch einmal die Abenteuer von Tay, Microsofts Chatbot, in einem Feuilleton-Artikel aufgegriffen, auf den ich schon in meinem letzten Blog eingegangen bin. Es ist der bisher lustigste und tiefsinnigste Artikel, den ich zu dem Thema gelesen habe. Tay wurde ja eine Art Gehirnwäsche unterzogen. Die Süddeutsche kommentiert das in ihrem Untertitel: "Wie praktisch: Rassistische Beleidigungen in sozialen Medien kann man jetzt auch maschinell erledigen lassen." Natürlich ist das schon längst der Fall, alle möglichen Bots tummeln sich in sozialen Netzwerken, schreiben Kommentare und manipulieren die scheinbare Lesermeinung. Ein Projekt zu sozialen Bots wird zum Beispiel zur Zeit im Rahmen der Innovation und Technik Analysen des BMBF gefördert. Auch der eingangs zitierte Text der Süddeutschen geht auf dieses Phänomen einen und rät dem Nutzer, eine Art Tuning-Schnelltest anzuwenden, wenn man sicher gehen möchte, dass man es mit einem Menschen und nicht mit einer Maschine zu tun hat.

Gibt man sich aber, zumindest bei einem wohlwollenden und vielleicht sogar ganz charmanten Chat-Programm, der Illusion hin, es mit einem intelligenten gegenüber zu tun zu haben, so eröffnen sich ungeahnte Möglichkeiten der virtuellen sozialen Interaktion. Wir werden es demnächst mit vielen solcher Dialogmöglichkeiten zu tun haben, zumindest, wenn Microsoft seine Pläne realisiert, die der Konzern auch just in diesen Tagen praktisch zeitgleich vorgestellt hat ( Zufall, raffinierte Strategie oder PR-GAU?). Cortana, sozusagen das Siri von Microsoft, soll demnächst in alle möglichen Apps und Anwendungen einfließen, und soll sogar an Drittenutzer lizensiert werden.

Wird das eine Art immaterieller Aibo, ein treuer Freund und Begleiter durch alle Lebenslagen? Wird die Vereinsamung, die uns als Online-Shopper auf dem Sofa bedrohte, durch nette Chat-Robots aufgebrochen? Tauchen wir bald ein in die schöne neue virtual reality künstlicher Freunde, die auch den introvertiertesten Nerd zu einem echten sozialen Wesen machen?

Oder wird es uns gehen wie Theodore aus dem Film von Spike Jonze? Werden wir uns in unsere neue künstliche Freundin verlieben? Wird das das Ende aller echten sozialen Kontakte sein? Wozu noch raus auf die Straße und mit wirklichen Menschen sprechen? Wozu das Risiko muffiger Antworten und schnippische Kommentare eingehen? Lieber Säusellevel 4 eingeben und einen netten Plausch mit dem Smartphone halten.

Bis dahin muss Microsoft allerdings noch dafür sorgen, dass unser netter digitaler Partner nicht durch die bösen Menschen verdorben wird.

Microsofts Frankenstein-Chatbot oder von de Verführung durch eine schlechte Welt

Ziemlich genau 200 Jahre ist es her, dass Mary Shelley in einem romantisch, kalten Sommer am Genfer See Frankensteins Monster schuf. Der Stoff ist zig-mal mal verfilmt worden, und meist war die Pointe, dass das Monster ursprünglich nur ein wehrloses, hilfloses, kindhaftes Wesen war, das erst durch die Erfahrung mit den grausamen Menschen selbst zum Monster wurde.

Nun hat dieses Schicksal ein anderes Wesen ereilt, Microsofts Chatbot. Tay war ein lernendes Programm, das über den Dialog mit seiner Umwelt neues Wissen aufnehmen und in neue Dialoge einspeisen sollte. Was da über kurze Zeit bei raus kam, war für Microsoft so schrecklich, dass das Programm erst einmal in einen künstlichen Schlaf versetzt wurde.

Der NewYorker schreibt: "I've seen the greatest A.I. mind of my time destroyed by Twitter". Die Zeit meint: "Twitter Nutzer machen Chatbot zur Rassistin. "

Tja,  wie fies Menschen zu Maschinen sein können haben wir ja erst kürzlich sehen können: