Gute Zeiten für gebrauchte AIs

Am Dienstag hat mein aufmerksamer Kollege Philipp einen interessanten NiemanLab-Artikel von Christine Schmidt vom 8. April 2019 über Facebooks "Local News" Aktivitäten verlinkt. Philipp schreibt dazu: Facebook und Local News: It's complicated. Interessanter Einblick in einen Teil von Facebook, den wir hier in Europa so nicht haben. Es ist immer gut, sich so etwas anzusehen, weil es in ein paar Jahren vielleicht doch zu uns "nach Europa" kommt.

"Falls Ihr nicht wisst, was "Today In" ist, macht Euch vorläufig keine Sorgen", schreibt Frau Schmidt. Anscheinend haben erst 1,1 Millionen Facebook Mitglieder "Today In" in ihren Apps abonniert. Man muss den Dienst über das Burgermenü aktivieren, manchmal poppt eine Nachricht daraus im News Feed als Trigger auf. Laut Nieman Lab wurde der Dienst in ein paar wenigen Test-Städten Anfang 2018 gestartet und steht heute in mehr als 400 Städten in den Vereinigten Staaten zur Verfügung.

Was hat Facebook mit "Today In" vor?

Facebook really wants to put quality local news in front of its users, it says, through its “Today In” feature - but the local news just doesn’t exist! “About one in three users in the U.S. live in places where we cannot find enough local news on Facebook to launch Today In,” product marketing manager Jimmy O’Keefe and local news partnerships lead Josh Mabry wrote last month.

In den letzten 4 Wochen hätte das System jeweils kaum mehr als 5 halbwegs aktuelle Artikel mit Bezug zu diesen Städten gefunden, berichteten O'Keefe und Mabry letzten Monat.

Was für Nachrichten bietet Facebook in diesen Städten an?

Crime and Court. "Verbrechen, Gericht und Tötungsdelikte, oft nur Schlagzeilen wie 'TEEN MISSING' oder 'SEXUAL PREDATOR ON THE LOOSE' und kaum weiterverarbeitete Polizeiaufrufe, das mache mehr als die Hälfte der Geschichten aus." schreibt Christine Schmidt.

Um zu sehen, was in den übertragenen Nachrichten passiert, hat sich die Autorin "Today In" Stories für 10 Städte, darunter Raleigh, New Orleans, Akron und Boise, sowie weitere kleinere Stätte von Massachusetts bis Texas eine Woche lang von Montag bis Freitag angesehen.

Substanz und vorläufiges Fazit zu "Today In"

Was hat Christine Schmidt noch gesehen? Satire, Todesanzeigen von Websites von Bestattungsunternehmen, viel lokales Fernsehen und ein seltsames Netzwerk von Diensten, die nur echte lokale Nachrichten-Sites abgrasen und es trotzdem irgendwie durch die Filter von Facebook schaffen. Und immer wieder hätte mehr als die Hälfte der Nachrichten von Verbrechen, Gerichtsverhandlungen und Leichen gehandelt. Weitere Beiträge enthielten Links zu mehrere Tage alten Berichten aus Nachbarstädten oder Headlines offener Websites von Zeitungen großer Städte (z.B. Boston Globe) in etwas weiterer Entfernung.

Quelle: Nieman Lab

Entsprechend nüchtern fällt das vorläufige Urteil aus: "Our analysis of the links 10 cities saw in Facebook’s local news section found funeral home obituaries, years-old stories, and yes, some meaningful local journalism. But not a lot."

Das Geheimnis wird gelüftet

8 Tage nach Schmidt, am Tag von Philipps Tweet, veröffentlichten Nicholas Thompson und Fred Vogelstein in Wired einen nach allem Anschein gut recherchierten Aufmacher mit dem Titel 15 Months of Fresh Hell Inside Facebook. Neben vielen anderen interessanten Entwicklungen behandeln die Autoren die Bemühungen von Facebook, Gewalt, Pornographie und Hassreden mittels künstlicher Intelligenz zu markieren und eventuell zu sperren. Der ökonomische, soziale und politische Druck auf diese Thematik ist inzwischen ja auch riesengroß.

Ultimately, Facebook knows that the job will have to be done primarily by machines-which is the company’s preference anyway. Machines can browse porn all day without flatlining, and they haven’t learned to unionize yet. And so simultaneously the company mounted a huge effort, led by CTO Mike Schroepfer, to create artificial intelligence systems that can, at scale, identify the content that Facebook wants to zap from its platform, including spam, nudes, hate speech, ISIS propaganda, and videos of children being put in washing machines.

Die Bemühungen des Unternehmens in diesem Bereich seien vor drei Jahren noch "im Nirgendwo" gewesen. Facebook habe aber schnell bei der Klassifizierung von Spam und der Erkennung von verbaler Terrorismus-Unterstützung, Tod und Gewalt Erfolg gehabt. Inzwischen würden mehr als 99% solcher Inhalte identifiziert, vor ein menschliches Auge sie zu Gesicht bekäme. Sex allerdings sei, so wie allgemein im menschlichen Leben, komplizierter. Nur die Erfolgsquote bei der Identifizierung von Nacktheit betrage 96 Prozent. Hassrede sei noch schwieriger als Sex: Alle AI-Prozesse zusammen fänden nur 52 Prozent davon vor Zensoren und Nutzer das täten.

News Policy Inside of Facebook

In Kapitel V des Artikels wird es wirklich spannend. Es geht um die Management-Auseinandersetzungen bezüglich Facebooks Umgang mit Nachrichten-Medien. Der Social-Engagement-Analytics-Anbieter Parse.ly hatte noch 2017 ermittelt, dass 40% des "outbound traffic" von Facebook zu News-Sites ging. Im Mai 2018 war diese Zahl auf 25% gesunken. Wir wissen nicht, wie seriös Parse.ly misst oder, wie man besser schreiben muss, kompetent schätzt, aber den Trend konnten und können viele bestätigen.

Quellen: Parse.ly und Wired

Wired selbst verlor eines Tages 90% seines Facebook-Traffics. Proteste und Ausreden lösten sich ab, eine Menge E-Mail-Verkehr folgte. Am Ende stellte sich heraus, dass ein "Algorithmus" von Facebook eine Whisky Werbung auf den Wired Seiten als "misleading engagement bait" klassifiziert und folgerichtig die Luft aus den Wired Reifen gelassen hatte. Die Sache wurde repariert aber das Wired Management wurde schmerzhaft daran erinnert, dass Medien auf Facebook nun mal nur kleine Pächter auf dem sozialen Interaktionsacker sind.

Innerhalb von Facebook war für viele Manager natürlich nicht überraschend, dass der Verkehr zu den Verlegern seit der Betonung von "meaningful social interactions" zurückgegangen war. Darum war es gegangen. Es bedeutete einfach, dass die Menschen mehr Zeit Posts unter Freunden und Familie verbrachten, den Inhalten, die Facebook groß gemacht haben und die es unterscheiden.

Manche hätten gefunden, es sei gerecht, dass die Verleger jetzt, die so viel Negatives über das Unternehmen publiziert hatten, jetzt selbst Schmerzen zu spüren bekamen. Anne Kornblut, die Leiterin der Abteilung "News Partnerships" verneint das öffentlich. Wie dem auch sei, im Frühsommer 2018 habe auch auch das Top-Management gefunden, die entsprechenden Effekte gingen nun zu weit. COO Sheryl Sandberg, die laut Insidern bei negativer Berichterstattung immer als erstes nervös wird, habe ein Meeting ihrer Top-Führungskräfte einberufen.

Debatte und Entscheidung

Dort wurde eine 2-monatige Debatte lanciert, mit dem Ziel, zu prüfen, ob Facebook den "Algorithmus" nicht so anpassen könne, dass "seriöse Publikationen" nicht wieder mehr "gefördert" werden könnten. Das "Nachrichten-Team" wollte, dass öffentliche Inhalte, die von Nachrichtenorganisationen, Unternehmen und Prominenten geteilt würden, wieder mehr Platz bekämen. Es wollte auch, dass das Facebook vertrauenswürdigen Verlegern wieder mehr "Boost" verschaffe.

Zudem schlug es vor, ein großes Team von Kuratoren zu engagieren, um die qualitativ besten Nachrichten in den News Feed zu pushen. Sogar die Einrichtung einer eigenen News-Sektion im Web und der App wurde erwogen, um mit Apple-News und Google's News-Aktivitäten "mithalten zu können".

Mehrere Topleute, allen voran Chris Cox, damals noch "chief product officer" stimmten laut Wired überein, es sei Zeit, den seriösen Verlegern wieder "a leg up" zu verschaffen. Andere seien skeptisch gewesen, insbesondere Joel Kaplan, der ehemalige stellvertretende Stabschef von George W. Bush und jetzt "vicepresident for global public policy". Qualitätsmedien zu fördern würde unausweichlich so aussehen, als unterstütze Facebook die Demokraten, soll er argumentiert haben und das würde auf jeden Fall zu "Problemen mit Washington" führen. Am 9. Juli soll sich Zuckerberg in der Entscheidungssitzung auf die Seite Kaplans geschlagen und damit auch eine Machtverschiebung bei Facebook eingeleitet haben.

Die spekulative tinytalk-Analyse

Die Wired-Recherche kann man aufgrund vieler Qualitätsmerkmale trotz der großen Entfernung wohl als einigermaßen seriös einstufen. Cox scheint verloren und Kaplan gewonnen zu haben. Der Rücktritt von Cox als CPO am 14. März 2019 scheint das zu bestätigen. Wie dem auch sei, die Nutzung, die Facebook den großen Nachrichten-Medien in den USA zuführt, hat sich seit Sommer 2018 nicht wirklich erholt.

Wir wissen nun auch, wo Facebook am meisten in die AI genannte Mustersuche investiert hat: in die Erkennung negativer Inhalte. Kein Wunder dass Facebooks AIs so gut auf Tod, Verbrechen, Gericht und vermisste Teenager trainiert sind. Der "Algorithmus" muss ja nicht nur gut, sondern auch schnell sein.

Ob "Today In" nun ein nebenläufiges Projekt war oder das einzige ist, was vorläufig von Facebooks News-Initiativen übrig blieb: Wahrscheinlich haben seine Projektmanager die "Deep Learning" - Abteilungen gefragt, ob sie nicht billige gebrauchte AIs für Bild- und Texterkennung hätten, die in der Lage wären, die Inhalte lokaler Nachrichtenangebote zu automatisch zu analysieren und dann geschickt in die Newsfeeds der gewonnenen Abonennten einzuspeisen. Wahrscheinlich haben sogar ein paar Experten die Hand gehoben und auf den negativen Bias, der durch das Training und die Lernmodelle entstanden ist, hingewiesen. Vielleicht haben ein paar sogar versucht, die vom vielen Scannen schon neurotisierten neuronalen Netzwerke umzuschulen.

Das Fazit

Es hat den Anschein, dass Facebook's News-Strategie auf das Startfeld zurück muss und nicht einmal das Lokalnachrichten-Projekt allzu gut gelungen ist. Man weiß ja, wie das geht. Die armen Projektmanager haben immer Druck und der schon verkündigte Launchtag winkt bedrohlich am Horizont. Dennoch sollten wir uns nicht zu sehr entspannen. Das ganze Facebook-, Google-, Apple- und Microsoft-Bashing verstellt uns nur den Blick dafür, dass diese großen amerikanischen Software-Unternehmen Lernmaschinen sind, wie wir sie in Europa kaum haben.

Nicht perfekt halt, das ist gewiss und auch ein wenig tröstlich. Ganz harmlos wird es dadurch aber auch nicht, wenn man es genau bedenkt. Und Nachrichtenmagazine, Universitätsinstitute und Medienjournalisten, die solche Hintergrundberichte zu den global agierenden Web-Dienstleistungs-und-Medienunternehmen recherchieren könnten wie hier Wired haben wir in Europa auch nicht im Überfluss. Seien wir froh, dass ein Teil der amerikanischen Medien bei aller Zurichtung und Anpassung über die letzten 30 Jahre wenigstens manchmal weiter funktionieren und ihre demokratische Rolle wahrnehmen.

Man sollte auch nicht mit Mark Zuckerberg tauschen wollen. Gleichzeitig die Wallstreet, den Präsidenten, die großen Blätter und TV-Networks und ca. die Hälfte aller Trolle außerhalb von China und Russland im Nacken zu spüren, das kann nicht wirklich lustig sein. Aber morgen ist Ostersamstag. Darum sei nun Friede. Shabat Shalom!