Bot or Not

Definition Roboter

Doch, was sind überhaupt “Roboter” und welche haben eine besondere Rolle im Internet? Das Wort Roboter hat seinen Ursprung vom tschechischen Wort robota, das soviel bedeutet wie Zwangsarbeit. Ein Roboter lässt sich als eine technische Apparatur verstehen, die dem Menschen häufig wiederkehrende Arbeit abnimmt. Im Vergleich zu einer Maschine zeichnet sich ein Roboter zusätzlich dadurch aus, dass er in einer bestimmten Art und Weise autonom, zum Beispiel mittels Sensoren auf seine Umwelt reagieren kann. Aus der Sicht der industriellen Revolution sind Roboter eine Weiterentwicklung der Maschinen, die Ende des 18. Jahrhunderts für einen gesellschaftlichen Wandel gesorgt haben. Seither sind Roboter eine allgegenwärtige Thematik in Kunst und Kultur: Science-Fiction wäre ohne sie wohl nicht das gleiche.

Bereits 1927 thematisierte Fritz Lang in seinem gesellschaftskritischen Film “Metropolis” die Beziehung zwischen Mensch und Roboter:

In einer zweigeteilten Gesellschaft zwischen einer in Luxus lebenden Oberschicht und einer arbeitenden Unterschicht bedienen die Arbeiter Maschinen. Der aus der Elite stammende “Freder Fredersen” verliebt sich in Maria, die Tochter eines Arbeiters und lernt dadurch die surreale Welt der Unterschicht kennen. Maria wird zur Anführerin eines Aufstandes, bei der Freder als Vermittler zwischen den Arbeitern und der Elite helfen könnte. Als der Vater von Freder Fredersen dies erfährt, plant er die Anführerin durch eine Menschmaschine zu ersetzen, um den Aufstand zu untergraben. Der Entwickler der Menschmaschine hat jedoch ganz andere Pläne mit der Menschmaschine, die Zerstörung von Metropolis und das Ende der Fredersens. Am Ende wird der Austausch von Maria aufgedeckt und die Pläne des Erfinders scheitern.

Fazit: Schon vor fast 100 Jahren erschafft Fritz Lang in seiner Science-Fiction Verfilmung eine Welt, in der ein Mensch durch einen Roboter ersetzt werden kann, um damit eine gesamte Gesellschaftsschicht in die Irre zu führen. Eines vorweg: Die Schwierigkeiten bei der Differenzierung zwischen Mensch und Roboter und die resultierenden Gefahren für die Gesellschaft sind zentrale Themen im Internet und ein Kernthema dieses Artikels.

Doch was sind Roboter im Internet? Im Web wird unter einem Roboter (kurz: “Bot”) ein Algorithmus oder ein Programm verstanden, welches autonom wiederkehrende Aufgaben lösen kann. Der Einsatz dieser sogenannten Bots können beispielsweise Suchmaschinen viel Arbeit abnehmen, aber ebenso für kriminelle Zwecke missbraucht werden. Zum Beispiel können mit Bots ganze Datenbanken von Webseiten ausgelesen und illegal kopiert werden. Bots sind ein mächtiges Werkzeug und können in der Informatik für essenzielle Aufgaben verwendet werden, sie bergen aber ebenso viele Gefahren.

Aktuelle Situation / Was sind Bots / Typen / Technologie

Laut einem aktuellen Report über die Ausbreitung und Gestalt von Robotern wurden 2019 37,2% des gesamten Web-Traffic von Bots erzeugt. Hierfür werden in den Statistiken Bots in „Good“ und „Bad“ Bots eingeteilt. Bemerkenswert ist der Anstieg vom Web-Traffic Anteil der Bad-Bots, dieser ist letztes Jahr von 18,1% auf 24,1% gestiegen. Somit ist fast ein Viertel des gesamten Web-Traffics von Bad-Bots verursacht worden.

Doch was sind Good-Bots und Bad-Bots? Es ist die Art und Weise wie Bot-Algorithmen verwendet werden, die bestimmt, ob ein Bot als “Good Bot” oder als “Bad Bot” angesehen wird. Viele Good-Bots lassen sich Suchmaschinen wie Google, Yahoo oder DuckDuckGo zuordnen, deren „Web-Crawler Bots“ oder „Spider Bots“ mittels Crawling-Algorithmen die Indizierung für schnellere Suchvorgänge im Web vornehmen. Dabei werden Webseiten systematisch nach Suchbegriffen durchsucht, hierbei aber die Regeln der Webseiten-Betreiber respektiert: Bereiche, die von Spider-Bots nicht durchsucht werden sollen, können in einer Datei („Robot.txt“) angegeben werden. Zum Beispiel verbietet Facebook das automatisierte Auslesen von Daten mittels Bots, außer es liegt eine explizite Genehmigung hierfür vor.

Es gibt viele Gründe, warum jemand an den Daten von Webseiten interessiert sein kann, zum Beispiel Preisvergleichsportale basieren auf den Preisinformationen, die im Web zu finden sind. Das automatisierte Auslesen von Daten wird hierfür mit sogenannten „Scraping Bots“ durchgeführt. Das automatisierte Abgreifen von Daten ist aber nicht immer legal, selbst wenn diese mit dem Web Browser abrufbar sind.

Selbst wenn sich ein Bot an die Regeln hält, die in dieser „Robot.txt“-Datei festgelegt werden, ist das automatisierte Auslesen von Daten mit Bots nicht immer legal – zum Beispiel, wenn die benötigten Daten dem Urheberrecht unterliegen, was bei Bildern, Audiodateien und Texten meistens der Fall ist. Es ist außerdem nicht ohne Weiteres legal, wenn die gesamte oder wesentliche Teile einer Datenbank vervielfältigt werden, da hier der Datenbankschutz gelten kann. In vielen Fällen stehen die Betreiber von Webseiten der kommerziellen Nutzung ihrer Daten nicht wohlwollend gegenüber, da es dem eigenen Geschäftsmodell schaden kann und außerdem auf den Kosten der eigenen Serverauslastung basiert.

„Bad Bots“ unterscheiden sich hier von den „Good Bots“, wenn Urheberrecht, Datenbankschutz und explizite Verbote nicht beachtet werden und die Daten dennoch ausgelesen, vervielfältigt und kommerziell genutzt werden.

Die Spider-Bots der Suchmaschinen und die Scraping-Bots zum Auslesen von Webseiten sind mächtige Werkzeuge, die mit dem Umgang der gewaltigen Mengen an Daten im Internet eine zentrale Rolle spielen. Ein anderer Typ von Bot beschäftigt sich nicht mit den Daten im Internet, sondern mit den Menschen, die im Internet surfen: der „Social Bot“. Social Bots imitieren das Verhalten von Menschen und können genauso wie andere Typen von Bots für gute und böse Zwecke verwendet werden. Durch die rasante Entwicklung dieser Art von Bots durch Forschungen im Bereich von Artificial Intelligence erlangen sie immer mehr Bedeutung und finden ihren Weg in unseren Alltag.

Chatbots, eine besondere Art der Social Bots, werden zu persönlichen Assistenten im Büroalltag – beim Buchen von Reisetickets oder Zuhause im Smart-Home. Existierende Beispiele sind etwa „Alexa“ von Amazon oder in Linz der Chatbot „ELLI“ der Linz AG. Dieser Trend nimmt stark zu und ab 2021 soll ein Großteil aller Interaktionen zwischen Unternehmen und Kunden durch Chatbots übernommen werden. Im Zuge der Digitalisierung sollen wiederkehrende Prozesse vereinfacht werden. Im Bereich des Customer-Service kann die gewonnene Zeit zum Beispiel für komplexere Kundenanfragen genutzt werden. Ein spannender Aspekt daran: Bots sind heutzutage aufgrund des technologischen Fortschritts um ein Vielfaches besser in der Interaktion mit Menschen als noch vor einigen Jahren. Moderne Chatbots können mittels „Natural Language Processing“ Sprach- und Texteingaben – in einem gewissen Kontext – interpretieren und die Absicht des Users ableiten. Dabei wird im Gegensatz zu Regel-basierten Chatbots die vorherigen Unterhaltungen als Datenbasis herangezogen.

Immer, wenn Maschinen die Arbeit von Menschen übernehmen und ersetzen, stellt sich die Frage, wer in einem Unternehmen davon profitiert. In der Industriellen Revolution wurden viele Arbeiter durch Roboter ersetzt. Wird durch künstliche Intelligenz den Angestellten in der Dienstleistungsgesellschaft dasselbe widerfahren?

Eine andere Art von “Social Bots” findet sich auf Social-Media-Kanälen, die zur Manipulation der User verwendet werden. Wenn Chatbots als “Good Bots” gelten, dann lässt sich dieser Typ zweifelsfrei als “Bad Bot” bezeichnen.

BOTS im US-Wahlkampf / Auswirkungen auf die Gesellschaft

Mit einer unvergleichbaren Attacke auf die freie Meinungsbildung im Internet wurden beim US-Wahlkampf 2016 (Donald Trump vs. Hillary Clinton) die sozialen Netzwerke mit Horden von „Social Bots“ infiltriert, um den Wahlausgang zu beeinflussen. 3,8 Millionen Tweets und damit 20% der gesamten Twitter-Kommunikation im Kontext der Präsidentschaftswahl wurden durch Social Bots getätigt. Es wurden automatisierte Bots verwendet, mit denen gezielt die Realität verzerrt wurde, um die Meinungen vieler Wähler zu beeinflussen. Zum Beispiel wurden während der letzten TV-Debatte im Wahlkampf auf Twitter um die 20% aller Wahlkampf-relevanten Tweets von Bots gepostet. Eine Fake-News Meldung, dass der Papst Trump zur Wahl empfohlen hat, wurde fast eine Million Mal geteilt, natürlich auch von Social Bots, die damit zum unkritischen Multiplikator von Wahrheit ebenso wie Lügen werden können.

Es gibt zahlreiche Beispiele, bei denen durch Social Bots die Öffentlichkeit in die Irre geführt wurde: Brexit, Flüchtlingskrise, Nationalratswahlen und jetzt auch in der Corona Krise:  Es wurden Untersuchungen durchgeführt, die nahelegen, dass ca. 45% aller Tweets zum Thema Corona-Virus mittels Social-Bots gepostet wurden. Laut einem Report vom Europäischen Auswärtigen Dienst haben viele dieser umfangreichen Kampagnen ihren Ursprung in Russland und China, welche durch Falschinformationen Panik und Verwirrung stiften sollen – Propaganda mit dem Ziel der Destabilisierung westlicher Gesellschaften und der Erschaffung von Feindbildern.

Rechtsstatus / mögliche Gegenmaßnahmen

Trotz der vielen Gefahren, die Social-Bots mit sich bringen, stellt sich eine gesetzliche Regelung als eine schwierige Aufgabe dar. Es ist zum Beispiel wegen des “Herkunftslandprinzips” im E-Commerce das Recht des Landes einer Social-Media Plattform geltend und daher wären internationale Maßnahmen notwendig. Außerdem stellt sich die Frage der Haftung, denn der Nutzer eines Bots kann leicht seine Spuren im Internet verwischen. Derzeit verbieten lediglich die Lizenzbestimmungen in den sozialen Netzwerken deren Einsatz.; Facebook & Twitter führen regelmäßig Löschungen von Fake-Accounts durch. Facebook verwendet für die Identifizierung von Social-Bots das Machine-Learning System „Deep Entity Classification (DEC)“, welches auch schon bei der Anlage von Konten Bots sehr gut klassifizieren kann – 99% der Fake-Accounts werden bei der Kontoanlage identifiziert. Zwischen Juli und September 2019 hat Facebook 1.7 Milliarden Fake-Accounts gelöscht. Doch Social-Bots werden immer besser. Aktuelle Studien zeigen, dass neuartige Social Bots durch den Einsatz von Artificial Intelligence das Verhalten von echten Usern viel besser nachahmen können und somit schwer zu identifizieren sind.

Die Frage, ob sich hinter einer Person, mit der über Bildschirm und Tastatur kommuniziert wird, eine Maschine steckt, hat sich Alan Turing schon 1950 Gedanken gemacht: In einem “Turing-Test” werden der Testperson Fragen gestellt, bis der Tester von der Menschlichkeit überzeugt ist oder eben eine Maschine vermutet. Hat eine Maschine den Test bestanden, dann wird der Maschine eine dem Menschen ebenbürtiges Denkvermögen unterstellt.

Diese Turing-Tests finden tatsächlich Anwendung in der Realität, es werden regelmäßig Turing-Tests mit Chatbots durchgeführt, teilweise mit erstaunlichen Ergebnissen. Im Mai 2018 hat Google auf einer Entwicklerkonferenz das System “Duplex” vorgestellt, dessen künstliche Intelligenz Anrufe bei einem Friseursalon und Restaurants, etc. durchgeführt hat, um Termine zu vereinbaren. In diesem eingeschränkten Kontext konnten viele Anrufer nicht den Chatbot von einem Menschen unterscheiden.

Die automatisierte Erkennung von Social-Bots dürfte also immer schwieriger werden, die Entwickler bei Facebook & Co. stehen vor einer großen Herausforderung.

Aussicht & Fazit

Es findet also ein spannender Machtkampf zwischen den Entwicklern von neuen Social Bots und den Entwickler-Teams von Social-Media-Kanälen statt, in dem der Meinungsbildungsprozess im Internet auf dem Spiel steht. Die erwähnten Vorfälle bei den US-Wahlen oder der aktuellen Corona-Krise zeigen, dass manche immer einen Weg gefunden haben, um das System von Facebook, Twitter und Co. für eigene Interessen zu missbrauchen und gezielt die Meinung Vieler zu manipulieren. Sollten Social-Media-Kanäle durch rechtliche Maßnahmen zur Verantwortung gezogen werden, um weiteren Missbrauch zu verhindern? Werden Chatbots eine Erleichterung für die Angestellten darstellen oder werden diese schlicht und ergreifend einfach ersetzt? Da es bisher für die Verwendung von Bots nur wenige, bis keine Regularien gibt, muss jede Verwendung von Bots gründlich hinterfragt werden.

Die Politik steht hier vor einer schwierigen Aufgabe, da internationale Lösungen notwendig sind und so manche möglichen Gegenmaßnahmen im Widerspruch zu Datenschutzbestimmungen sowie dem Schutz der Privatsphäre stehen können.

Werden die Social-Media Plattformen beim digitalen „Wettrüsten“ gegen die Entwickler von Bad-Bots die aktuelle Situation verbessern können? Oder werden die beliebten Webseiten schonungslos von Fake-Accounts geflutet? Die Weiterentwicklung der Technik und die Forschung im Bereich der künstlichen Intelligenz wird in dieser Frage möglicherweise eine Schlüsselrolle spielen.