iRobot Roomba verletzt die Privatsphäre der Nutzer, Fotos kursieren im Netz

Le Roomba d'iRobot viole la vie privée des utilisateurs, des photos circulent sur le web

Roboterstaubsauger der Firma iRobot erfreuen sich heute großer Beliebtheit, insbesondere die Roomba-Serie. Klein, zylindrisch und kompakt – diese treuen Haushaltshelfer geistern schon seit einiger Zeit in den Häusern vieler von uns herum. Darüber hinaus hat sich ihre Technologie im Laufe der Jahre weiterentwickelt, um den bestmöglichen Service zu bieten, der eines Menschen würdig ist.

iRobot, der größte Verkäufer von Roboterstaubsaugern, der kürzlich von Amazon übernommen wurde, bestätigte die Nachricht. Seine Roomba-Roboterstaubsauger haben gehackte Bilder einiger Benutzer gemacht, sogar in intimen Situationen. Der Website MIT Technology Review gelang es, 15 dieser Fotos zu erhalten, die auch in geschlossenen Social-Media-Gruppen gepostet wurden. Im folgenden Artikel werden wir tiefer in die Geschichte eintauchen und versuchen zu erklären, wie es dazu kam, und einen Einblick in eine scheinbar unterirdische Welt geben.

Roomba-„Opfer“ und die Reaktion von iRobot

Der betreffende Roomba-Roboter hat Menschen auf der ganzen Welt fotografiert. Eines, von dem wir glauben, dass es berüchtigt werden wird, zeigt eine Frau im Badezimmer. Andere zeigen einen scheinbar bis zu acht Jahre alten Jungen, der mit entblößtem Gesicht auf dem Boden liegt. Alle Bildschirme zeigen jedoch Häuser im Allgemeinen, einige davon sind von Menschen bewohnt, eines von einem Hund. Das Auffälligste ist die Tatsache, dass alle Objekte wie ein Terminator durch rechteckige Kästchen gekennzeichnet sind. Möbel, Dekorationen und sogar an der Wand hängende Gegenstände tragen die Aufschrift „TV“, „Pflanze oder Blume“, „Deckenleuchte“, um nur einige Beispiele zu nennen.

Was wäre, wenn der iRobot Roomba uns in Zukunft wirklich ausspionieren würde?

iRobot behauptet seinerseits, den belasteten Roomba nur an Mitarbeiter und Sammler geliefert zu haben. Letztere unterzeichneten angeblich auch eine Vereinbarung, in der sie bestätigten, dass sie Datenströme, einschließlich Videos, an das Unternehmen sendeten. Nach Angaben des Unternehmens lag es an ihnen, zu verhindern, dass Roomba vertrauliche Informationen aufzeichnet. Abschließend betonte der Hersteller, dass es sich um Roboter handele, die Hardware- und Softwaremodifikationen erfahren hätten, die beim kommerzialisierten Roomba nicht vorhanden seien. Offensichtlich nicht einmal diejenigen, die bereits verkauft wurden.

Wer steckt wirklich hinter der Verbreitung der Bilder?

iRobot Roomba-Geräte verfügen bisher über leistungsstarke Sensoren und im Allgemeinen über eine sehr leistungsfähige Hardware. Ob es sich um hochentwickelte Kameras oder andere Tools handelt, alles trägt zur Sammlung von Daten zur Verarbeitung durch künstliche Intelligenz bei. Um diese Daten jedoch zu verstehen, müssen Menschen zunächst jede Information sehen, klassifizieren, kennzeichnen und mit einem Kontext versehen.

irobot roomba

Irgendwo gibt es immer eine Gruppe von Leuten, die Datenkategorisierungsarbeiten für künstliche Intelligenz durchführen. Es sind die „Gig Worker“, die diesen Datenannotationsprozess durchführen. Das Unternehmen iRobot hat angekündigt, diese Arbeiten an die Scale AI-Plattform zu vergeben. Sie verteidigt sich jedoch damit, dass diese Bildlecks etwas Größeres darstellen als die Handlungen eines einzelnen Unternehmens.

Es ist außergewöhnlich zu sehen, wie weit Daten gehen, um Algorithmen der künstlichen Intelligenz zu „trainieren“. In diesem Fall stammen die Daten von Haushalten in Nordamerika, Europa und Asien und landen auf den Servern von iRobot in Massachusetts. Von dort zu denen bei Scale AI in San Francisco und schließlich zu Arbeitern auf der ganzen Welt. Einschließlich in diesem Fall der unabhängigen Arbeiter aus Venezuela, die die Bilder in privaten sozialen Gruppen verbreiteten.

IO-Projekt zum Roomba von iRobot und wie unsere Daten auf der ganzen Welt landen

Von allen Unternehmen, die im letzten Jahrzehnt entstanden sind, hat sich Scale AI zu einem der führenden Unternehmen in seinem Bereich entwickelt. Das 2016 gegründete Unternehmen hat mit seiner Remotasks-Plattform ein komplettes Telearbeitsgeschäft in weniger wohlhabenden Ländern aufgebaut. Im Jahr 2020 erhielt sie eine neue Aufgabe: das IO-Projekt. Dabei handelte es sich um Bilder, die mit einer Aufwärtsneigung von etwa 45 Grad aufgenommen wurden und Wände, Decken, Böden und Häuser zeigten. Darunter natürlich auch Menschen, deren Gesichter deutlich zu erkennen waren.

Anschließend diskutierten die Arbeiter die Aufgabe auf Facebook, Discord und anderen Gruppen, die gegründet wurden, um Ratschläge aller Art auszutauschen. Egal, ob es darum geht, verspätete Zahlungen zu verwalten, die besten Zahlungen zuzuweisen oder Hilfe bei der Kennzeichnung anzufordern. Das alles wurde von gesellschaftlichen Gruppen begrüßt. Wenn iRobot schließlich den Verstoß von Scale AI gegen Vereinbarungen zum Ausdruck brachte, gab Scale AI letztlich den Arbeitern die Schuld.

irobot roomba

Das grundlegende Problem besteht darin, dass unser Gesicht wie ein Passwort ist, das nicht geändert werden kann. Sobald jemand unsere „Gesichtssignatur“ aufzeichnet, kann er sie für immer verwenden, um uns auf Fotos oder Videos zu finden. Schlimmer noch: Diese illegalen Verbreitungsaktionen sind auf Sharing-Plattformen kaum zu regulieren. Kurz gesagt, es ist schwierig, die Arbeiter einzeln zu kontrollieren.

Die iRobot Roomba-Affäre zeigt einmal mehr, dass Technologie ein enormes (möglicherweise schädliches) Potenzial birgt, das stimmt. Aber es hängt immer davon ab, wie wir es nutzen, ob es sich gegen uns wenden oder in diesem Fall anderen zugute kommen kann.