AI-Washing – KI oder nicht KI, das ist die Frage
Was ist AI-Washing? Wie schlimm ist es wirklich, wie können Sie es beweisen und was können Unternehmen tun?
Unter “AI-Washing” versteht man die Marketingbemühungen eines Unternehmens damit zu werben, dass ihre Produkte oder Dienstleistungen künstliche Intelligenz enthalten, obwohl dies nur schwach oder überhaupt nicht der Fall ist.
„Während KI den Hype-Zyklus hochklettert, versuchen viele Softwareanbieter einen Anteil des größten Goldrauschs der letzten Jahre zu erhalten“, sagt Jim Hare, Research Vice President bei Gartner. „KI bietet aufregende Möglichkeiten, aber leider konzentrieren sich die meisten Anbieter auf das Ziel, einfach ein KI-basiertes Produkt zu entwickeln und zu vermarkten, anstatt zunächst den Bedarf, die potenziellen Einsatzmöglichkeiten und den Geschäftswert für die Kunden zu ermitteln.“
Gartner Analysten sehen in „AI-Washing“ eines der Hauptprobleme, die die tatsächliche Entwicklung und Einführung von KI in Unternehmen behindern. Wie können Manager einem Anbieter vertrauen?
Ein spannendes Thema, das tiefere Recherche erfordert. Wir haben recherchiert. Leider haben wir schnell gemerkt, dass vieles was bisher dazu geschrieben wurde, sehr schwammig ist. Einige Artikel von renommierten Herausgebern haben mehr Fragen bei uns hervorgerufen als beantwortet.
AI-Washing – einfach zu identifizieren, oder?
Fangen wir mit einem Artikel von ComputerWeekly.de über AI-Washing an. Sie schreiben: „Um festzustellen, ob ein bestimmtes Produkt KI enthält oder nicht, ist ein gutes Verständnis dessen, was künstliche Intelligenz ist, unerlässlich.“
Das ist zwar korrekt, doch genau hier liegt der Teufel im Detail: es gibt nach wie vor keine allgemeingültige Definition von künstlicher Intelligenz! Es gibt „Definitionsversuche“, „beschreibende Annährungen“ und „KI-Klassifikationen“. Hinzu kommt, dass sich die Technik so schnell verändert, dass Technologien, die vor 50 Jahren als KI bezeichnet wurden, heute von KI-Spezialisten nicht mehr als KI betrachtet werden. KI ist dynamisch.
„AI-Washing“ ist also nicht so einfach zu identifizieren wie z.B. „Green-Washing“.
Im weiteren Artikel werden Fragen genannt, die man Anbietern stellen kann, um „AI-Washing“ aufzudecken. Auf den ersten Blick ist das eine gute Hilfestellung. Ein Beispiel ist: „Wie definiert der Verkäufer des Produkts „KI“?“ Ich bin mir sicher, dass die meisten Verkäufer auf diese Frage eine plausible Antwort haben. Doch wenn es keine allgemeine Definition von KI gibt, wie kann man dann als Käufer beurteilen, inwieweit AI-Washing vorliegt? Auch die anderen Fragen sind gut, jedoch nicht weniger KI-philosophisch geprägt.
Sehen wir uns nun einen besorgniserregenden Artikel über „AI-Washing“ von PwC, ein weltweit führendes Unternehmen in den Bereichen Wirtschaftsprüfung, Steuerberatung und Unternehmensberatung, mit konkreten Zahlen an. Hier wird geschrieben:
“It’s a common scenario. According to a study of 2,830 European startups by London-based MMC Ventures, 40 percent of those that claimed to be “AI startups” had barely any AI at all.”
Sie stellen es so dar, als ob 40 % der Startups AI-Washing betreibt. Das wäre besorgniserregend. Zum Glück hat PwC eine Quelle für diese Zahlen angegeben, nämlichen den „State of AI 2019“ von MMC-Ventures. In diesem Artikel stellt sich heraus: Es geht überhaupt nicht um AI-Washing.
Mit diesen oben genannten Zahlen wurde lediglich analysiert, bei wie vielen Start-Ups die künstliche Intelligenz im Mittelpunkt ihres Wertversprechen liegt. Das Ziel von MMC-Ventures war es, die KI-Startups auf Basis ihrer Recherchen in zwei „Gruppen“ einzuteilen:
1. KI steht im Mittelpunkt des Werteversprechens (60 %) und
2. KI steht nicht im Mittelpunkt des Werteversprechens (40 %).
„Im Laufe der Zeit wird die Unterscheidung zwischen „KI-Unternehmen“ und anderen Softwareanbietern verwischen und dann verschwinden, wenn KI allgegenwärtig wird. Heute ist es jedoch möglich, eine Untergruppe von Softwareunternehmen in der Frühphase hervorzuheben, bei denen KI im Mittelpunkt ihres Wertversprechens steht.“
Es ist keine Rede davon, dass diese 40 % an Start-Ups in irgendeiner Weise AI-Washing betreiben. Diese 40 % der KI-Startups kommunizieren eindeutig nach außen, dass KI nicht im Mittelpunkt ihres Werteversprechens steht und daran ist nichts falsch. Die Behauptung in dem Artikel von PwC sind also aus dem Kontext gerissen und offensichtlich falsch interpretiert.
Und jetzt die größten Fragen, die in keinem der vielen „KI-Anbieter betreiben AI-Washing“-Artikel beantwortet wurden: Nach welchen Vorgehensweisen, nach welchen Kriterien und welcher KI-Definition werden „verdächtige“ Unternehmen auf AI-Washing überprüft? Wie kann man das beweisen? In jeden einzelnen Software-Code schauen? Und nachfolgend die Frage: wieviel KI ist genug, um vor Anschuldigungen sicher zu sein?
Das sind die Fragen, die uns wirklich interessieren und auf die wir keine Antworten gefunden haben.
AI-Washing: ein reales Beispiel
Die Fragen nach der Identifizierung von Unternehmen, die AI-Washing betreiben, sollen die Existenz von AI-Washing und auch dessen Gefahr nicht in Frage stellen. Wir möchten lediglich das in den Medien kommunizierte Ausmaß von AI-Washing kritisch betrachten und sind ehrlich interessiert daran, ab wann ein KI-Unternehmen als „AI-Washing-Unternehmen“ eingeordnet werden kann.
Dass es Unternehmen gibt, die auf dem KI-Zug mitfahren möchten, ohne dass tatsächlich nennenswerte KI dahintersteckt, zeigt dieses reale Beispiel des Start-Ups „Engineer.ai“ (jetzt builder.ai):
Es nutzt nach eigenen Angaben Technologien der künstlichen Intelligenz, um die Entwicklung mobiler Apps weitgehend zu automatisieren. Mehrere aktuelle und ehemalige Mitarbeiter sagen jedoch, das Unternehmen übertreibe seine KI-Fähigkeiten, um Kunden und Investoren zu gewinnen. Das Unternehmen behauptet, seine KI-Tools seien „menschengestützt“, was immer das auch heißen mag.
Interne Mitarbeiter und Mitarbeiterinnen wissen genau wieviel künstliche Intelligenz im Produkt steckt und mit „wieviel“ KI geworben wird. Verlässlichen Quellen zufolge, wurde Engineer.ai sehr wahrscheinlich völlig zu Recht in die Kategorie „AI-Washing“ eingeordnet.
Doch wir bezweifeln, dass es Außenstehenden so einfach möglich ist, AI-Washing zu beweisen. Insbesondere da KI einigen Interpretationsspielraum ermöglicht, wird eine Beweisführung vermutlich in lange KI-philosophische Diskussionen enden.
Was können Unternehmen, die KI-Systeme einführen möchten, konkret tun?
BERECHNEN SIE JETZT DEN ROI VON QYMATIX PREDICTIVE SALES SOFTWARE
Umgang mit „AI-Washing“: Es gibt einen einheitlichen Ratschlag
Auch wenn wir in keinem Artikel eine konkrete Herangehensweise und Kriterien gefunden haben, wie man „AI-Washing-Unternehmen“ identifizieren kann, gibt es doch einen einheitlichen Ratschlag:
Egal ob KI oder nicht KI, der Fokus sollte immer auf der Lösung eines konkreten Problems im Unternehmen liegen. Nehmen wir an, Sie möchten einen bestimmten Prozess beschleunigen und Sie suchen nach einer technischen Lösung dafür. Dann sollten Sie in erster Linie danach beurteilen, wie gut die in Frage kommende Software ihr Problem lösen kann. Unternehmen sollten den Fehler vermeiden, „irgendwas mit KI“ machen zu wollen.
Nehmen wir als Beispiel „datenbasiert im Vertrieb handeln“. Sie haben viele ungenutzte Verkaufsdaten und möchten verdeckte Verkaufschancen ermitteln und ihrem Vertriebsteam konkrete Hinweise auf Abwanderungsrisiken, Preissetzungspotenziale oder Cross-Selling Chancen geben. Dann haben Sie zwei Möglichkeiten:
1. eine KI-basierte Predictive Sales Software, die mit Hilfe von maschinellem Lernen Chancen entdeckt.
2. Oder regelbasierte, manuelle Analysen durch z.B. gezielte Filtersetzung mit Excel oder sogar Business-Intelligence Lösungen, um Hinweise selbst zu entdecken.
Option zwei ist für einen überschaubaren Datensatz ausreichend. Wann sollten Sie kein maschinelles Lernen nutzen? Wenn das regelbasierte System für Ihren Datensatz funktioniert. Maschinelles Lernen, ein Teilbereich der KI, hat die meiste Power bei einem riesigen Datensatz. Einem Datensatz, der manuell nicht überschaubar ist.
Letztendlich sind Sie der Richter. Versuchen Sie, Ihre aktuellen Herausforderungen mit einer KI-Software zu lösen und überlegen Sie welche Vorteile diese gegenüber anderen Systemen besitzt.
Wenn Sie bei sich und Ihrem Problem bleiben und ein Produkt oder eine Dienstleistung danach beurteilen, wie effizient und verlässlich es Ihnen helfen kann, dann sind Sie auf der sicheren Seite. KI hin oder her.
ICH MÖCHTE PREDICTIVE ANALYTICS FÜR DEN B2B-VERTRIEB
Literaturnachweis:
ComputerWeekly (2020): AI Washing.
PWC (2020): How to be an AI leader, not an AI washout
The State of AI 2019: Divergence, Chapter 7. MMC.
The Wallstreet Journal (2019): AI Startup Boom Raises Questions of Exaggerated Tech Savvy.
