ThemenübersichtMenü
Betrifft-Unternehmen

Interview: Digitale Ethik ist der Schlüssel für den erfolgreichen Einsatz von KI

Manuela Mackert, Thought Leader Digital Ethics & Chief Compliance Officer bei der Deutschen Telekom AG

Im Gespräch* mit Frau Manuela Mackert, Thought Leader Digital Ethics & Chief Compliance Officer bei der Deutschen Telekom AG, über Herausforderungen und Chancen der Digitalisierung für Compliance.

comply: Frau Mackert, Sie sind seit inzwischen fast zehn Jahren Compliance-Chefin bei der Telekom und seit einiger Zeit auch für Digital Ethics verantwortlich. Wir freuen uns daher ganz besonders, uns ausgerechnet mit Ihnen über die Wechselwirkungen und Herausforderungen der Digitalisierung und Compliance zu unterhalten!

Im Bereich der Digitalisierung entwickelt sich alles so rasant und ist so neu, dass wir am besten mit den Grundbegriffen starten sollten. Ethik befasst sich bekanntlich als Teil der Philosophie mit der Bewertung menschlichen Handelns. Worum geht es dann bei „Digital Ethics“ – ist damit eher das Verhalten der Menschen in der digitalen Zeit gemeint oder andersrum: Wir unterstellen, dass die künstliche Intelligenz den menschlichen Werten folgen sollte? Oder meint der Begriff noch etwas ganz anderes?

Manuela Mackert:  Digitale Ethik heißt für mich, dass unser westeuropäisches Werteverständnis auf KI-Anwendungen, KI-Services und KI-Produkte angewendet und umgesetzt wird. Das wir uns mit neuen Fragestellungen hinsichtlich der Mensch-Maschine-Interaktion auseinandersetzen müssen. Auch wenn noch nicht klar definiert ist, was KI ist – der globale Wettlauf um KI hat längst angefangen. Jeder möchte die Nase vorn haben, ob Staaten oder Unternehmen. Damit sich dabei nicht nur das Silicon Valley und China gegenüberstehen, muss Europa eine eigene, starke Rolle finden. Europa darf sich seine Kultur und seine Werte nicht von außen bestimmen lassen. Im globalen Wettbewerb kommt es darauf an, wer KI-Grundlagen beherrscht, die KI-Schlüsselprodukte baut und sich auf vertrauenswürdige Entwicklungs- und Nutzungsregeln verpflichtet. Europäische Unternehmen werden in der Welt als vertrauensvolle Partner wahrgenommen. Wir müssen mit klaren Prinzipien für eine digitale Ethik die Entwicklung von KI vorantreiben. Das ist die Grundlage für Vertrauen in KI-Technologie.

comply: Welche Gründe sprachen dafür, die Bereiche der Digital Ethics und Compliance zu verknüpfen?

Manuela Mackert: Es war eine natürliche Metamorphose… Compliance haben wir bei der Telekom aus der reinen „Legal“-Compliance in eine wertebasierte Compliance entwickelt. Vor fast drei Jahren kamen mir erste Ideen zu Ethik im Kontext der Digitalisierung. Wir arbeiten digital und agil, haben also schnell eine internationale und interdisziplinäre Arbeitsgruppe zum Thema neue intelligente Technologien geschaffen. Als Compliance-Team haben wir uns auf KI und den ethischen Umgang mit KI konzentriert, bis hin zur Entwicklung von Leitlinien und der Verprobung mit der Zivilgesellschaft.

comply: Wenn wir uns zum Thema KI bewegen. Wie bewerten Sie den heutigen Stand der technischen Entwicklung im KI-Bereich? Ist eine komplexe KI bereits entwickelt worden, die in der Lage wäre, selbst zu lernen und sich auf dem Niveau wie ein menschliches Gehirn zu bewegen?

Manuela Mackert: Da stellen Sie eine Grundsatzfrage. Was ist KI? Da streiten sich ja die Geister, denn eine einheitliche Definition gibt es bislang nicht. Jedoch gibt es eine einhellige Meinung darüber, dass es doch zwei unterschiedliche Ausprägungen gibt. Bei der schwachen KI geht es um konkrete Anwendungsgebiete. Die Problemlösung wurde speziell für klar definierte und zu erfüllende
Aufgaben programmiert. Die schwache KI wird also mit den spezifischen Aufgaben ausgestattet und erlangt kein tieferes Verständnis für die Aufgabe selbst, variiert also die Herangehensweise nicht selbst. Eine starke KI kann oder wird die gleichen intellektuellen Fertigkeiten von Menschen erlangen oder gar übertreffen. Sie handelt nicht mehr nur reaktiv, sondern auch aus eigenem Antrieb, intelligent und flexibel. Bislang ist es nicht gelungen, eine starke KI zu entwickeln. Ob KI ein eigenes Bewusstsein erlangen kann und welche Rolle Empathie, Semantik, Selbsterkenntnis, Gedächtnis, Weisheit und emotionale Intelligenz spielen wird, bleibt Spekulation.

comply: Die KI schafft bekanntlich erhebliche Risiken, achten die Entwickler auch darauf, dass diese Risiken abgesichert werden, also z.B. ein Modul implementiert wird, welches bei der Entscheidungsfindung durch KI sicherstellt, nur einen werteorientierten Weg zu gehen?

Manuela Mackert: Befürworter von KI hoffen, dass sich mit ihrer Hilfe beispielsweise Therapien gegen bisher unheilbare Krankheiten finden lassen. Wohingegen die Kritiker einwenden, sie mache uns alle zu gläsernen Menschen. Klar ist in jedem Fall, dass es an uns liegt, wofür und wie wir KI einsetzen, denn die Technologie an sich ist neutral. Sie ist nur ein Werkzeug. Man kann nicht davon ausgehen, dass ein Entwickler von alleine weiß, welches Wertegerüst von ihm verlangt wird. Wir bei der Telekom haben unsere ethischen KI-Leitlinien hierfür entwickelt, haben ein eLearning zur Verfügung gestellt und führen Roadshows mit unseren Beschäftigten zum Thema durch. Wer aber hat Recht mit seiner Einschätzung zu KI? Wir stehen alle noch am Anfang der Entwicklungen von KI – und damit wissen wir heute noch zu wenig über das wirkliche Ausmaß dieser Technologie und ihrer Auswirkungen. Können wir das Forschung oder Wirtschaft – und hier vorranging den großen US-Unternehmen – als Treiber überlassen? Ich plädiere hier für eine breite gesellschaftliche Diskussion und Mitwirkung sowie kontrollierbare – ethische – Rahmenbedingungen.

comply: Lassen Sie uns nun langsam zu Compliance kommen aber noch kurz bei der KI verbleiben. Welche Überschneidungen sehen Sie zwischen Compliance und KI?

Manuela Mackert: Bei Compliance, wie ich sie verstehe, und wir sie bei der Telekom leben, ist es die Wertekultur und die stetige Evaluierung. Diese ist deshalb so wichtig, weil wir dadurch wissen, wo wir „im Hier und Jetzt‘“ stehen und aufgrund des ständigen Wandels in der Gesellschaft und der technologischen Dynamik immer neu kalibrieren können.

comply: Sind Ihnen konkrete Fälle bekannt, wie KI zur Unterstützung der Effektivität eines CMS bereits jetzt eingesetzt wird?

Manuela Mackert: Essenziell hierbei ist das Verständnis für Compliance und die Wertekultur im Unternehmen. Dies erreichen wir durch Schulungen der Mitarbeiter z.B. in Augmented und Virtual Reality Trainings, Präsenztrainings, eLearnings und Roadshows. Im letzten Jahr haben wir ein Augmented Reality Training für Führungskräfte ausgerollt. In diesem Training stellen wir ihnen Mechanismen und Instrumente zur Verfügung, um Verstöße zu vermeiden, aufzudecken und zu verfolgen. Auf diese Weise reduzieren wir Risiken für den Konzern und sichern langfristig den Erfolg unseres Unternehmens. Führungskräfte haben hier eine Vorbildfunktion und spielen eine wesentliche Rolle. Aus diesem Grund haben wir Business Cases in einer Augmented Reality App zusammengestellt. Seit Februar dieses Jahres nutzen wir ein Virtual Reality Training um ethische Dilemmata anschaulich darzustellen. Weiterhin haben wir im letzten Jahr einen Chatbot „Concierge“ ausgerollt. Mit dem Concierge bieten wir unseren Beschäftigten einen Service an, in dem sie Fragen zu den Richtlinien bei der Deutschen Telekom stellen und sich informieren können.

comply: Welche weiteren Risiken, insbes. Compliance-Risiken, könnte weiter verstandene Digitalisierung insgesamt generieren?

Manuela Mackert: Durch die Einführung und Einsatz von KI tun sich derzeit verschiedene Risikofelder und Regelungsbedarfe neben Chancen auf. Das beginnt z.B. beim Datenschutz von der Klärung der Nutzungsrechte über das Urheberrecht bis hin zum Geheimschutz: Es ist zu klären und auszuweisen, was mit den zur Verfügung gestellten Daten passiert. Auch sind bei der Nutzung von sog. Preisrobotern die Vorgaben des Kartellrechts genauer zu betrachten. Oder auch der Themenkreis Haftung bei autonom fahrenden Autos ist näher zu untersuchen. Hier plädiere ich dafür, dass die Gesetzgeber kein in sich geschlossenes, eigenes „KI“-Gesetz schaffen, sondern die existierenden Gesetze, die unser menschenzentriertes, westeuropäisches Werteverständnis widerspiegeln, angemessen um die neuen Erfordernisse der Digitalisierung erweitern. Wir sollten achtsam sein, dass sich keine innovationshemmende Regulatorik einschleicht. Vielmehr ist ein definierter Freiraum gefragt, um notwendige Innovationen „Made in Europa“ möglich zu machen und wieder zu etablieren. Wir brauchen eine Kultur, in der wir eigene Innovationen und Wissenschaft stärken, damit junge Unternehmer und Wissenschaftler nicht mehr in die USA oder nach Asien abwandern. Europa läuft Gefahr, den Anschluss bei den neuen intelligenten Technologien zu verlieren, mit negativen
Auswirkungen für unsere Gesellschaft und Volkswirtschaft. Unsere eigene europäische Identität in der jeweiligen Vielfalt darf nicht dadurch gefährdet werden, indem wir uns die Überzeugungen und Werte anderer überstülpen lassen wie einen Handschuh.

comply: Denken Sie, dass damit Digitalisierung künftig ähnlich wie jetzt z.B. Korruption oder Kartellabsprachen, als ein typisches Compliance-Risikogebiet in den Compliance-Management-Systemen verankert wird?

Manuela Mackert: Ja, im Bereich der Informationstechnologie, beispielsweise zur Vermeidung von ungewollten Fehlfunktionalitäten (Bias), die durch entsprechendes Detektieren oder Testen vermieden werden können. Oder auch im Rahmen der Risikominimierung bei nicht evaluierten Ergebnissen, d.h. bei verschiedenen Modellen der „data analytics“ mit Fokus auf den Menschen und sein Verhalten. Zudem sehe ich bei der Veredelung von KI-Produkten oder -Lösungen noch Handlungsbedarf, da nicht immer bekannt ist, was an sogenannten „Black Boxes“ eingekauft wurde und welche Risiken und somit Haftungsfolgen diese für das weiterverarbeitende Unternehmen beinhalten.

comply: Wie sollten sich dann die Compliance Manager auf die künftige Aufgabe am besten vorbereiten?

Manuela Mackert: Compliance Manager müssen Entrepreneurs sein, das heißt sie müssen sich mit den Anforderungen ihres (Markt-)Umfelds und den neuen Technologien auseinandersetzen, agile Arbeitsmethoden nutzen und flexibel auf die Anforderungen aus dem Business reagieren.
Konkret heißt das: Ein hohes Maß an Neugier und neben den eigentlichen Spezialisierungsgebieten technisches Verständnis, Analysefähigkeit, Antizipationsvermögen und eine hervorragende Kommunikationsfähigkeit, um als Dolmetscher zwischen den Anforderungen und der Umsetzung überzeugend agieren zu können.

comply: Welche Chancen sehen Sie bei der Digitalisierung sonst, die sich auf die Compliance- Entwicklung gut auswirken könnten?

Manuela Mackert: Zum einen werden durch die Digitalisierung und Nutzung von KI für die Unternehmen neue Tätigkeitsfelder geschaffen, die im Rahmen des Risiko-Managements durch die Compliance-Abteilungen bewertet und adäquat aufbereitet werden müssen. Hier wird man
erst einmal nicht arbeitslos (lacht). Zum anderen hilft uns die Digitalisierung mittelfristig, Prozesse zu optimieren wie beim Enterprise Riskmanagement sowie den Service der Compliance-Abteilung zu erhöhen, z.B. bei der Erstellung von Reports, Zielgruppen gerichteter Kommunikation oder allein im Rahmen einer erhöhten Erreichbarkeit und schnelleren Reaktionszeit. Auch im Rahmen der Vorhersage von Fraud-Szenarien oder bei der Unterstützung im Rahmen des Case Managements sehe ich weitere Entwicklungsfelder für das tägliche Compliance-Geschäft.

comply: Erlauben Sie mir zum Schluss eine provokative Frage: Wenn der Bereich der KI jetzt schon so weit entwickelt ist und die Entwicklung disproportional rasant erfolgt, könnte es sein, dass ein Compliance Officer in 20 Jahren durch einen Roboter ersetzt wird?

Manuela Mackert: Nein. Denn ich bin überzeugt davon – und ich stehe für diese Überzeugung ein – es muss einen Unterschied geben zwischen Mensch und Maschine, auch in 20 und in 1000 Jahren. Wir dürfen Maschinen nicht vermenschlichen und Menschen nicht in eine Illusion drängen, in der eine Maschine vorgibt, ein Mensch zu sein.

comply: Liebe Frau Mackert, herzlichen Dank für Ihre Zeit und das Gespräch!

Bestellen Sie jetzt hier kostenlos und unverbindlich comply.

 

 

Aktuelle Ausgabe der comply.: Brennpunkt Digitalisierung und Special Brexit

Brennpunkt Digitalisierung:

  • Digitale Transformation von Compliance Wenn künstliche Intelligenz auf menschliche Dummheit trifft … (Eun-Hye Cho und Alexander Geschonneck)
  • INTERVIEW: Digitale Ethik ist der Schlüssel für den erfolgreichen Einsatz von KI (Manuela Mackert)
  • Wenn künstliche Intelligenz auf menschliche Dummheit trifft... (Dr. Rainer Markfort)
  • INTERVIEW: Kartellrechts-Compliance und Digitalisierung (Dr. Thilo Reimers)

Special Brexit:

  • Der Brexit und der Mittelstand (Dr. Thomas Altenbach)
  • Der Brexit, eine "Engslish Tragedy"? (Prof. Dr. Dagmar Schiek)
  • Der Brexit stellt Compliance vor neue Herausforderungen (Flavio Bertoli, LL.M. und Dr. Thea Vasilikou, LL.M.)

 

 

comply. - Das Fachmagazin für Compliance-Verantwortliche

Mit der comply. bietet Ihnen der Bundesanzeiger Verlag ein modernes Fachmagazin für Compliance-Verantwortliche in Unternehmen und Organisationen. Erfahrene Kollegen und Kolleginnen aus unterschiedlichen Bereichen der Compliance sowie Experten aus Wissenschaft und Forschung berichten über bewährte wie neue Methoden zur Vermeidung und Bewältigung von Compliance-Risiken.

News, Diskussionen, Interviews und praktische Tipps, neue Trends und Entwicklungen aus dem In- und Ausland halten Sie in einem ansprechenden Format auf dem Laufenden. Jede Ausgabe der „comply.“ vermittelt durch ein umfangreiches Autorenspektrum vielseitiges Erfahrungswissen. Die Vernetzung mit weiteren Informationsmedien und Veranstaltungen bietet Ihnen die optimale Fortbildung.

Jetzt hier comply. inkl. Prämie bestellen oder kostenlos und unverbindlich testen!

NEU: Melden Sie sich hier für den kostenlosen Newsletter comply. an!

comply. bietet Ihnen in der Ausgabe 1/2019 u.a. folgende Themen:

  • Brennpunkt:
    • Wenn künstliche Intelligenz auf menschliche Dummheit trifft … (Dr. Rainer Markfort)

  • Interview mit Manuela Mackert:
    • Digitale Ethik ist der Schlüssel für den erfolgreichen Einsatz von KI

  • Brexit Special:
    • Der Brexit und der Mittelstand (Dr. Thomas Altenbach)
    • Der Brexit, eine "Engslish Tragedy"? (Prof. Dr. Dagmar Schiek)
    • Der Brexit stellt Compliance vor neue Herausforderungen (Flavio Bertoli, LL.M. und Dr. Thea Vasilikou, LL.M.)
  • Essentials:
    • Ethik, Werte und Compliance in Unternehmen (Prof. Dr. Guido Palazzo)
    • Hollistisches Risikomanagement (Dr. Arnt Glienke)
    • Die Digitalisierung von KYC-Prüfprozesse
  • Global:
    • Polen: Polen will Gesetzesgrundlagen für Compliance schaffen

Das Online-Archiv der comply. ist Abonnenten der "comply. inkl. Online-Archiv" zugänglich. Darin finden Sie alle Ausgaben der Zeitschrift.

Bitte loggen Sie sich mit Ihrem Benutzernamen/ E-Mail-Adresse  und Passwort ein.

Noch keine Abonnent? Jetzt hier comply. bestellen.

Jahresabonnement 136,60 €  
Preise inkl. MwSt. und Versandkosten (deutschlandweit)
Erscheinungsweise: quartalsweise, 4 Ausgaben im Jahr
ca. 48 Seiten, DIN A4


Jetzt hier comply. bestellen.

Herausgegeben wird comply. vom Bundesanzeiger Verlag und der Compliance Acadamy unter der Schriftleitung von Prof. Dr. Bartosz Makowicz, Europa-Universität Viadrina Frankfurt an der Oder.

Jetzt hier comply. bestellen.

Ihre Vorteile:

  • kompakte Darstellung fachübergreifender Themen und der Entwicklung von Compliance
  • schneller Erfahrungstransfer und hilfreiche Management-Tipps
  • innovative Compliance-Methoden 
  • aktuelle Zusammenfasung von Rechtsprechung und Gesetzesänderungen
  • schnell zu erfassende und leicht zu lesende Fachbeiträge im modernen Layout
  • weitere vernetzte Informationsmedien zur Wissensvertiefung

Sie haben Interessse an einem Jahresabonnement oder einem Probeheft?

Aktuelle Ausgabe comply. 1/2019

Ein-/Ausblenden

Kostenfreies Probeheft

Ein-/Ausblenden

VERLAGSKONTAKT

Ein-/Ausblenden

Angie Scholz

Tel (0221) 97668-315
Fax (0221) 97668-271

 

Mediadaten "comply."

Ein-/Ausblenden

Sie haben Interesse an einer Anzeigenschaltung?
Hier finden Sie die aktuellen Meidadaten der comply.

Schriftleitung comply.

Ein-/Ausblenden

Prof. Dr. Bartosz Makowicz

 

VERLAGSKONTAKT

Ein-/Ausblenden

Angie Scholz

Tel (0221) 97668-315
Fax (0221) 97668-271