Foto: Podiumsdiskussion zum Thema „KI: Pandoras Büchse oder universeller Problemlöser?“. V. links n. rechts: Claus Zeppelzauer, Hava T. Siegelmann, Sandra Manninger, Otmar Kloiber, Ophir Frieder, Ulrike Attenberger, Matias del Campo.

Exklusiv: Aufklärung über Denkfabriken

Künstliche Intelligenz: Gefahr oder Segen? – Eine kritische Reflexion

Von Mohan Marcel Lang.

In diesem und anderen Artikeln erläutert der TAGESLICHT-Autor Mohan Marcel Lang die Arbeitsweise und Ziele von Denkfabriken am konkreten Beispiel des „Vienna Congress“. Den einleitenden Artikel, der den Rahmen der Denkfabrik beschreibt, findest du unter diesem Link. (Anmerkung der Redaktion)

Das letzte Thema des Tages war KI – künstliche Intelligenz. Das ist ein Thema meiner beruflichen Profession. In meinem beruflichen Kontext bin ich Manager für IT – speziell für Software und Plattformen für die Bauindustrie.

Und KI ist zu einem neuen modernen Modewort geworden. Von Heute auf Morgen wurde für bereits vorhandene IT-Technologie auf einmal verstärkt der Begriff “künstliche Intelligenz” eingesetzt. Was dazu führte, dass einfache Technologie nun als KI angesehen und vermarktet wird.

Auf diesem Thema gehe ich abschließend nochmal ein. Zunächst aber möchte ich auf die Beiträge und die darauffolgende Podiumsdiskussion „AI: Pandora’s Box or Universal Problem-Solver“ („KI: Pandoras Büchse oder universeller Problemlöser“) eingehen.

Die Teilnehmer waren: Matias del Campo (Moderation und außerordentlicher Professor of Architecture des New York Institute of Technology), Ulrike Attenberger (Vorsitzende des Fachbereichs Biomedizinische Bildgebung und Bildgeführte Therapie), Ophir Frieder (Professor Georgetown University, wissenschaftlicher Leiter „Invaryant“), Otmar Kloiber (Generalsekretär des Weltärztebundes), Sandra Manninger (außerordentliche Professorin New York Institute of Technologie), Hava T. Siegelmann (Provost Professor University of Massachusetts) und Claus Zeppelhauer (Managing Director von ecoplus Digital GmbH).

Es wurde herausgestellt, dass bereits jetzt 40% aller Berufe weltweit KI benutzen oder in Berührung mit KI stünden. KI ist nicht nur eine Bedrohung für viele Jobs, z.B. Übersetzer, Analysten, usw., sondern kann in vielen Bereichen eine Bereicherung sein und sogar Probleme lösen, die nicht so schnell behoben werden können.

Ophir Frieder stellte eine KI-Hotline vor, die helfe, Telefonservices zu verbessern und Mitarbeitermangel auffangen könne. Speziell in Europa herrscht Fachkräftemangel in Krankenhäusern, schlechte Bezahlung und Überstundenarbeit – mit KI könne Personal entlastet und Arbeit erleichtert werden. Hier sind ein paar Thesen für KI-Lösungen von Ophir Frieder:

• Sicherheit auf unseren Computern, Privatsphäre für Alle
• Medizin – von schneller Formularbefüllung bis hin zu Diagnose und personalisierter Medizin
• Identifikation und Bekämpfung von Geldwäsche
• Haushaltsroboter
• Personalisierte Computertrainer
• KI für große Datenmengen, weniger Probleme mit Energie und CO2
• Zusammenwirkende KI-Agenten

Ich denke, dass Ophir Frieder Vertrauen und Verständnis zum Thema schaffen wollte. Ganz sicher ist KI eine Chance und kann uns den Alltag und die Arbeit sehr erleichtern. Und erfreulicherweise wurde ein Aspekt in der Diskussionsrunde herausgestellt – und zwar der moralische Aspekt.

Die Art der Nutzung der Technologie zählt.

Wir können KI für die Weiterentwicklung der Menschheit einsetzen oder – so wie mit der Atomenergie geschehen – im Sinne von Machtmissbrauch, Kontrolle oder Überwachung einsetzen. Einer der größten, vielleicht sogar die größte KI der Welt, ist die Plattform bzw. das Rechenzentrum „Aladdin“. 

Das Aladdin-System von BlackRock ist eines der leistungsstärksten Finanzanalyse- und Risikomanagementsysteme weltweit und es setzt selbstlernbare künstliche Intelligenz ein. Aladdin wird von über 200 Finanzinstituten weltweit verwendet und wir können Finanzmarktsteuerungen kaum noch überwachen.

Denn mit Aladdin werden Prognosen erzeugt, per Eingriff können Daten manipuliert werden (von dem, der die Hoheit über ein solches System hat – Blackrock) und es kann gegen uns als Druckmittel bzw. Kontrollmittel eingesetzt werden, ohne dass wir dies verstehen oder gar sehen können.

Genau darin liegt m. E. auch das Problem aller „guten“ Erfindungen. Dass einzelne Menschen, nennen wir sie Eliten, Macht erhalten, welche außerhalb unserer demokratischen Systeme liegen. Wir haben dazu genügend Beispiele in der jüngeren Menschheitsgeschichte.

Zum Beispiel Bill Gates und seinen Einfluss in der WHO und in die Pharmazie. Auch ist er mittlerweile größter Besitzer von Ackerland in den USA. Er mag ein noch so guter Philanthrop (Menschenfreund) sein, ich vermute mal, dass er in erster Linie nach seinem Interesse handelt und im globalen Machtverteilungskampf mittendrin ist, was sein Handeln und seine Interessen maßgeblich beeinflussen.

Er kümmert sich daher, wenn überhaupt, nur sekundär um die Gesundheit und Sorgen des Volkes in Europa (er ist US-Bürger) und handelt eben nicht wie ein verfasster Sozialstaat, der sich ideal gegenseitig mit seiner Gewaltenteilung selbst kontrolliert.

Zumindest würde ich ihm die Aufgaben eines Sozialstaates nicht überlassen wollen. Nehmen wir als weiteres Beispiel den Begriff der „freien Energie“ an der Nicola Tesla intensiv forschte und Lösungen entwickelte. „Andere Kräfte“ hatten andere Pläne.

Sein damaliger Investor J. P. Morgan investierte in weniger saubere Energie und konnte mit Tesla’s Erfindung wenig anfangen. Er sah Gefahr darin, dass sein Energieimperium an Macht verliere. Heute sehen wir an den Nebenkriegsplätzen des Ukrainekriegs, wie sehr wir von diesen Energieträgern Gas und Rohöl abhängig und erpressbar sind.

Wir müssen uns nur vor der eigenen Haustür umsehen – Österreich, Ungarn, Slowakei, die Energie- und humanitäre Katastrophe in Transistrien, Moldawien und nicht zu vergessen: Deutschland als ehemaliger zentraler Standort für billiges russisches Gas.

Zurück zum Thema KI und zur Diskussionsrunde. Es wurde um mehr Akzeptanz für digitalen Währungen geworben und eine Regulatorik für KI von der EU gefordert. Abschließend möchte ich nochmal zum Thema KI etwas aus meiner persönlichen Expertise als IT-Experte mitgeben.

KI ist runtergebrochen IT-Technologie. Diese ist auch nur so gut, wie der Programmierer sie anlernt. Heute reden wir auch schon bei Chatbots von KI. Sie können aber nur das antworten, was wir ihnen über Codes und Algorithmen beigebracht haben.

Sobald KI in einen Zustand kommt, dass es selbst lernt, besteht die Gefahr, dass wir über das, was es lernt und sich aneignet, beispielsweise eigenprogrammierte Algorithmen, keinen Überblick mehr haben und nicht wissen, ob dieses System Fehler enthält oder nicht.

Es gibt niemand, der das prüfen kann. Übertragen wir das noch weiter auf Bigdatamanagement. Ich meine KI-eigenprogrammierte Algorithmen im großen Umfang. Wir können nicht mehr gewöhnliches Testen, Prüfen und Freigeben (Schritte in der IT- und Produktentwicklung) unter Einhaltung von Test-Usecases (Anwendnungsfälle) anwenden.

Der erwähnte Supercomputer Aladdin ist so ein selbstlernender Computer und er beeinflusst jetzt schon erheblich unser Finanzsystem. Wollen wir das? Stellen wir uns hier die Frage: Nützt es der Menschheit im Guten?

Ist Transparenz gegeben, wo und in welchem Umfang trifft Aladdin Entscheidungen, die Nationen, Demokratien und das soziale Leben beeinflussen? Wie können wir als souveränes Europa dies lösen? Meines Erachtens nur durch Regulierung, staatliche Kontrolle und Aufklärung. Die Menschheit ist noch ist nicht so weit, dass sie Moral und Ethik so fest verinnerlicht hat, dass ein Missbrauch ausgeschlossen werden könnte. Irre ich?

KI im Alltag.

Weiter möchte ich noch auf die KI-Entwicklung im Alltag und der Arbeit eingehen. ChatGPT ist das bekannteste Produkt. Ich benutze es ehrlicherweise täglich im Alltag und in meinem beruflichen Kontext. Ich mache meine Erfahrungen und weiß mittlerweile, wo die Grenzen liegen.

Und ich muss stets die Antworten gegenprüfen und darauf vertrauen, dass Lösungen stimmen. Was ich aber sagen kann ist, dass es wunderbar funktioniert zum Übersetzen, zum Formulieren von Texten, um Grammatik zu verbessern oder auch um Lösungsvorschläge zu machen, um Ideen zu erhalten.

Ich lasse mir auch gerne geschichtliche Fragen beantworten, übernehme aber nie Antworten, ohne die Urquellen zu prüfen. Und da bemerke ich, dass ChatGPT gerne irgendetwas aus dem Kontext gerissen übernimmt und präsentiert.

Ich lasse mir auch gerne IT-Lösungswege vorschlagen. Solche Produkte nehmen nun immer mehr Eintrag in die Softwarewelt, z.B. automatische Übersetzer, Funktionen zum Zusammenfassen von Texten (Achtung große Gefahr von Fehlern!), Recherchetools, vorformulierte E-Mail-Antworten, verbesserte, intelligente Suchmaschinen, und vieles mehr.

Soweit ich das sehe als Softwareexperte, ist die KI aber noch sehr am Anfang und bisher meist nur als Betaversionen derzeit verfügbar. Es gibt unendlich viele Einsatzmöglichkeiten und natürlich kann KI uns den Alltag erleichtern. Bitte denkt aber nach und beachtet den moralischen Aspekt hinter der Nutzung und der Weiterentwicklung. Dafür appelliere ich stark.

***