Sabine Singer, Gründerin und CEO der „Sophisticated Simplicity GmbH“, Österreichs erster Business Academy für KI-Ethik und wertebasierte Geschäftsmodell-Entwicklung, im Interview mit advantage.

advantage: Was sind die drei wichtigsten KI-Trends, die sich aus Ihrer Sicht für die nahe Zukunft abzeichnen?

Sabine Singer: Künstliche Intelligenz wird sich in kürzester Zeit unsichtbar in unser Leben integrieren. Sie wird in unseren Smartphones, Notebooks und alltäglichen Geräten wie Brillen oder Uhren als Herzstück verbaut sein und kontinuierlich proaktiv mit uns kommunizieren und interagieren. Wir werden sie nicht mehr als "Technologie" wahrnehmen, sondern als einen ständigen Begleiter, der Aufgaben eigenständig erledigt, ohne dass wir es bewusst steuern müssen. Diese Allgegenwärtigkeit führt uns zum zweiten Trend: personalisierte KI-Assistenten. Diese werden zu einem integralen Bestandteil unseres Lebens – sie werden uns gut kennen, mit einem hohen Maß an (vorgespielter) Empathie begegnen, unsere Vorlieben und Gewohnheiten verstehen und unser Leben mit großer Präzision und Effizienz unterstützen. Dabei entsteht eine emotionale Bindung, ähnlich wie wir heute zu unserem Smartphone haben, nur erlebnis- und hilfreicher. Das Vertrauen in diese Assistenten wird so selbstverständlich, dass wir beginnen, sie blind zu akzeptieren, ohne ihre Entscheidungen oder Vorschläge weiterhin kritisch zu hinterfragen.

Der dritte und wichtigste Trend liegt genau hier: in der Gefahr, die aus diesem unkritischen Vertrauen entsteht. Vermutlich ist jeder von uns schon mal dem Navigationssystemen hinterhergefahren und letztlich auf einem Feldweg gelandet … Genauso könnte sich ein übermäßiges Vertrauen in KI als problematisch erweisen, da die Systeme Vorurteile skalieren oder unsere Meinungsbildung beeinflussen könnten, ohne dass wir es bewusst wahrnehmen. Unternehmen, die KI einsetzen, müssen sich deshalb intensiv mit ethischen Implikationen auseinandersetzen. Bias in den Daten, DER Basis von KI-Systemen, kann zu verzerrten Entscheidungen führen, was negative Folgen für Individuen, Gesellschaft und unsere Unternehmen haben könnte. Es ist entscheidend, bereits bei der Entwicklung von KI-Systemen einen klaren inneren sowie unternehmerischen Wertekompass zu etablieren, um ethische Herausforderungen rechtzeitig zu adressieren und langfristig Vertrauen zu gewährleisten.

Wo liegen aus Ihrer Sicht die ethischen Risiken im Umgang mit (generativer) KI wie ChatGPT und (wie) können Unternehmen diesen aktiv entgegentreten?

Das größte ethische Risiko bei der Verwendung von generativer KI wie ChatGPT liegt in der unreflektierten Nutzung historischer Daten. Diese Modelle basieren auf dem gesamten digitalen Wissen der Menschheit – einschließlich aller Fehler, Vorurteile und Ungerechtigkeiten, die in unserer Gesellschaft vorherrschen. Sie spiegeln nicht nur wissenschaftlich fundierte Errungenschaften wider, sondern auch gesellschaftliche Vorurteile, die Ausgrenzung oder Schlechterstellung von Personengruppen überholte Geschäftsmodelle sowie Falschinformationen von Social Media Plattformen.

Unternehmen müssen sich darüber bewusst sein, dass generative KI, wenn sie auf verzerrten oder unvollständigen Daten basiert, ungewollt zur Verstärkung von Bias beitragen kann. Es gibt bereits zahlreiche Beispiele, in denen KI-Systeme systematische Ungleichheiten in Entscheidungsprozessen verschärft haben und letztlich zu hohen Investitionsverlusten führten, weil sie nicht mehr korrigierbar waren. Daher ist es entscheidend, die Qualität und vor allem die Gewichtung von Daten, die in KI-Modelle einfließen, genau zu kennen und laufend zu monitoren, um sicherzustellen, dass diese Daten objektiv, divers und aktuell sind. Darüber hinaus sollten Unternehmen in die Entwicklung transparenter und ethisch fundierter KI-Strategien investieren. Eine Möglichkeit, diesen ethischen Herausforderungen zu begegnen, besteht darin, schon in der Strategiephase ethische Implikationen zu antizipieren und rechtzeitig im Designprozess von KI-Systemen zu berücksichtigen.

Wie kann ein verantwortungsvoller Umgang mit KI gelingen?

Ein verantwortungsvoller Umgang mit KI erfordert einen strategischen Paradigmenwechsel. Entscheider:innen müssen nicht nur die potenziellen Auswirkungen von KI verstehen, sondern auch in der Lage sein, Risiken frühzeitig zu erkennen und proaktiv zu handeln. Hierbei ist es von entscheidender Bedeutung, ethische Grundsätze von Anfang an in die Unternehmensstrategie und die Use-Case-Definition zu integrieren.

Das Ziel sollte es sein, eine „positive Manipulation“ von Daten und zukunftssicheren Ergebnissen zu ermöglichen – das heißt, sicherzustellen, dass die Daten und die daraus resultierenden Ergebnisse in einer Weise gewichtet werden, die zukünftige geschäftliche und gesellschaftliche Anforderungen reflektiert. Dies verhindert, dass bestehende Ungleichheiten durch KI weiter skaliert werden. Unternehmen, die dies nicht berücksichtigen, laufen Gefahr, dass ihre KI-gestützten Geschäftsmodelle Schaden anrichten, sei es durch eine verzerrte Meinungsbildung oder durch ungewollt unethische Prozesse.

Als Pionierin im Bereich Value-based Engineering haben wir uns als Sophisticated Simplicity auf ein Framework fokussiert, das ethische Aspekte von Anfang an im Strategieprozess mitdenkt. Mit unserer Spezialisierung auf ISO 24748:7000 ermöglichen wir Unternehmer:innen, nicht nur den Anforderungen des bevorstehenden EU AI Act gerecht zu werden, sondern auch und vor allem ihre Geschäftsmodelle zukunftssicher zu gestalten und ihren Unternehmenskern abzusichern.

Gibt es aus Ihrer Sicht auch Branchen bzw. Geschäftsbereiche, wo der Einsatz von (generativer) KI wie ChatGPT nicht bzw. wenig sinnvoll ist?

Ich bin fest davon überzeugt, dass es keine Branche geben wird, die von KI unberührt bleibt. Studien zeigen, dass 80 % aller Jobs entweder direkt durch KI verändert oder überflüssig werden könnten. Auch traditionelle Handwerksbetriebe werden KI nutzen, sei es in der Verwaltung, der Planung oder im Einkauf. KI ist nicht nur für High-Tech-Unternehmen relevant, sondern wird in nahezu allen Geschäftsbereichen – von der Landwirtschaft bis hin zum Gesundheitswesen – an Bedeutung gewinnen. Die Herausforderung besteht darin, konkrete Use-Cases zu identifizieren und KI sinnvoll zu integrieren.

Welche Bedeutung kommt dem Faktor Mensch bzw. unseren analogen Grundfertigkeiten wie Schreiben, Lesen und Rechnen in Zukunft zu (Stichwort: Bildungssystem – Schulen – Einsatz von „Hausverstand“)?

Der Faktor Mensch wird entscheidend sein, um das Potenzial von KI sinnvoll und wertebasiert zu nutzen. Während KI uns Zugang zu umfassendem Wissen bietet, liegt der Schlüssel darin, wie wir dieses Wissen anwenden, bewerten und in Know-How umwandeln. Eine reine Vermittlung ist Wissen ist obsolet, wenn wir das ubiquitäre Wissen dieser Welt auf Zuruf in der Hosentasche haben. Das Bildungssystem ist nun vielmehr gefordert, soziale und emotionale Intelligenz zu fördern, Raum für konstruktives und kritisches Denken einzuräumen. Es wird unerlässlich sein, dass – nicht nur – junge Menschen lernen, Technologien kritisch zu hinterfragen, zu prüfen und sie im Einklang mit nachhaltig und aus Überzeugung gelebten Werte-Grundsätzen zu nutzen.

Ein starker und bewusst gewählter innerer Wertekompass wird uns helfen, diese Technologien verantwortungsvoll einzusetzen. Nur so können wir sicherstellen, dass wir das unschätzbare wertvolle Potential ökonomisch nachhaltig nutzen, ohne dass es dabei zu einem unreflektierten Verlust menschlicher, gesellschaftlicher und ökologischer Werte führt.