advantage: Was sind die drei wichtigsten KI-Trends, die sich aus Ihrer Sicht für die nahe Zukunft abzeichnen?

Michael Katzlberger: In der Zukunft werden wir eine rasante Weiterentwicklung generativer KI mit immer umfassenderen Fähigkeiten sehen. Diese Systeme, die man „multimodale“ KIs oder „AI-Agents“ nennt, werden zunehmend in der Lage sein, komplexe Aufgaben zu bewältigen und menschenähnliche Outputs zu generieren. Zudem zeichnet sich eine zunehmende Integration von KI in alle Lebensbereiche ab, von der Wirtschaft über das Gesundheitswesen bis hin zu persönlichen Assistenten. KI wird zu einem allgegenwärtigen Werkzeug in unserem Alltag werden. Und „last but not least“ erwarte ich in den nächsten fünf Jahren das Aufkommen von "Artificial General Intelligence" (AGI) – KI-Systemen, die komplexe Aufgaben selbstständig bewältigen können und menschenähnliche allgemeine Intelligenz besitzen. Diese AGIs werden in vielen Bereichen menschliche Fähigkeiten übertreffen. Da unsere Gesellschaft auf diese Entwicklung noch nicht vorbereitet ist, darf man sich jetzt schon auf dramatische wirtschaftliche Konsequenzen einstellen, die Österreich voll erfassen werden.

Wo liegen aus Ihrer Sicht die ethischen Risiken im Umgang mit (generativer) KI wie ChatGPT und (wie) können Unternehmen diesen aktiv entgegentreten?

Zu den Hauptrisiken zählen die Verbreitung von Fehlinformationen und Deepfakes, die Verstärkung von Vorurteilen und Diskriminierung, Datenschutz- und Privatsphäreverletzungen sowie mangelnde Transparenz bei KI-Entscheidungen. Um diesen Risiken entgegenzutreten, können Unternehmen mehrere Strategien verfolgen: Sie sollten strenge ethische Richtlinien und Kontrollmechanismen implementieren, die Diversität in KI-Entwicklungsteams fördern, regelmäßige Audits und Tests auf Verzerrungen durchführen und transparent über den KI-Einsatz und dessen Grenzen kommunizieren. Zudem sind Investitionen in KI-Sicherheitsforschung unerlässlich. Ein proaktiver Ansatz zur Bewältigung dieser ethischen Herausforderungen wird entscheidend sein, um das Vertrauen der Öffentlichkeit in KI-Technologien zu wahren und deren positive Potenziale voll auszuschöpfen.

Wie kann ein verantwortungsvoller Umgang mit KI gelingen?

Ein verantwortungsvoller Umgang mit KI erfordert ein umfassendes und koordiniertes Vorgehen auf mehreren Ebenen. Zunächst ist die Entwicklung internationaler Standards und Regulierungen notwendig, um einen globalen Rahmen für den ethischen Einsatz von KI zu schaffen. Ebenso wichtig ist die Förderung interdisziplinärer Zusammenarbeit zwischen Technologen, Ethikern und Sozialwissenschaftlern, um ganzheitliche Lösungsansätze zu entwickeln. Eine kontinuierliche Weiterbildung und Sensibilisierung aller Beteiligten, von Entwicklern bis zu Endnutzern, ist unerlässlich. In der KI-Entwicklung selbst sollten "Safety by Design"-Prinzipien von Anfang an implementiert werden. Darüber hinaus ist die Schaffung unabhängiger Kontrollinstanzen wichtig, um die Einhaltung ethischer Standards zu überwachen. Schließlich spielt die Förderung öffentlicher Debatten und die Einbeziehung der Zivilgesellschaft eine zentrale Rolle, um einen breiten gesellschaftlichen Konsens über den verantwortungsvollen Umgang mit KI zu erreichen.

Gibt es aus Ihrer Sicht auch Branchen bzw. Geschäftsbereiche, wo der Einsatz von (generativer) KI wie ChatGPT nicht bzw. wenig sinnvoll ist?

Ja, absolut. Aktuelle Sprachmodelle „halluzinieren“, das heißt, sie machen Fehler. Deshalb ist es derzeit undenkbar, dass man sie in hochsensiblen Bereichen einsetzt, wie zum Beispiel in militärischen Einrichtungen oder Atomkraftwerken, wo Fehler katastrophale Folgen haben könnten. Auch in Situationen, die ethisch komplexe Entscheidungen erfordern, wie in der Rechtsprechung oder in der Medizin, sollte der Einsatz von KI sorgfältig abgewogen werden. In kreativen Berufen, die auf einzigartige menschliche Perspektiven und Originalität angewiesen sind, kann der Einsatz von generativer KI zwar unterstützend wirken, sollte aber nicht dominieren. Bereiche, die zwischenmenschliche Empathie erfordern, wie beispielsweise die Psychotherapie, sind für den umfassenden Einsatz von KI ebenfalls weniger geeignet. Schließlich gibt es Situationen, die kritisches Denken und moralisches Urteilsvermögen erfordern, wo menschliche Entscheidungsträger unersetzlich bleiben, zum Beispiel in der Politik.

Welche Bedeutung kommt dem Faktor Mensch bzw. unseren analogen Grundfertigkeiten wie Schreiben, Lesen und Rechnen in Zukunft zu (Stichwort: Bildungssystem – Schulen – Einsatz von „Hausverstand“)?

Dem Faktor Mensch und unseren analogen Grundfertigkeiten wie Schreiben, Lesen und Rechnen wird natürlich auch in Zukunft eine zentrale Bedeutung zukommen. Diese Fähigkeiten bleiben essenziell für kritisches Denken und die Verarbeitung von Informationen. In einer Welt, die zunehmend von KI geprägt wird, sollte der Fokus in der Bildung verstärkt auf der Förderung von Kreativität, Problemlösung und sozialen Fähigkeiten liegen. Der "Hausverstand" und das ethische Urteilsvermögen werden wohl immer wichtiger, um die Outputs von KI-Systemen kritisch zu bewerten und einzuordnen. Bildungssysteme stehen vor der Herausforderung, eine Balance zwischen der Vermittlung technologischer Kompetenz und traditioneller Fähigkeiten zu finden, keine leichte Aufgabe. Lebenslanges Lernen und Anpassungsfähigkeit werden zentral für den Umgang mit sich ständig weiterentwickelnder KI sein. Insgesamt wird es entscheidend sein, jene menschlichen Fähigkeiten zu stärken, die KI ergänzen und nicht ersetzen kann, während gleichzeitig ein grundlegendes Verständnis für KI-Technologien gefördert wird.