Viele Verwaltungsräte auf GenKI-Auge noch blind

Die meisten Schweizer Unternehmen und auch deren Verwaltungsräte schöpfen das Potenzial generativer Künstlicher Intelligenz (GenKI) nicht aus. Eine neue Studie macht nun aber deutlich, dass das Thema in den obersten Firmengremien angekommen ist. Es fehle jedoch nach wie vor an Fachwissen und an Kenntnis über die wichtigsten Herausforderungen und Risiken für das eigene Unternehmen, so die Studie weiter.

Zudem fände auch keine regelmässige Berichterstattung seitens der Geschäftsleitungen über den Einsatz von GenKI in den Unternehmen statt. Dies zeigt die halbjährlich von der Verwaltungsratsvereinigung swissVR in Kooperation mit dem Prüfungs- und Beratungsunternehmen Deloitte Schweiz und der Hochschule Luzern durchgeführte Befragung von knapp 400 Verwaltungsratsmitgliedern.

Die Umfrage zeigt auf, wie wichtig es für Verwaltungsratsmitglieder wäre, sich in diesem Bereich entsprechende Kompetenzen anzueignen und KI-Experten in den Verwaltungsrat zu rekrutieren oder externe Expertise hinzuzuziehen. Zwar beschäftigt sich die Mehrheit der Verwaltungsräte mit dem Thema, allerdings fehle es häufig an Wissen und Kenntnissen über die wichtigsten Herausforderungen und Risiken, so die Studie weiter.

Nutzenerwartungen

Während etwa die Hälfte der befragten VR-Mitglieder der Meinung ist, GenKI sei in den vergangenen zwei Jahren nur etwas wichtiger für ihr Unternehmen geworden, geht ein Viertel von einer stark gestiegenen Bedeutung aus. Mit Blick auf die Zukunft erwarten deutlich weniger als die Hälfte (39 Prozent) der Befragten eine grundlegende Transformation ihrer Branche in den nächsten ein bis drei Jahren. Fast ebenso viele (36 Prozent) rechnen damit erst in drei oder mehr Jahren.

«Viele Verwaltungsräte sind sich der zunehmenden Bedeutung von generativer KI bewusst, wie die Ergebnisse des swissVR Monitors deutlich zeigen. Umso wichtiger ist es, dass sich deren Mitglieder mit dieser Technologie und den Folgen für ihre Unternehmen auseinandersetzen», sagt Reto Savoia, CEO von Deloitte Schweiz.

Laut einer grossen Mehrheit der befragten VR-Mitglieder fokussieren sich ihre Firmen darauf, mithilfe von GenKI die Effizienz und Produktivität (79 Prozent) im Unternehmen zu steigern. Mit deutlichem Abstand folgen Kostenreduktion (43 Prozent) oder verbesserte Produkte und Dienstleistungen (40 Prozent). Strategische Vorteile wie die Generierung neuer Ideen und Erkenntnisse (34 Prozent) oder gesteigerte Innovation (durch neue Produkte) und Wachstum (31 Prozent) werden dagegen weniger häufig genannt.

Besseres Risikomanagement in Kleinunternehmen

Für die meisten Befragten (60 Prozent) stellen potenziell fehlerhafte Ergebnisse von KI-generierten Inhalten – das heisst falsche oder verzerrte Informationen und Daten – die grösste Gefahr für ihre Firmen dar. Auch die Vertraulichkeit und der Schutz von Unternehmens- und Kundendaten beim Einsatz von GenKI sowie das Thema Cybersicherheit bereiten den meisten Verwaltungsratsmitgliedern Sorge.

Wie die Umfrage auch zeigt, nehmen die meisten Unternehmen die Risiken ernst und haben mit einer Reihe von Massnahmen darauf reagiert. So hat die grosse Mehrheit der befragten Unternehmen (86 Prozent) interne Audits durchgeführt. Rund zwei Drittel (67 Prozent) haben Richtlinien erstellt und ihre Mitarbeitenden geschult (61 Prozent). Es fällt dabei auf, dass wesentlich mehr Kleinunternehmen (77 Prozent) als Grossunternehmen (48 Prozent) Richtlinien, insbesondere im Hinblick auf die Risiken fehlerhafter Ergebnisse sowie Vertraulichkeit und Datenschutz, in ihren Firmen eingeführt haben.

Kaum menschliche Kontrolle

Trotz des als sehr hoch eingeschätzten Risikos fehlerhafter Ergebnisse lassen nur wenige Firmen (17 Prozent) alle durch KI generierten Inhalte von mindestens einer Person überprüfen – obwohl die menschliche Validierung das wirksamste Mittel wäre, um Fehler auszuschliessen.

«Die fehlende menschliche Kontrolle stellt eine erhebliche Schwachstelle im Umgang mit generativer KI in Unternehmen dar. Angesichts der Risiken, die KI mit sich bringt, ist es unerlässlich, dass Firmen KI-generierte Inhalte durch Mitarbeitende überprüfen und validieren lassen und der KI nicht einfach blind vertrauen», sagt Isabelle Amschwand, Präsidentin von swissVR.

Verwaltungsräte nutzen KI selbst nicht

Die grosse Mehrheit (70 Prozent) der befragten Verwaltungsräte hat sich zwar im vergangenen Jahr – meist im Rahmen des Gesamtgremiums – mit dem Thema beschäftigt. Die Umfrage zeigt aber auch, dass die wenigsten VR-Mitglieder KI-Applikationen im Zusammenhang mit ihrem Mandat selbst nutzen – mehr als die Hälfte (55 Prozent) sogar selten bis nie.

Erklären lasse sich dies teilweise durch die oben genannten Risiken, so die Studienautoren weiter. Verwaltungsrätinnen und Verwaltungsräte von Schweizer Firmen sind der neuen Technologie gegenüber demnach eher skeptisch eingestellt. Mit einer grösseren Vertrautheit und einem besseren Verständnis der Technologie könnte sich das Nutzungsverhalten aber deutlich verbessern.

Ein regelmässigeres Reporting der Geschäftsleitung über den Einsatz generativer KI im eigenen Unternehmen würde das Verständnis für die wichtigsten Herausforderungen und Risiken ebenfalls verbessern. Bislang erhalten jedoch drei Viertel der befragten VR-Mitglieder nur selten oder gar kein regelmässiges Reporting dazu (siehe Grafik 3).

«Erfreulich ist, dass das Thema GenKI in den Verwaltungsräten angekommen ist. Damit diese Technologie zum Erfolg und nicht zur Gefahr wird, müssen sie jetzt handeln. Unsere Umfrageergebnisse zeigen insbesondere in Bezug auf die Nutzung von KI-Tools im Rahmen ihres Mandats und im Hinblick auf das erforderliche Fachwissen Optimierungspotenzial», betont Brigitte Maranghino-Singer, Dozentin an der Hochschule Luzern am Institut für Finanzdienstleistungen Zug IFZ.