4 Überlegungen, die Sie berücksichtigen sollten, bevor Sie KI in ihrem Unternehmen einführen

Überlegung Nr. 1: KI wird bestimmte grundlegende menschliche Fähigkeiten für Entscheidungsprozesse nicht ersetzen

Macht algorithmische Entscheidungsfindung uns weniger autonom? Obwohl KI vielversprechende Chancen bietet, sollte geprüft werden, ob eine zu starke Abhängigkeit von KI zu einem Rückgang menschlicher Fähigkeiten wie kritischem Denken und Analyse führt. Im Jahr 2007 prägte der deutsche Neurowissenschaftler Manfred Spitzer den Begriff „digitale Demenz“, um zu beschreiben, wie die übermäßige Abhängigkeit von digitalen Technologien dazu führen kann, dass Informationen, die in digitalen Geräten gespeichert und leicht zugänglich sind, vergessen werden. Es ist entscheidend, ein Gleichgewicht zu finden, bei dem KI menschliche Fähigkeiten ergänzt, anstatt sie vollständig zu ersetzen.

Gleichzeitig kann die KI-Revolution auch eine Gelegenheit sein, sich noch stärker auf menschliche Eigenschaften zu konzentrieren, die für Unternehmen differenzierende Faktoren darstellen, wie etwa wirklich kreative Aufgaben, kritisches Denken, Interpretationsfähigkeiten und komplexe Entscheidungsfindung. Das gilt besonders dann, wenn KI-Modelle versagen. Ein Beispiel dafür ist der bekannte Fall eines KI-Modells, das darauf trainiert wurde, Hautkrebs auf Bildern zu erkennen, aber stattdessen die Lineale auf den medizinischen Bildern identifizierte und nicht die eigentlichen Krebsstellen. Im Gesundheitswesen sind die Fähigkeit, die beste KI-Technologie für einen bestimmten Anwendungsfall auszuwählen, die Interpretation und Vermittlung der KI-generierten Ergebnisse eigene, wichtige Kompetenzen. Weiterbildungsprogramme, kontinuierliches Lernen und kritisches Denken werden entscheidend sein, um Menschen zu befähigen, effektiv mit KI zusammenzuarbeiten.

Erfahren Sie, wie unser Team Sie bei Ihren Projekten im Zusammenhang mit KI im Gesundheitswesen begleiten kann >

Überlegung Nr. 2: KI allein kann die ethische Nutzung geistigen Eigentums nicht gewährleisten

Mit zunehmender Komplexität der KI-Technologien treten verstärkt Fragen rund um Urheberrechte und geistiges Eigentum auf. Generative KI-Modelle können Werke von Kreativen und Künstlern reproduzieren, was eine Bedrohung für deren Einkommensquelle darstellt. Es ist dringend notwendig, geeignete Mechanismen zum Schutz der Urheberrechte zu etablieren und den Wert der Datensätze, auf denen KI-Modelle basieren, anzuerkennen. Dazu gehört auch sicherzustellen, dass KI-Technologien keine Urheberrechte verletzen oder bestehende Werke plagiieren. Derzeit sind die Gesetzgeber weltweit noch nicht darauf vorbereitet: Im Juni 2023 erklärte das japanische Bildungsministerium, dass keine Urheberrechte auf das Training generativer KI-Programme angewendet werden, wodurch ein Präzedenzfall für KI-Urheberrechte geschaffen wurde.

Aktuell sind die rechtlichen Rahmenbedingungen für das Recht von KI-Technologien, online veröffentlichte Informationen zu nutzen, oft unklar. Das könnte sich ändern, sobald Plattformen oder Quellen den Zugriff auf ihre Inhalte einschränken und somit die Informationsbasis für die Modelle begrenzen. So kündigte Reddit im April 2023 an, eine Gebührenstruktur einzuführen, um Unternehmen den Zugang zu seiner Programmierschnittstelle (API) zu ermöglichen, über die externe Stellen umfangreiche Daten abrufen können. Ein ausgewogenes Verhältnis zwischen Innovation und Schutz geistiger Eigentumsrechte wird entscheidend sein, um eine ethische Nutzung geistigen Eigentums durch KI-Technologien sicherzustellen.

Überlegung Nr. 3: In manchen Branchen ist der Erhalt des menschlichen Kontakts entscheidend

Es gibt Branchen wie das Gesundheitswesen, das Bildungswesen und soziale Dienste, in denen der menschliche Kontakt eine besonders wichtige Rolle spielt. Auch wenn KI bei Diagnose- und Entscheidungsprozessen unterstützen kann, ist sie (bisher) nicht in der Lage, dieselbe Fürsorge, Empathie und emotionale Intelligenz wie Menschen zu bieten. Im Mai 2023 setzte die amerikanische National Eating Disorders Association aufgrund eines starken Anstiegs der Anrufe von Betroffenen einen Chatbot ein, der die Hotline-Anrufe beantwortet. Der Chatbot wurde als Beratungsinstrument konzipiert, nicht als Angebot, bei denen Betroffenen wirklich zugehört wird – was Bedenken aufwarf, inwieweit solche Chatbots wirklich zur Unterstützung der Anrufer geeignet sind. In diesem Kontext ist Empathie eine entscheidende Eigenschaft, die zudem eng mit Vertrauen verbunden ist. Die Unfähigkeit von KI, unsere subjektive Perspektive einzunehmen – also ihr Empathiedefizit – lässt Zweifel an KI-Beurteilungen menschlichen Handelns und vor allem an den dahinterstehenden Motiven aufkommen. Der Erhalt der menschlichen Kontakte in den genannten Bereichen ist essenziell, um eine personalisierte und mitfühlende Betreuung sicherzustellen.

Ein weiteres Problem entsteht durch die zunehmende Integration dieser Technologien im Gesundheitswesen, was zu einer wachsenden Form des KI-Paternalismus führen kann. Paternalismus in der Medizin ist schon lange ein Thema, aber nun besteht die Gefahr, dass Ärzte sich zu sehr auf KI verlassen und dabei die persönliche Erfahrung der Patienten sowie ihr eigenes Urteil hintenanstellen. Medizinisches Personal sollte weiterhin die Verantwortung für die Kommunikation von Diagnosen und die Beantwortung von Patientenfragen tragen. Indem sie KI als unterstützendes Werkzeug und nicht als Ersatz nutzen, können kritische Bereiche von den Vorteilen der KI profitieren und gleichzeitig die einzigartigen menschlichen Qualitäten bewahrt werden – beispielsweise die Kommunikation von Unsicherheiten in Bezug auf die Behandlung.

Überlegung Nr. 4: Nachhaltigkeit und den weltweiten Zugang zu KI gewährleisten

Im Streben nach besserer Leistungsfähigkeit setzen Entwickler von KI-Technologien zunehmend auf größere und komplexere Modelle. Das stellt aus Nachhaltigkeitsperspektive eine große Herausforderung dar. Denn diese Modelle benötigen eine erhebliche Rechenleistung: Schätzungen zufolge könnte ein Modell wie ChatGPT etwa 1 Gigawattstunde pro Tag verbrauchen, was beispielsweise dem täglichen Stromverbrauch von mehr als 33.000 Haushalten in den USA entspricht¹https://www.washington.edu/news/2023/07/27/how-much-energy-does-chatgpt-use/. Bei umfangreicher weltweiter Nutzung könnte die Umweltbelastung untragbar werden, sofern die Tools nicht optimiert werden, um den Energieverbrauch zu reduzieren.

Außerdem haben nicht alle Menschen auf der Welt den gleichen Zugang zu KI-Technologien, wie das Weltwirtschaftsforum betont. Der Zugang wird von verschiedenen Faktoren bestimmt, darunter die Internetverbindung und IT-Infrastruktur. Je stärker wir von KI-Technologien abhängig werden, ohne diese Ungleichheiten anzugehen, desto größer wird das Risiko, die Kluft zwischen reichen und armen Regionen der Welt zu vertiefen. Ein fairer und nachhaltiger Ansatz für KI sollte daher Energieeffizienz und Maßnahmen zur Überbrückung der „digitalen Kluft“ verschiedener Weltregionen berücksichtigen. Nur so können die Vorteile von KI allen Menschen zugutekommen – unabhängig vom sozioökonomischen Status – und das Risiko globaler Ungleichheiten minimiert werden.

Die Integration KI-basierter Technologien in unsere Arbeitswelt ist spannend, stellt aber auch eine große Herausforderung dar. Indem wir menschliche Fähigkeiten fördern, die ethische Nutzung geistigen Eigentums sicherstellen, in kritischen Bereichen den menschlichen Kontakt bewahren und Nachhaltigkeit sowie den weltweiten Zugang zu KI gewährleisten, können wir eine reibungslose Integration von KI-Technologien in unseren Berufsalltag erreichen. So lassen sich deren volles Potenzial nutzen und gleichzeitig unsere Werte sowie das gesellschaftliche Wohl bewahren. Wir von Alcimed begleiten Sie gerne dabei, KI-gestützte Tools in Ihre Aktivitäten zu integrieren. Kontaktieren Sie unser Team!

Über die Autoren, 

Clarisse, Consultant in Alcimeds Data Team in Frankreich
Lucas, Consultant in Alcimeds Data Team in der Schweiz
Lucia, Consultant in Alcimeds Healthcare Team in der Schweiz
Matthieu, Consultant in Alcimeds Data Team in den USA