Eine neue Studie unter Mitverfasserschaft von Naveen Kumar von der University of Oklahoma unterstreicht die dringende Notwendigkeit, die Voreingenommenheit in generativen KI-Modellen zu verringern, die für eine faire und transparente Entscheidungsfindung in mehreren Sektoren von entscheidender Bedeutung ist.
In einer neuen Studie veröffentlicht In der Zeitschrift Information & Management weisen Forscher auf die dringende Notwendigkeit hin, inhärente Voreingenommenheiten in generativen KI-Modellen durch die Entwicklung und Implementierung einer ethischen, erklärbaren KI zu bekämpfen.
Die Forschung weist darauf hin, dass mit der zunehmenden Erschwinglichkeit und Verbreitung großer Sprachmodelle (LLMs) die eingebauten Verzerrungen weitreichende und schädliche Auswirkungen haben könnten.
„Da internationale Akteure wie DeepSeek und Alibaba Plattformen veröffentlichen, die entweder kostenlos oder viel günstiger sind, wird es einen globalen KI-Preiswettlauf geben“, sagte Co-Autor Naveen Kumar, außerordentlicher Professor für Managementinformationssysteme am Price College of Business der University of Oklahoma, in einem Pressemitteilung. „Wenn der Preis im Vordergrund steht, werden ethische Fragen und Vorschriften bezüglich Voreingenommenheit weiterhin im Mittelpunkt stehen? Oder wird es angesichts der Tatsache, dass mittlerweile internationale Unternehmen involviert sind, einen Vorstoß zu einer schnelleren Regulierung geben? Wir hoffen, dass Letzteres der Fall ist, aber wir müssen abwarten und sehen.“
Die Studie zeigt, dass fast ein Drittel der Befragten glaubt, aufgrund voreingenommener KI-Algorithmen Chancen wie Jobs oder Finanzdienstleistungen verpasst zu haben. Kumar weist darauf hin, dass zwar Anstrengungen unternommen wurden, um explizite Vorurteile zu beseitigen, implizite Vorurteile jedoch weiterhin eine erhebliche Herausforderung darstellen.
Da KI-Modelle immer ausgefeilter werden, wird es zunehmend schwieriger, diese impliziten Vorurteile zu erkennen. Daher werden ethische Richtlinien umso wichtiger.
„Da diese LLMs eine immer größere Rolle in der Gesellschaft spielen, insbesondere in den Bereichen Finanzen, Marketing, Personalwesen und sogar Gesundheitswesen, müssen sie sich an den menschlichen Vorlieben orientieren. Andernfalls könnten sie zu verzerrten Ergebnissen und unfairen Entscheidungen führen“, fügte Kumar hinzu. „Verzerrte Modelle im Gesundheitswesen können zu Ungerechtigkeiten bei der Patientenversorgung führen; verzerrte Rekrutierungsalgorithmen könnten ein Geschlecht oder eine Rasse gegenüber einem anderen bevorzugen; oder verzerrte Werbemodelle könnten Stereotypen verewigen.“
Kumar und seine Kollegen betonen die Bedeutung der Etablierung erklärbarer KI und ethischer Richtlinien. Sie fordern die Wissenschaftler jedoch auch auf, proaktive technische und organisatorische Lösungen zu entwickeln, um die Voreingenommenheit von LLM-Studierenden zu überwachen und zu mildern. Sie plädieren für einen ausgewogenen Ansatz, um sicherzustellen, dass KI-Anwendungen effektiv, fair und transparent bleiben.
„Diese Branche entwickelt sich sehr schnell, daher wird es viel Spannung zwischen Interessengruppen mit unterschiedlichen Zielen geben. Wir müssen die Anliegen aller Beteiligten – des Entwicklers, des Geschäftsführers, des Ethikers, des Regulierers – abwägen, um die Voreingenommenheit in diesen LLM-Modellen angemessen zu berücksichtigen“, fügte Kumar hinzu. „Den Sweet Spot zwischen verschiedenen Geschäftsbereichen und unterschiedlichen regionalen Vorschriften zu finden, wird der Schlüssel zum Erfolg sein.“
Angesichts der ständigen Weiterentwicklung der KI unterstreicht diese Forschung die Notwendigkeit eines wachsamen, ethischen Ansatzes, um sicherzustellen, dass die transformative Kraft der KI allen gerecht und gleichberechtigt zugutekommt.