Wenn KI auf menschliche Aufsicht trifft: neues Framework zur Lieferantenauswahl verbindet Algorithmen mit Verantwortung

Image
Mohammadreza Rezaei, Sridhar Sreemulnath Iyer and Prof. Dr. Omid Fatahi Valilai (left-to-right) of the Emerging Technologies in Industrial Engineering (EITIE) Research Group at Constructor University (source: Constructor University)
Caption
Mohammadreza Rezaei, Sridhar Sreemulnath Iyer and Prof. Dr. Omid Fatahi Valilai (left-to-right) from the Emerging Technologies in Industrial Engineering (EITIE) Research Group at Constructor University (source: Constructor University)

Da globale Lieferketten zunehmend komplexen und unvorhersehbaren sozioökonomischen, ökologischen und regulatorischen Bedingungen ausgesetzt sind, stehen viele Unternehmen vor einem wachsenden Bedarf an schneller und effektiver Lieferantenbewertung. Deshalb haben Forscher*innen an der Constructor University ein neues Framework für Lieferantenauswahl vorgeschlagen, das die Interpretationskraft von Large Language Model (LLM) KI mit menschlicher Aufsicht kombiniert, um Lieferantenergebnisse zu verbessern. Der Artikel „A governed framework combining large language models and human oversight for supplier selection“ wurde in der Zeitschrift Machine Learning with Applications veröffentlicht. 

Während sich die Lieferantinnenauswahl traditionell auf Kernfaktoren wie Kosten, Qualität und Lieferleistung stützte, müssen Beschaffungsteams heute oft viele andere Anforderungen berücksichtigen, wie Nachhaltigkeit, regulatorische Compliance, operatives Risiko, Resilienz und sich ändernde Marktbedingungen. Das neue Framework, das von Professor für Wirtschaftsingenieurwesen Dr. Fatahi Valilai, Doktorand Mohammadreza Rezaei und Master-Student Sridhar Sreemulnath Iyer in der Forschungsgruppe Emerging Technologies in Industrial Engineering (EITIE) der Constructor University entwickelt wurde, adressiert diese Komplexität, indem es eine komplementäre Aufgabenteilung zwischen KI, regelbasierten analytischen Systemen und menschlicher Aufsicht vorschlägt.

„Diese Forschung wurde durch eine Frage motiviert, die wir immer häufiger in unserer Arbeit zu aufstrebenden Technologien sehen: Wie können wir von der Flexibilität und den Reasoning-Fähigkeiten der KI profitieren, ohne Transparenz, Nachvollziehbarkeit und menschliche Verantwortung in industrieller Entscheidungsfindung aufzugeben?", sagt Prof. Dr. Omid Fatahi Valilai. „Unsere Arbeit bewegt sich daher in Richtung agentischer und deklarativer Entscheidungsarchitekturen, in denen KI sich ändernde Bedingungen interpretieren und mögliche Maßnahmen formulieren kann, während explizite analytische Regeln und menschliche Governance bestimmen, was tatsächlich umgesetzt wird."

Das Framework schlägt vor, das LLM während des gesamten Prozesses zu nutzen, um Beschaffungsanfragen zu interpretieren, von Lieferantinnen bereitgestellte Evidenz zu strukturieren und zu analysieren und die Ergebnisse in natürlicher Sprache zu erklären. Diese Rolle wird durch menschliche Aufsicht und Intervention in Schlüsselphasen ergänzt, was es ermöglicht, die Geschwindigkeit, Skalierung und Verarbeitungsleistung von KI zu nutzen und gleichzeitig menschliche Verantwortlichkeit für die Annahmen, Evidenz und letztendlich Entscheidungen zu bewahren, die das endgültige Ergebnis informieren.

„Eine zentrale Erkenntnis hinter dieser Forschung ist, dass der Wert von KI in der Beschaffung nicht nur davon abhängt, wie viele Informationen sie verarbeiten kann, sondern auch davon, ob Entscheidungsträgerinnen ihre Outputs verstehen, prüfen und verantwortungsvoll darauf vertrauen können", sagt Mohammadreza Rezaei. „Wir haben das Framework daher um eine klare Aufgabenteilung herum konzipiert. Wo etablierte deterministische Methoden bereits existieren, behalten wir sie für numerische Bewertung, Durchsetzung von Einschränkungen und Lieferantinnenranking bei."

Das Framework beinhaltet vier Kontrollpunkte, die von menschlichen Beschaffungsfachkräften abgeschlossen werden müssen:

  1. Genehmigung der zugrunde liegenden Daten
  2. Überprüfung von Szenarien und Gewichtung
  3. Bewertung der Relevanz von Evidenz, und
  4. Autorisierung der endgültigen Entscheidung.

Das Framework auf die Probe stellen

Als Teil des Projekts evaluierte das Forschungsteam das Framework, indem es es rückwirkend auf Aufzeichnungen von 22.230 historischen europäischen öffentlichen Beschaffungsfällen anwendete, um zu sehen, wie oft dieder ursprünglich ausgewählte Lieferantin in den vom Framework produzierten Top-Ergebnissen erschien. Sie fanden heraus, dass Rankings viel stärker übereinstimmten, wenn zusätzlicher, beschaffungsspezifischer Kontext in den Daten enthalten war, wie Lieferantinnen-Erfahrung in der relevanten Kategorie, geografische Eignung und frühere Beziehung zumzur Käuferin.

In diesen Szenarien rangierte dieder ursprünglich erfolgreiche Lieferantin etwa 32 % der Zeit in den Top 10 des Frameworks, verglichen mit nur 5 % der Zeit, wenn ein allgemeinerer Satz von Lieferantinnen-Merkmalen berücksichtigt wurde. Diese Zunahme deutet darauf hin, dass Lieferantinnen-Rankings weitaus informativer werden, wenn sie die Spezifika einer Beschaffungssituation widerspiegeln, anstatt nur allgemeine Aktivität.

Das Team bewertete auch das LLM und stellte fest, dass es eine gültige strukturierte Output-Rate von 1.000 hatte, was bedeutet, dass es konsistent Informationen im erforderlichen Format zurückgab. Es erreichte auch einen mittleren Evidenz-Extraktions-F1-Score von 0,928, was auf eine starke Leistung beim Identifizieren und Extrahieren relevanter Behauptungen aus den analysierten Lieferantinnen-Dokumenten hinweist.

Schließlich testeten die Forscherinnen, ob das LLM Rankings konsistent erklären konnte, ohne sie zu ändern. In jedem Erklärungsfall bewahrte das Modell die vom Framework festgelegten festen Rankings, was darauf hindeutet, dass es helfen könnte, die Begründung hinter abgeschlossener Analyse zu kommunizieren, ohne die Berechnung zu übernehmen oder das Ergebnis stillschweigend zu ändern.

Zusammengenommen unterstützen die Erkenntnisse die Aufgabenteilung des Frameworks, wobei die KI effizient Informationen interpretiert und organisiert und Ergebnisse erklärt, programmierte analytische Werkzeuge feste Scores und Rankings produzieren und menschliche Beschaffungsfachkräfte die Evidenz überprüfen und folgenreiche Entscheidungen genehmigen. Die Experimente identifizierten auch Einschränkungen, die die Notwendigkeit menschlicher Überprüfung verstärken, insbesondere wenn Evidenz unvollständig, widersprüchlich oder qualifiziert ist.

Besuchen Sie die Website der EITIE-Forschungsgruppe, um mehr über ihre Arbeit zur Definition der Interaktion von Agenten in Fertigungsliefernetzwerken und zum Vorschlag neuer Wege zum Datenaustausch zwischen virtueller und physischer Welt zu erfahren.

Der vollständige veröffentlichte Artikel ist online verfügbar: https://doi.org/10.1016/j.mlwa.2026.101028

Media Contacts
Name
Adrian Chalifour
Function
Corporate Communications
Email Address
presse@constructor.university
Abonnieren

Erhalten Sie alle Neuigkeiten direkt in Ihren Posteingang.

Jetzt abonnieren