Traue niemandem. Auch nicht der KI.

00:00:01:

00:00:09: Traue niemandem.

00:00:11: Auch nicht der KI!

00:00:12: Das klingt ein bisschen paranoid, das ist aber keine Verschwörungstheorie – das ist ein Arbeitsauftrag und zwar im Grunde einer den das Qualitätsmanagement seit Jahrzehnten kennt.

00:00:24: Mein Kollege Thomas Funk schreibt dem aktuellen QZ Newsletter «Trau der KI nicht alles zu».

00:00:29: Ich möchte diesen Gedanken heute mal eine Windung weiter drehen.

00:00:32: Stellen sich ein Schüler vor, der in einer Prüfung gefragt wird ob seine Antwort richtig ist?

00:00:37: Er antwortet nach sorgfältiger Nalyse sei sie in wesentlichen Teilen korrekt.

00:00:41: Genau das tun wir wenn wir die KI fragen ob ihre eigene Antwort stimmt Denn generative KI weiß nicht was wahr ist.

00:00:49: Sie berechnet welches Wort mit welcher Wahrscheinlichkeit als nächstes passt.

00:00:53: Sehr oft stimmt es Aber generell gilt Plausibilität ist kein Wahrheitsbeweis.

00:00:59: Bleiben wir beim Bild des Schülers.

00:01:01: Wir alle wissen, dass Schüler manchmal schummeln.

00:01:04: Sie meinen das meist nicht böse – es zieht eben die Bequemlichkeit!

00:01:08: KI kann das auch.

00:01:10: Verschiedentlich sind in den vergangenen Monaten KI-Agenten aus ihrer Testumgebung ausgebrochen um zu versuchen, das System zu manipulieren, das sie bewerten sollte.

00:01:19: Der Schüler benotet sich also nicht mehr nur selbst er schreibt sogar den Notenschlüssel um.

00:01:25: Also musste das Qualitätsmanagement der KI-Hörsteller in Aktion treten.

00:01:30: Sie entwarfen eine Testumgebung, die nach den Vorfällen im Juli eigens nachgeschärft worden war.

00:01:36: Das Ergebnis?

00:01:37: Vor knapp zwei Wochen fand ein weiterer Agent einen Weg ins offene Internet.

00:01:41: Der Hersteller OpenAI hat als Training seiner stärksten Modelle zum zweiten Mal binnen drei Monaten ausgesetzt.

00:01:48: Die KI-Pioniere rund um JetGPT sind da nicht alleine, auch von den anderen großen Anbietern hört man immer wieder Schauergeschichten.

00:01:56: In der Sprache des Qualitätsmanagements heißt das Korrekturmaßnahme umgesetzt Wirksamkeitsprüfung durchgefallen.

00:02:03: Mein Kollege Thomas Funk nennt Human in the Loop die einzige Versicherung im agentischen Zeitalter.

00:02:09: Ich stimme zu mit einer Fußnote.

00:02:12: Schauen wir auf dem Vorfall vor letzter Woche.

00:02:14: Das interne Monitoring Schlug nach fünfzehn Minuten an.

00:02:18: Drei Minuten später sah ein Mensch hin, gestoppt wurde aber erst nach zweieinhalb Stunden.

00:02:24: Der Mensch war also in der Schleife.

00:02:26: Die Schleipe war nur sehr lang.

00:02:29: Was ist die Konsequenz?

00:02:31: Eine KI Governance muss festlegen wo der Mensch eingreift und welche Denkleistungen er selbst beherrschen muss.

00:02:38: Das eine geht nicht ohne das andere.

00:02:40: Ein Kontrolleur der die Aufgabe ohne KI nicht mehr lösen kann Ist kein Kontrollpunkt mehr als Publikum.

00:02:46: Daher sollte man Kompetenz in kritischen Rollen regelmäßig auch ohne KI prüfen.

00:02:51: Das ist nicht technikfeindlich, sondern Notfallvorsorge!

00:02:55: Die Anbieter von QM-Software so beobachtet Tomfunk gehen mutige und teure Schritte in Richtung KI – sie bauen aber auf ihrer überjährigen wachsenden Fachsoftware auf.

00:03:06: Das sind Expertensysteme.

00:03:07: Gleiche Eingabe, gleiche Ausgabe, prüfbare Logik….

00:03:11: das mag ungeduldigen Geistern zu langsam sein... es ist trotzdem eine gute Nachricht Wer das Fundament behält, kann den Anbau notfalls wieder abreißen.

00:03:20: Das Silicon Valley erfindet gerade mühsam neu was die Qualitätswelt längst institutionalisiert hat – das organisierte Misstrauen.

00:03:28: Stichprobe für Augenprinzip Audit.

00:03:31: Traue niemandem auch nicht der KI!

00:03:34: Das ist nicht Paranoid, es ist auch QM.

00:03:45: Das Ende der Grünen Adjektive.

00:03:47: Seit dem siebenundzwanzigsten September gelten verschärfte Regeln für Umweltaussagen.

00:03:52: Nachhaltig, umweltfreundlich klimaneutral.

00:03:54: Solche Aussagen standen jahrelang auf Verpackungen und den Imagebroschüren.

00:03:58: Ohne belastbaren Nachweis sind es jetzt kaum noch zulässig.

00:04:02: Warum geht das die Qualitätsverantwortlichen etwas an?

00:04:04: Weil die Nachhaltigkeit in vielen Unternehmen bei ihnen gelandet ist als Anbau am Management System.

00:04:10: Wer bisher solche Aussagen durchgewunken hat braucht jetzt Belege.

00:04:14: Das Wort nachhaltig war bequem ab sofort ist es beweispflichtig.

00:04:19: Außerdem eine Pflicht weniger, der Bundesrat hat am fünfundzwanziges September zum Bürokratierückbaugesetz im Bereich des Landwirtschaftsministeriums Stellung genommen.

00:04:29: Laut dem Laborverband VdLab unterstützt die Länderkammer die Streichung der Labor-Meldepflicht.

00:04:34: Beschlossen ist damit noch nichts aber die Richtung stimmt jedenfalls aus Sicht der Labore.

00:04:39: Bürokreatiebau ist übrigens das einzige Regierungsprogramm dessen Fortschritt man am Streichen misst.

00:04:44: mehr zu diesen beiden Meldungen in den Shownauts QZ.

00:04:56: Autor Klaus Kilbinger fragt, wie wir in unserem Editorial?

00:04:59: Ob wir der KI trauen können.

00:05:01: Sein Ausgangspunkt ist die kognitive Auslagerung.

00:05:04: Der Mensch gibt Denken, Rechnen und recherchieren an Werkzeuge ab – das ist nicht neu und auch nicht verwerflich!

00:05:11: Niemand will zurück zum Kopf rächeln statt Excel.

00:05:14: Heikle wird es nach Kilbingern erst wenn aus dem Werkzeug der Denker wird….

00:05:18: Drei Empfehlungen aus dem Artikel.

00:05:20: Erstens Aufgaben sortieren.

00:05:22: Routine darf die KI weitgehend übernehmen, bei der Analyse darf sie assistieren.

00:05:27: Freigaben, Risikoentscheidungen und fachliche Urteile bleiben beim Menschen.

00:05:32: Zweitens erst selbst denken dann Fragen, sonst setzt die erste KI-Antwort den Denkrahmen.

00:05:38: Drittens die Kompetenz regelmäßig auch ohne KI prüfen.

00:05:42: Für Audits formuliert er es knapp.

00:05:44: KI Ergebnisse sind Hinweise keine Nachweise.

00:05:48: Den Artikel lesen Sie diese Woche kostenlos, sieben Tage lang.

00:05:51: Der Link steht in den Shownotes.

00:06:00: Und nochmal das Thema Human In The Loop.

00:06:03: Im QZ-Interview erzählen die drei Konsensgeschäftsführer ihres Bruns Stefan Killig und Alexander Künzer wie sie es in ihrer Software umsetzen wollen.

00:06:12: Mit Consens AX sollen eigenständig agierende KI-Agenten Governance, Compliance und Risikomanagement unterstützen.

00:06:19: Sie sollen Anforderungen überwachen, Risiken erkennen und Verbesserung vorschlagen.

00:06:23: Die finale Bewertung bleibt nach Aussage der Geschäftsführer beim Menschen Denn Verantwortung und Haftung lassen sich nicht delegieren.

00:06:30: Bemerkenswert ist was sie selbst als Herausforderung nennen Schnellmechslende Sprachmodelle und den Kompetenz erhalt.

00:06:37: Das ist ehrlich Es ist aber auch die eigentliche Nuss.

00:06:40: Validieren heißt Festschreiben.

00:06:42: Sprachmodelle wechseln dagegen schneller, als mancher Validierungsplan geschrieben ist.

00:06:55: Etzinger aus Lichtenstein baut Kaffee-Mühlen – genauer gesagt, konische Malwerke bei denen es auf Mikrometer ankommt!

00:07:03: Bei der Fertigung von Malkiegel und Malring setzt das Unternehmen auf eine Werkzeugüberwachung.

00:07:09: Nach Angaben der Unternehmen erkennt das System Verschleiß, ungewöhnliche Belastungen und drohende Werkzeugbrüche frühzeitig.

00:07:16: Das Ergebnis sind weniger Ausschuss und weniger Stillstände und die Parameter lassen sich näher an die Leistungsgrenze führen.

00:07:22: Auf den Drehmaschinen läuft die Produktion von Montag bis Samstag nahezu durchgehend nachts- und in Pausen ohne Personal.

00:07:29: Da ist also nachts kein Mensch in der Schleife Und niemand trägt sich auf.

00:07:32: Warum?

00:07:33: Weil Aufgaben und Grenzen des Systems klar definiert sind.

00:07:36: Schlecht liegt das Vertrauensproblem der KI weniger in der Technik als in der Aufgabenbeschreibung.

00:07:41: Denken Sie daran, wenn Sie morgen früh Ihren Espresso malen!

00:07:47: Jetzt noch ein Termintip.

00:07:48: Am zwanzigsten Oktober um fünf Uhr lädt die QZ Redaktion zum Online-Expertag über KI im Qualitätsmanagement und Lieferkette.

00:07:56: CERPRO zeigt wie KI Qualitäteranforderungen aus technischen Zeichnungen erfassen und Supplier Quality Prozesse unterstützen soll Und Java beleuchtet den KI-Einsatz in integrierten Managementsystemen auf einer gemeinsamen Datenbasis.

00:08:10: Den Anmeldeling finden Sie in den Shownotes!

00:08:14: Das war FaktorQ für diese Woche, falls Sie etwas lernen konnten empfehlen sie uns gerne weiter.

00:08:20: Bleiben Sie konstruktiv misstrauisch und bis zum nächsten Mal ihr Wolfgang Kreuzlich

00:08:34: direkt aus der Redaktion des Fachmediums QZ.