Was von der großen Debatte zählt im Betriebsalltag wirklich?
Wenn ausgerechnet Mahner aus dem Maschinenraum kommen
Im Mai 2026 trat Papst Leo XIV. mit einer Enzyklika über Künstliche Intelligenz an die Öffentlichkeit – an seiner Seite ein Mitgründer des KI-Unternehmens Anthropic. Die ungewöhnliche Allianz macht sichtbar, dass die schärfste Kritik an der KI längst aus der Branche selbst kommt. Für Unternehmen lohnt der nüchterne Blick: Was von der großen Debatte zählt im Betriebsalltag wirklich?
Ein ungewöhnliches Bündnis im Vatikan
Es war ein Bild, das man so nicht erwartet hätte. Am 25. Mai stellte Papst Leo XIV. seine erste Enzyklika vor, „Magnifica Humanitas“, und neben ihm stand kein Theologe, sondern Christopher Olah, Mitgründer des amerikanischen KI-Unternehmens Anthropic. Das Dokument, unterzeichnet am 15. Mai, erscheint 135 Jahre nach „Rerum novarum“, mit der die Kirche einst auf die industrielle Revolution reagierte. Die Kernbotschaft fällt drastisch aus:
„Künstliche Intelligenz muss entwaffnet werden.“
Gemeint ist kein Technikverzicht, sondern die Sorge, der Mensch könne die Kontrolle verlieren.
Der Papst benennt mehrere Felder. Den Einsatz von KI in der Kriegführung, bei dem über Leben und Tod nicht eine Maschine entscheiden dürfe. Die Konzentration von Daten und Rechenleistung bei wenigen Konzernen. Die Folgen für Arbeit und Verteilung. Und die Gefahr, dass automatisierte Desinformation das Vertrauen in Fakten untergräbt.
Bemerkenswert ist, wie ähnlich Stimmen aus der Industrie klingen. Olah beschreibt moderne Systeme als etwas, das nicht konstruiert, sondern eher „herangezüchtet“ werde – selbst die Entwickler verstünden nicht in jedem Detail, warum ein Modell so reagiert, wie es reagiert. Anthropic-Chef Dario Amodei warnte Anfang 2026 vor sehr leistungsfähigen, schwer steuerbaren Systemen und zugleich vor Verwerfungen am Arbeitsmarkt; manche seiner Prognosen sehen einen erheblichen Teil der Einstiegsjobs im Bürobereich gefährdet.
Die Gegenrede der Fachwelt
Doch die Warnung ist nicht das letzte Wort. Mindestens ebenso renommierte Fachleute halten die Untergangsdebatte für überzogen. Yann LeCun, einer der einflussreichsten KI-Forscher und bei Meta tätig, nennt die Angst vor einer außer Kontrolle geratenen Superintelligenz verfrüht: Heutige Systeme besäßen weder ein echtes Gedächtnis noch ein Verständnis der physischen Welt. Andrew Ng, Mitbegründer von Google Brain, vergleicht die Sorge gar mit der Angst vor einer „Überbevölkerung auf dem Mars“.
Hinter der Debatte steht ein zweites, leiseres Argument, das gerade Unternehmer aufhorchen lässt. Wer zu laut vor dem großen Knall warne, riskiere Regeln, die am Ende vor allem die größten Anbieter begünstigen. Überzogene Risikorhetorik, so der Einwand, könne zur Marktabschottung führen und kleinere Wettbewerber ausbremsen. Die Lehre daraus ist für beide Lager unbequem: Risiko ist nicht gleich Hype – aber Hype ist eben auch nicht gleich Risiko.
Wir machen nicht „irgendetwas mit KI“, denn KI kann zwar vieles, aber nicht alles. Wir setzen KI nur dort ein, wo wir einen Mehrwert sehen. Dieser Nutzen muss im Einklang mit unseren Werten stehen. Es geht um den ethisch korrekten Einsatz, dem Menschen zu dienen – fair und transparent. Trotzdem machen wir mit der KI Dinge, die eigentlich nicht machbar sind. 20% besser oder 10% schneller ist nicht unser Anspruch, das ist uns zu wenig. Wir entwickeln bei uns im Haus, die Daten bleiben bei uns und bei unseren verlässlichen Partnern in Deutschland und in Europa. Unsere Systeme berechnen Lichtverteilungen, Stoffzuschnitte und mechanische Stabilität, sie simulieren Optiken und verbinden unsere digitalen Prozesse miteinander. Beispielsweise nutzt unser Nexus-System neben klassischen Internet-Daten zusätzlich tagesaktuelle Quellen wie Zeitungen und Nachrichtendienste, die eine „Pipeline of Agentic AIs“ auswertet. So ist sichergestellt, dass keine veralteten Daten zur Analyse herangezogen werden. Das ist ein sehr wichtiger Aspekt. Wir stellen so topaktuelle Zusammenhänge her, die weder mit einer Google-Suche noch mit ChatGPT oder gar einer manuellen Recherche zu finden sind.
Quelle: Richter lighting technologies GmbH
Für den Mittelstand zählt das Nahe
Zwischen diesen Polen liegt die eigentliche Frage für die Betriebe in Ostwürttemberg. Sie lautet nicht, wie wahrscheinlich ein Kontrollverlust der Menschheit ist. Sie lautet: Welche Risiken sind im eigenen Unternehmen real – und steuerbar? Dazu gehören der Schutz sensibler Daten, die Haftung bei fehlerhaften Ergebnissen, die Abhängigkeit von einem einzelnen Anbieter und die Qualifizierung der Belegschaft. Das sind keine philosophischen Probleme, sondern betriebswirtschaftliche. Und sie lassen sich beantworten – mit klaren Regeln, geschultem Personal und einer realistischen Einschätzung dessen, was die eigenen Systeme können und was nicht.
Gerade die Hidden Champions der Region – zu Hause im Maschinenbau, in der Optik oder der Metallverarbeitung – kennen das Muster aus früheren Technologiewellen. Wer früh Klarheit über Zuständigkeiten, Datenflüsse und Prozesse schafft, gewinnt Spielraum, statt ihn zu verlieren. Entscheidend ist dabei eine schlichte Regel: Am Ende einer KI-gestützten Entscheidung muss ein Mensch verantwortlich bleiben.
Aus der Praxis heraus erleben wir den EU AI Act aktuell als beides – zunächst als zusätzlichen Aufwand, langfristig aber klar als Wettbewerbsvorteil. Gerade im Mittelstand führt die Regulierung dazu, dass Projekte strukturierter gedacht werden müssen: Risikobewertung, Dokumentation und Transparenz werden fester Bestandteil der Umsetzung. Das kostet Zeit und Ressourcen, insbesondere bei begrenzten Kapazitäten – ist aber kein Showstopper. Vielmehr zwingt der AI Act Unternehmen dazu, KI strategisch statt opportunistisch einzusetzen.Als Implementierungspartner sehen wir darin eine große Chance: Wer die Anforderungen früh integriert, schafft Vertrauen bei Kunden und Mitarbeitenden und hebt sich deutlich vom Wettbewerb ab. Verlässliche, nachvollziehbare KI wird zum Qualitätsmerkmal – ähnlich wie Datenschutz oder IT-Sicherheit in den letzten Jahren. Unser Ansatz in Projekten ist daher pragmatisch: Wir verbinden Compliance direkt mit Mehrwert – z. B. durch klare Governance, saubere Datenstrukturen und transparente Prozesse, die nicht nur den AI Act erfüllen, sondern auch die Qualität der KI-Lösungen nachhaltig verbessern. Kurz gesagt: Für uns ist der AI Act weniger Bremse als Leitplanke – und genau diese brauchen Unternehmen, um KI im Mittelstand sicher, skalierbar und wirtschaftlich sinnvoll einzusetzen.
Quelle: Raab IT-Systemhaus GmbH & Co. KG
Regulierung – Last oder Gütesiegel?
Ein Thema beschäftigt den Mittelstand besonders: die Regulierung. Der europäische Rechtsrahmen, der AI-Act, ist umfangreich. Schon der Draghi-Bericht zur Wettbewerbsfähigkeit warnte 2024, eine zu hohe Regulierungsdichte könne Investitionen bremsen. Brüssel hat reagiert und arbeitet an Vereinfachungen, die Verwaltungslasten spürbar senken sollen, besonders für kleinere Unternehmen; im Mai 2026 verständigten sich Parlament und Rat vorläufig auf entsprechende Anpassungen. Für viele Betriebe in der Region kommt es daher weniger darauf an, ob reguliert wird, als darauf, wie sich die Anforderungen mit vertretbarem Aufwand erfüllen lassen.
Auch hier gibt es zwei Lesarten. Die einen sehen Bürokratie, welche die europäische KI ausbremst. Die anderen, darunter Bürgerrechtsorganisationen, warnen davor, im Namen der Vereinfachung Schutzrechte zu schwächen. Für exportorientierte Unternehmen kann Regulierung sogar zum Vorteil werden: Nachweisbar regelkonforme, „audit-feste“ KI aus Europa ist im internationalen Wettbewerb ein Vertrauensargument – und damit womöglich ein Verkaufsargument.
Im Mittelstand entstehen die größten Chancen dort, wo vorhandene Daten, Produkte und Prozesse intelligenter genutzt werden. Konkrete Beispiele sind vorausschauende Wartung, Anomalieerkennung in Maschinendaten, KI-gestützte Sichtkontrolle in der Qualitätsprüfung oder Angebotskonfiguratoren. So sinken Stillstände, Ausschuss und Reklamationen, Serviceprozesse werden besser, Angebote schneller und präziser. Zunehmend wird KI auch selbst Teil des Produkts – als smarter Service oder datenbasiertes Zusatzangebot, aus dem neue Erlösmodelle entstehen.ChatGPT & Co. sind ein guter Einstieg. Der größere Hebel liegt dort, wo KI mit Unternehmensdaten, Branchenwissen und Kernprozessen verbunden wird. Solche maßgeschneiderten Lösungen lassen sich nicht beliebig kopieren – genau daraus entstehen Differenzierung und Wettbewerbsvorsprung.Die Grenzen liegen heute weniger im Zugang zur Technologie; der ChatGPT-Moment hat viele Berührungsängste abgebaut. Die eigentliche Hürde ist die letzte Meile: vom funktionierenden Prototyp zum verlässlichen Produktivbetrieb. Das verlangt belastbare Daten, saubere Integration und realistische Erwartungen – KI ersetzt weder gute Prozesse noch menschliche Verantwortung.Unsere Erfahrung: Der Einstieg muss niedrigschwellig und wirtschaftlich überschaubar sein. Wer mit einem klar abgegrenzten Anwendungsfall startet, erste Ergebnisse sieht und Wirkung erlebt, entwickelt daraus oft die größeren, strategisch relevanten KI-Projekte.
Quelle: code’n’ground AG
Vorsicht ohne Lähmung
Was bleibt von einer Debatte, in der Papst und KI-Labor warnen und renommierte Forscher abwinken? Vor allem die Einsicht, dass die Trennlinie nicht zwischen „für“ und „gegen“ Technik verläuft. Selbst die schärfsten Mahner lehnen KI nicht ab, und selbst die Optimisten fordern einen verantwortungsvollen Umgang.
Für die Unternehmen der Region Ostwürttemberg heißt das: Chancen nutzen und Risiken steuern, beides zugleich. Vorsicht ohne Lähmung. Das ist weniger spektakulär als die Schlagzeile aus Rom – aber es ist die Haltung, die über den nächsten Wettbewerbsvorsprung entscheidet. Die IHK Ostwürttemberg und das digiZ | Digitalisierungszentrum Ostwürttemberg verstehen ihre Rolle dabei nicht als Schiedsrichter in der großen Frage, sondern als Lotse im Konkreten.
SERVICE
Kostenfreie Unterstützung für Unternehmen
Das digiZ | Digitalisierungszentrum Ostwürttemberg mit seinen Standorten in Aalen, Heidenheim und Schwäbisch Gmünd, begleitet Unternehmen bei der Digitalisierung und KI – mit Technologie-Demonstrationen, Qualifizierung, Fördermittelberatung und Firmennetzwerk. Mehr unter www.digiz-ow.de.
Quellenverzeichnis:
Leo XIV. (2026): Enzyklika „Magnifica Humanitas“. Vatikan.
Anthropic (2026): Remarks of Chris Olah on Pope Leo XIV’s encyclical.
Amodei, D. (2026): The Adolescence of Technology.
TechCrunch (2024) / Berichterstattung zu Yann LeCun; xriskbrief (2025) zu A. Ng.
Jacques Delors Centre (2026); Draghi-Report (2024) zur EU-Wettbewerbsfähigkeit.
Vatican News / Kirche+Leben (2026): Berichterstattung zur Enzyklika.
