Die Leistung und die Zuverlässigkeit von KI-Assistenten nehmen gefühlt weiter zu. Doch wer in den letzten Wochen intensives Prompting bei ChatGPT, Perplexity und Co. betrieben und die Ergebnisse eingehend analysiert hat, fühlte sich in diesem Gefühl nicht bestätigt. Im Gegenteil: Die Qualität der generierten Antworten lässt neuerdings öfter zu wünschen übrig. Auf YouTube gibt es zahlreiche Videos zu diesem Phänomen, das sich offenbar auch die Herstellenden nicht so ganz erklären können, aber auch klassische Medien berichten darüber. In Anbetracht der Tatsache, wie abhängig sich viele Menschen im Berufsleben schon heute von GenAI-Tools gemacht haben, ist dieser Trend erschreckend und ernüchternd. Ein blindes Vertrauen in die digitalen Helfer aus der Familie generativer KI birgt zudem großes Schadenspotenzial, etwa dann, wenn sich Ärzt*innen bei der Diagnose auf sie stützen oder Entwickler*innen von der KI vorgeschlagene Frameworks ohne Sicherheitscheck implementieren.

Völliges Vertrauen in GenAI ist also, zurückhaltend formuliert, mindestens gewagt. Die Situation ist ernst und erfordert von GenAI-Anbietenden ein Mindestmaß an Qualitätssicherung – offenbar kein einfaches Unterfangen. Bis dahin ist es wichtig, eigene Maßnahmen zu ergreifen, um nicht in die Falle der folgenden vier Qualitätskiller zu geraten.

1. Halluzinationen

KI-Assistenten wie ChatGPT und Co. wurde die Aufgabe erteilt, Antworten zu liefern – koste es, was es wolle. Wenn die Wissensbibliothek nicht ausreicht, um komplexe Sachverhalte zu beantworten, fängt generative KI an, sich etwas auszudenken. Die von solchen Halluzinationen ausgehende Gefahr ist bekannt. Umso bedrückender ist die Tatsache, dass laut einer aktuellen Studie nur rund ein Viertel (27 %) der Menschen in Deutschland die Ergebnisse, die KI für sie generiert, auf Korrektheit prüfen. Das sind zwar immerhin sieben Prozentpunkte mehr als bei gewöhnlichen Inhalten aus dem Internet, wie eine Studie des PR-COM Re­search Lab belegt, aber noch immer viel zu wenige.

Gegenmaßnahmen: Wer GenAI nutzt, sollte ausnahmslos alle von ihr produzierten Inhalte überprüfen. Dazu sollten User*innen insbesondere die von der KI verwendeten Primärquellen checken oder – wenn möglich – Expert*innen zur Prüfung der Korrektheit der Antworten zurate ziehen.

2. Bias

Die Anbieter*innen aktueller KI-Assistenten haben sehr viel Arbeit in ihre Produkte gesteckt, um den Bias, also die Voreingenommenheit ihrer Modelle auszumerzen und sie zur Vorurteilsfreiheit zu erziehen.

Verlassen sollten sich User*innen auf die moralische und ethische Unantastbarkeit ihrer Modelle dennoch nicht. Zwar ist es unwahrscheinlich, dass Produkte großer Hersteller*innen noch rassistische, sexistische oder sonstige ethisch fragwürdige Ansichten vertreten, aber komplett ausgeschlossen ist es eben nicht. Noch relativ hoch ist die Gefahr zudem bei der Nutzung von kostenlosen GenAI-Assistenten oder Nischen-Tools.

Gegenmaßnahmen: Auch im Zusammenhang mit Bias gilt es, die Ergebnisse einer KI-Befragung immer genauestens zu checken und mit geltenden Gesetzen und den vorherrschenden Wertevorstellungen unserer Gesellschaft abzugleichen. Wer dubiose KI-Tools meidet, kann sich zudem viel Ärger ersparen.

3. Content-Kannibalisierung

Immer mehr KI-generierter Content flutet das Internet – die logische Folge der zunehmenden Nutzung von GenAI-Assistenten. Leider trainieren KI-Entwickler*innen ihre Chatbots und deren zugrunde liegende Sprachmodelle unter anderem mit genau diesen Inhalten. Und schlimmer noch: Der exponentiell steigende KI-Inhalt ist darüber hinaus auch der Wissensschatz, auf den die KI für ihre Antworten zurückgreift. Dadurch entsteht ein Teufelskreis aus KI, die sich irgendwann nur noch mit von ihr selbst generierten Inhalten trainiert und auch nur noch von ihr produzierten Content als Basiswissen verwendet. Der Mensch wird aus dieser Gleichung immer weiter herausgekürzt. Die Qualität der Ergebnisse von Anfragen an die KI wird somit zunehmend abnehmen. Hinzu kommt, dass alle User*­innen irgendwann die gleichen Ergebnisse abrufen, nutzen und veröffentlichen.

Gegenmaßnahmen: Es ergibt Sinn, hin und wieder auch ohne KI zu agieren und Content zu produzieren, der frei von KI-generierten Inhalten ist und das Qualitätsmerkmal „Made in a human brain“ trägt.

4. Wissensoligopol

Der KI-Markt ist derzeit auf einige wenige Big Player geschrumpft, die sich die enormen Rechenressourcen und Entwicklungskosten für generative KI leisten können. Dadurch entsteht zunehmend ein Wissensoligopol, in dem die großen Anbieter*innen wie OpenAI, Google, Microsoft und DeepSeek zukünftig die Art und Weise bestimmen, welche Informationen überhaupt noch zugänglich sind. Schon jetzt gehen Suchanfragen auf den traditionellen Suchmaschinen deutlich zurück, die Ergebnisse zwar nach Algorithmen ranken, aber selten Treffer komplett ausblenden. Viel restriktiver agieren GenAI-Tools, deren implementierte Filter die freiheitliche Verbreitung von Wissen einzuschränken drohen: Was nicht mit den politischen und moralischen Ideen der Hersteller übereinstimmt, wird automatisch unterdrückt. Das erinnert ein wenig an das Wahrheitsministerium aus Orwells „1984“.

Gegenmaßnahmen: Es ist wichtig, dass Unternehmen und offizielle Stellen auch unabhängige Projekte fördern und deren Nutzer*innen- sowie Supporter*innen-Basis wächst. Gleichzeitig sollten User*innen es dringend verinnerlichen, dass KI- Assistenten nicht der Wahrheit letzter Schluss sind. Das Nutzen möglichst vieler Quellen, um das eigene Wissen aufzubauen, ist immer besser als ein vermeintlicher „Single Point of Truth“.

Fazit

Wir sind noch lange nicht so weit, dass ein blindes Vertrauen in generative KI zu rechtfertigen ist. Es ist zwar logisch, dass wir eine vermeintlich arbeitserleichternde Technologie erst einmal ungern hinterfragen – doch dieser Bequemlichkeit wohnt, je nach Einsatzzweck, ein erhebliches Schadenspotenzial inne. Zum jetzigen Zeitpunkt lautet also die Maxime, restlos jede von GenAI generierte Antwort genauestens auf den Prüfstand zu stellen.

Der Autor Alain Blaes ist CEO der Münchner Kommunikationsagentur PR-COM (mit Fokus auf High-tech- und IT-Industrie im B2B-Umfeld).

Quantencomputing (QC) ist ein hochinnovatives Feld der Informatik und Physik, das die Prinzipien der Quantenmechanik nutzt, um Datenverarbeitung und -analyse auf eine Weise zu leisten, die mit klassischen Computern nicht möglich ist. Während klassische Computer Informationen in Form von Bits verarbeiten, die entweder den Wert 0 oder 1 annehmen können, verwenden Quantencomputer Quantenbits oder Qubits. Diese Qubits können sich in einem Zustand der Überlagerung befinden, was bedeutet, dass sie gleichzeitig 0 und 1 darstellen können. Dies ermöglicht es Quantencomputern, komplexe Berechnungen viel schneller durchzuführen als ihre klassischen Pendants.

Herausforderungen

Trotz des enormen Potenzials stehen Forschende und Unternehmen vor vielen Herausforderungen. Eine der größten Hürden ist die sog. Dekohärenz, ein Phänomen, bei dem die Quanteninformation durch Wechselwirkungen mit der Umgebung verloren geht. Um stabile und fehlerfreie Quantenberechnungen durchzuführen, müssen Qubits in einem kontrollierten Zustand gehalten werden, was technisch äußerst anspruchsvoll ist.

Eine weitere Herausforderung ist die Skalierbarkeit. Während einige Prototypen von Quantencomputern bereits existieren, stellt der Bau von Systemen mit einer ausreichenden Anzahl von Qubits, um praktische Probleme zu lösen, eine erhebliche technische Herausforderung dar.

Trends

In den letzten Jahren ist ein zunehmender Fokus auf hybride Ansätze zu verzeichnen, bei denen Quantencomputer in Kombination mit klassischen Computern eingesetzt werden, um spezifische Probleme zu lösen. Diese hybriden Systeme nutzen die Stärken beider Technologien und bieten eine praktikable Lösung für viele aktuelle Herausforderungen.

Zudem ist eine wachsende Zusammenarbeit zwischen akademischen Institutionen, großen Tech-Unternehmen und Start-ups zu beobachten. Diese Partnerschaften sind entscheidend, um Wissen und Ressourcen zu bündeln und die Entwicklung von QC-Technologien voranzutreiben. Unternehmen wie IBM, Google oder Microsoft investieren erheblich in Quantenforschung und -entwicklung und bieten Plattformen für Entwickler*innen und Forschenden an, um ihre eigenen Quantenalgorithmen zu testen.

Ein weiterer Trend ist die zunehmende Verfügbarkeit von QC-Diensten über die Cloud. Unternehmen und Forschende können nun auf Quantencomputer zugreifen, ohne in teure Hardware investieren zu müssen. Dies senkt die Eintritts­barrieren und ermöglicht es einer breiteren Palette von Nutzenden, die Möglichkeiten des QCs zu erkunden.

Die Rolle von Start-ups

Start-ups spielen hierbei mit neuen Ideen und Ansätzen eine entscheidende Rolle als Innovatoren und konzentrieren sich zumeist auf spezifische Anwendungen des QCs, sei es in der Materialwissenschaft, der Medikamentenentwicklung, der Lieferkettenlogistik oder der Optimierung komplexer Systeme u.a. in der Finanzwelt.

Die 2024 im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) veröffentlichte Studie „Quantencomputing – Markt, Zugang, Perspektiven“ zeigt: Die Zahl der Start-ups zur Entwicklung von Anwendungssoftware stieg in den letzten Jahren stetig, wobei hardwarespezifische Systemsoftware vorrangig von den Hardwareentwickler*innen selbst bereitgestellt wird. Entfielen im Zeitraum von 2002 bis 2018 weltweit noch rund 58 Prozent der kumulierten Gründungen auf Software- oder Service-zentrierte Start-ups und 42 Prozent auf Hardware- bzw. Komponenten-fokussierte Start-ups, waren es im Zeitraum 2018 bis 2022 rund 74 Prozent mit Fokus auf Software und Services sowie 26 Prozent mit Fokus auf Hardware und Komponenten.

Von weltweit über 150 Start-ups fokussiert sich dabei etwa ein Drittel auf die Entwicklung von Systemsoftware und zwei Drittel auf die Entwicklung von Anwendungssoftware. Deutschland belegt dabei mit knapp 20 Start-ups im Jahr 2023 Platz drei im internationalen Vergleich, hinter den USA und Kanada. Damit hat sich Deutschland als ein Hotspot für QC-Start-ups etabliert.

Deutsche QC-Start-ups mischen ganz vorne mit

Deutsche QC-Start-ups sind oft noch in der Entwicklungsphase, die Gründer*innen kommen meist aus Forschung und Wissenschaft, und ihre Geschäftsmodelle konzentrieren sich auf die Entwicklung und den Verkauf von Hardware, Mikroskopen oder Cloud-basierten QC-Diensten.

Als weltweit erstem Unternehmen ist es dem 2018 gegründeten Start-up kiutra, einem Spin-off der Technischen Universität München, gelungen, eine dauerhafte magnetische Kühlung für Temperaturen nahe des absoluten Nullpunkts zu entwickeln. Statt auf Quantencomputer oder QC-Software, setzen die Gründer Alexander Regnat, Jan Spallek, Tomek Schulz und Christian Pfleiderer auf vollautomatische, äußerst wartungsarme und gut skalierbare Kühlungslösungen, die den Betrieb von Quantentechnologien im industriellen Maßstab ermöglichen.

Rabattaktionen gibt es viele, doch nur wenige Kampagnen schaffen es, sich im dicht gedrängten Markt so klar zu positionieren wie die Golden-Shopping-Days. Was 2020 als Frühjahrsaktion startete, hat sich längst zu einem festen Termin im Kalender zahlreicher Onlineshops und Konsument*innen entwickelt. Hinter der Plattform stehen die Geschäftsführer Jannik und Wladie, die nicht nur eine Gutscheinseite betreiben, sondern eine Art kuratiertes Event geschaffen haben, das zweimal im Jahr zehntägig läuft. Dabei geht es nicht um wahllose Codes, die irgendwo zusammengetragen werden, sondern um exklusive Kooperationen mit inzwischen über 50 Partner*innen – darunter bekannte Marken aus Mode, Food, Gesundheit oder Wohnen.

Neben diesen großen Kampagnen bildet die Plattform inzwischen auch ganzjährig ein starkes Fundament: In der neu geschaffenen Deals-Kategorie finden sich dauerhaft ausgewählte Angebote, und zusätzlich stehen Gutscheine von über 100 Onlineshops bereit. Partner*innen wie Weinfürst, DeinDesign oder HAWESKO verdeutlichen die Vielfalt und den Anspruch, Shoppingvorteile nicht nur saisonal, sondern kontinuierlich zugänglich zu machen.

Das Besondere: Die Rabatte sind zeitlich gebündelt, bewusst inszeniert und für die teilnehmenden Shops ein kalkulierbares Marketinginstrument. Gleichzeitig profitieren die Kund*innen von teils beachtlichen Nachlässen, ohne sich registrieren zu müssen oder Umwege in Kauf zu nehmen. Auch außerhalb der großen Kampagnen finden sich auf der Plattform Gutscheine, doch das eigentliche Herzstück bilden die beiden Aktionszeiträume im Frühjahr und Herbst.

Für Gründer*innen ist Golden-Shopping-Days ein spannendes Beispiel dafür, wie sich ein etabliertes Geschäftsmodell – das Couponing – neu denken lässt. Anstatt in der Masse unterzugehen, setzen die Macher auf Exklusivität, Übersichtlichkeit und klare Kommunikation mit den beteiligten Shops.

Im Interview geben Jannik und Wladie Einblicke in die Entstehungsgeschichte, die Mechanismen hinter den Aktionen und die Herausforderungen, die mit dem Aufbau einer eigenen Marke im Coupon-Segment verbunden sind.

Das Interview

Golden-Shopping-Days gibt es seit 2020. Wie kam es zu der Idee, ausgerechnet eine solche Event-Plattform für Gutscheine aufzubauen?

Jannik: Die Idee ist während des Studiums entstanden. Ich habe nach einer Möglichkeit gesucht, mein Studium zu finanzieren. Auf klassische Werkstudenten-Tätigkeiten hatte ich aber keine Lust und so bin ich irgendwann auf die Idee gekommen, ein Print-Gutscheinheft zu vermarkten. Das erste Heft war schon sehr aufwändig, da ich keinerlei Kontakte zu Onlineshops hatte und so unzählige Telefonate führen musste, um die ersten Shops von meiner Idee zu begeistern. Ein befreundeter Unternehmer hat die erste Auflage für mich gedruckt und auch die Gestaltung des TItelblattes übernommen.

Zwei Kampagnen im Jahr, Frühling und Herbst – warum genau dieses Modell und nicht eine kontinuierliche Rabattflut wie man sie bei anderen Anbietern sieht?

Jannik: Wir haben uns bewusst dazu entschieden im Frühjahr- und Herbst jeweils eine 10-tägige Online-Shoppingkampagne zu veranstalten. Zum Einen ist dies in der Kommunikation für die Konsumenten deutlich einfacher und zum anderen können die teilnehmenden Onlineshops diese fest in ihrem Marktetingmix einplanen und teilweise auch etwas höhere Rabatte gewähren, als es unterjährig sonst der Fall ist.

Welche Kriterien spielen bei der Auswahl der inzwischen über 50 Partnershops eine Rolle? Gibt es klare Vorgaben oder wächst das Netzwerk eher organisch?

Wladie: Wir sind in der Vergangenheit sehr organisch gewachsen und konnten von Kampagne zu Kampagne mehr Onlineshops von der Teilnahme an unserem Konzept begeistern. Klare Vorgaben haben wir nicht. Die teilnehmenden Onlineshops müssen allerdings schon eine gewisse Wertigkeit haben.

Auffällig ist, dass viele Deals exklusiv verhandelt wirken. Wie läuft dieser Prozess im Detail ab – geht es eher um klassische Affiliate-Strukturen oder um direkte Partnerschaften?

Jannik: Mit allen Shops, die an unseren Shoppingevents im Frühjahr und Herbst teilnehmen pflegen wir direkte Partnerschaften. Wir sind darauf bedacht für alle Shoppingbegeisterten die besten Gutscheine und Angebote zu verhandeln.

2025 steht die nächste große Herbstkampagne an und auch die nächste Frühjahrskampagne ist bereits in Planung. Wie bereitet ihr euch auf solche zehn Tage konkret vor, und was bedeutet das organisatorisch im Hintergrund?

Wladie: In der Regel brauchen wir gut ein halbes Jahr Vorbereitungszeit je Kampagne. Wir überlegen uns stets neue Features, um sowohl den Onlineshops als auch den Konsument*innen immer wieder neue Features zu bieten, die einen echten Mehrwert darstellen.

Manche Branchen – etwa Food, Mode oder Gesundheit – sind stark vertreten. Gibt es Bereiche, die ihr bewusst ausklammert, oder ist die Plattform prinzipiell offen für alle Segmente?

Jannik: Wir sind für viele Segmente offen, aber längst nicht für alle. Einen Onlineshop für Waffen wird man bei uns beispielsweise nicht finden.

Couponing ist für Shops ein Marketinginstrument, das nicht nur Umsatz bringen, sondern auch Markenbindung schaffen kann. Wie stellt ihr sicher, dass Golden-Shopping-Days nicht als reine Rabattschleuder wahrgenommen wird?

Wladie: Wir distanzieren uns ganz bewusst und schaffen an vielen Stellen Mehrwerte. Die Veröffentlichung von Gutscheinen stellt nur einen kleinen Teil unseres Geschäftsmodells dar. Mittlerweile fungieren wir vielmehr als Contentplattform. In unserem digitalen Magazin veröffentlichen wir regelmäßig Testberichte und Experteninterviews, auf YouTube publizieren wir Unboxing- und Testvideos - kurz gesagt: Wir schaffen echte Mehrwerte.

Ihr betont, dass Gutscheine bei euch auch außerhalb der Aktionszeiträume verfügbar sind. Wie wichtig ist diese ganzjährige Präsenz für die Markenbildung?

Jannik: Wir wollen unserer Community rund um die Uhr die besten Gutscheine und Angebote bieten. Deshalb ist es natürlich sehr wichtig, dass wir dies auch an 365 Tagen im Jahr gewährleisten können. Wir sind stets im Kontakt mit den Onlineshops, die sich und ihre Angebote bei uns auf der Plattform präsentieren, um die besten Gutscheine und Deals zu verhandeln. Viele Gutscheine sind nur exklusiv bei uns erhältlich.

Ein Blick nach vorn: Welche Rolle soll Golden-Shopping-Days in den nächsten fünf Jahren im deutschen E-Commerce spielen?

Jannik: Eine führende. **lacht**

Vielen Dank, Jannik und Wladie, für die offenen Einblicke in eure Arbeit und die Hintergründe der Golden-Shopping-Days.

Das KI-Gesetz der Europäischen Union, die weltweit erste umfassende KI-Verordnung, erreicht am 2. August 2025 einen entscheidenden Meilenstein. Ab diesem Stichtag gelten für Unternehmen, Behörden und KI-Anbieter*innen in der EU zahlreiche zentrale Verpflichtungen, bei deren Nichteinhaltung Strafmaßnahmen eingeleitet und verhängt werden können. Was das für Unternehmen und ihre Mitarbeitenden bedeutet, erfährst du hier.

Der AI Act, der am 2. Februar dieses Jahres in Kraft getreten ist, schafft einen einheitlichen Rechtsrahmen für Künstliche Intelligenz (KI) in der EU. Zwar werden viele Regelungen erst 2026 wirksam, doch bereits am 2. August 2025 beginnt eine neue Phase, die sich auf drei Bereiche fokussiert:

• Strafmaßnahmen bei Nichteinhaltung
• Verpflichtungen für allgemeine General-Purpose-AI-Modelle (GPAI)
• Aufbau von Aufsicht und Governance auf nationaler und europäischer Ebene

Strafen bis zu 35 Millionen Euro

Seit dem 2. Februar dieses Jahres sind KI-Systeme mit unannehmbaren Risiken verboten. Ab dem 2. August 2025 können zusätzlich nun Geldbußen für Verstöße gegen bereits bestehende Verpflichtungen verhängt werden, die bis zu 35 Millionen Euro oder 7 Prozent ihres gesamten Jahresumsatzes betragen können. Unternehmen müssen dazu beispielsweise sicherstellen, dass ihre Mitarbeitenden über KI-Kenntnisse verfügen. Die Europäische Union erwartet von ihren Mitgliedstaaten, dass sie eigene wirksame, verhältnismäßige und abschreckende Strafmaßnahmen festlegen. Dabei sollen die besonderen Umstände von KMUs und Start-ups berücksichtigt werden, um deren wirtschaftliche Lebensfähigkeit nicht zu gefährden.

Neue Verpflichtungen für Anbieter*innen von GPAI-Modellen

GPAI-Modelle, die ab dem 2. August 2025 in der Europäischen Union vermarktet werden, unterliegen gesetzlichen Verpflichtungen. Das Europäische Amt für Künstliche Intelligenz hat dazu am 10. Juli 2025 die endgültige Fassung der Verhaltenskodizes veröffentlicht. Anbieter*innen solcher GPAI-Modelle müssen unter anderem technische Dokumentationen erstellen, Urheberrechte beachten und Transparenz über die verwendeten Trainingsdaten sicherstellen.

GPAI-Modelle sind KI-Systeme mit besonders breitem Einsatzspektrum und sind darauf ausgelegt, eine Vielzahl von Aufgaben zu erfüllen. Sie werden mit riesigen Datenmengen trainiert und sind entsprechend vielseitig einsetzbar. Das bekannteste Beispiel sind große Sprachmodelle (Large Language Models, LLM), etwa das generative Sprachmodell GPT-4o, das in ChatGPT integriert ist. Für GPAI-Modelle, die bereits vor dem 2. August 2025 in der Europäischen Union auf dem Markt waren, gilt eine Übergangsfirst bis zum 2. August 2027.

Aufsicht und Governance

Die KI-Verordnung schafft einen Rahmen mit Durchführungs- und Durchsetzungsbefugnissen auf zwei Ebenen.

Auf nationaler Ebene muss jeder EU-Mitgliedstaat bis zum 2. August 2025 mindestens eine Marktüberwachungsbehörde sowie eine notifizierende Behörde benennen. Erstere ist für die Überwachung von KI-Systemen zuständig, letztere für die Notifizierung unabhängiger Konformitätsbewertungsstellen. Die Mitgliedstaaten müssen bis dem Stichtag Informationen zu den nationalen Behörden und deren Kontaktdaten veröffentlichen.

Auf EU-Ebene koordinieren das Europäische Amt für KI und der Europäische KI-Ausschuss die Aufsicht. Zusätzlich werden ein Beratungsforum und ein wissenschaftlicher Ausschuss aus unabhängigen Experten eingerichtet.

Was bedeutet das für Personalabteilungen und Arbeitnehmende?

Das KI-Gesetz hat direkte Auswirkungen darauf, wie KI in den Bereichen Rekrutierung, Performance-Management, Personalanalyse und Mitarbeitenden-Monitoring eingesetzt wird. Personalverantwortliche müssen sicherstellen, dass KI-Tools in diesen Bereichen transparent, fair und konform sind.

• Fairness und Antidiskriminierung: KI-Systeme, die bei Einstellungs- oder Beförderungsentscheidungen eingesetzt werden, müssen nachvollziehbar und frei von Bias sein. Personalabteilungen sollten ihre Tools und Anbieter*innen regelmäßig überprüfen, um die Einhaltung der Vorschriften sicherzustellen.
• Vertrauen und Transparenz: Mitarbeitende erhalten einen besseren Einblick, wie KI-Systeme ihre Arbeit beeinflussen, zum Beispiel bei der Einsatzplanung, Leistungsbewertung oder bei der Arbeitssicherheit. Personalabteilung können Vertrauen schaffen, indem sie offen kommunizieren, wie KI eingesetzt wird und wie die Daten der Mitarbeitenden geschützt werden.
• Verantwortlichkeit von Drittanbieter*innen: Werden KI-Tools von Drittanbieter*innen genutzt, müssen Personalabteilungen sicherstellen, dass diese Anbieter*innen die Anforderungen an Transparenz und Dokumentation erfüllen. Verträge und Beschaffungsprozesse sollten entsprechend angepasst werden.
• Training und Change Management: Mit stärkeren Regulierungen von KI wird die Personalabteilung eine Schlüsselrolle bei der Schulung von Führungskräften und Mitarbeitenden übernehmen. Ziel ist es, einen verantwortungsvollen Umgang mit KI zu fördern und ethische Standards in der Unternehmenskultur zu verankern.

Fazit

Anbieter*innen von GPAI-Modellen, die bereits vor dem 2. August 2025 auf dem Markt waren, haben bis zum 2. August 2027 Zeit, die neuen Vorschriften vollständig umzusetzen. Weitere Verpflichtungen für KI-Systeme mit hohem Risiko werden 2026 und 2027 folgen. Dieser Meilenstein spiegelt das Bestreben der EU wider, Innovationen zu fördern und gleichzeitig sicherzustellen, dass KI sicher, transparent und mit den europäischen Werten im Einklang steht. Damit rückt die Personalabteilung in den Mittelpunkt einer verantwortungsvollen Einführung von KI am Arbeitsplatz.

Der Autor Tom Saeys ist Chief Operations Officer bei SD Worx, einem international tätigen Dienstleistungsunternehmen im HR-Bereich.

Menschenähnliche Roboter gelten als die nächste große Innovation in der Robotik: Der weltweit größte Markt für Industrieroboter, China, hat bereits konkrete Pläne für die Massenproduktion von Humanoiden festgelegt. Gleichzeitig kündigten Technologieunternehmen in den USA und Europa große Investitionsvorhaben in diesem Bereich an. Die Vision ist, Allzweckroboter zu entwickeln, die auf menschlicher Mechanik basieren. Einblicke in Trends, Chancen und mögliche Grenzen humanoider Roboter bietet das neue Positionspapier der International Federation of Robotics.

„Futuristisch anmutende humanoide Roboter, die in unserem Zuhause, in Unternehmen und in der Öffentlichkeit arbeiten, faszinieren die Menschen“, sagt Takayuki Ito, Präsident der International Federation of Robotics. „Da die Welt in der wir leben auf den menschlichen Körper zugeschnitten ist, liegt die Idee eines schnellen, universellen Helfers in der Produktion und bei Dienstleistungen auf der Hand. Ob und wann es aber zu einer massenhaften Nutzung von Humanoiden kommen wird, bleibt ungewiss. Nicht zu erwarten ist jedenfalls, dass Humanoide in Zukunft die derzeit auf dem Markt befindlichen Robotertypen ersetzen. Stattdessen werden sie bestehende Technologien ergänzen und erweitern.“

Einsatz von Humanoiden in den Regionen

In den Vereinigten Staaten arbeiten Tech-Unternehmen wie NVIDIA, Amazon und Tesla intensiv an KI- und Robotertechnologien. Neben der Finanzierung durch das Militär wird diese Entwicklung auch durch zahlreiche private Investitionen unterstützt. Das führt zu einer bedeutenden Start-up-Szene, die sich auf humanoide Roboter spezialisiert. Besonders groß ist das Interesse an Humanoiden in Branchen wie der Logistik und in der Fertigung. Dabei werden humanoide Roboter weniger als soziale Begleiter gesehen, sondern eher als Werkzeuge, die dabei helfen, Produktivität und Effizienz zu steigern. So liegt der Schwerpunkt verstärkt auf praktischen Anwendungen und weniger auf der Integration von Robotern in das tägliche soziale Leben.

In China nehmen die Humanoiden eine zentrale Stellung in der nationalen Robotik-Strategie ein. Die Regierung möchte in diesem Technologiebereich Kompetenz und globale Wettbewerbsfähigkeit unter Beweis stellen. Der Einsatzschwerpunkt liegt dabei im Dienstleistungssektor, beispielsweise für die Kundenbetreuung. Die Automatisierung von Produktionslinien in der Fertigung und der Einsatz von Humanoiden, um weniger von menschlichen Arbeitskräften abhängig zu sein, scheint nur auf zweiter Ebene wichtig zu sein. Kernelement der chinesischen Strategie ist der Aufbau einer skalierbaren Lieferkette für Schlüsselkomponenten.

Japan ist ein Pionier in der Entwicklung humanoider Roboter. Als frühes Beispiel wurde Hondas Asimo bereits im Oktober 2000 vorgestellt. Roboter werden in Japan eher als Gefährten, denn als bloße Werkzeuge gesehen. Humanoide Roboter wie Pepper und Palro sind demzufolge in erster Linie als Sozialroboter konzipiert und kommen in Bildungseinrichtungen, Geschäften und Altenpflegeeinrichtungen zum Einsatz. Diese Ausrichtung spiegelt die Nachfrage einer alternden Gesellschaft wider, mit der Japan konfrontiert ist. Ein wichtiger Schwerpunkt der Projekte liegt auf Robotern, die harmonisch mit Menschen zusammenleben können und als Teil der Gesellschaft akzeptiert sind. Führende Unternehmen wie Kawasaki entwickeln humanoide Roboter als eine Forschungsplattform.

In Europa wird auf die ethischen Implikationen von Robotik und KI besonderes viel Wert gelegt. Im Fokus stehen kollaborative Roboter, die im industriellen Umfeld mit Menschen zusammenarbeiten. Kernthemen sind die Verbesserung der Sicherheit und Effizienz und die Nachahmung menschlicher Fähigkeiten. Die Arbeitskraft von Menschen zu kompensieren, steht dagegen nicht im Fokus. Der Schwerpunkt liegt vielmehr auf einem menschenzentrierten Design und den sozialen und gesellschaftlichen Auswirkungen von Robotern. Die europäischen Unternehmen stehen dem Einsatz von Humanoiden generell eher zurückhaltend gegenüber, wenn es um die kurz- bis mittelfristigen Automatisierungsaufgaben im Fertigungs- und Dienstleistungssektor geht.

+++ Ein bahnbrechendes Robotik Start-up aus Deutschland ist NEURA-Robotics: Hier geht’s zu unserer Gründerstory von NEURA Robotics +++

Ausblick

Dank ihrer menschenähnlichen Geschicklichkeit und Anpassungsfähigkeit sind die Humanoiden prädestiniert, komplexe Aufgaben zu automatisieren, mit denen heutige Roboter durch herkömmliche Programmiermethoden Schwierigkeiten haben. Einen massenhaften Einsatz als universelle Haushaltshelfer dürfte es jedoch kurz- bis mittelfristig nicht geben.

Das POSITION PAPER Humanoid Robots - Vision and Reality von IFR gibt's hier zum freien Download

Ob steuerliche Forschungszulage, Investitionsförderung oder EU-Programme. Künstliche Intelligenz (KI) wie ChatGPT liefert in Sekundenschnelle eine Vielzahl möglicher Förderprogramme. Doch zwischen der reinen Information und der tatsächlichen Erschließung von Fördermitteln liegt ein erheblicher Unterschied. Hier gilt es, Unternehmen zu sensibilisieren.

Fördermittel sind heute ein strategischer Bestandteil moderner Unternehmensfinanzierung. Es reicht daher nicht, die Programme zu kennen. Entscheidend ist, sie rechtssicher, vollständig und förderlogisch aufeinander abgestimmt umzusetzen, um die vollen Förderpotenziale zu heben. Genau hier beginnt die Arbeit von Fördermittelexpert*innen.

Fünf Gründe, warum KI-Tools nicht als Fördermittelberater funktionieren

1. KI erkennt die wahren Förderpotenziale nicht

ChatGPT kann erklären, was ein Förderprogramm leistet. Doch welche Kosten eines konkreten Vorhabens tatsächlich und wie hoch förderfähig sind, lässt sich so nicht beurteilen. Gerade bei komplexen Programmen wie der steuerlichen Forschungszulage sind Erfahrung, Struktur und rechtssichere Abgrenzung entscheidend. Eine gute Fördermittelberatung prüft jedes Vorhaben systematisch: von der Förderfähigkeit nach dem Forschungszulagengesetz (FZulG), AGVO oder De-minimis-Verordnung bis hin zur klaren Trennung förderfähiger und nicht förderfähiger Aufwände.

2. KI kann keine Förderstrategien entwickeln

Eine Liste von Förderprogrammen ersetzt keine Strategie. KI kann nur Optionen nennen, aber keine Strategien zur Umsetzung im Unternehmen entwickeln. Eine gute Fördermittelberatung integriert die Forschungszulage sinnvoll in laufende Projekte und strukturiert Innovations- sowie Investitionsprozesse auf Bundes-, Landes- und EU-Ebene. So entstehen nicht nur Optionen, sondern belastbare, wirtschaftlich wirksame Lösungen.

3. KI kann nicht mit Menschen kommunizieren

Ein Antrag ist mehr als ein Formular. Er muss Anforderungen erfüllen und überzeugen. KI liefert Textbausteine, aber führt keine Gespräche und reagiert nicht auf Rückfragen mit der notwendigen Erfahrung in der Verwaltungspraxis der verschiedenen Förderprogramme. Eine gute Fördermittelberatung übernimmt die gesamte Kommunikation mit Förderstellen, koordiniert mit Bescheinigungsstellen und entwickelt formal korrekte und überzeugende Argumentationen.

4. KI endet beim Prompt – Fördermittelberatung bei der erfolgreichen Projektprüfung

Nach dem Antrag geht die Arbeit oft erst richtig los. Rückfragen, Prüfungen, Nachweise. KI kann Unternehmen dabei nicht unterstützen und keine Verantwortung übernehmen. Eine gute Fördermittelberatung hingegen begleitet die Kund*innen durch den gesamten Förderzyklus mit sauberer Dokumentation, revisionssicherer Aufbereitung und Unterstützung bei Audits und Außenprüfungen.

5. KI zeigt nur den Dschungel – Förderexperten finden den Schatz

Datenbanken geben einen Überblick, aber keine Richtung. Eine gute Fördermittelberatung bewertet alle denkbar möglichen Förderprogramme im konkreten Unternehmenskontext und entwickelt daraus konkrete Maßnahmen, um das Maximum an Fördermöglichkeiten für die Kund*innen rauszuholen. Eine gute Fördermittelberatung schafft so echte wirtschaftliche Vorteile statt der bloßen Auflistung von Fördermöglichkeiten.

Der Autor Efe Duran Sarikaya ist CEO der Fördermittelberatung EPSA Deutschland.

Die Idee, dass autonome Systeme eng mit Menschen zusammenarbeiten und sie gezielt unterstützen, ist keine Vision mehr, sondern Realität. Während bisher eine umfassende Problemlösungskompetenz im Hintergrund fehlte, bringen KI-Agenten genau diese Fähigkeit mit und übernehmen zunehmend vielfältige Aufgaben in der Arbeitswelt. Wir erklären, was Unternehmen über KI-Agenten wissen müssen.

Was sind KI-Agenten und auf welcher Technologie basieren sie?

KI-Agenten sind Softwaresysteme, die eigenständig Aufgaben ausführen, aus Erfahrungen lernen und dynamisch mit ihrer Umgebung interagieren. Ihr Ziel ist es, Aufgaben autonom zu lösen, ohne dass ein kontinuierliches menschliches Eingreifen notwendig ist. Im Unterschied zu herkömmlichen Automatisierungslösungen bewältigen KI-Agenten selbst komplexe Anforderungen, indem sie sich an neue Bedingungen anpassen. Auch werden sie im Gegensatz zu universellen LLMs in der Regel fein abgestimmt, um Relevanz und Datenschutz zu gewährleisten. Sinnvoll ist eine kontextbezogene Architektur, die kausale KI, Document AI und multimodale Logik kombiniert und damit optimal auf geschäftliche Anwendungsfälle zugeschnitten ist.

In welchen Bereichen der Arbeitswelt entfalten KI-Agenten ihr Potenzial?

KI-Agenten finden in nahezu allen Unternehmensbereichen Einsatzmöglichkeiten – von der Beantwortung einfacher Anfragen bis hin zur Steuerung komplexer Prozesse. Eingebettet in CRM-Plattformen analysieren sie riesige Datenmengen, die Unternehmen manuell nicht mehr auswerten können. Anstatt die Ergebnisse lediglich zu präsentieren oder Kontakte nach Prioritäten zu sortieren, qualifizieren KI-Agenten auch noch automatisch Leads, schlagen passende Angebote vor und beantworten Kundenanfragen. Oder anders formuliert: Während herkömmliche Tools in der Regel auf statischen Wenn-dann-Regeln basieren, führt die neue Generation hyperpersonalisierte Aktionen nahezu in Echtzeit aus. Diese Entwicklung entlastet Mitarbeiter von Routineaufgaben und gibt ihnen Raum, sich auf strategisch wichtige Aufgaben zu konzentrieren. Unternehmen wiederum können ohne großen Aufwand Tausende von Kunden individuell betreuen.

Werden KI-Agenten den Arbeitsmarkt verändern?

Diese Frage lässt sich nicht pauschal beantworten. Es entstehen durch den verstärkten Einsatz von KI-Lösungen neue Berufsfelder – insbesondere bei der Entwicklung, Integration und Wartung solcher Agentensysteme werden qualifizierte Fachkräfte benötigt. Gleichzeitig stellt sich die Herausforderung, bestehende Mitarbeitende gezielt im Umgang mit diesen Technologien weiterzubilden und deren digitale Kompetenzen auszubauen. Eines muss klar sein: Das Ziel von KI-Agenten ist es nicht, menschliche Arbeitskraft zu ersetzen, sondern deren Fähigkeiten zu erweitern. Mitarbeitende können sich somit stärker auf komplexe Kundeninteraktionen oder die Entwicklung innovativer Kampagnen konzentrieren, während ihnen die KI zur Hand geht.

Worauf müssen Unternehmen bei der Auswahl von KI-Agenten-Lösungen achten?

In erster Linie benötigen sie eine digital ausgereifte Umgebung mit einheitlichen Datenformaten, optimierten Prozessen und regelbasierten Automatisierungen, um den ROI steigern zu können. Anschließend müssen sie sicherstellen, dass ihre KI-Systeme den geltenden Datenschutzbestimmungen entsprechen und sensible Kund*innendaten optimal geschützt sind. Transparenz und Nachvollziehbarkeit der KI-Entscheidungen sind ebenfalls essenziell, um das Vertrauen von Kunden und Mitarbeitenden nicht zu gefährden. Auf technischer Seite ist eine interoperable Lösung notwendig, die sich so nahtlos wie möglich in die bestehende IT-Umgebung integrieren lässt. Zu den weiteren Aspekten zählen die Priorisierung der kontextuellen Abstimmung, da Agenten geschäftsspezifische Arbeitsabläufe und Datenformate verstehen müssen, sowie die Nutzung eines Federated-Model-Ansatzes statt einheitlicher LLM-Frameworks, um Effizienz, Erklärbarkeit und Kosten zu optimieren.

Wie binden Unternehmen ihre Mitarbeitenden am besten ein?

Zunächst einmal ist ein grundlegendes Change Management erforderlich. Die Mitarbeiterinnen und Mitarbeiter müssen verstehen, dass die KI ihnen nicht die Arbeit wegnimmt, sondern sie unterstützen soll. Sinnvoll ist auch ein Low-Code-Ansatz: Maßgeschneiderte KI-Applikationen und automatisierte Workflows steigern die Arbeitseffizienz in Abteilungen um ein Vielfaches – sogar Mini-Anwendungen, die lediglich einfache Aufgaben übernehmen. Jedoch können zentrale IT-Abteilungen, die mit Entwicklungsanfragen aus verschiedenen Abteilungen überhäuft werden, diese kaum bewältigen. Mit einer Low-Code-Application-Plattform (LCAP) können auch Mitarbeiter ohne Programmierkenntnisse einfache KI-Anwendungen selbst erstellen. Möglich machen das einfache Drag-and-Drop-Optionen und vorgebaute Module, die je nach Wunsch kombinierbar sind.

Fazit

KI-Agenten sind als kollaborative Partner zu verstehen, nicht als Ersatz für den Menschen. Künftig werden wir eine Multi-Agent Collaboration sehen. Hierbei übernehmen verschiedene KI-Agenten jeweils Spezialaufgaben und koordinieren sich untereinander, um selbst die komplexesten Herausforderungen effizient zu lösen.

Der Autor Sridhar Iyengar ist Managing Director von Zoho Europe.

Ein Start-up aus München denkt Europas Sicherheit neu – mit modularen Robotern, digitalen Aufklärungssystemen und einem iterativen Entwicklungsansatz, der hinsichtlich Flexibilität und Geschwindigkeit in der Branche neue Maßstäbe setzt. „Wir nutzen das transformative Potenzial von Robotik und KI, um die Leistungsfähigkeit der europäischen Landstreitkräfte zu stärken“, sagt Marc A. Wietfeld, Mitgründer und CEO von ARX Robotics in München. „Mit unserem Betriebssystem Mithra OS ermög­lichen wir fernoperierbare, kettenbetriebene Landfahrzeuge sowie die Digitalisierung bestehender Flotten.“

Die Roboter entstehen auf einer einheitlichen technologischen Plattform mit flexiblem, modularem Aufbau. Sie lassen sich einfach anpassen und aufrüsten, was das Einsatzspektrum enorm erweitert. „Unsere Plattform ist wie das Schweizer Taschenmesser für Militäreinsätze“, so der Gründer. Neben der Hardware und dem KI-gestützten Betriebssystem liefert das Start-up auch Schnittstellen, um bestehende analoge Rüstungstechnologie und softwaregetriebene Systeme zu integrieren.

Drei Offiziere nehmen die Entwicklung selbst in die Hand

Gegründet wurde ARX Robotics von drei ehemaligen Bundeswehroffizieren. Marcs Weg begann mit einer Schlosserlehre, bevor er 2010 für den Wehrdienst eingezogen wurde. Damals konnte er kaum glauben, wie veraltet die Technologie der Truppe war. „Eine Playstation hatte bessere Software als viele Waffensysteme, und Drohnen aus dem Elektrofachmarkt waren leistungsfähiger als die im Kampfeinsatz.“ Während Marc in New York ein militärisches Programm absolvierte, lernte er Maximilian (Max) Wied kennen, der zu dieser Zeit an der Militärakademie West Point studierte. Beide hatten den Innovationsstau jahrelang erlebt und durch ihre Zeit in der Kampftruppe die Realität von Häuser-, Wald- und Grabenkämpfen hautnah kennengelernt.

In Robotik und Automatisierung sahen sie enormes ungenutztes Potenzial, um Soldat*innen zu schützen und Einsätze effizienter zu gestalten. „Am Anfang ging es uns gar nicht darum, Roboter zu bauen“, so Marc, „sondern darum, wie wir neue Technologie schneller in die Hand der Soldatinnen und Soldaten bekommen.“ Rund zwei Jahre arbeiteten sie am Konzept und an der Umsetzung. Die ersten Prototypen entstanden in Eigenregie, finanziert aus privaten Mitteln.

Stefan Röbel stieß dazu, als klar wurde, dass aus dem Projekt ein Unternehmen werden sollte. Neben dem militärischen Hintergrund bringt er Erfahrung im Aufbau und in der Skalierung von Start-ups mit. Zuvor war Stefan bereits bei Tech-Unternehmen an Bord, darunter Amazon, ASOS und Grover, wo er den Weg von der Series-A-Finanzierung bis zum Unicorn begleitete.

Als die Ersparnisse aufgebraucht waren, erhielt das Gründungsteam Unterstützung vom Innovation Hub der Bundeswehr und der Universität der Bundeswehr in München. Ende 2022 gründeten die drei schließlich ihr Unternehmen.

Die Brücke zur vernetzten Zukunft des Militärs

ARX Robotics füllt eine kritische Lücke in der militärischen Technologielandschaft, zwischen der analogen Vergangenheit und der softwaregesteuerten Zukunft. Viele bestehende Systeme wie etwa Panzer, Transportfahrzeuge und Helikopter operieren noch weitgehend analog und damit isoliert voneinander. Doch bewaffnete Konflikte werden heute vernetzt, KI-gestützt und mithilfe unbemannter Systeme entschieden. Die militärische Ausrüstung ist in vielen Ländern Europas noch nicht auf der Höhe der Zeit. „Mit unseren Lösungen bauen wir die Brücke zwischen den beiden Welten“, sagt Marc.

ARX Robotics überträgt die moderne technologische Architektur auf bestehende Militärfahrzeuge. Die analogen Bestandssysteme werden damit robotisiert, sodass sie mit modernen Drohnen und digitalen Einheiten zusammenarbeiten können – ein entscheidender Faktor für die Digitalisierung der Landstreitkräfte und Interoperabilität. „Früher war das Militär die Technologieschmiede der Gesellschaft, doch in den 1980er-Jahren hat die zivile Forschung die Streitkräfte überholt, auch bei den sicherheits­relevanten Anwendungen“, so Marc.

Die etablierte Verteidigungsindustrie hat sich unterdessen auf immer komplexere und schwerfällige Großsysteme konzentriert. Bei einem größeren militärischen Entwicklungsprojekt ist in der Regel der gesamte militärische Apparat involviert, mit Planungs- und Beschaffungsämtern, langen Prozessen und seitenlangen Anforderungskatalogen. Erhält ein Ausrüster den Zuschlag, bekommt dieser Steuergelder, um einen Prototyp zu bauen „Die Entwicklung neuer Plattformen dauert dadurch oft ein Jahrzehnt, und die Produktion braucht weitere fünf Jahre“, sagt Marc. Schon bei der Indienststellung ist das Material zwangsläufig technologisch veraltet. ARX Robotics will den Prozess vom Kopf auf die Füße stellen. „Wir sind davon überzeugt, dass unsere Systeme den Soldatinnen und Soldaten im Einsatz sofort Mehrwert liefern“, so Marc. „Darum übertragen wir die neuen Technologien so schnell wie möglich ins Militär.“

Zurückhaltende Investor*innen und hohe Eintrittsbarrieren

Der Weg zur ersten externen Finanzierung war jedoch alles andere als einfach. „Kaum ein Risikokapitalgeber hat sich 2022 für DefenseTech und Hardware interessiert“, sagt Marc. Unter europäischen VCs dominierte das Dogma, dass nur Software skalierbar sei, idealerweise als SaaS-Modell. „Als Start-up mit einer physischen Technologie, noch dazu geführt von drei Soldaten ohne Gründungserfahrung, passten wir nicht ins Schema“, erinnert sich Marc.

Zudem war das Thema Verteidigung als Investment noch sehr negativ behaftet. VCs wollten nicht in Systeme investieren, die potenziell im Kampfeinsatz genutzt werden können. Sie sorgten sich um das öffentliche Bild und mögliche Bedenken institutioneller Geldgeber*innen. Mitte 2023 konnte ARX Robotics dann mit dem Risikokapitalgeber Project A Ventures als Lead Investor die Seed-Finanzierungsrunde schließen.

„Die anfänglich größte Hürde für uns war, nicht als Start-up, sondern als ernstzunehmender Anbieter wahrgenommen zu werden“, so Marc. Der Rüstungsmarkt ist stark konsolidiert und protektiv. Etablierte Player wie Rheinmetall, BAE Systems oder Krauss-Maffei Wegmann arbeiten seit Jahrzehnten fest mit ihren Kund*innen zusammen und bewegen sich in gewachsenen Strukturen. „Das Vertrauen der Streitkräfte zu gewinnen und die Beteiligung an einem großen Rüstungsprojekt zu erhalten, ist eine Schallmauer, die nur sehr wenige Start-ups durchbrechen“, sagt Marc.

Iterative Entwicklung und Tests im Feld

ARX Robotics punktet im Markt unter anderem mit dem radikal nutzer*innenzentrierten Entwicklungsansatz. Das Team setzt auf schnelle Iterationen mit voll funktionsfähigen Proto­typen. Diese werden von Soldat*innen zeitnah getestet, häufig direkt in der Kampfzone. Das Feedback fließt sofort in die Weiterentwicklung ein, sodass in kürzester Zeit gebrauchsfertige Systeme entstehen. Der Fokus in der Entwicklung liegt stets auf der Software. „Das Betriebssystem ist der Kern unserer Lösungen, ob es am Ende einen Roboter oder einen Panzer steuert, ist zweitrangig“, sagt Marc.

Anders als der Wettbewerb setzt ARX Robotics auf offene Schnittstellen, modulare Komponenten und flexible Integra­tion. Die großen Rüstungsfirmen mit ihren etablierten, geschützten Ökosystemen können dieses Modell nur schwer adaptieren. Stattdessen setzen sie auf Partnerschaften.

Mit Rheinmetall zum Beispiel arbeiten die Gründer derzeit an mehreren Projekten, und Daimler nutzt die ARX-Technologie, um die gesamte militärische Fahrzeugflotte zu digitalisieren. Um sicherzustellen, dass das Know-how und die Technologie in europä­ischer Hand bleiben, hat das Team frühzeitig den NATO Innovation Fund mit ins Boot geholt.

Die Luft auf dem hohen moralischen Ross, auf dem Deutschland vorreitet und Europa folgt, wird dünner und dünner. Ja, der EU AI Act ist eine Errungenschaft. Und ja, ethische Grundsätze sollten wir keinesfalls missachten, wenn es darum geht, künstliche Intelligenz zu entwickeln, zu betreiben und zu verwenden. Fair enough. Doch darf’s vielleicht trotzdem ein bisschen weniger Bürokratie sein, liebe EU? Artikel 5 des KI-Regelwerks der EU besagt beispielsweise, dass die folgende KI-Praktik verboten ist: „Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das unterschwellige Techniken, die sich dem Bewusstsein einer Person entziehen, oder absichtlich manipulative oder täuschende Techniken einsetzt, mit dem Ziel oder der Wirkung, das Verhalten einer Person oder einer Personengruppe dadurch wesentlich zu beeinflussen, dass ihre Fähigkeit, eine sachkundige Entscheidung zu treffen, spürbar beeinträchtigt wird, wodurch sie veranlasst wird, eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätte, und zwar in einer Weise, die dieser Person, einer anderen Person oder einer Personengruppe einen erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird.“ (Kapitel II, Artikel 5, 1a)

Sperrig und überregulatorisch

Verstanden worum es geht? Ich auch nicht. Ähnlich sperrig und überregulatorisch ist der Abschnitt über sogenannte Hochrisiko-KI-Systeme formuliert. Gemeint sind damit jene KI-Anwendungen, die etwa im Gesundheitswesen, in der Bildung oder kritischen Infrastrukturen eingesetzt werden sollen – also genau den Bereichen, wo sie dringend benötigte Verbesserungen und Entlastungen für die in diesen Bereichen arbeitenden Menschen mit sich bringen könnten. Was genau mit Hochrisiko gemeint ist, ist allerdings wieder nicht glasklar definiert: was hat denn nun „erheblichen Einfluss auf Grundrechte“? Diese Unsicherheit im Hinblick auf die rechtliche Grundlage ist oft Grund genug für potenzielle Investoren, sich nach anderen Gelegenheiten umzusehen. Wer will schon exorbitante Kosten für juristische Verfahren locker machen und Zertifizierungen noch und nöcher erwerben, nur um am Ende dann möglicherweise doch gegen geltende Gesetze zu verstoßen? Eben.

Start-ups sind von Hürden überproportional heftig betroffen

Gerade kleine und mittelständische Unternehmen (KMU) sowie Start-ups sind von diesen Hürden überproportional heftig betroffen, sodass viele gute und wegweisende Ideen nicht oder zumindest nicht hier in der EU auf den Weg gebracht werden. Wirtschaftlich ist das fatal – das auch noch in diesen schwierigen Zeiten. In diesen Zeiten wäre es eigentlich wichtig, die Wirtschaft voranzutreiben, insbesondere in zukunftsweisenden Bereichen wie dem KI-Markt. Eine gute Möglichkeit wäre, die Technologie hierzulande staatlich zu subventionieren, wie das in den USA und in China bereits in großem Stil passiert. Stattdessen werfen wir uns selbst Stöcke in die Speichen unserer Räder – unter anderem mit Regulierung und ethischen Grundsätzen, sondern insbesondere durch schwammige Gesetzestexte und Undurchsichtigkeit von Compliance-Vorschriften.

Zusammenfassend ist festzustellen, dass die alte Forderung „rebellischer“ (mancher würde sagen: „vernünftiger“) Politiker, Bürokratie abzubauen, selten so eine hohe Relevanz wie aktuell hatte. Europa geht es wirtschaftlich schlecht, gleichzeitig verlassen High-Tech-Unternehmen scharenweise unsere Breitengerade, da das Regulierungskorsett so eng geschnürt ist, dass Innovation keine Luft mehr zum Atmen hat. Es gilt also, Maßnahmen zu ergreifen, um wettbewerbsfähig zu werden.

Was könnte die EU nun machen, da das Regulations-Kind in den Brunnen gefallen ist?

Zunächst einmal wäre es hilfreich, aus unserem Elfenbeinturm herauszukommen. Ethik ist wichtig, aber kein Altar, auf dem wir unsere Wirtschaft opfern sollten. Haben wir das verinnerlicht, braucht der EU AI Act eine Überarbeitung die Unklarheiten auflöst und die Hürden (gerade für Start-ups und KMU) verringert. Sinnvoll wäre zudem, wenn die EU KI-Sandboxes zur Prüfung von innovativen Technologien bereitstellen würde, in denen Unternehmen ihre Entwicklungen testen können, ohne gegen Gesetze zu verstoßen. Zudem muss die EU-Gelder und Mittel zur Verfügung stellen, Zertifizierungsverfahren deutlich zu beschleunigen. Auch eine Zentralisierung dieser Verfahren würde Sinn ergeben. Die entsprechende ISO-Norm (ISO/IEC 42001) gibt es bereits, was fehlt sind offizielle Tools, um die Konformität der eigenen Anwendung zu checken.

Ziel muss es sein, Europa als attraktives Umfeld für den Einsatz und die Entwicklung von KI-Anwendungen zu positionieren. KI wird in den kommenden Jahren über wirtschaftlichen Erfolg nicht nur von Unternehmen, sondern von Staaten avancieren. Wenn wir nicht die gleichen Katastrophen wie aus der Schwerindustrie und der Automobilbranche erleben, sondern wieder vorne mitspielen wollen, dürfen wir uns nicht selbst behindern. Das Gebot der Stunde ist also Bürokratieabbau und Mut zu moderaterer Ethik – so werden wir vielleicht irgendwann doch wieder Exportweltmeister.

Peter Thiel ist mit PayPal und Facebook reich geworden und hat die Gedankenwelt des Silicon Valleys wie kaum ein zweiter geprägt. Der Tech-Milliardär ist ein Architekt des neuen rechten Amerikas, ist Strippenzieher und bestens vernetzt im radikalkonservativen und -libertären Amerika.

Mit dem sechsteiligen Podcast „Die Peter Thiel Story“ beleuchtet der Deutschlandfunk jetzt die Hintergründe des geheimnisvollen Investors, der trotz seines enormen Einflusses vielen kaum bekannt ist.

Host und Autor Fritz Espenlaub zeichnet nach, wie ein in Deutschland geborener Philosophiestudent im Silicon Valley aufstieg. Er zeigt das intellektuelle Fundament – geprägt von Carl Schmitt, René Girard und Ayn Rand – sowie das Netzwerk, das heute Schlüsselpositionen in Wirtschaft und Politik besetzt.

Die Serie dokumentiert dabei auch Thiels Visionen: Die Errichtung schwimmender libertärer Städte, die Entwicklung fortschrittlicher Überwachungstechnologie und seine Suche nach dem ewigen Leben.

„Die Peter Thiel Story“ bietet Einblicke in das Leben des Mannes, der ewig leben und alles verändern will.

Die Peter Thiel Story

Sechsteilige Erzählserie jeweils ca. 30 Minuten

ab 28. Mai 2025 in der Deutschlandfunk App