Im Rahmen einer Start-up- und Marktanalyse hat die Digital-Health-Beratung Brainwave den deutschen FemTech-Markt genauer unter die Lupe genommen. Die Erkenntnis: Lange Zeit wurde das Thema digitalgestützte Lösungen für die Frauengesundheit, Body Positivity und Female Empowerment vernachlässigt, obwohl es immerhin die Hälfte der Bevölkerung betrifft. Mittlerweile scheint das Potenzial bei Gründer*innen und Investor*innen angekommen zu sein, denn in den Bereichen Technologie, neue Geschäftsmodelle und Start-up-Finanzierungen ist im letzten Jahr viel passiert.

Was ist FemTech?

Der Begriff umschreibt technologische Angebote und Services, die sich auf die Gesundheit der Frau konzentrieren. Die Lösungen reichen von Fruchtbarkeits- und Zyklus-Tracking, über Schwangerschaftsbegleitung und Tele-Hebammen bis hin zu Lösungen zum Thema Sexual Awareness und Menopause. Aber auch E-Commerce-Produkte, wie Periodenunterwäsche oder Supplements komplementieren den Trend. Der Begriff FemTech wurde insbesondere durch Ida Tin geprägt – die Gründerin der Zyklus- und Periodentracking App Clue.

Die wichtigsten FemTech-Trends

Viele FemTech-Angebote, besonders jene aus dem Bereich Schwangerschaft und Geburt, sind bereits in der medizinischen Versorgung angekommen. So wird beispielsweise die 2017 zur Schwangerschaftsbegleitung und Geburtsvorbereitung entwickelte App keleya heute von 19 Krankenkassen erstattet; das Start-up profitierte in der Pandemie von erhöhten Nutzungszahlen (monatlich 20.000 aktive Nutzerinnen im Jahr 2021).

In den letzten Monaten konnte ein rasantes Ansteigen an digitalen Geschäftsmodellen rund um das Thema Reproduktionsmedizin beobachtet werden. Start-ups wie Avery Fertility, Levy oder fertilly sind neu in den Markt eingestiegen und befassen sich mit Fruchtbarkeitsdiagnostik, künstlicher Befruchtung und Social Freezing (Einfrieren von Eizellen).

Das Jahr stand außerdem ganz im Zeichen der Onkologie: Start-ups wie Happie Haus, PINK! oder Brea treiben erfolgreich digitale Innovationen für Frauen mit Brustkrebs voran. Darüber hinaus entstehen auch neue Start-ups im Bereich Sexual Awareness, wie bspw. being female. Kurz gesagt: Der Start-up-Markt ist in Bewegung.

VC-Investments im FemTech-Bereich

Das globale Finanzierungsvolumen für FemTech-Start-ups lag im Jahr 2019 bei über 590 Mio. US-Dollar und war damit zehnmal so hoch wie noch vor zehn Jahren. Wenngleich dies 2019 gerade einmal zehn Prozent der weltweiten VC-Investments ausmachte, verstärkt sich der Trend doch zunehmend: In den Jahren 2020 und 2021 zeichnete sich ein konstant wachsendes Finanzierungsvolumen für FemTech-Start-ups ab. 2021 überstiegen die weltweiten VC-Investitionen in diesem Bereich zum ersten Mal die Marke von 1 Mrd. Dollar.

In Europa erhielten UK-Start-ups im vergangenen Jahr beachtliche Summen an Risikokapital: Das Londoner Start-up Elvie (auch auf dem deutschen Markt aktiv) erhielt 68 Mio. Euro in einer Series C-Finanzierungsrunde. Der Anbieter der Zyklustracking-App Flo Health erhielt 50 Mio. Dollar in einer Series B-Runde.

Die deutschen Start-ups fertilly und pregfit erhielten ein Seed-Funding. Auch wenn Investor*innen offensichtlich ein immer größeres Vertrauen in FemTech-Start-ups haben, steht das Finanzierungspotenzial noch klar am Anfang. Die Investitionen sind weiterhin nur ein winziger Betrag im Vergleich zum weltweiten VC-Funding oder den medizinischen Gesundheitsausgaben für Frauen (500 Mrd. Dollar). Hinzu kommt, dass FemTech-Start-ups meist von Frauen gegründet werden und diese es, im Vergleich zu ihren männlichen Kollegen, oft schwerer haben, Risikokapital einzusammeln. Der banal klingende Grund hierfür: Die Investor*innen-Community besteht zum Großteil aus Männern (94 Prozent bei den Top-100-Unternehmen), welche die Gesundheitsprobleme von Frauen in vielen Fällen nicht wirklich verstehen.

Die deutsche FemTech-Start-up-Landschaft

Brainwave hat den deutschen FemTech-Start-up-Markt analysiert und in einer übersichtlichen Marktdarstellung zusammengefasst (s. Abbildung). Dabei wurden verschiedene Kategorien entwickelt, welche die unterschiedlichen Bereiche des Markttrends abdecken. Die Kategorien zeigen deutlich, dass der größte Teil des Marktes von Start-ups bzw. Lösungen aus der Rubrik „Zyklus- und Fruchtbarkeitstracking“ ausgemacht wird. In diesem Bereich sind vor allem digitale Angebote in Form von Tracking-Apps, Vergleichsportalen für Verhütungsmittel sowie Wearables und weitere Tools vertreten. Neben den etablierten Playern im Bereich „Schwangerschaft und Geburtsvorbereitung“ werden in der Kategorie „Telemedizin & Testkits“ jene Start-ups zusammengefasst, die sich mittels Selbsttest-Kits chronischen Frauenkrankheiten widmen und häufig online einen integrativen Ansatz anbieten. Im Vergleich zum Jahr 2020 kam die neue Kategorie „Reproduktionsmedizin“ hinzu, welche die Themen „Fruchtbarkeitsdia­gnostik und Social Freezing“ abdeckt. Zusätzlich dazu heben sich Start-ups aus den indikationsgetriebenen Trends „Brustkrebs“, „Endometriose“ und „Menopause“ immer stärker hervor. Die Start-ups innerhalb dieser Kategorie versuchen, Frauen entlang des Patientinnenpfades mit Tracking, Digitalen Therapien, Supplements oder Communities zu unterstützen. Last, but not least finden sich in der Übersicht auch die Rubriken „Perioden-Konsumgüter“ und „Sexual Awareness“.

FemTech – quo vadis?

Der deutsche FemTech-Markt ist ein wachsender Markt mit viel Innovationspotenzial. Er bietet die Möglichkeit, nicht nur vielen Frauen auf der Welt zu helfen, sondern auch spannende unternehmerische Chancen auszuschöpfen. Der FemTech-Markt hat in den vergangenen Jahren starke Wachstumsraten erfahren und bleibt weiterhin eines der vielversprechendsten Segmente im Digital-Health-Markt mit einem riesigen Potenzial, verschiedenste sog. Pain Points im Bereich der Frauengesundheit zu lösen. Innovative Geschäftsmodelle in bereits etablierten Segmenten wie Schwangerschaft, Geburt und Zyklus werden mit Wachstumskapital und einer steigenden Akzeptanz weiter gestärkt und in den Massenmarkt getragen. Zukünftig kann erwartet werden, dass auf dem deutschen Markt weitere FemTech-Start-ups nach internationalen Vorbildern entstehen. Dies könnte insbesondere für Indikationen aus den Segmenten Menopause und Endometriose geschehen. Ebenfalls zu erwarten ist der Aufbau von Gesundheitsplattformen, die das Ziel verfolgen, Frauen umfassend mit verschiedensten Rundum-Services zu begleiten.

Im Folgenden stellen wir stellvertretend für die vielen, inhaltlich unterschiedlich aufgestellten FemTech-Start-ups vier Unternehmen im Kurzprofil vor:

Die vergangenen zwei Jahre haben einen regelrechten KI-Boom erlebt. Insbesondere generative Modelle (GenAI) haben sich rasant weiterentwickelt und etablieren sich zunehmend als feste Größe in den Arbeitsprozessen von Organisationen weltweit. Angesichts dieser Dynamik fragen sich nun viele Unternehmen, welche Entwicklungen das Jahr 2025 bestimmen werden und welche Potenziale sich daraus ergeben. Diese vier wichtigen KI-Trends werden uns 2025 maßgeblich begleiten.

Ob automatisierte Textproduktion, interaktive Chatbots oder KI-gestützte Analysen für Logistik und Finanzen: KIist längst im Tagesgeschäft angekommen. Diese Dynamik setzt sich 2025 fort. Dabei verschieben sich die Schwerpunkte zunehmend hin zu spezialisierten, effizienteren und flexibleren KI-Anwendungen.

Modular AI: Kleine Bausteine, große Wirkung

Modulare KI-Systeme werden zum Schlüssel für Unternehmen, die domänenspezifische Lösungen benötigen. Diese spezialisierten KI-Module sind genau auf einzelne Aufgabenbereiche zugeschnitten, etwa auf den Kundenservice oder auf Betrugserkennung im Bankwesen. Plug-and-Play-Architekturen beschleunigen hierbei die Implementierung: Statt monolithische Modelle einzuführen, integrieren Unternehmen bedarfsgerecht nur jene Module, die sie wirklich benötigen. Auf diese Weise lässt sich der zeitliche und finanzielle Aufwand für die Implementierung in Organisationen erheblich senken. Damit das Zusammenspiel verschiedener Module funktioniert, treiben Hersteller*innen und Standardisierungsgremien die Entwicklung einheitlicher APIs und Kommunikationsprotokolle weiter voran. Diese Interoperabilität ebnet den Weg für dynamische KI-Systeme, die sich je nach Anforderung in bestehende IT-Landschaften integrieren lassen.

Edge AI und On-Device Intelligence: Schneller zum Ergebnis

Während KI-Anwendungen bislang oft auf starke Cloud-Infrastrukturen angewiesen waren, verlagert sich die Intelligenz nun zunehmend an den Netzwerkrand. Dadurch können Daten in Echtzeit analysiert werden, um schnell fundierte Entscheidungen zu treffen. Gerade in sensiblen Bereichen wie der medizinischen Bildgebung oder in Branchen mit hoher Zeitkritikalität, beispielsweise bei autonomen Fahrzeugen, minimiert eine Edge-basierte KI-Analyse Latenzzeiten und ist somit wettbewerbsentscheidend. Parallel dazu treten neue, energieeffiziente KI-Chips wie neuromorphe Prozessoren oder TPUs (Tensor Processing Units) auf den Plan. Sie ermöglichen leistungsstarke KI-Anwendungen in Systemen mit begrenztem Platz oder Energiebudget – ein wichtiger Fortschritt für Wearables und sogar Satelliten.

Foundation Models: Optimieren statt komplett neu trainieren

Große KI-Basismodelle, sogenannte Foundation Models, haben 2024 ihren Nutzen in zahlreichen Branchen bewiesen. 2025 rücken jedoch kosten- und ressourcenschonende Optimierungen stärker in den Vordergrund. Verfahren wie Parameter-effizientes Tuning oder LoRA (Low-Rank Adaptation) ermöglichen es, aus umfassenden Basismodellen spezialisierte Teilmodelle zu erzeugen, ohne sie von Grund auf neu trainieren zu müssen. Kleinere, spezialisierte Modelle behalten die Leistungsfähigkeit der großen Systeme oft zu einem Bruchteil der nötigen Rechenleistung. Das senkt nicht nur die Kosten, sondern trägt auch zur Nachhaltigkeit bei, da der Energieverbrauch bei Training und Einsatz von KI zunehmend kritisch hinterfragt wird. Darüber hinaus entstehen lokalisierte Modelle, die speziell auf bestimmte Regionen oder Sprachen zugeschnitten sind und dadurch genauere Ergebnisse liefern.

Fortschrittliche KI-Agenten: Mehr Kontext, mehr Kollaboration

KI-Agenten erreichen 2025 eine neue Evolutionsstufe und können nuancierte Kontexte immer besser erfassen. Das steigert die Personalisierung von Interaktionen im Kund*innenservice, Gesundheitswesen oder Bildungsbereich. Zugleich werden Self-Improving Agents immer wichtiger: Sie enthalten eingebaute Feedbackschleifen, lernen aus ihren Erfahrungen und optimieren ihre Fähigkeiten – ganz ohne Eingreifen von außen. Darüber hinaus setzt sich das Konzept der Multi-Agent Collaboration durch. Hierbei übernehmen verschiedene KI-Agenten jeweils Spezialaufgaben und koordinieren sich untereinander, um komplexe Probleme wie logistische Planungen oder den Ablauf bei Großschadenslagen effizient zu lösen.

Fazit

Das laufende Jahr wird wie das letzte – und vermutlich wie noch viele kommende Jahre – von künstlicher Intelligenz geprägt sein. Zwar müssen wir bei Aspekten wie Datensicherheit, Transparenz und dem Schutz persönlicher Informationen weiterhin aufmerksam bleiben, doch gleichzeitig eröffnen sich durch KI ganz neue Chancen für Innovation, Effizienz und Wachstum. Schon jetzt arbeiten Unternehmen, Regierungen und Forschungseinrichtungen verstärkt Hand in Hand, um Standards zu definieren und verantwortungsvolle Lösungen zu entwickeln. Damit können wir das enorme Potenzial dieser Technologie nutzen und zugleich sicherstellen, dass Fortschritt und Vertrauen im Einklang stehen.

Der Autor Ramprakash Ramamoorthy ist Director of AI Research bei Zoho.

In einer Zeit, in der die Grenzen zwischen Berufs- und Privatleben verschwimmen, bietet Workation eine attraktive Alternative, die sowohl die individuellen Bedürfnisse der Mitarbeitenden als auch die Anforderungen des modernen Arbeitsmarkts berücksichtigt. Diese moderne Form der Arbeitsgestaltung, die Flexibilität, Freiheit und Erholung in den Arbeitsalltag integriert, beeinflusst nicht nur unser Wohlbefinden, sondern zunehmend auch unsere Entscheidungen in Bezug auf Beruf und Jobwahl.

Arbeiten, wo andere Urlaub machen

Immer mehr Menschen erkennen die Vorteile darin, remote zu arbeiten, wo andere Urlaub machen. Laut dem Appinio Travel Report 2024 planen rund 20 % der Befragten eine Workation, weitere 26 % liebäugeln mit der Idee. Und es wird einfacher: Etwas mehr als die Hälfte der Beschäftigten (51 %) kann laut einer PwC-Umfrage 2024 mobil aus dem Ausland arbeiten - und das durchschnittlich 40,5 Tage im Jahr. Produktives Arbeiten in spannenden Metropolen - ob New York, Rio de Janeiro oder Barcelona.

Zeit ist die wertvollste Ressource für Unternehmer*innen. Zwischen wichtigen Aufgaben, wie Kund*innenmanagement, Buchhaltung und Marketing bleibt oft wenig Zeit für strategische Weiterentwicklung. Hier eröffnet künstliche Intelligenz (KI) neue Chancen und Potenziale: KI kann Prozesse automatisieren, die Effizienz steigern und Unternehmer:innen wertvolle Stunden zurückgeben. Laut der GoDaddy Global Entrepreneurship Survey 2025 sparen Start-ups und Kleinunternehmen durch den Einsatz von KI-Tools durchschnittlich zehn Stunden pro Woche. Doch nicht nur die Zeitersparnis ist entscheidend: KI bietet zudem Wettbewerbsvorteile und ermöglicht es Kleinunternehmen, auf Augenhöhe mit größeren Playern zu agieren.

Zahlen, die überzeugen: Warum Start-ups und Kleinunternehmen auf KI setzen

Die Studie zeigt, dass Kleinunternehmen und Start-ups durch den Einsatz von KI bedeutende Vorteile erzielen können. Besonders hervorzuheben: 82 % der Kleinunternehmen geben an, dass KI ihnen hilft, mit größeren Organisationen besser zu konkurrieren. Auch in der Zeitersparnis liegt ein großer Vorteil: Unternehmer:innen gewinnen durchschnittlich 10 Stunden pro Woche, die sie in strategische Aufgaben investieren können.

Langfristig zeigt sich zudem ein klarer positiver Geschäftsausblick: 69 % der Unternehmen, die KI nutzen, erwarten in den nächsten drei bis fünf Jahren Wachstum – deutlich mehr als die 45 % unter den Nicht-Nutzer*innen. Ein deutliches Signal, dass KI längst nicht mehr nur eine Zukunftsvision ist, sondern bereits heute den Unternehmensalltag revolutioniert.

Praxisbeispiele: Wie kleine Unternehmen KI erfolgreich einsetzen

Die Anwendungsmöglichkeiten von KI-Tools sind besonders für Gründer:innen und Kleinunternehmen von Bedeutung, da sie ihnen helfen können, Prozesse zu automatisieren, Ressourcen effizienter zu nutzen und mit größeren Wettbewerbern Schritt zu halten:

• Logo-Erstellung: Der Aufbau einer überzeugenden visuellen Identität ist für jedes Unternehmen essenziell, kann aber zeit- und kostenintensiv sein. KI-gestützte Tools ermöglichen es Unternehmer:innen, innerhalb weniger Minuten einzigartige Logos zu generieren und so ein professionelles Markenbild zu etablieren.
• Website-Entwicklung in wenigen Minuten: Moderne KI-Technologien ermöglichen es, komplette Websites mit wenigen Klicks zu generieren. Ohne technische Vorkenntnisse können Unternehmer:innen innerhalb kürzester Zeit eine funktionale Website mit personalisierten Inhalten veröffentlichen.
• Automatisierte Suchmaschinenoptimierung (SEO): KI kann Unternehmen dabei unterstützen, ihr Suchmaschinenranking zu verbessern. Durch gezielte Keyword-Analysen und Optimierungsvorschläge wird die Sichtbarkeit in den Suchergebnissen erhöht, was letztlich zu mehr Kund*innen führen kann.
• Professionelle E-Mail-Dienste: Eine E-Mail-Adresse mit eigener Domain schafft nicht nur Vertrauen bei Kund:innen, sondern trägt auch zur Markenbildung bei. Zusätzlich sorgt KI-gestützte Technologie für den Schutz des Mailverkehrs, inklusive Funktionen wie Backups, Archivierung und nahtloser Migration.

Der gezielte Einsatz von KI-gestützten Tools kann nicht nur wertvolle Zeitressourcen freisetzen, sondern auch dazu beitragen, die digitale Präsenz und Professionalität eines Unternehmens nachhaltig zu optimieren.

Wachstum mit Stolpersteinen?

Die Nutzung von KI kann Unternehmen enorme Vorteile bieten, stellt sie aber auch vor einige Herausforderungen. Durch den Einsatz von KI lassen sich Geschäftsprozesse skalieren, Kosten senken und datengetriebene Entscheidungen treffen, was mehr Raum für Kreativität und strategische Entwicklung schafft. Gleichzeitig müssen sich Unternehmen mit Themen wie Datenschutz, Implementierungskosten und der Einarbeitung in neue Technologien auseinandersetzen. Besonders für Gründer*innen ist es entscheidend, diese Herausforderungen frühzeitig anzugehen, um langfristig wettbewerbsfähig zu bleiben.

Fazit

Die Ergebnisse der GoDaddy-Studie belegen, dass künstliche Intelligenz nicht nur eine technologische Spielerei ist, sondern Gründer*innen und Kleinunternehmer*innen echte Vorteile bringt. Wer heute in KI investiert, sichert sich entscheidende Vorteile für die Zukunft. Jetzt ist die perfekte Zeit, die Potenziale von KI zu erkunden und für den eigenen Geschäftserfolg zu nutzen.

Die Autorin Alexandra Anderson ist Marketing Director Germany bei GoDaddy und seit mehr als zehn Jahren als Marketingexpertin in der IT-Branche tätig. Ein besonderes Anliegen ist ihr die Digitalisierung von Mikro- und Kleinunternehmer*innen.

Kunst skalierbar machen
Die in Montreal ansässige Acrylic Robotics-Gründerin und CEO Chloë Ryan, selbst Künstlerin, hatte die Idee aus einer persönlichen Erfahrung heraus. Ein Gemälde zu schaffen, erfordert viel Zeit; und am Ende kann das Werk nur einmal verkauft werden. Inspiriert von der Skalierbarkeit der Musik- und Buchbranche entwickelte Chloë Ryan ein Konzept, mit dem Kunstwerke präzise reproduziert werden können – ohne an Qualität oder künstlerischem Anspruch zu verlieren. Gemeinsam mit Walker Singleton, Head of Engineering des Start-ups, entstand so ein interdisziplinärer Ansatz, der Robotik, Softwareentwicklung und mechanische Präzision vereint.

Der Roboter: Präzision in jedem Pinselstrich
Das Herzstück von Acrylic Robotics ist ein Roboterarm, der Gemälde detailgetreu reproduzieren kann. Der Prozess unterscheidet sich je nach Ursprung des Kunstwerks. Digitale Kunstwerke, die auf einem Tablet oder Computer erstellt wurden, können direkt an den Roboter übermittelt werden, da Daten wie Pinselrichtungen, Druckstärke und Farbwahl bereits digital vorliegen. Analoge Gemälde erfordern hingegen eine zusätzliche Analyse. Hier kommt ein speziell trainiertes KI-Modell zum Einsatz, das die wesentlichen Parameter berechnet, um eine möglichst präzise Reproduktion zu erzielen. Besonders wichtig ist es Acrylic Robotics, den Künstler kontinuierlich in den Prozess einzubeziehen. Es geht nicht darum, den kreativen Schaffensprozess zu ersetzen, sondern ihn zu ergänzen und weiterzuentwickeln.

Kunst für alle: Ein Service für Künstler und Käufer
Acrylic Robotics bietet seine Technologie Künstlern als Dienstleistung an. Über die Website können Künstler eine Zusammenarbeit anfragen, bei der ihre Werke in limitierter Auflage reproduziert werden. Käufer erhalten dadurch hochwertige Acrylreproduktionen, ohne den Wert des Originals zu schmälern. Das Konzept verbindet Exklusivität mit breiterer Zugänglichkeit und positioniert sich als innovative Lösung im Kunstmarkt.

Künstliche Intelligenz (KI) entwickelt sich rasant und findet in immer mehr Bereichen, auch in Unternehmen, Anwendung. Deshalb schafft Europa mit dem AI Act einen einheitlichen Rechtsrahmen, den alle europäischen Unternehmen einhalten müssen.

Nicht allen Arbeitgebenden ist bewusst, dass die europäische Verordnung bereits in Kraft getreten ist. Sie gilt für jede Organisation – unabhängig von ihrer Größe – und ist verbindlich. Das Gesetz betrifft somit alle Unternehmen und Organisationen mit Angestellten, die KI im Auftrag des Unternehmens nutzen, unabhängig vom Beschäftigungsverhältnis. Europa überlässt einen Teil der Durchführung und Umsetzung des KI-Gesetzes den Mitgliedstaaten selbst – ebenso wie die Verhängung von Geldbußen bei Nichteinhaltung. Die konkrete Höhe dieser Bußgelder wird erst am 2. August 2025 feststehen. Dennoch sollten Unternehmen ab dem 2. Februar lieber gut aufgestellt sein, da die Bußgelder auch rückwirkend in Kraft treten können.

Verbindliche KI-Policy und adäquate KI-Kompetenzen

Unternehmen sind dafür verantwortlich, dass ihre Belegschaft über ausreichende KI-Kenntnisse verfügt. Dabei ist es nicht erforderlich, dass jeder Mitarbeitende umfassendes Wissen über KI besitzt. Es muss sichergestellt werden, dass alle Mitarbeitenden, die mit KI-Systemen arbeiten, über die notwendigen Kenntnisse und Fähigkeiten verfügen. So können sie informierte Entscheidungen treffen und potenzielle Risiken erkennen. Dazu gehören alle Mitarbeiter*innen, die mit KI-Systemen arbeiten – vom Anbietenden bis zum/zur Endnutzer*in – und erstreckt sich also nicht nur auf IKT-Fachleute in Unternehmen.

Das KI-Gesetz legt nicht genau fest, welche Maßnahmen Arbeitgebende ergreifen müssen, damit alle beteiligten Personen ausreichende KI-Kenntnisse erwerben. Arbeitgebende sollten daher nicht nur die technischen Kenntnisse, Erfahrungen, Ausbildungen und Fortbildungen der Mitarbeitenden berücksichtigen, sondern auch den Kontext, in dem die KI-Systeme genutzt werden, sowie die betroffenen Personen oder Personengruppe.

Arbeitgebende können selbst entscheiden, welche Kenntnisse und Fähigkeiten ihre Mitarbeitenden benötigen und wie sie diese angeeignet werden können. Mögliche Maßnahmen sind allgemeine KI-Schulungen, die Grundkenntnisse vermitteln und auf verschiedene Zielgruppen zugeschnitten sein können. Dabei kann es sich um spezifische Schulungen handeln, die sich auf bestimmte Tools und Anwendungen konzentrieren, aber auch um die Zusammenarbeit zwischen juristischen und technischen Teams.

Arbeitgebenden wird empfohlen, eine KI-Policy mit klaren Richtlinien für den Einsatz von KI im Unternehmen zu erstellen. Darin kann festgehalten werden, welche Anwendungen von wem und auf welche Weise genutzt werden dürfen. In dieser Richtlinie kann der Arbeitgebende auch Hinweise darauf geben, wie die Mitarbeitenden ausreichend mit KI vertraut bleiben können. Wie wird zum Beispiel vorgegangen, wenn sich im Unternehmen oder bei den Tools etwas ändert? KI-Kompetenz ist schließlich nichts Statisches. Wenn ein(e) Mitarbeiter*in die Rolle wechselt, oder wenn die eingesetzten Tools sich ändern, muss der Arbeitgebende sicherstellen, dass die betreffende Person weiterhin über ausreichende KI-Kenntnisse verfügt.

Verbotene bestimmter KI-Systeme

Zum anderen verbietet der AI Act ab dem 2. Februar 2025 den Einsatz von KI-Systemen, die gegen europäische Normen und Grundwerte verstoßen, indem sie beispielsweise Grundrechte missachten. Darunter fallen auch KI-Systeme für Social Scoring, die Menschen aufgrund ihres sozialen Verhaltens oder persönlicher Eigenschaften bewerten, oder KI-Systeme zur Emotionserkennung am Arbeitsplatz oder im Bildungsbereich. Arbeitgeber sollten daher die eingesetzten KI-Systeme im Hinblick auf die Identifizierung verbotener Systeme und die Einstellung ihrer Nutzung überprüfen.

Ab August 2025 drohen Geldbußen - auch rückwirkend

Ab dem 2. August 2025 drohen Unternehmen und Organisationen, die verbotene KI entwickeln oder einsetzen, hohe Geldbußen. Die Überwachung und die Festlegung der Höhe der Strafen liegen vollständig in der Verantwortung der EU. Die Höhe der Geldbußen sowie die Aufsicht hierüber liegen vollständig in der Verantwortung der EU. Bis zu 35 Millionen Euro Strafe oder sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres – je nachdem, welcher Betrag höher ist – können verhängt werden.

Der Autor Sander Runkel ist Fachanwalt für Arbeitsrecht und Manager Tax & Legal bei SD Worx Deutschland

„Beim ersten Augenkontakt hat’s sofort gefunkt.“ Dieser Ausspruch könnte ebenso aus einer Hollywood-Romanze stammen wie auch aus einem Verkaufs- oder Bewerbungsgespräch. Denn der Blickkontakt verkörpert einen der mächtigsten und entscheidendsten Bestandteile der nonverbalen Kommunikation. Der Austausch von Blicken aktiviert das neuronale Belohnungssystem, was wiederum für Glücksgefühle sorgt und motiviert. Bereits vor über 20 Jahren ging das aus einer Studie (Reward value of attractiveness and gaze) hervor.

Ohne Augenkontakt kein echtes Vertrauen

„Hier kommen wir wiederum sehr schnell zum Thema Vertrauen. Ohne Augenkontakt fehlt hierfür die wichtigste Grundlage, wirkliche Nähe kommt nicht zustande“, sagt Carsten Kraus, Gründer und CEO der Casablanca.AI GmbH. „Wenn wir darüber nachdenken, ergibt sich schnell ein großes Problem: Viele Gespräche, insbesondere im geschäftlichen Kontext, laufen heute auf digitalem Wege in Videokonferenzen ab. Direkter Augenkontakt besteht hier nie, ohne dass die Mimik des Gesprächspartners aus dem Sichtfeld verschwindet.“ Das Pforzheimer KI-Start-up Casablanca hat das Problem erkannt und schafft Abhilfe.

Videocalls auf neuem Level

Innerhalb eines Videocalls gibt es für die Gesprächsteilnehmende genau zwei Optionen: den Blick in die Kameralinse und den auf den Bildschirm. Bei ersterem besteht keine Möglichkeit, den Gesichtsausdruck des Gegenübers zu sehen. Dagegen führt die zweite Alternative dazu, dass sich die Augenpaare nicht treffen. „Erfahrungsgemäß schwanken User*innen und variieren innerhalb eines Calls immer wieder. Sie stehen sozusagen vor der Wahl, welche Option sich zum jeweiligen Zeitpunkt eher eignet. Damit geht dem Gespräch viel Qualität ab“, erläutert Kraus, der mit seinem Unternehmen eine „virtuelle Kamera“ mit lokaler KI entwickelt. Diese greift in Echtzeit das Bild der physischen Webcam ab und richtet den Blick sowie den Gesichtswinkel der aufgezeichneten Person aus. „Nicht erst seit der Corona-Pandemie liegen Videokonferenzen absolut im Trend. Insbesondere in der Geschäftswelt hat sich diese Technik als unverzichtbar herauskristallisiert, spart viel Zeit und damit Kosten. Die Schwierigkeit bestand aber bisher darin, in diesen Gesprächen das notwendige Vertrauen aufzubauen, beispielsweise für einen erfolgreichen Verkaufsabschluss“, so Kraus. „Das möchten wir ändern und die Kommunikation per Video auf ein neues Level heben, sozusagen auf das eines analogen Gesprächs.“

Natürlichkeit und Authentizität zählen

Blicke machen die Basis sozialer Interaktion aus. Sie tragen zur Interpretation von nonverbalen Signalen bei. Eine dementsprechend große Rolle nehmen sie in der Geschäftswelt etwa für Verkäufer*innen, Berater*innen oder Personalverantwortliche ein. „Vertrauen hat auf ihr Handeln große Auswirkungen, mangelt es daran, sinken die Erfolgsaussichten zum Beispiel im Verkaufsgespräch. Auch der zunehmend digitale Bewerbungsprozess hat nach wie vor die Hürde des fehlenden Augenkontakts und damit auch der mangelnden Nähe zu überspringen“, zeigt Kraus die Relevanz auf. „Gelingt dies aber, entsteht eine persönliche Beziehung und das Gespräch geht über die Übermittlung von Informationen hinaus – und das bei beliebiger physischer Distanz. Dabei kommt es immer auch auf die Natürlichkeit und Authentizität des Videocalls an.“ Damit dies bestmöglich funktioniert, richtet Casablanca nicht nur die Augen entsprechend aus, sondern dreht den gesamten Kopf in die passende Position. So lässt sich auch in digitalen Meetings sagen: „Beim ersten Augenkontakt hat’s sofort gefunkt.“

Die Initiative "KI für Deutschland" wurde Ende 2024 von privaten Akteur*innen aus dem KI-Ökosystem ins Leben gerufen. Ziel ist es, einen praxisnahen und unternehmerisch getriebenen Impuls zu setzen, um in dieser Phase der politischen und gesellschaftlichen Neuorientierung Eckpfeiler zu definieren, wie KI zum Wohle und unter Beteiligung aller in Deutschland, effektiv genutzt werden kann.

Zu den Initiator*innen von "KI für Deutschland" gehören maßgeblich die AI.GROUP, der AI.FUND, sowie die Rise of AI Conference - insbesondere die Unternehmer*innen und KI-Expert*innen Dr. Hauke Hansen, Fabian Westerheide, Ragnar Kruse, Petra Vorsteher, Dr. John Lange und Ingo Hoffmann. Unterstützt wird die Initiative von namhaften Institutionen wie dem KI-Bundesverband.

Die Initiative ist deutschlandweit, interdisziplinär und holistisch ausgerichtet. Sie ist offen für den Input und die Unterstützung aller relevanten gesellschaftlichen Gruppen und Persönlichkeiten.

Aufbruchssignal in Zeiten des Umbruchs

Mitinitiator Dr. Hauke Hansen: “Die Initiative KI für Deutschland ist ein Aufbruchssignal in Zeiten des Umbruchs. Mit unseren 11 Impulsen machen wir greifbare und umsetzbare Vorschläge, wie Deutschland die KI nutzen kann, um den gesellschaftlichen Stillstand zu durchbrechen und Wege aus der wirtschaftlichen Rezession zu finden. Wir richten uns damit an alle gesellschaftlichen Akteure, die Wirtschaft ebenso wie die Politik. Wir brauchen eine zukunftsweisende und konsequente Industriepolitik und unternehmerisches Handeln, um die KI am Standort Deutschland zur Chefsache zu machen und damit das Bruttosozialprodukt nachhaltig zu steigern. Stellen wir gemeinsam die Weichen für innovatives und wirtschaftlich erfolgreiches Deutschland von morgen.”

Diese elf Impulse will die Initiative "KI für Deutschland" zur Nutzung künstlicher Intelligenz in Deutschland in Form eines KI-Aktionsplans setzen:

Impuls 1: Einrichtung eines Digitalministeriums auf Bundesebene

Die Digitalisierung in Deutschland hat wirtschaftliche und politische Priorität. Um eine konsequente Digitalisierung der Gesellschaft, Wirtschaft und Verwaltung zu erreichen, ist ein dediziertes Bundesministerium für Digitales mit dem Schwerpunkt KI notwendig.

Impuls 2: Förderung von KI-Forschung und -Innovationen

Deutschland muss die jährlichen Investitionen in KI-Forschung und -Entwicklung bis 2030 auf mindestens 5,0 Mrd. € pro Jahr aufstocken, um international wettbewerbsfähig zu bleiben.

Impuls 3: Bereitstellung von KI-Wagniskapital für KI-Start-ups und -Innovationen

Deutschland benötigt ein KI-Wagniskapitalprogramm ausgestattet mit 10 Mrd. € über 5 Jahre, um KI-Startups zu fördern. Staatliche Fund-of-Funds sollten dazu genutzt werden, Mittel zielgenau und effektiv zu platzieren.

Impuls 4: Aufbau von KI-Clustern zur Förderung von Innovationen und Exzellenz in regionalen Ökosystemen

Deutschland sollte regionale KI-Cluster fördern, die räumliche Nähe mit technischer und wirtschaftlicher Exzellenz verbinden, um Innovationskraft zu maximieren und international Talente anzuziehen.

Impuls 5: Aufbau einer leistungsfähigen und souveränen digitalen Infrastruktur zur Stärkung der KI

Eine flächendeckende digitale Infrastruktur ist essenziell, um KI für Bürger und Unternehmen in der Breite nutzbar zu machen. Wir setzen uns dafür ein, GPU-Megacluster für Forschung und Industrie in Deutschland zu etablieren.

Impuls 6: Förderung der Anwendung von KI in Unternehmen

Bis 2030 sollten mindestens 80% aller deutschen Unternehmen KI-Anwendungen aktiv nutzen, um ihre Geschäfte zu optimieren und auszubauen.

Impuls 7: KI für den öffentlichen Sektor – Effizienzsteigerung und weniger Bürokratie

Bis 2029 sollte der Einsatz von KI in allen wesentlichen Behörden auf Bundes-, Landes- und Regionalebene etabliert werden, um Prozesse zu optimieren, Bürokratie abzubauen und Bürgerdienste zu verbessern.

Impuls 8: KI und Nachhaltigkeit – erschwingliche und saubere Energie für Deutschland

Deutschland sollte KI gezielt einsetzen, um die Energiewende zu unterstützen und die CO₂-Emissionen im Energiesektor bis 2035 um mehr als 15% zu senken. Unser Land braucht eine sichere und bezahlbare Energieversorgung als Grundlage für technologiebasiertes Wachstum.

Impuls 9: Eine KI-Bildungsinitiative als Grundlage einer zukunftsfähigen Gesellschaft

Bis 2030 sollten mehr als 80% der Arbeitskräfte in Deutschland grundlegende KI-Kompetenzen besitzen, um den digitalen Wandel aktiv mitzugestalten.

Impuls 10: Ein klarer und sicherer rechtlicher Rahmen für KI und ein KI-Gütesiegel

Deutschland sollte bis 2026 einen flexiblen Rechtsrahmen für KI schaffen, der Innovation fördert, aber Missbrauch verhindert, und ein KI-Gütesiegel zur Förderung ethischer und transparenter KI einführen.

Impuls 11: Schaffung eines europaweiten KI-Ökosystems mit Deutschland als Schrittmacher

Deutschland sollte eine gestaltende Rolle beim Aufbau eines europäischen KI-Ökosystems übernehmen, um eine wettbewerbsfähige Alternative zu den USA und China zu etablieren.

Hier gibt’s mehr Infos zur Initiative "KI für Deutschland"

Immer häufiger wird in den Medien über erfolgreiche KI-gestützte Deep-Fake-Attacken berichtet. Die Folge: Das Vertrauen der Verbraucher*innen in digitale Medien und Kanäle nimmt zusehends Schaden – und damit auch die betreffenden Online-Anbieter*innen. Bei nicht wenigen von ihnen wird das Phänomen KI-gestützter Angriffe über kurz oder lang zu massivem Imageverlust und Umsatzeinbußen führen.

Diskrepanz zwischen Sensibilisierung und Handeln

Vor diesem Hintergrund stimmt es nachdenklich, dass bislang nur 22 Prozent der Unternehmen Maßnahmen zur Verhinderung von KI-gestütztem Identitätsbetrug ergriffen haben. Der aktuelle Signicat-Report "The Battle Against AI-driven Identity Fraud" zeigt eine Kluft zwischen Bewusstsein und Handeln auf. Während über 76 Prozent der Entscheidungsträger*innen die wachsende Bedrohung durch KI bei Betrug erkennen, haben, wie erwähnt, nur 22 Prozent der Unternehmen damit begonnen, KI-gesteuerte Maßnahmen zur Betrugsprävention zu implementieren.

Für die Studie wurden über 1.200 Entscheidungsträger*innen aus Banken, FinTechs, Zahlungsanbietenden und Versicherungsunternehmen in Europa befragt. In dem Bericht wird hervorgehoben, dass sich die Unternehmen des Problems durchaus bewusst sind, aber Schwierigkeiten haben, die erforderlichen Schutzmaßnahmen zu ergreifen, und zwar aus folgenden Gründen:

• Mangelndes Fachwissen: 76 Prozent der Entscheidungsträger*innen im Bereich Betrugsbekämpfung geben unzureichende Kenntnisse als Haupthindernis an.
• Zeitmangel: 74 Prozent geben zu, dass sie nicht die Zeit haben, das Problem mit der erforderlichen Dringlichkeit anzugehen.
• Fehlendes Budget: 76 Prozent geben an, dass nicht genügend Mittel zur Verfügung stehen, um robuste Technologien zur Betrugsprävention einzusetzen. 

 2025: das Jahr des KI-Betrugs

Im Hinblick auf die aktuellen Herausforderungen warnt der Bericht davor, dass Betrüger*innen KI in einem noch nie dagewesenen Ausmaß nutzen werden Deepfake-Angriffe, die laut Signicat-Daten in den letzten drei Jahren um 2137 Prozent zugenommen haben, sind nur ein Beispiel dafür, wie schnell sich KI-gesteuerte Betrugstechniken weiterentwickeln.

Um den Betrüger*innen einen Schritt voraus zu sein, sollten die Unternehmen schnell handeln: Empfohlen wird ein mehrschichtiger Verteidigungsansatz – von der frühzeitigen Risikobewertung über robuste Identitätsüberprüfungs- und Authentifizierungstools in Kombination mit Datenanreicherung bis hin zur laufenden Überwachung für einen umfassenden Ansatz, der die wichtigsten Angriffsflächen abdeckt:

• Investitionen in KI-gesteuerte Betrugsprävention: Innovative Technologien bieten Echtzeit-Betrugserkennung, einschließlich der Erkennung von Dokumentenmanipulationen und Imitationen, einschließlich Deepfakes, und bekämpfen KI mit KI.
• Aufbau eines internen Bewusstseins und Zusammenarbeit mit vertrauenswürdigen Anbietenden: Ein proaktiver Ansatz für Mitarbeitendenschulungen und externe Zusammenarbeit ist der Schlüssel zum Umgang mit dieser sich entwickelnden Bedrohungslandschaft.

Mark Zuckerberg verkündete erst vor Kurzem, dass Meta in Zukunft ohne Fact-Checking auskommen soll. Stattdessen werden schon bald die Nutzer*innen über den Wahrheitsgehalt der Inhalte bestimmen – in einem Zeitalter von Bots und KI ist allerdings schon jetzt abzusehen, dass das nicht funktionieren wird und vermutlich auch gar nicht funktionieren soll. Die Instanzen, die bisher die Echtheit der Aussagen geprüft haben, seien nach Auffassung des Facebook-Gründers jedoch politisch nicht neutral. Fast zur selben Zeit von Zuckerbergs Ankündigung, führte ein politisch motivierter und unberechenbarer Milliardär auf seiner eigenen Plattform X ein Live-Interview mit der AfD-Vorsitzenden Alice Weidel, die in dem Gespräch zahlreiche Falschbehauptungen machte.

Diese Entwicklungen zwingen Medienschaffende sowie Leser*innen, sich 2025 ernsthaft mit den Alternativen zu Social Media zu befassen. Denn die gibt es!

1. Fakten statt Fame – Echtzeit Nachrichten durch Live-Blogs

Das schwindende Vertrauen in die klassischen Medien sorgte in der Vergangenheit dafür, dass sich Leser*innen über Facebook, Twitter und Co. informierten. Doch die zunehmende Verbreitung von Fake News in den sozialen Netzwerken fordert andere Kanäle, die genauso schnell und persönlich informieren, aber gleichzeitig den Wahrheitsgehalt sicherstellen. Live-Blogs sind für Journalist*innen ein ebenso unmittelbarer Weg zu ihrer Zielgruppe. Hier können sie sich transparent und menschlich präsentieren, indem sie ihr Publikum näher in den Entstehungsprozess der Geschichten hinter den Schlagzeilen einbeziehen. Durch Dialoge und Engagement können sie eine Bindung zur Leserschaft aufbauen. Videos, die ihre Arbeit zeigen, machen sie nahbarer und vertrauenswürdiger. Transparenz, etwa durch Erklärungen zur Quellenprüfung oder zur Verifizierung von Informationen, baut Glaubwürdigkeit auf, bekämpft Desinformation und stärkt das Verhältnis zwischen Medien und Öffentlichkeit – und gerade das wird in 2025 entscheidend sein.

2. Entertainment im Micro-Content für Macro-Erfolg

Kurzvideos sind nicht erst seit der Einführung von TikTok beliebt, doch die Plattform hat den Trend weiter angefacht und ihre Popularität ist ungebrochen. Nachrichtenportale müssen in 2025 verstärkt auf dieses Format setzen, um insbesondere junge Leser*innen als treue Konsument*innen zu gewinnen. Allerdings können Medienschaffende noch einen Schritt weiter denken, hin zu interaktiven Mikro-Inhalten, die den Bedürfnissen nach Inspiration, Ablenkung und Verbindung gerecht werden. Dynamische Live-Blog-Formate wie Q&As, Umfragen, Kommentare und Reaktionen ermöglichen Echtzeit-Interaktionen. Sie können mit Live-Updates kombiniert und in den sozialen Netzwerken geteilt werden. Dadurch gewinnen Nachrichtenorganisationen die Aufmerksamkeit der Nutzer*innen und bleiben im Wettbewerb mit Social Media konkurrenzfähig.

3. Video Killed the Radio Star und Mobile das TV!

Fernsehen ist so 90er-Jahre! Die Mehrheit der Konsument*innen liest ihre Nachrichten über das Smartphone. Eine Ausrichtung auf mobile, responsive Designs ist also auch in 2025 entscheidend. Wer darüber hinaus ein „Second-Screen-Erlebnis“ ermöglicht, bietet durch Echtzeit-Statistiken, Analysen oder Hintergrundberichte ein immersives Erlebnis für Nutzer*innen und damit einen Mehrwert für ihr Seherlebnis. Gerade für Nachrichtenformate, Event- und Sportberichterstattung wird dieses Feature immer wichtiger.

4. KI im Newsroom: Zwischen Skepsis und Effizienz

Das Thema künstliche Intelligenz (KI) ist noch lange nicht erledigt, doch gerade Journalist*innen haben Bedenken hinsichtlich der Nutzung. Während KI-generierte Inhalte für viele Medienschaffende und ihr Publikum noch außerhalb der Komfortzone liegen, wird die Technologie zunehmend in Bereichen wie Übersetzungen, Überschriften- und Social-Media-Zusammenfassungen sowie Datenanalysen eingesetzt. Denn sie kann Lücken in Geschichten identifizieren, Verbesserungen vorschlagen, Texte korrekturlesen und den Tonfall an verschiedene Zielgruppen anpassen. In Kombination mit Tracking-Funktionen kann KI zudem den optimalen Veröffentlichungszeitpunkt und relevante Themen oder Formate bestimmen. Damit wird sie die Arbeitsprozesse in Nachrichtenredaktionen effizienter gestalten und Redakteur*innen den Freiraum geben, sich auf die Erstellung authentischer, leserzentrierter Inhalte zu fokussieren.

5. Näher dran durch hyperlokale Inhalte

In einem wettbewerbsintensiven Umfeld ist das Verständnis für die eigene Zielgruppe essenziell. Durch maßgeschneiderte Inhalte können Medienorganisationen stärkere Bindungen aufbauen und gleichzeitig ihre Reichweite vergrößern. Lokale Zeitungen haben es in der digitalen Ära schwer, da sie Werbekunden an Plattformen wie Google oder Facebook verlieren und ihr Publikum zunehmend auf Nischenangebote umsteigt. Dennoch wird die Nachfrage nach hyperlokalen Inhalten weiter wachsen, da die Meldungen die Menschen vor Ort einbeziehen und dem Publikum das Gefühl geben, gesehen zu werden. Insbesondere die Sportberichterstattung ist ein strategisches Asset für Medienschaffende, da sie die starke Verbindung der Fans zu heimischen Teams nutzt, um persönliche Beziehungen zu Leser*innen aufzubauen. Die so geschaffenen Inhalte können das Vertrauen der Leserschaft zurückgewinnen und lokale Bindungen stärken. Dieser Ansatz gilt allerdings nicht nur für Sport. Medien, die gezielt kleinere, spezifische Gruppen ansprechen und deren Leben sowie Begeisterung widerspiegeln, können ihre Reichweite erhöhen und Abonnementmodelle fördern. Während aktuelle Nachrichten ein breites Publikum anziehen, sorgen Nischeninhalte für langfristiges Interesse.

Die Nachrichten der Zukunft sind transparent

In einer Zeit, in der Falschinformationen auf Social Media den Diskurs prägen, gewinnen alternative Nachrichtenformate an Bedeutung. Live-Blogs sind schon lange, aber insbesondere in 2025, eine Alternative, um Echtzeit-News mit Transparenz und Nähe zu verbinden. Sie ermöglichen es Journalist*innen, authentisch zu berichten, den Entstehungsprozess ihrer Inhalte nachvollziehbar zu machen und ihre Leserschaft aktiv einzubeziehen. Durch Dialog und Interaktion können Medienhäuser ihre Glaubwürdigkeit stärken und Loyalität aufbauen. Statt Likes und viralen Trends stehen hier Fakten, Vertrauen und die Nähe zum Publikum im Mittelpunkt – und genau das braucht ein moderner Journalismus.

Die Autorin Naomi Owusu ist CEO und Co-Founder von Tickaroo, eine Live Blog-Plattform für Text- und Multimedia-Inhalte. Seit der Gründung 2011 setzt sich die studierte Psychologin mit ihrem Team für den Ausbau des Produktportfolios und die Optimierung des Live-Content-Tools ein.

Künstliche Intelligenz (KI) ist längst Teil unseres Alltags und hält in Unternehmen auch zunehmend Einzug. Ob beim Erstellen von Texten, in der Datenanalyse oder bei der Automatisierung von Routine­aufgaben – KI ist ein starkes Werkzeug, das Unternehmen viele Vorteile bieten kann. Doch mit diesen Vorteilen kommen auch Verantwortung und Risiken, die eine klare und durchdachte KI-Policy erfordern.

Diese Einleitung zu einem Artikel über KI-Policies ist KI-generiert. Es ist so schön bequem und schnell gemacht: eines der gängigen LLM-Systeme online aufrufen, beispielsweise ChatGPT, und binnen Sekunden ist der Artikel fertig.

Ihr kennt das im Privaten, vor allem aber auch im Arbeitsumfeld. KI-Tools sind aus der Arbeitswelt nicht mehr wegzudenken. Die Nutzung von KI – insbesondere für berufliche Aufgaben – birgt jedoch Risiken. Manche KI neigt, falsch trainiert, zu diskriminierenden Entscheidungen, was z.B. im HR-Bereich gefährlich ist. Unbedacht erstellte Prompts können den Schutz von Geschäftsgeheimnissen aufs Spiel setzen. Die Datenschutzgrundsätze sind wie immer einzuhalten.

Generative KI schert sich, wenn wir als Nutzer*innen nicht da­rauf Acht geben, nicht um die Urheberrechte derer, deren Werke wir – ob bewusst oder unbewusst – verwenden oder verletzen. Zudem ist seit August 2024 die KI-Verordnung in der EU in Kraft und stellt an Unternehmen, die KI-Systeme und -Modelle entwickeln, anbieten oder betreiben, umfangreiche Anforderungen. Auch die mit KI einhergehenden Risiken sind nicht außer Acht zu lassen.

Seid ihr als Gründer*innen oder in sonst verantwortlicher Position in einem Unternehmen mit mehreren Mitarbeiter*innen tätig, müsst ihr euch Gedanken darüber machen, wie solche Risiken zu fassen und zu begrenzen sind. Tut ihr das nicht, drohen aus diversen Rechtsgrundlagen z.B. Schadensersatzforderungen, Bußgelder oder der Verlust an Assets – Dinge, die allerspätestens bei der nächsten Finanzierungsrunde negativ bewertet werden. In Bezug auf eure Belegschaft müsst ihr also Awareness für diese Themen schaffen und konkrete Vorgaben machen.

Denn eines ist klar: KI wird in eurem Unternehmen genutzt werden, ob mit oder ohne euer Wissen. Und bevor die Mitarbeiter*innen auf privaten Geräten sensible berufliche Aufgaben nicht reglementiert mittels ChatGPT & Co. lösen, beschreibt lieber beizeiten Dos and Don’ts, um sicherstellen, dass KI verantwortungsvoll, sicher und rechtskonform im Unternehmen eingesetzt wird.

Dazu dient eine die Belegschaft informierende und verpflichtende KI-Policy. Im Folgenden findest du einen Überblick darüber, welche Aspekte in eine solche Policy gehören.

1. Richtlinien für den Einsatz generativer KI am Arbeitsplatz

Generative KI-Modelle wie ChatGPT, DALL-E und andere erstellen Inhalte nach Maßgabe der Eingaben der Nutzenden. Bei diesen Prompts und bei der Verwendung der generierten Ergebnisse ist auf Folgendes zu achten:

• Schutz sensibler Daten: Die Eingabe vertraulicher Informationen in KI-Modelle stellt ein erhebliches Risiko dar, da generative KI-Systeme auf großen Datenmengen trainiert sind und Informationen potenziell unkontrolliert verarbeiten und speichern. Die KI-Policy sollte explizit verbieten, sensible oder vertrauliche Informationen in generative KI-Systeme einzugeben, insbesondere, wenn diese extern betrieben werden. Die Policy sollte beschreiben wie mit sensiblen Daten umzugehen ist und welche Daten für die Verarbeitung durch KI-Systeme ungeeignet sind.
• Einhaltung des Datenschutzes: Die KI-Policy sollte klarstellen, dass der Einsatz generativer KI-Tools den Anforderungen der Datenschutzgesetze (DSGVO, BDSG) entsprechen muss. Dazu gehören Vorgaben, wie personenbezogene Daten rechtssicher zu handhaben sind und welche dieser Daten überhaupt für den Einsatz von KI-Modellen geeignet sind. Zudem bedarf es Vorgaben zur Anonymisierung und Pseudonymisierung der Daten, daneben Transparenzvorgaben, um betroffene Personen über die Nutzung ihrer Daten zu informieren. Personenbezogene Daten in öffentlichen KI-Systemen einzusetzen, sollte möglichst untersagt werden.
• Umgang mit geistigem Eigentum: Die Nutzung generativer KI-Modelle kann zu Problemen führen, wenn die KI auf geschütztem Material trainiert wurde, von dem/der Nutzenden urheberrechtlich geschützte Werke in den Prompt einbezogen werden oder die KI Werke erstellt, die bestehende Urheber- oder sonstige Schutzrechte verletzen. Die KI-Policy sollte ein Verbot der Verwendung von Werken enthalten, an denen nicht die für die Bearbeitung erforderlichen Rechte bestehen. Und sie kann Regelungen zur Überprüfung und Genehmigung von KI-erstellten Inhalten festlegen, etwa durch eine Rechtsabteilung oder eine speziell dafür zuständige Stelle.
• Transparenz und Kennzeichnung: Die KI-Policy sollte festlegen, dass Inhalte, die mithilfe von generativer KI erstellt wurden, transparent gekennzeichnet werden. Dies trägt dazu bei, Missverständnisse zu vermeiden und sicherzustellen, dass die Herkunft von Texten und Bildern klar erkennbar ist. Diese Kennzeichnungspflicht sollte insbesondere dann gelten, wenn KI-generierte Inhalte veröffentlicht werden, aber auch im internen Gebrauch.
• Positivliste erlaubter KI-Systeme: Um die Mitarbeiter*innen mit der Anwendung dieser Vorgaben auf einzelne am Markt angebotene KI-Systeme nicht allein zu lassen, kann eine KI-Policy auch eine Auflistung der vom Unternehmen freigegebenen Systeme enthalten. Voraussetzung ist dafür natürlich, dass diese Systeme vorab entsprechend fachlich geprüft wurden. Das kann schwierig sein, weil sich Anbieter*innen meist nicht in die Karten schauen lassen.

2. Richtlinien für die Entwicklung und Implementierung von KI

Auch wenn ihr in eurem Unternehmen KI-Systeme entwickeln oder implementieren wollt, sind ethische, rechtliche und technische Anforderungen in einer KI-Policy zu adressieren.

• Fairness, Transparenz und Nichtdiskriminierung: KI-Systeme können, wenn sie auf verzerrten Datensätzen trainiert werden, Diskriminierung oder Vorurteile reproduzieren. Eine KI-Policy sollte deshalb klare ethische Richtlinien fest­legen, die sicherstellen, dass die entwickelten Modelle fair, transparent und frei von Diskriminierung sind. Ein mögliches Vorgehen ist, regelmäßige Audits und Bias-Tests durchzuführen und in der Policy verpflichtend vorzusehen, um Verzerrungen frühzeitig zu erkennen und zu beheben.
• Datenschutz und Datensicherheit: Der verantwortungsvolle Umgang mit Nutzer*innendaten ist eine der wichtigsten Anforderungen in der KI-Entwicklung. Die KI-Policy sollte festlegen, dass bei der Verarbeitung personenbezogener Daten durch die KI strenge Schutzanforderungen, am besten strenge Begrenzungen, gelten. Rein automatisierte Entscheidungen sind schon laut DSGVO verboten. Es sollten nur die für die jeweilige Anwendung notwendigen Daten erhoben und verarbeitet werden, und diese Daten sollten weitestgehend anonymisiert oder pseudonymisiert werden. Regelungen für den Zugang zu diesen Daten sowie Maßnahmen zur Datensicherheit (wie Verschlüsselung und Zugriffskontrollen) sollten ebenfalls Bestandteil der Policy sein.
• Überprüfung auf Halluzinationen und Fehlinterpretationen: Generative KI-Modelle neigen dazu, Informationen zu „halluzinieren“, also falsche oder ungenaue Inhalte zu erstellen. In der KI-Policy sollte festgelegt sein, dass entwickelte KI-Modelle regelmäßig auf ihre Genauigkeit und Zuverlässigkeit überprüft werden. Dies kann durch vorgeschriebene Tests und Simulationen geschehen, bei denen die KI in verschiedenen Szenarien eingesetzt und auf ihre Fähigkeit, korrekte Ergebnisse zu liefern, geprüft wird. Es sollten auch definiert werden, wie Fehler erkannt und behoben werden können.
• Erklärbarkeit und Nutzer*infreundlichkeit: Komplexe KI-Modelle sind oft schwer verständlich und wirken wie eine Black Box, deren Entscheidungen für Außenstehende kaum nachvollziehbar sind. Die KI-Policy sollte daher sicherstellen, dass die KI so gestaltet ist, dass ihre Funktionsweise für Nutzer*innen transparent und nachvollziehbar ist. Dies ist insbesondere dort wichtig, wo KI-Entscheidungen schwerwiegende Auswirkungen haben können. Ihr solltet sicherstellen, dass für Nutzer*innen eine verständliche Erläuterung darüber bereitgestellt wird, wie und warum die KI zu einem bestimmten Ergebnis gelangt ist. Das ist Voraussetzung für Kontrolle und rechtskonformen Betrieb der KI.
• Gesetzeskonformität gemäß KI-Verordnung: Nicht zuletzt hat die Europäische Union die KI-Verordnung in Kraft gesetzt, die strenge Anforderungen an die Entwicklung und Nutzung von KI stellt. Die KI-Verordnung dient der Produktsicherheit und verlangt zunächst eine Risikoeinschätzung für die KI-Systeme. Die Maßgaben für eine solche Einschätzung sollten in der Policy angerissen und No-Gos für die Entwicklung von Funktionalitäten, die zu den laut KI-Verordnung verbotenen KI-Anwendungen gehören, ausgesprochen werden. Für sogenannte Hochrisiko-­KI-Systeme gelten besondere Anforderungen, die bei einer Entwicklung mitgedacht werden müssen, wofür eine KI-Policy zumindest sensibilisieren sollte. Die im Einzelfall geforderte Überprüfung und Einstufung des jeweiligen Systems oder Modells kann eine Policy nicht leisten. Die initialen und regelmäßigen Überprüfungen sowie Risikobewertungen sollte sie aber fordern.
• Regelmäßige Überwachung und Wartung der KI-Modelle: KI-Modelle entwickeln sich weiter und benötigen regelmäßige Überwachung und Wartung, um die Leistung zu optimieren und mögliche Fehler zu minimieren. Die KI-Policy sollte eine solche sich wiederholende Maintenance festlegen, etwa die schon erwähnten regelmäßigen Aktualisierungen, Fehler­behebungen und Performance-Überprüfungen, damit die KI-Systeme immer den aktuellen Standards und Anforderungen entsprechen.

3. Übergreifende Ziele und Vorgaben einer KI-Policy

Eine KI-Policy sollte nicht nur detaillierte Vorgaben zur Nutzung und Entwicklung von KI enthalten, sondern auch allgemeine Leitlinien und Prinzipien für den Einsatz von KI im Unternehmen, um ein Bewusstsein für die Potenziale und Risiken der Technologie zu schaffen.

• Regelmäßige Überprüfung und Anpassung: Da sich KI-Technologien und gesetzliche Anforderungen stetig weiterentwickeln, sollte auch die KI-Policy regelmäßig überprüft und aktualisiert werden. Dies hilft sicherzustellen, dass das Unternehmen stets auf dem neuesten Stand ist und seine KI-Systeme konform mit den aktuellen gesetzlichen, ethischen und technischen Standards sind. Es ist empfehlenswert, regelmäßige Audits durchzuführen und die Policy an neue Entwicklungen in der KI-Forschung und Gesetzgebung sowie an die Marktanforderungen anzupassen.
• Unternehmenskultur in Bezug auf KI: Eine KI-Policy sollte dazu dienen, den transparenten und offenen Umgang mit KI in allen Unternehmensbereichen und damit die Akzeptanz für KI-Systeme sowohl innerhalb des Unternehmens als auch bei Kund*innen und Partner*innen zu fördern. Dazu gehört auch, dass das Unternehmen offenlegt, in welchen Bereichen KI eingesetzt wird und welche Entscheidungen die Technologie beeinflusst. Letztendlich ist die KI-Policy ein Ins­trument zur Förderung einer verantwortungsvollen und ethischen Unternehmenskultur in Bezug auf KI. Das schützt letztlich auch die Integrität und die Werte des Unternehmens.
• Schulungen und Sensibilisierungsmaßnahmen: Um einen solchen kompetenten und verantwortungsvollen Umgang mit KI zu erreichen, sind regelmäßige Schulungen und Sensibilisierungsmaßnahmen für die Mitarbeiter*innen zu den hier genannten Aspekten vorzusehen.

Fazit

Dieser Artikel kann nur einen groben Überblick und Rahmen geben. Die konkreten Inhalte einer auf eure Belange und Nutzungsformen passenden Policy müsst ihr in Anschauung der Spezifika der eingesetzten oder zu entwickelnden KI-Systeme erarbeiten. Das kann auch schlecht an KI delegiert werden: Der Rest des eingangs erwähnten KI-generierten Artikels war nicht wirklich brauchbar, ebenso die testweise mit KI erstellten Policies. Dafür braucht es professionelle Unterstützung.

Der Autor Dr. Daniel Michel, LL.M. ist seit 2004 als Rechtsanwalt im Bereich IT/IP/Technologie tätig. Nach Stationen in spezialisierten und Großkanzleien betreibt er seit 2018 seine eigene Rechtsberatung im Raum München, www.datalawcounsel.com

Angesichts des steigenden Fachkräftemangels werben Unternehmen immer stärker um gut ausgebildete, motivierte Mitarbeitende. Sie bieten attraktive Gehälter, zusätzliche Benefits und investieren viel in ihre Arbeitgebermarken. Zahlreiche Jobplattformen und Dienstleister*innen versprechen, dass sie das ideale Match zwischen Bewerber*innen und Unternehmen herstellen können. Doch die Realität sieht häufig anders aus. Beschäftige sind unzufrieden mit ihrem Job, sie wechseln auf gut Glück den Arbeitgebenden oder kündigen innerlich. Für Unternehmen bedeuten unzufriedene Mitarbeitende und Fehlbesetzungen Reibungsverluste und finanzielle Einbußen.

„In Deutschland stehen wir vor dem Problem, dass die Beschäftigung steigt, gleichzeitig jedoch die Produktivität sinkt“, sagt Dr. Annika von Mutius, Mitgründerin und CEO des Berliner HR-Start-ups Empion. Das Phänomen lasse sich durch den falschen Einsatz der Kompetenzen erklären: „Menschen sind besonders leistungsbereit und zufrieden, wenn sie einen Job machen, in dem sie wirklich gut und produktiv sind“, so Annika, und dazu müsse man die richtigen Skills mit den richtigen Aufgaben zusammenbringen.

Wertebasiertes, KI-gestütztes Matching von Kandidat*innen und Jobs

Idealerweise werden die Persönlichkeit und die Anforderungen einer Stelle schon im Bewerbungsprozess umfassend berücksichtigt. Dazu zählen insbesondere auch weiche Faktoren wie individuelle Werte, Unternehmenskultur, Wertschätzung und Respekt, die für Mitarbeitendenzufriedenheit entscheidend sind. Genau das ermöglicht Empion. Kandidat*innen und Unternehmen werden beim Onboarding eingehend befragt und charakterisiert. „Wir betrachten sowohl Persönlichkeitselemente und kulturelle Präferenzen als auch harte Kriterien wie Ausbildung, Berufserfahrung und Mitarbeiterbenefits“, sagt Annika. „So ermöglichen wir Arbeitnehmern und Unternehmen, das entsprechend ideale Match zu finden.“ Das Ziel ist eine maximale Mitarbeitendenzufriedenheit, die sich in einer entsprechend hohen Produktivität und langjähriger Betriebszugehörigkeit widerspiegelt.

Kandidat*innen, die sich für Jobangebote interessieren, können sich bei Empion kostenlos registrieren. „Wir sprechen hier besonders den passiven Bewerbermarkt an“, so Annika, „also diejenigen Menschen, die grundsätzlich offen für neue Chancen und somit wechselbereit sind, die aber nicht unbedingt bereits aktiv suchen.“ Unternehmen schreiben auf der Plattform ihre offenen Positionen aus. Die Bewerber*innenprofile und Stellen werden entlang der zahlreichen Faktoren mit KI-Unterstützung abgeglichen, auf Korrelation geprüft und vorqualifiziert. Die Unternehmen erhalten die voraussichtlich am besten passenden Kandidat*innen als Vorschläge und können in den persönlichen Austausch einsteigen.

Durch die Vorauswahl sparen Unternehmen viel Zeit und bis zu 60 Prozent an Recruitingkosten. Mit der Genauigkeit des Matchings seien die Kund*innen zufrieden, und auch die Mitarbeitendenbindung sei höher als bei Kandidat*innen, die über andere Kanäle rekrutiert werden, so Annika. „Da wir erst knapp drei Jahre als Unternehmen existieren, können wir natürlich noch keine Langzeitwerte liefern und müssen hier einschränken, doch die Erfolge in der Mitarbeitersuche und den ökonomischen Mehrwert von Empion sehen unsere Kunden bereits heute.“

Von der Doktorarbeit zum Start-up

Annika, die in dritter Generation einer Unternehmerfamilie entstammt, entschied sich während ihrer Dissertation in Mathematik für die Gründung. Ihre Mitgründerin Dr. Larissa Leitner lernte sie während einer Konferenz kennen. Larissa schrieb damals ihre Doktorarbeit zur Unternehmenskultur im Mittelstand. Über den Verteiler der Universität erfuhr Annika von Larissas erfolgreicher Dissertation und gratulierte. So begannen sie, sich regelmäßig zu schreiben. Während eines Arbeitsaufenthalts im Silicon Valley trainierte Annika dann Datenmodelle für den pharmazeutischen Markt, um Medikamente zu individualisieren. Als sie nach Deutschland zurückkehrte, traf sie Larissa für ein Wochenende in ihrer Heimat Südtirol. „Da wir beide damals in engem Austausch mit dem Mittelstand standen, kannten wir die Herausforderungen in der Mitarbeitersuche“, so Annika. Mittelständler*innen können bei Bewerber*innen nicht mit den größten Gehältern oder den schönsten Locations punkten, stattdessen aber durch Faktoren wie Teamwork und Unternehmenskultur. „Wir wussten, dass diese Vorzüge im Recruiting kaum eingesetzt werden.“

Sie begannen, mathematische Modelle für das Matching von Unternehmen und Kandidat*innen mit Daten aus Larissas Promotion zu füttern. Die Ergebnisse waren vielversprechend. „Es war ein klassischer Forschungstransfer“, erinnert sich Annika. Der Fokus lag zunächst auf den kulturellen Faktoren. Doch bald stellten sie fest, dass sich die Mitarbeiter*innensuche nicht allein über die Kultur lösen lässt, und sie erweiterten den Ansatz um zusätzliche Persönlichkeitsmerkmale.

Marketing und Kommunikation müssen konstant weitergedacht werden. Gründe dafür gibt es genug – ob Digitalisierung und KI oder ein zunehmender Wettbewerb in wirtschaftlich unsicheren Zeiten. Gründer*innen, CEOs und Kommunikationsprofis von ToolTime, kollex, Creditsafe, good healthcare group, puzzleYOU und Mashup Communications zeigen, welche Trends Fach- und Führungskräfte 2025 erwarten.