EU AI Act

Der EU AI Act (Verordnung 2024/1689) legt einen risikobasierten Regulierungsrahmen für künstliche Intelligenzsysteme fest, die in der Europäischen Union betrieben werden. Er klassifiziert KI-Systeme nach Risikoniveau — von minimalem Risiko bis zu inakzeptablem Risiko — und stellt Anforderungen an Dokumentation, Transparenz, Genauigkeit und menschliche Aufsicht, die mit der Risikoeinstufung skalieren. Crowdees hybride KI- und Crowd-Architektur wurde unter Berücksichtigung dieser Anforderungen entwickelt, sodass die notwendigen Werkzeuge zum Nachweis der Konformität in die Plattform integriert sind und nicht nachträglich hinzugefügt werden müssen.

Dokumentation von KI-Systemen

Artikel 11 des EU AI Act verpflichtet Anbieter von Hochrisiko-KI-Systemen, technische Dokumentation zu erstellen und zu pflegen, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Diese Dokumentation muss den vorgesehenen Verwendungszweck des Systems, die Entwicklungsmethodik, die verwendeten Trainingsdaten, Leistungsmetriken und bekannte Einschränkungen abdecken.

Crowdee pflegt technische Dokumentation für jede der 14 Verifikations-Pipelines. Diese Dokumentation umfasst: die verwendete KI-Modellfamilie, die Herkunft und den Umfang etwaiger Trainings- oder Feinabstimmungsdaten, die strukturierten Ausgabe-Schemata, gegen die jede Pipeline-Stufe validiert wird, die vorgesehenen Anwendungsfälle und Inhaltskategorien, für die jede Pipeline konzipiert ist, die bekannten Einschränkungen und Grenzfälle, bei denen die Leistung eingeschränkt sein kann, sowie die verbotenen Verwendungen, die außerhalb des Anwendungsbereichs des Systemdesigns liegen würden.

Diese Dokumentation ist auf Anfrage für Enterprise-Kunden und Regulierungsbehörden verfügbar. Wenden Sie sich an sales@crowdee.ai, um eine Kopie für Due-Diligence-, Regulierungseinreichungs- oder interne Risikobewertungszwecke anzufordern.

Menschliche Aufsicht

Artikel 14 des EU AI Act verlangt, dass Hochrisiko-KI-Systeme so konzipiert sein müssen, dass natürliche Personen sie während des Betriebs wirksam überwachen können, einschließlich der Möglichkeit einzugreifen, Ausgaben zu überschreiben und den Betrieb des Systems zu stoppen. Diese Anforderung spiegelt den Kerngedanken des EU AI Act wider, dass KI-Systeme in Hochrisikobereichen keine endgültigen Entscheidungen autonom treffen oder umsetzen dürfen, ohne die Möglichkeit menschlicher Korrektur.

Crowdees Crowd-Stufen sind der primäre, in die Plattform integrierte Mechanismus zur menschlichen Aufsicht. Bei Tier-2- und Tier-3-Pipelines ist die Pipeline so konzipiert, dass menschliche Mitarbeiter und Fachexperten die Erkenntnisse der KI unabhängig überprüfen, bevor ein Urteil abgegeben wird. Die Crowd-Stufe stempelt den KI-Output nicht einfach ab — Mitarbeiter bilden sich ihre eigene unabhängige Einschätzung auf Basis des Inhalts selbst, und der Konsens dieser Einschätzungen treibt das Crowd-Stufen-Urteil an. Die KI-Erkenntnisse werden als Kontext bereitgestellt, aber die Mitarbeiter sind nicht verpflichtet, ihnen zuzustimmen.

Zusätzliche Kontrollpunkte sind auf Run-Ebene verfügbar. Der Run-Status wechselt zu awaiting_crowd, wenn eine Crowd-Stufe aktiv ist, was ein klares Signal gibt, dass eine menschliche Überprüfung im Gange ist. Runs können abgebrochen werden, bevor die Crowd-Stufe abgeschlossen ist, wenn der Inhalt zurückgezogen wurde oder sich die Entscheidungsumstände geändert haben. Diese Abbruch- und Steuerungsfunktionen sind sowohl über die Plattform-Oberfläche als auch über die API verfügbar:

DELETE https://api.crowdee.ai/v2/projects/{projectId}/verification-runs/{runId}
X-API-Key: crw_YOUR_API_KEY

Transparenz (Artikel 13)

Artikel 13 verlangt, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden, dass ihr Betrieb ausreichend transparent ist, damit Betreiber die Ausgaben des Systems angemessen interpretieren und nutzen können. Anbieter müssen den Betreibern Gebrauchsanweisungen zur Verfügung stellen, die es ihnen ermöglichen, die Fähigkeiten und Einschränkungen des Systems zu verstehen.

Jeder Crowdee-Verifikations-Run legt einen vollständigen Transparenznachweis vor. Für jede KI-Stufe umfasst der Nachweis den Prompt-Kontext, der zusammengestellt und an das Modell gesendet wurde, die rohe Ausgabe des Modells vor der Validierung, die validierte strukturierte Ausgabe sowie das stufenspezifische Urteil und den Konfidenzwert. Für jede Crowd-Stufe enthält er die einzelnen Mitarbeiterantworten, die Konsensberechnung und den IRA-Score. Die Synthesestufe legt ihre Argumentation in der menschenlesbaren Erklärung dar, die dem endgültigen Urteil beigefügt ist.

Konfidenzwerte liefern ein quantifiziertes Unsicherheitsmaß für jedes Urteil. Ein Konfidenzwert von 95 zeigt einen hochgradig sicheren Befund mit starken Belegen über mehrere Stufen hinweg an; ein Konfidenzwert von 45 zeigt an, dass die Beweise gemischt sind und das Urteil mit Vorsicht behandelt werden sollte. Konfidenzwerte sind so konzipiert, dass Betreiber nicht alle Urteile als gleich zuverlässig behandeln und nachgelagerte Entscheidungen proportional treffen können.

Verbotene Anwendungsfälle

Crowdee-Verifikations-Pipelines dürfen nicht für Zwecke verwendet werden, die unter die in Artikel 5 des EU AI Act definierten verbotenen KI-Praktiken fallen oder die anderweitig gegen Crowdees Nutzungsbedingungen verstoßen. Verbotene Verwendungen umfassen:

• Social Scoring von Einzelpersonen — die Nutzung von Crowdees Identitäts- oder Inhaltsverifikationsfähigkeiten zur Erstellung von Reputationspunkten oder Vertrauensbewertungen, die den Zugang zu Diensten, zur Beschäftigung oder zur gesellschaftlichen Teilhabe bestimmen
• Biometrische Echtzeit-Fernidentifikation im öffentlichen Raum — Crowdee ist nicht für den Einsatz in biometrischen Überwachungssystemen konzipiert oder lizenziert
• Manipulation menschlichen Verhaltens — KI-Systeme, die psychologische Schwachstellen ausnutzen oder unterschwellig entgegen den Interessen der betroffenen Personen wirken
• Profilerstellung auf Basis sensibler Merkmale — das Ableiten von Schlussfolgerungen über politische Meinungen, religiöse Überzeugungen, sexuelle Orientierung oder andere geschützte Eigenschaften aus der Inhaltsanalyse

Diese Einschränkungen gelten unabhängig von der verwendeten Pipeline und unabhängig davon, ob der verarbeitete Inhalt personenbezogene Daten enthält. Ein Anwendungsfall, der andernfalls in eine verbotene Kategorie fallen würde, wird nicht zulässig, weil die KI-Analyse durch eine Crowd-Überprüfung ergänzt wird.

Wenn Sie unsicher sind, ob eine geplante Nutzung von Crowdee mit diesen Einschränkungen vereinbar ist, wenden Sie sich vor der Durchführung an legal@crowdee.ai. Die vollständigen Nutzungsbedingungen sind unter crowdee.ai/terms verfügbar.