NYC Local Law 144

Das NYC Local Law 144 (formal: New York City Local Law 144 von 2021) ist ein kommunales Beschäftigungsgesetz, das Arbeitgebern und Arbeitsvermittlungsagenturen untersagt, ein Automated Employment Decision Tool (AEDT) für Einstellungs- oder Beförderungsentscheidungen zu verwenden, die New Yorker Kandidaten oder Mitarbeitende betreffen — es sei denn, das Tool wurde innerhalb der vorangegangenen 12 Monate einem Bias-Audit unterzogen, die Ergebnisse wurden öffentlich veröffentlicht, und die betroffenen Kandidaten oder Mitarbeitenden wurden benachrichtigt. Das New York City Department of Consumer and Worker Protection (NYC DCWP) verabschiedete am 6. April 2023 die finalen Durchführungsregeln (kodifiziert in Titel 6 der Regeln der Stadt New York). Enforcement begann am 5. Juli 2023.

Das Gesetz ist die erste bedeutende Kommunalverordnung in den Vereinigten Staaten, die speziell KI-Tools im Hiring adressiert. Sein Audit-und-Offenlegungs-Framework — auf disparate Impact prüfen, Ergebnisse öffentlich posten, Kandidaten informieren — hat die Gesetzgebung in Illinois, Kalifornien und die bundesweite EEOC-Guidance beeinflusst und macht die LL144-Compliance zu einem nützlichen Template für die Governance von KI im Hiring über mehrere Jurisdiktionen hinweg.

Was ist ein AEDT unter NYC Local Law 144?

Das Gesetz definiert ein AEDT als jeden Rechenprozess, abgeleitet aus Machine Learning, statistischer Modellierung, Datenanalyse oder künstlicher Intelligenz, der einen vereinfachten Output — einen Score, eine Klassifizierung, eine Empfehlung oder ein Ranking — ausgibt, der verwendet wird, um die Ermessensentscheidungen bei folgenden Vorgängen wesentlich zu unterstützen oder zu ersetzen:

Screening von Kandidaten für eine Beschäftigung, oder
Screening von Mitarbeitenden für eine Beförderung.

Ein Tool erfüllt den Schwellenwert „wesentlich unterstützen oder ersetzen”, wenn es als alleinige Grundlage für eine Entscheidung dient, als primärer Faktor unter mehreren Inputs fungiert, oder sein Output die Fähigkeit besitzt, durch einen Menschen gezogene Schlussfolgerungen zu überstimmen. Der entscheidende Test ist nicht, ob eine Entscheidung als „menschlich” bezeichnet wird — sondern ob der menschliche Entscheidungsträger sich wesentlich auf den KI-Output stützt.

Was KEIN AEDT ist gemäß der Final Rule des DCWP: Tools, die lediglich Interview-Audio transkribieren, Dokumente übersetzen, Interviews terminieren, automatisierte E-Mail-Sequenzen versenden, Spam filtern, Tabellenkalkulationen durchführen oder anderweitig Daten erfassen oder weiterleiten, ohne sie zu bewerten oder zu empfehlen.

Konsultieren Sie Rechtsberatung für die Klassifizierung spezifischer Tools, wenn die Anbieterdokumentation nicht klar angibt, ob das Tool einen vereinfachten Output produziert, der Einstellungsentscheidungen wesentlich unterstützt.

Wer ist betroffen?

Das Gesetz gilt für:

Arbeitgeber — jede Person oder Einheit, die in New York City tätig ist und ein AEDT zum Screening von Kandidaten oder Mitarbeitenden verwendet. Keine Mindestmitarbeiterzahl.
Arbeitsvermittlungsagenturen — Agenturen in NYC, die AEDTs zum Screening von Kandidaten für die Vermittlung einsetzen.
Kandidaten und Mitarbeitende — jede Person, die in New York City wohnhaft ist, für eine in New York City befindliche Stelle gescreent wird, oder für eine Beförderung in einer NYC-Rolle in Betracht gezogen wird.

Das Gesetz verlangt nicht, dass der Arbeitgeber physisch in NYC ansässig ist. Ein anderswo ansässiger Arbeitgeber, der ein AEDT zum Screening von NYC-ansässigen Bewerbern für eine beliebige Stelle verwendet, ist erfasst.

Die drei Kernanforderungen

1. Jährliches Bias-Audit

Vor dem Einsatz eines AEDT — und danach jährlich — muss der Arbeitgeber ein Bias-Audit bei einem unabhängigen Prüfer beauftragen. Unabhängigkeit bedeutet:

Keine finanzielle Beziehung zum Arbeitgeber oder zum AEDT-Anbieter.
Keine frühere Beteiligung an der Entwicklung, Nutzung oder dem Vertrieb des spezifischen zu prüfenden AEDT.

Das Audit muss für jede Rassen-/Ethnizitätskategorie und jede Geschlechtskategorie (und, sofern die Daten es erlauben, für intersektionale Kombinationen) berechnen:

Die Auswahlquote — der Anteil der Kandidaten in dieser Kategorie, die ein positives Ergebnis erhielten (für die nächste Stufe ausgewählt, zur Einstellung empfohlen, über einem Schwellenwert bewertet).
Das Impact-Ratio — die Auswahlquote für jede Kategorie dividiert durch die Auswahlquote der am häufigsten ausgewählten Kategorie. Ein Impact-Ratio unter 0,8 (die „Vier-Fünftel-Regel” des EEOC) weist auf potenziellen adverse Impact hin.

Das Audit muss auch die Anzahl der Personen mit unbekannter Rasse/Ethnizität und unbekanntem Geschlecht berichten, die aus den Berechnungen ausgeschlossen wurden.

Vom Anbieter bereitgestellte Audits: Die DCWP-Regeln gestatten es einem AEDT-Anbieter, das Bias-Audit im Namen mehrerer Arbeitgeber durchzuführen oder zu beauftragen, die dasselbe Tool verwenden. Ein Arbeitgeber darf sich auf ein vom Anbieter bereitgestelltes Audit stützen — jedoch nur, wenn das Audit die spezifische Version und Konfiguration des Tools abdeckt, wie sie von diesem Arbeitgeber eingesetzt wird, und von einem genuinen unabhängigen Prüfer durchgeführt wurde.

2. Öffentliche Veröffentlichung der Audit-Ergebnisse

Vor dem Einsatz des AEDT für NYC-Einstellungsentscheidungen und innerhalb von 30 Tagen nach jedem neuen Jahresaudit muss der Arbeitgeber auf seiner öffentlich zugänglichen Website veröffentlichen:

Eine Zusammenfassung der Bias-Audit-Ergebnisse einschließlich der Auswahlquoten und Impact-Ratios für jede Kategorie.
Das Datum, an dem der Arbeitgeber das AEDT erstmals einsetzte.
Das Datum des jüngsten Bias-Audits.

Die Veröffentlichung muss mindestens sechs Monate nach der letzten Nutzung des AEDT durch den Arbeitgeber öffentlich zugänglich bleiben (gemäß dem Final Rule des DCWP). Das ist von der Aufbewahrung der Audit-Unterlagen zu unterscheiden: Die zugrunde liegende Audit-Dokumentation sollte drei Jahre lang aufbewahrt werden (siehe Compliance-Workflow weiter unten).

3. Benachrichtigung von Kandidaten und Mitarbeitenden

Arbeitgeber müssen Kandidaten mindestens 10 Werktage vor dem AEDT-Einsatz zu ihrer Bewertung benachrichtigen. Die Benachrichtigung muss beinhalten:

Eine Aussage, dass ein AEDT eingesetzt wird und Ermessensentscheidungen im Einstellungsprozess wesentlich unterstützen oder ersetzen wird.
Die spezifischen Jobqualifikationen und Eigenschaften, die das Tool bewerten wird.
Die Arten von Daten, die das Tool erhebt, die Quellen dieser Daten und wie lange sie gespeichert werden.

Außerdem müssen Kandidaten informiert werden, dass sie ein alternatives Auswahlverfahren oder eine angemessene Vorkehrung anstelle der AEDT-Bewertung beantragen können (sofern eine Alternative verfügbar ist).

Wie die Mitteilung zugestellt werden soll: Die Mitteilung kann in der Stellenausschreibung, auf der Karriere-Website des Arbeitgebers an einer klar sichtbaren Stelle, oder über direkte schriftliche Kommunikation (E-Mail oder Postweg) an jeden betroffenen Kandidaten bereitgestellt werden.

Timing-Auswirkung: Wenn ein AEDT zum Screening von Bewerbungen nach deren Eingang eingesetzt wird, bedeutet die 10-Werktage-Frist, dass die Mitteilung in der ursprünglichen Stellenausschreibung erscheinen oder gesendet werden muss, bevor sich Kandidaten bewerben.

Enforcement und Strafen

Das DCWP ist die Enforcement-Behörde. Enforcement begann am 5. Juli 2023. Strafen sind:

Erste Verletzung: bis zu 500 $.
Jede folgende Verletzung: 500–1.500 $ je Verletzung.

Jeder Tag der Nichteinhaltung ist eine separate Verletzung.

Was LL144 NICHT verlangt

Häufige Missverständnisse:

Es verbietet keine KI im Hiring. Es verlangt Audits und Offenlegung, keine Einstellung.
Es verlangt nicht, dass das AEDT keinen disparate Impact erzeugt. Es verlangt, dass das Audit durchgeführt, die Ergebnisse veröffentlicht und Kandidaten benachrichtigt werden.
Es legt keinen Schwellenwert für disparate Impact fest. Das Vier-Fünftel-Verhältnis (80 %) ist der langjährige analytische Benchmark des EEOC; LL144 übernimmt dieselbe Methodik, legt aber keinen expliziten Bestehen-/Nicht-Bestehen-Schwellenwert fest.
Es gilt nicht für alle automatisierten Tools. Scheduling-Software, ATS-Workflow-Routing und Automatisierung ohne Scoring liegen außerhalb des Geltungsbereichs des Gesetzes.

Compliance-Workflow für Recruiting-Teams

Tools inventarisieren. Jeden KI-Tool im Sourcing-to-Hire-Pipeline auflisten und als AEDT oder Nicht-AEDT klassifizieren.
Bias-Audits einholen oder beauftragen. Für jedes AEDT: Anbieter-Audit einholen (Unabhängigkeit und Konfigurationsübereinstimmung verifizieren) oder ein unabhängiges Audit beauftragen.
Ergebnisse öffentlich veröffentlichen. Vor dem Einsatz eines AEDT für NYC-Kandidaten die Audit-Zusammenfassung auf der Karriereseite oder öffentlichen Website veröffentlichen.
Benachrichtigung in Stellenausschreibungen aufnehmen. Für jede Stelle, bei der ein AEDT eingesetzt wird, die erforderliche Benachrichtigung in die Stellenausschreibung aufnehmen.
Jährlichen Audit-Kalender einrichten. Audits müssen jährlich wiederholt werden.
Unterlagen aufbewahren. Audit-Dokumentation muss drei Jahre lang aufbewahrt werden.

Die breitere regulatorische Landschaft

LL144 ist ein Knoten in einem wachsenden regulatorischen Framework:

Illinois AI Video Interview Act (AIVIA): verlangt Offenlegung und Einwilligung vor KI-analysierten Video-Interviews für Kandidaten in Illinois.
Bundesweite EEOC-Guidance (2023): Titel VII gilt für KI-Tools, die disparate Impact erzeugen; Arbeitgeber haften für diskriminierende Ergebnisse unabhängig davon, ob ein Anbieter das Tool betrieben hat.
EU AI Act: klassifiziert KI-Tools, die in Beschäftigungsentscheidungen eingesetzt werden, als hochriskant und verlangt Konformitätsbewertung, Registrierung und laufendes Monitoring. Die Hochrisiko-Pflichten für den Beschäftigungsbereich sollten ursprünglich ab August 2026 gelten, doch die am 7. Mai 2026 erzielte politische Einigung zum EU-„Digital Omnibus” verschob sie vorläufig auf den 2. Dezember 2027 (vorbehaltlich der förmlichen Annahme durch Rat und Parlament).

Konsultieren Sie Rechtsberatung für jurisdiktionsspezifische Analyse.

Häufige Fehler

Verwendung eines Anbieter-Audits, das die falsche Konfiguration abdeckt. Das Audit muss das tatsächlich eingesetzte Tool in der tatsächlichen Deployment-Konfiguration widerspiegeln, nicht eine generische Produktversion.

Benachrichtigung am falschen Ort. Eine Mitteilung auf einer allgemeinen Datenschutzseite erfüllt nicht die geforderte AEDT-spezifische Vorabbenachrichtigung. Sie muss in der Stellenausschreibung enthalten sein oder direkt an jeden Kandidaten gesendet werden, bevor das Tool ausgeführt wird.

Das Audit des ersten Jahres als dauerhaft gültig betrachten. Das Gesetz verlangt ein jährliches Re-Audit.

Annehmen, kein Impact bedeute keine Haftung. Ein Audit mit Impact-Ratios über 0,8 für alle Gruppen bedeutet nicht, dass das Tool frei von rechtlicher Haftung nach Titel VII oder analogem Landesrecht ist.