Калифорния запретила увольнять людей по решению одного ИИ
Гэвин Ньюсом подписал закон No Robo Bosses Act: если алгоритм решил уволить или наказать сотрудника, это решение обязан проверить человек. По данным CNBC, такого закона нет больше ни в одном штате США.
Что случилось
Гэвин Ньюсом, глава Калифорнии, подписал закон SB 947, известный как No Robo Bosses Act. Теперь работодатели в штате не могут увольнять или наказывать сотрудников, опираясь только на автоматизированные системы принятия решений.
Если такое решение принято в основном на основе выводов ИИ, его должен подтвердить человек. Для этого он использует дополнительные данные: оценки руководителя, отзывы коллег, личное дело. Сотрудник должен получить письменное уведомление о том, что решение принималось в основном с помощью ИИ, описание данных, которые использовала система, и контакт живого человека, который объяснит решение.
В среду Ньюсом подписал и другие законы о защите работников от ИИ. Работодателям запретили угадывать эмоциональное состояние сотрудника по биометрическим данным. Кроме того, если массовые увольнения происходят из-за ИИ, работников теперь нужно предупреждать письменно.
Автор SB 947 — сенатор штата от Демократической партии Джерри Макнерни. Главным спонсором закона выступила Калифорнийская федерация профсоюзов.
«Ни одного работника никогда не должна увольнять или наказывать машина, будь то ИИ или нет.»
«ИИ должен расширять возможности, а не ущемлять работников и их семьи.»
Почему это касается тебя
Алгоритмический менеджмент уже стал нормой. По опросу ОЭСР, в США 90% менеджеров говорят, что их компании используют хотя бы один инструмент, чтобы давать задания работникам, следить за ними или оценивать их. Так что вопрос, может ли программа сама тебя уволить, давно не теоретический.
Калифорния первой ответила на него законом. Теперь у тебя как минимум есть право узнать, что решение принимала машина, и спросить о нём живого человека.
Что умалчивают
- Первую версию закона Ньюсом ветировал, хотя обе палаты законодательного собрания штата приняли её подавляющим большинством. Он возражал против требования заранее предупреждать работников о любом ИИ, который может повлиять на условия труда. [1]
- Чтобы закон прошёл со второй попытки, из него убрали требование о предварительном уведомлении и защиту гиг-работников. Против этой защиты резко выступали Uber и Lyft. Курьеры и водители такси по вызову под действие закона не попадают. [1]
- Использовать ИИ закон не запрещает. Если алгоритм стал главным основанием для увольнения, решение просто должен подтвердить человек с дополнительными данными. [1]
Должен ли человек проверять любое решение ИИ об увольнении?
Голос анонимный.
Источники
- CNBC — Technology · 1 октября, 02:38California Gov. Gavin Newsom bans AI 'robo bosses' in landmark state law, reversing his earlier veto
- Techmeme · 1 октября, 03:10California Governor Gavin Newsom signs the No Robo Bosses Act, which prevents employers in the state from relying solely on AI to fire or discipline workers (Paxton Honerkamp/CNBC)
- The Guardian — World · 1 октября, 03:17Gavin Newsom signs laws to protect California workers from AI threat