Пока не у нас, но тоже очень интересно (вполне возможно что только мне). Евросоюз наконец утвердил подробный путеводитель по AI Act, первому в мире полноценному закону об искусственном интеллекте. Документ по сути жёсткая рамка для всех, кто работает с ИИ в Европе или поставляет туда решения.
Главная идея это оценка и контроль рисков. Все ИИ-системы делятся на четыре категории:
минимальный,
ограниченный,
высокий
и неприемлемый риск
Например, генеративный ИИ вроде GPT попадает в категорию «ограниченного риска», но если он используется в медицине, правосудии или образовании уже «высокий риск».
1️⃣ Компании обязаны документировать, как обучалась модель, откуда брались данные, есть ли предвзятость
2️⃣ Вводится реестр высокорисковых моделей, аналог техрегистра, без регистрации нельзя выводить на рынок
3️⃣ За нарушения штраф до 35 млн евро или 7% оборота, так что даже крупные компании не могут игнорировать.
4️⃣ Отдельный блок защита прав человека, вводится запрет на массовое распознавание лиц, манипуляции и социальный скоринг
Очевидно что AI Act станет ориентиром не только для Европы. Другой вопрос, что пока что Европа только в законодательном регулировании впереди. С точки зрения разработок про них слышно сильно меньше, сомневаюсь что кто-то из вас может назвать немецкий ИИ, например. Или английский.