В России законодательно закрепят решающую роль человека при использовании ИИ

Российское правительство решило законодательно закрепить главенство человека над искусственным интеллектом при принятии решений в образовании, медицине, суде и сфере безопасности.

Соответствующая норма появится в готовящемся законе о регулировании нейросетей, проект которого Минцифры должно представить к концу февраля.

Необходимость такого шага продиктована ценой ошибки: в здравоохранении она может стоить жизни, в суде – свободы. Уже известны случаи, когда медицинские навигационные системы давали хирургам неверные данные во время операций, что приводило к травмам пациентов.

В судах стороны ссылаются на выдуманные нейросетями законы, а в школах ИИ небрежно проверяет задания.

Эксперты отмечают, что алгоритмы работают как «черный ящик»: непонятно, почему они принимают то или иное решение, а иногда и вовсе начинают «галлюцинировать», выдавая абсурдные ответы.

При этом ИИ не способен учитывать мораль и этику, а также склонен к дискриминации, если обучен на предвзятых данных.

В аппарате вице-премьера Дмитрия Григоренко подчеркивают: ответственность за решения должна лежать на человеке, а не на технологии.

Это касается и госсектора, где уже тестируют нейросети для работы с документами. Законодательное ограничение призвано предотвратить размывание ответственности и повысить доверие граждан к цифровым сервисам.