Эксперт РАН призвал регулировать ИИ по уровню риска, включая финансы

Член-корреспондент РАН Александр Храмов считает, что развитие искусственного интеллекта уже нельзя остановить законами, поэтому регулирование следует выстраивать по уровню риска. Об этом сообщает BeInCrypto со ссылкой на материал ТАСС.

По данным издания, Храмов предложил разделять требования к ИИ-сервисам в зависимости от возможных последствий ошибки. Более строгий подход, по его мнению, необходим там, где решения систем могут затрагивать здоровье, жизнь, деньги или свободу человека.

К таким направлениям эксперт отнес медицину, транспорт, финансы и правосудие. Для ИИ-систем в этих сферах он считает необходимыми проверку и сертификацию, прозрачность работы и понятное распределение ответственности. Для сервисов с небольшим уровнем риска, напротив, могут применяться более мягкие правила.

Храмов также выступил за сохранение роли специалиста: ИИ должен помогать человеку, тогда как окончательное решение и ответственность должны оставаться за профессионалом. Отдельно он отметил требования к защите информации, включая правила использования данных для обучения моделей и стандарты кибербезопасности.

Еще одним предложением стала маркировка контента, созданного ИИ. По информации BeInCrypto, эксперт связал такую маркировку с необходимостью отличать сгенерированные текст, изображения и голос от материалов, созданных человеком. Он также отметил сложности с проверкой выполнения этого требования и призвал учитывать риски дипфейков и мошенничества.

В публикации отдельно упоминается применение ИИ в платежах: «Аэрофлот», как сообщается, установил ИИ-терминалы «Сбера», позволяющие оплачивать билеты в том числе с помощью улыбки. Этот пример приведен в контексте высказанной Храмовым необходимости уделять особое внимание кибербезопасности в финансовых технологиях.

Храмов также считает важным развивать собственные ИИ-технологии и модели, обученные с учетом национального языка и культуры. При этом в представленном материале не сообщается о принятии новых обязательных правил или о конкретных сроках их введения.