26 октября 2021      23      0

В России подписан «Кодекс этики искусственного интеллекта»

Ключевым событием I международного форума «Этика искусственного интеллекта (ИИ): начало доверия», который во вторник открылся в Москве, стало подписание «Кодекса этики искусственного интеллекта». Документ дал старт добровольному саморегулированию и внедрению инструмента «мягкой силы» в достижение согласия между ИИ и человеком.

То, как кодекс поможет человеку и машинному мышлению наводить между собой мосты, дал понять вопрос генерального директора Infowatch Натальи Касперской первому заместителю председателя Сбербанка Александру Ведяхину. "Моей знакомой Сбербанк отказал в кредите за минуту. Как ей быть?" - спросила Касперская.

— Опротестовать решение, — ответил Александр Ведяхин. — Да, мы ввели в систему кредитования стратегию "посевных инвестиций", когда алгоритм ИИ оценивает шансы клиента на получение кредита. Он исходит из рационального расчета — способности клиента выдержать долговую нагрузку, но право вето у ИИ нет. Финальное решение принимает человек. Мы уже столкнулись с тем, что выравнивание этических принципов иногда ведет к отказу от них. Алгоритм ИИ не может посмотреть человеку в глаза, когда он, например, берет кредит на развитие бизнеса. И тут отказ от учета интересов сторон создает проблему этического свойства — без баланса интересов люди отказываются от работы с компаниями. Проще говоря, неустойчивая этика ведет к неустойчивому бизнесу. Когда мы это поняли, приступили к созданию кодекса этики ИИ.

Другое дело, как заметил Александр Ведяхин, "приземлить" как норму кодекс этики ИИ в сознание людей и корпораций будет как в случае со стаканом воды, когда он наполовину пуст, наполовину полон, непросто. Так, по данным ЮНЕСКО, 72% граждан пяти стран (США, ФРГ, Австралии, Великобритании и Канады) не доверяют ИИ, а 65 % граждан 26 стран полагают, что этические рамки - ключевой фактор доверия ИИ. Одна из относительно доверяющих искусственному интеллекту стран - Россия. 48% россиян, по данным ВЦИОМ, доверяют цифровым технологиям. Правда, Россия одной из первых в мире сформулировала пять рисков и угроз, которые сопровождают внедрение "цифры" в жизнь, - дискриминация, потеря приватности, потеря контроля над ИИ, причинение вреда человеку ошибками алгоритма, применение в неприемлемых целях. Все они включены в принятый "Кодекс этики искусственного интеллекта" как угрозы правам и свободам человека.

— В ответ на риски кодекс утвердил основные принципы внедрения ИИ — прозрачность, правдивость, ответственность, надежность, инклюзивность, беспристрастность, безопасность и конфиденциальность, — говорит заместитель председателя правительства России Дмитрий Чернышенко. — Принципы трансграничны и наднациональны, поскольку Россия играет активную роль в развитии наднационального этического регулирования ЮНЕСКО. Другое дело, что, приняв российский кодекс этики ИИ, мы будем требовать от иностранных IT-платформ и соцсетей соблюдения российского законодательства. У нас есть инструменты для работы с иностранными сервисами, хотя надеемся найти точки этического согласия. Поиску их алгоритмов кодекс этики ИИ, верю, поможет.

"Фильтром цифровой безопасности и устойчивого развития будущего" назвала принятый "Кодекс этики ИИ" генеральный директор "Яндекса" в России Елена Бунина. Она сравнила этичность поведения искусственного интеллекта с тем, что любая машина с водителем может совершить красивый вираж, от которого дух захватывает, а этика ИИ, беспилотников в частности, в том и состоит, чтобы снизить риски и быть полезным и безопасным для человека. Вот только человеку надо учиться строить отношения с ИИ как с высокой технологией, которой хочешь не хочешь, а учиться, надо.

— Этика людей по отношению к ИИ заключена в нашей осторожности, — убеждена соавтор и разработчик кодекса ИИ Наталья Касперская. — Вопрос доверия к цифре — это вопрос учета ошибки ИИ, или риска принятия неправильного решения. Мы же пока по всему миру наблюдаем азарт от роста использования машинного интеллекта, что ведет к массовому оглуплению. И это видно на бытовом уровне. Мы разучились считать в уме. Даже продавцы в магазинах складывают на калькуляторе медленнее покупателей. Водители Яндекс.Такси не знают городов, выросло поколение пилотов, которое не способно сажать самолет на ручном управлении. При этом важные технологии усложняются, а навыки людей снижаются. Вот еще, почему любая система ИИ — потенциальная модель рисков и угроз, которые "Кодекс этики ИИ" не снизит, если человек не будет развиваться.

Прогноз разработчиков кодекса однозначен: люди еще не на все грабли наступили, чтобы управлять ИИ как данностью. Этому человека может научить принятый "Кодекс этики ИИ" при двух условиях. Первое условие предрек еще Айзек Азимов, а люди все равно попали в эту ловушку, — "побороть зависимость" от ИИ, когда лень выйти из сетей, лень самим искать дорогу, лень даже слушать советы цифровой Алисы. Второе - саморазвитие человека и доработка "Кодекса этики ИИ" по настоянию человека и тех вызовов его интеллекту, которые еще предъявит ИИ.

"Кодекс этики искусственного интеллекта" разработан на основе "Национальной стратегии развития ИИ на период до 2030 года". Авторы кодекса — Альянс в сфере искусственного интеллекта РФ, Аналитический центр при правительстве РФ и Минэкономразвития

.

Экономика Отрасли Связь Общество Соцсфера

Источник: rg.ru

Ваш комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

 
Перевод сайта
Экономический календарь
31.01.2021
1 USD 76.2527 Руб 0.0000
1 EUR 92.2963 Руб 0.0000
1 UAH 2.7094 Руб 0.0000
1 GBP 104.2832 Руб 0.0000
Добавить сайт в закладки

© 2021 Финансы · Копирование материалов сайта без разрешения запрещено
Дизайн и поддержка: GoodwinPress.ru