Этика искусственного интеллекта на основе доверенных технологий
р.
р.
Аветисян Арутюн Ишханович директор Института системного программирования им. В.П. Иванникова (ИСП) РАН, руководитель совместной с Samsung лаборатории ИСП РАН, руководитель исследовательского центра NVIDIA в ИСП РАН, профессор факультета управления и прикладной математики МФТИ, зав. кафедрами системного программирования ВМК МГУ им. М.В. Ломоносова, МФТИ и факультета компьютерных наук НИУ ВШЭ, академик РАН, доктор физико-математических наук, Москва, Россия arut@ispras.ru
Аннотация В современном мире повсеместно внедряются технологии искусственного интеллекта (ИИ), и с каждым днем всё более актуальной становится проблема доверия к этим технологиям. Если обеспечивать безопасность ИИ без соответствующих этических принципов – можно быстро прийти к «цифровому концлагерю», когда права и свободы человека будут постоянно нарушаться, а его действия – контролироваться с помощью специализированных устройств. Поэтому требуется разработка этических принципов в области ИИ, а также – технологий обоснования уровня доверия, необходимых для внедрения этих принципов в жизнь. В настоящем докладе будет коротко описано текущее состояние дел в области ИИ и представлены результаты работы Исследовательского центра доверенного искусственного интеллекта ИСП РАН, который основан в 2021 году и проводит исследования и разработки в сотрудничестве с ведущими компаниями и вузами России.